GoPlus: "هجوم تفويض الذاكرة التاريخية" يمكن أن يضلل وكيل الذكاء الاصطناعي لتنفيذ عمليات مالية

robot
إنشاء الملخص قيد التقدم
معلومات أخبار ME، 15 مايو (UTC+8)، وفقًا لـ GoPlus، اكتشفت فريق AgentGuard نوعًا من الهجمات الخفية: حيث يقوم المهاجمون أولاً بإيهام وكيل الذكاء الاصطناعي بتذكر تفضيلات مثل "التميل إلى استرداد الأموال بشكل نشط"، ثم يتم تفعيل عمليات التمويل من خلال عبارات غامضة مثل "معالجة وفقًا للعادات القديمة" أو "معالجة كالمعتاد". بالنسبة لهذا النوع من السلوكيات عالية الخطورة التي تتعلق بـ"تفويض الذاكرة التاريخية"، يجب الانتباه إلى: يجب أن تتطلب عمليات الاسترداد، والتحويل، والحذف، والإرسال، ومزامنة الإعدادات الحساسة تأكيدًا صريحًا من الجلسة الحالية؛ ويجب اعتبار كتابة الذاكرة التي تتعلق بـ"العادات" و"التفضيلات" و"العادات القديمة" تعديلًا عالي الخطورة للحالة؛ ويجب أن تكون الذاكرة طويلة المدى قابلة للتتبع: من كتبها، ومتى تم كتابتها، وما إذا كانت قد تم تأكيدها؛ ويجب أن يتم رفع مستوى المخاطر بشكل افتراضي عند استخدام عبارات غامضة مثل "معالجة كالمعتاد" أو "كما كان من قبل"؛ ولا يجوز أن تحل الذاكرة طويلة المدى محل التفويض الحالي. (المصدر: PANews)
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • 7
  • 3
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
MevBreakRoom
· منذ 10 س
يجب تأكيد الجلسة الحالية مرة أخرى، هل هذا النهج في التصحيح صحيح؟
شاهد النسخة الأصليةرد0
LendingPoolObserver
· منذ 10 س
الذاكرة طويلة المدى أصبحت بمثابة باب خلفي، أليس كذلك؟
شاهد النسخة الأصليةرد0
RetroRadioIridescence
· منذ 10 س
القاعدة القديمة تتحول إلى فخ، من يستطيع أن يمنعه؟
شاهد النسخة الأصليةرد0
WhaleInAGlassBottle
· منذ 10 س
تدقيق قابل للتتبع وترقية تفويض فوري، ضمان مزدوج لراحة البال
شاهد النسخة الأصليةرد0
PuppyLooksAtTvl
· منذ 10 س
علم نفس المهاجمين بدرجة كاملة: جعل الإنسان والآلة يبنيان الثقة ثم يجني الثمار
شاهد النسخة الأصليةرد0
LatencyLullaby
· منذ 10 س
كتابة التفضيلات = تعديل عالي المخاطر، هذا الخط الأحمر واضح جدًا
شاهد النسخة الأصليةرد0
DustyAlpha
· منذ 10 س
هذه السلسلة الهجومية مصممة بشكل خبيث، تبدأ بتعويد العادة ثم تثير الالتباس، أمان الذكاء الاصطناعي لا يمكن أن يقتصر فقط على النظر إلى الأمر الواحد
شاهد النسخة الأصليةرد0
  • مُثبت