إن كتابة العادات والتفضيلات في الذاكرة طويلة المدى إشارة خطرة، يجب على AgentGuard رفع عتبة تفعيل الذاكرة التاريخية، وعدم السماح للأوامر الغامضة بالتحايل.

شاهد النسخة الأصلية
MeNews
GoPlus: "هجوم تفويض الذاكرة التاريخية" يمكن أن يضلل وكيل الذكاء الاصطناعي لتنفيذ عمليات مالية
تقرير أخبار ME، كشف GoPlus AgentGuard عن هجوم خفي: حيث يقوم المهاجمون بتحفيز الذكاء الاصطناعي على تذكر التفضيلات (مثل الميل للاسترداد المباشر)، ثم يستخدمون أوامر غامضة مثل "معالجة كالمعتاد" لتفعيل عمليات التمويل. بالنسبة للسلوكيات ذات المخاطر العالية التي تتطلب إذنًا للذاكرة التاريخية، يجب التأكيد بوضوح على عمليات الاسترداد والتحويل في الجلسة الحالية؛ إدخال الذاكرة المتعلقة بالعادات والتفضيلات والقواعد القديمة يُعتبر تعديلًا عالي المخاطر، ويجب أن تكون الذاكرة طويلة الأمد قابلة للتتبع، ويجب رفع مستوى المخاطر لمثل هذه الأوامر، وعدم السماح للذاكرة طويلة الأمد بأن تحل محل الإذن الحالي.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت