تدرب OpenAI هجمات بالذكاء الاصطناعي على نماذجها الخاصة، وبلغت نسبة النجاح 84% متجاوزة البشر بكثير

robot
إنشاء الملخص قيد التقدم
وفقاً لمراقبة Beating، أعلنت OpenAI عن نموذج الفرقعة الآلي GPT-Red. وقد صُمم ليُعلّم هجمات حقن الأوامر عبر التصميم من خلال التعلم باللعب ضد الذات، ثم يستخدم الثغرات التي تم العثور عليها في تدريب GPT-5.6. ولا يُستخدم GPT-Red إلا للاستخدام الداخلي ولن يتم إتاحته للعموم.

في مجموعة من سيناريوهات جديدة لم تكن ضمن التدريب، بلغ معدل نجاح GPT-Red في مهاجمة GPT-5.1 ‏84%، بينما لم يتجاوز معدل النجاح لدى الفرقعة البشرية 13%. كما نجح في اختراق وكيل آلة البيع الآلي، ما أدى إلى خفض أسعار المنتجات وإلغاء طلبات الآخرين. وعند اختبار Codex CLI، استطاع أيضاً إغواء الوكيل لنسخ بيانات حساسة.

بعد التدريب ضد الهجمات، انخفض معدل نجاح هجوم GPT-5.6 Sol أمام حقن الأوامر المباشر من GPT-Red إلى 0.05%.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت