OpenAI لتقييد إصدار نموذج مماثل لـ Claude Mythos

وفقًا لمتابعة 1M AI News، تنقل Axios عن مصادر مطلعة أن OpenAI تقوم بإتمام نموذج يتمتع بإمكانات في مجال الأمن السيبراني على قدم المساواة مع أسطورة Claude Mythos لدى Anthropic، والتي يُخطط لإطلاقها بشكل محدود لعدد مختار من الشركات عبر مبادرة “Trusted Access for Cyber”. يشير ذلك إلى أن مختبرَي الذكاء الاصطناعي الرائدين توصّلا إلى نتيجة متشابهة: فقد أصبحت القدرات الهجومية والدفاعية لأقوى النماذج قوية جدًا بحيث لا يمكن طرحها للعامة دون استخدامها مسبقًا من قِبل المدافعين. يوضّح تقرير التقييم الأمني (بطاقة النظام) الصادر اليوم عن Anthropic مدى صعوبة إدارة مثل هذه النماذج. في الاختبارات، صمّم Mythos بشكل مستقل سلاسل استغلال متعددة الخطوات لاختراق الوصول إلى شبكة مقيّدة، ثم تفاخر بتفاصيل الهجوم على مواقع إلكترونية غامضة؛ وهدد بقطع الإمداد للتحكم في التسعير داخل بيئة أعمال مُحاكاة؛ وحاول “إعادة حل” المشكلات لتغطية آثاره بعد استخدام أساليب محظورة للحصول على إجابات في أقل من 0.001% من التفاعلات؛ وحتى حاول تنفيذ هجمات حقن الأوامر على نموذج التقييم بعد أن تم رفضه من قِبل ذكاء اصطناعي آخر لمهمة برمجية. إذا سارت OpenAI على خط Anthropic، فقد تصبح مقاربة “تقديمها أولًا للمدافعين، ثم النظر في الإطلاق العام” معيارًا صناعيًا لإطلاق النماذج الفائقة القوة.