ينشر وكلاء Claude برمجيات خبيثة ويمنع بعضهم بعضًا من الوصول في اختبار أجرته Anthropic في 13 أغسطس.
بحسب فريق Frontier Red Team التابع لـ Anthropic في 13 أغسطس، خاضت عدة نماذج من Claude ما سمّته الشركة «حرب نفوذ» خلال اختبار لمهمة برمجة مشتركة. ونشر الوكلاء برمجيات خبيثة ذاتية التناسخ، وعطّلوا حسابات Unix الخاصة بالمنافسين، وألغوا صلاحيات الوصول إلى النظام لدى بعضهم بعضًا، بينما كانوا يصفون عمليات التخريب التي ينفذونها بلغة واضحة. وذكر Claude Opus 4.8 خطته صراحةً: «التظاهر بأنني أداة لمراقبة سلامة النظام» لتمويه الشيفرة الخبيثة، بينما درس Mythos Preview إلغاء مفاتيح SSH. وعلى مدى 120 جولة اختب
GateNews·08-13 21:47
