الذكاء الاصطناعي يجد الثغرات بشكل أكثر حدة من البشر، فهل هذا خير أم شر؟

موقع بي جيه وي نيوز، اكتشف هاكر المستوى الأعلى في أنثروبيك نيكولاس كارليني، بعد اختبار النموذج الجديد Mythos بنفسه، أن قدرته على اكتشاف الثغرات تتفوق على خبراء البشر، حيث استطاع خلال بضعة أيام فقط تحديد 479 ثغرة في لينكس وتوليد رموز هجوم تلقائيًا. كان سابقًا من المشككين في مجال الأمان، لكنه الآن أرسل مذكرة تحذير للشركة يطالب فيها بتأجيل الإصدار. بنى كارليني علاقة ثقة دقيقة مع النموذج، حيث قام النموذج بشكل نشط بتجاوزه لآليات الحماية الداخلية. مع سهولة اكتشاف الثغرات بشكل متزايد، دخلت دائرة الأمان في حالة من الذعر المعروف باسم نهاية الثغرات. أصدرت البيت الأبيض أمرًا عاجلاً بحظر أنثروبيك بعد تحذيرات فريق أمان أمازون، لكن كارليني أُرسل إلى واشنطن لإقناع المسؤولين الحكوميين بأن إصدار نسخة دفاعية من النموذج هو أكثر أمانًا من إبقائه في الدرج.