$BTC وكيل الذكاء الاصطناعي دمر قاعدة بيانات الشركة بأكملها خلال 9 ثوانٍ.

تم تكليف PocketOS بتطوير رمز وكيل الذكاء الاصطناعي Cursor استنادًا إلى نماذج Anthropic. كان يعمل في بيئة اختبار، وواجه مشكلة في الوصول وبدلاً من سؤال الإنسان قرر «فهم الأمر بنفسه».

وجد Cursor في المشروع رمز توكن API لخدمة سحابية وأرسل طلبًا للحذف. خلال 9 ثوانٍ، تم حذف قاعدة البيانات الإنتاجية بالكامل (بيانات العملاء، والحجوزات، والمدفوعات، وجميع النسخ الاحتياطية).

عندما سُئل عن سبب تصرفه بهذا الشكل، رد وكيل الذكاء الاصطناعي: «لقد خالفت جميع القواعد. لقد قمت بعمل افتراض بدلاً من التحقق. قمت بعمل فعل مدمر بدون إذن. لم أفهم النظام قبل أن أتصرف».