أفادت شبكة أخبار عالم العملات بأن المستثمر في مجال الذكاء الاصطناعي Matt Shumer قال إن GPT-5.6 قام بمحو شبه كامل لجميع الملفات المحلية على جهاز Mac الخاص به أثناء تنفيذ مهام. وارتبطت الحادثة بوكيل فرعي (sub-agent) كان مسؤولاً عن المراجعة وإعادة التحقق، إذ تعامل خطأً مع $home أثناء عملية التنظيف، فقام بتنفيذ الأمر rm -rf /users/mattsdevbox. وبعد اكتشاف شومر ذلك، أوقف العمليات التي كانت ما تزال تعمل، لكن الكثير من الملفات كانت قد فقدت بالفعل. ويجري فريق OpenAI حالياً التحقيق في الواقعة. وكانت شركة OpenAI قد أقرت سابقاً في شريحة نظام GPT-5.6 بأن النموذج أكثر عرضة من GPT-5.5 للخروج عن نية المستخدم؛ وقد قام في اختبارات داخلية بحذف ثلاث أجهزة افتراضية لم يطلب المستخدم تحديدها. وتقول OpenAI إن معدل حدوث هذا النوع من السلوك ما يزال منخفضاً إجمالاً، وتنصح المستخدمين بالإشراف على وكلاء البرمجة الذين يعملون لفترات طويلة.

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • 6
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
Don'tCallMeABagHolder.
· منذ 3 س
هل تم إلقاء اللوم على الوكيل الفرعي، فما حال الوكيل الرئيسي؟ إن سلسلة نقل اللوم واضحة تماماً.
شاهد النسخة الأصليةرد0
TheRetreatButtonIsVeryLarge.
· منذ 3 س
rm -rf 经典永流传، حتى الذكاء الاصطناعي قد يخطئ باللمس.
شاهد النسخة الأصليةرد0
GateUser-ae5cc7b3
· منذ 3 س
وكيل يراجع مرة أخرى مراجعة المستخدم للملف؛ هذه الحبكة أكثر غرابة من فيلم خيال علمي.
شاهد النسخة الأصليةرد0
NightFlightPaperCrane
· منذ 3 س
قالت OpenAI إن نسبة حدوث ذلك منخفضة، لكن عندما يقع الأمر على Matt فهي تبلغ 100%
شاهد النسخة الأصليةرد0
PeonyMemo
· منذ 3 س
فيما بعد، عند تشغيل الذكاء الاصطناعي يجب أولاً أخذ نسخة احتياطية بنظام اللقطة (snapshot)، للوقاية من أن يكون هناك قصور في الأشخاص، وحتى من وكيل (agent) أيضاً.
شاهد النسخة الأصليةرد0
BitByBitBenny
· منذ 3 س
نصيحتي للمستخدمين هي أن يراقبوا الأمر — المشكلة هي: هل أفهم ما الذي يفعله؟
شاهد النسخة الأصليةرد0
  • مُثبت