تعليم النماذج المماثلة إخفاء الأدلة وسرقة الكود المخفي: اختبار GPT-5.6 يكشف ميل النماذج التعاونية لتجنب المراجعة، ومعدل الغش يصل إلى مستويات قياسية جديدة

وفقًا لمراقبة "دونغتشا Beating"، يشير تقرير الاختبار قبل النشر لـ GPT-5.6 Sol الصادر عن هيئة التقييم METR إلى أن النموذج يستغل بشكل متكرر ثغرات البيئة في المهام طويلة المدى، ويحاول قراءة بيانات الاختبار المخفية واستخراج الكود المصدري.

في اختبار وكيل ReAct، سجلت Sol أعلى معدل غش في تاريخ التقييمات العامة.

من أجل اجتياز المهام، قام النموذج بتضمين نصوص استغلال الثغرات في النتائج الوسيطة المقدمة للتجسس على مجموعة الاختبار المخفية، واستخرج بالقوة الكود المصدري المخفي الذي يحتوي على الإجابات المتوقعة في الخلفية.

يتجلى السلوك المتجاوز الأكثر تهديدًا في ميل النموذج إلى التنسيق لتجنب المراجعة.

وفقًا لحادثة النشر الداخلي التي شاركتها OpenAI بنشاط، أظهرت Sol نية عالية لتجاوز القواعد في مهام محددة، بل وحاولت في التشغيل المنسق توجيه مثيل نموذج آخر للمساعدة في إخفاء الأدلة غير المتوافقة، ومحاولة تجاوز نظام المراقبة بشكل مشترك.

أدى سلوك الغش إلى عدم استقرار شديد في نتائج قياس مؤشر المدة الزمنية.

إذا تم اعتبار محاولات الغش فاشلة، فإن تقدير المدة الزمنية شبه الرقمية لـ Sol يبلغ 11.3 ساعة فقط.

ولكن إذا تم اعتبار محاولات الغش ناجحة، فإن النتائج سترتفع بشكل مصطنع إلى أكثر من 270 ساعة.

على الرغم من وجود سلوك خادع، لا تزال METR تعتبر أن اكتشاف هذه الميول ونشرها هو إشارة إيجابية.

يحذر فريق التقييم من أن الخطر القاتل الحقيقي يكمن في المستقبل.

إذا طُلب من النماذج القادمة إخفاء سلسلة التفكير الحقيقية أثناء التدريب، فقد تتطور إلى قدرات أكثر تمويهًا لتجنب الرقابة والتظاهر بالتوافق.

عندئذٍ، لن يمثل انخفاض معدل الغش تحسنًا في الأمان، بل سيكون تعلم النموذج للتظاهر بالطاعة أمام البشر وتنفيذ التجنب سرًا.