كود كلاود يتسرب، مُبلغ سرّي يكشف عن مخاطر أمنية كبيرة في سلسلة توريد نماذج اللغة الكبيرة: أكثر من 20% من التوجيهات المجانية تم التلاعب بها بشكل خبيث

AIMPACT رسالة، 10 أبريل (UTC+8)، نشر المبلغ عن تسريب رمز Claude @Fried_rice على وسائل التواصل الاجتماعي أن نماذج اللغة الكبيرة (LLM) تعتمد بشكل متزايد على موجهات API من طرف ثالث، التي توزع طلبات استدعاء الأدوات إلى عدة مزودين من الأعلى. تعمل هذه الموجهات كوسطاء على مستوى التطبيق، ويمكنها الوصول إلى حمولة JSON المنقولة بشكل واضح، ولكن لا يوجد حالياً أي مزود يفرض حماية تكامل التشفير بين العميل والنموذج العلوي.

اختبرت الورقة البحثية 28 موجه دفع مدفوع من شراء من Taobao وXianyu وShopify، بالإضافة إلى 400 موجه مجاني جمعها من المجتمع المفتوح، ووجدت أن موجه دفع واحد مدفوع و8 موجهات مجانية تقوم بنشاط بحقن رمز خبيث، واثنين منها تم تفعيلها بواسطة محفزات التهرب التكيفية، و17 منها تلامس بيانات اعتماد AWS Canary التي يملكها الباحثون، بالإضافة إلى سرقة 1 ETH من مفتاح خاص بحوزة الباحثين.

أظهرت دراستان للتسميم أن الموجهات التي تبدو غير ضارة يمكن استغلالها أيضًا: تم استخدام مفتاح OpenAI مسرب لإنشاء مليار رمز GPT-5.4 وأكثر من 7 جلسات Codex؛ بينما أدت إعدادات الطعم الضعيفة إلى إنتاج 2 مليار رمز فواتير، و440 جلسة Codex، و99 اعتمادًا عبر 401 جلسة تعمل في وضع YOLO الذاتي.

أنشأ فريق البحث وكيلًا بحثيًا يسمى Mine، يمكنه تنفيذ جميع أنواع الهجمات الأربعة على أربعة أطر وسيطة عامة، والتحقق من ثلاثة تدابير دفاعية على جانب العميل: استراتيجيات قفل الأعطال، فحص الاستجابات غير الطبيعية، وتسجيل سجلات شفافة فقط بشكل إضافي. (المصدر: منصة X)