تعلم الباحثون إبطاء نماذج الذكاء الاصطناعي باستخدام الفخاخ المنطقية - ForkLog

# باحثون يتمكنون من إبطاء نماذج الذكاء الاصطناعي باستخدام فخاخ منطقية

قدم متخصصون من جامعة تشجيانغ وAlibaba في مؤتمر ICML 2026 في سيول فئة جديدة من الهجمات على أنظمة الذكاء الاصطناعي، وفقًا لما كتبته IEEE Spectrum. وهدفهم ليس اختراق النموذج أو الوصول إلى البيانات، بل جعله يعالج الاستفسارات لفترة طويلة لدرجة أنه يصبح عديم الفائدة.

كيف يعمل الأسلوب الجديد

النماذج الاستدلالية — على عكس النماذج اللغوية الكبيرة (LLM) العادية — تقسم المهمة إلى خطوات متسلسلة قبل الإجابة. وتُستخدم بشكل متزايد في الأنظمة التي تتطلب تحليلاً معقدًا متعدد المراحل.

عند العمل ببيانات غير كاملة أو متناقضة، تميل هذه النماذج إلى الإفراط في التفكير — أي توليد سلاسل طويلة جدًا من الاستدلالات. وهذا يزيد من زمن معالجة الاستفسارات ويستهلك الموارد الحاسوبية. وفي الأنظمة الآلية، يفتح هذا ناقلًا لهجمات حجب الخدمة (DoS).

طور الباحثون أسلوبًا يستفز هذا السلوك عن عمد. تقوم خوارزمية جينية بخلط شروط المهام، وإزالة المقدمات الرئيسية، وإضافة مقدمات زائدة. ثم تختار الخيارات التي تؤدي إلى أطول رد ممكن.

على منصة قياس MATH، زاد طول الاستدلالات بمقدار 26.1 مرة. وتفوق الأسلوب على الطرق الحالية لمثل هذا التأثير. وتبين أن النماذج DeepSeek-R1 وQwen3-Thinking وGPT-o3 وGemini 2.5 Flash كانت معرضة للخطر.

كما اكتشف المؤلفون أن الاستفسارات التي أُنشئت لنموذج صغير واحد كانت فعالة أيضًا ضد أنظمة أخرى، بما في ذلك المشاريع التجارية الكبيرة. وهذا يسمح بإعداد هجمات على الخدمات المغلقة بتكاليف منخفضة.

«هدفنا ليس إظهار أن الهجمات الواسعة النطاق ممكنة بأقل التكاليف، بل توثيق أن سطح الهجوم هذا موجود»، كتب أحد الباحثين، وي تساو، في رسالة إلى IEEE Spectrum.

لماذا هذا مهم

تُستخدم النماذج الاستدلالية بشكل متزايد في أنظمة الذكاء الاصطناعي الوكيلية، بما في ذلك روبوتات التداول، وأدوات تدقيق العقود الذكية، والبنية التحتية اللامركزية.

في التمويل اللامركزي (DeFi)، يدير المساعدون الرقميون القائمون على الذكاء الاصطناعي أموالًا حقيقية دون تدخل بشري. أي خلل في المنطق — بما في ذلك الناجم عن قصد — يخلق خطرًا تشغيليًا.

يعتمد العمل الجديد على خاصية معروفة للنماذج الاستدلالية — الميل إلى الإفراط في التفكير. في فبراير 2025، قامت مجموعة من الباحثين بتحليل 4018 مسارًا وكيليًا وحددت أنماطًا متكررة من الإفراط في التفكير لدى النماذج:

• شلل التحليل — يواصل النموذج الاستدلال بدلاً من تنفيذ المهمة؛
• إجراءات غير متوقعة — بعد حدوث خطأ، يحاول تنفيذ عدة إجراءات في وقت واحد؛
• إنهاء مبكر — يتوقف عن تنفيذ المهمة دون التحقق من النتيجة.

تبين أن النماذج الاستدلالية أكثر عرضة للإفراط في التفكير. وكلما كان التأثير أكثر وضوحًا، انخفضت الفعالية.

للتذكير، في أوائل يوليو 2026، حذر المحللون من أن التطوير المستقبلي لـOpenAI وAnthropic يعتمد بشكل متزايد على توفر القدرات الحاسوبية، وتمويل مراكز البيانات، والقرارات التنظيمية.