باحث أنثروبيك يعرض: استخدام نماذج اللغة الكبيرة لاستخراج 500 ثغرة يوم صفر بشكل جماعي

العنوان

باحثو Anthropic في عرض [un]prompted 2026: LLM تستخرج 500 ثغرة صفراء بشكل جماعي

الملخص

شارك روهان بول فيديو خطاب نيكولاس كارليني في [un]prompted 2026 بعنوان “LLMs ذات القبعة السوداء”. كارليني هو باحث في أمان الذكاء الاصطناعي في Anthropic، وقد عرض كيف يمكن للمهاجمين استخدام نماذج اللغة الكبيرة لتحديد واستغلال ثغرات البرمجيات. الرقم الرئيسي: 500 استغلال صفراء تم توليدها تلقائيًا. والأكثر مدعاة للقلق: مع تعزيز قدرات LLM في أبحاث الثغرات، فإن نموذج التهديد ينتقل - من “كيف يمكن مهاجمة نماذج الذكاء الاصطناعي” إلى “ماذا سيحدث إذا بدأت الذكاء الاصطناعي في مهاجمة أنظمة أخرى”.

التحليل

هذه ليست مجرد فرضيات نظرية، بل هي تجارب قابلة للتكرار. سجل كارليني LLM وهي تستخرج عيوب حقيقية تجاوزتها اختبارات الضباب التقليدية والتحليل الثابت، بما في ذلك مشاكل تجاوز المصادقة. أكد مرارًا في مدونته على الكفاءة:

• LLM لا تُنشئ أنواع جديدة تمامًا من الهجمات، لكنها ستقلل بشكل كبير من تكلفة ونقطة دخول الهجمات الحالية
• تشمل المكاسب النموذجية: إنشاء عمليات تصيد على نطاق واسع، عمليات استقصاء تلقائية، تجميع سلسلة الاستغلال بشكل مبرمج
• هذه الأنشطة التي كانت تتطلب تمويلًا أو خبرة متقدمة، تم “تعميمها” بواسطة النموذج ويمكن توسيعها بشكل متوازي

تشير ردود فعل المجتمع (نقاشات المؤتمر وسلسلة Hacker News) إلى أن الصناعة تأخذ هذا التغيير على محمل الجد. هناك وجهة نظر عكسية معقولة: قد يكون اكتشاف الثغرات المدعوم بالذكاء الاصطناعي أكثر فائدة للجهات الدفاعية، حيث يمكن للشركات دمجه بشكل منهجي في CI/CD وقواعد الأصول، مما يغطي نطاقًا أوسع ويكتشف المشكلات في وقت أبكر. لكن كارليني أوضح أن النتائج لا تزال غير مؤكدة - لا أحد يمكنه أن يحدد ما إذا كانت الدفاعات أو الهجمات ستستفيد أكثر في الوقت الحالي.

السؤال المقلق هو بُعد الزمن: ماذا سيحدث إذا استمرت القدرات في التحسين خلال 6-12 شهرًا القادمة؟ تظهر أعمال كارليني أننا لا نزال بعيدين عن “السقف”.

نظرة سريعة على تأثير الهجوم والدفاع

الاستنتاج:

• LLM تقوم بتوسيع نطاق “الهجمات المعروفة القابلة للتنفيذ” وتجعلها منهجية، وليس من خلال ابتكار أنماط جديدة من العدم
• في المدى القصير، تعتمد لعبة الهجوم والدفاع على من يتمكن من دمج النموذج في خط الإنتاج بشكل أسرع (البيانات، القدرة الحاسوبية، تقييمات وقدرات ردود الفعل)

تقييم التأثير

• الأهمية: عالية
• النطاق: أمان الذكاء الاصطناعي، أبحاث الذكاء الاصطناعي، رؤى تقنية

التقييم: نحن في نقطة تحول “مبكرة ولكن متسارعة”. الفرق الدفاعية التي تمتلك قدرات هندسية ومنهجية، والموردون الأمنيون، والشركات الكبرى، بالإضافة إلى الجهات التمويلية القادرة على تخصيص الأموال والموارد لتطوير أدوات، هي الأكثر ميزة. سيستفيد الأفراد في فرق الهجوم، لكن أولئك الذين يتمكنون من تنفيذ ذلك بشكل منهجي سيحققون عائدات أكبر أولاً.