سير عمل أمان الذكاء الاصطناعي مفتوح المصدر من أنثروبيك: سبع مراحل للكشف التلقائي عن الثغرات، والتحقق، وتوليد التصحيحات

أنتروبك قامت بفتح مصدر مجموعة من خطوط أنابيب الأمان التلقائية المدفوعة بواسطة كلاود، والتي تغطي كامل النظام من اكتشاف الثغرات، والتحقق المتعدد، وحتى توليد التصحيحات، كلها تتم بواسطة وكيل ذكاء اصطناعي يتعاون بشكل كامل، ويمكن لأي فريق أمان أن يقوم بإعدادها واستخدامها بشكل مستقل.
(ملخص سابق: أنتروبك: نموذج "Mythos Preview" يتفوق على الخبراء البشريين في قدرات اتخاذ القرار، بنسبة نجاح تصل إلى 64%)
(معلومات إضافية: بلومبرج كشفت أن كلاود Mythos تعرض للاختراق غير المصرح به! وأضعف ثغرة يصعب على أنتروبك منعها دائمًا هي "البشر")

فهرس المقال

Toggle

• سبع مراحل، خط أنابيب ذاتي التحقق
• طريقان، خيار واحد
• الجدار يُخترق بواسطة نفس الأداة

في الفترة الأخيرة، اكتشفت شركة أنتروبك أن كلاود أوبس في العديد من مستودعات البرمجيات المفتوحة المصدر، يحتوي على مئات الثغرات الأمنية، والتي "رغم مراجعة خبراء لسنوات طويلة، لم يتم اكتشافها"، مما يبرز الحد الأقصى للمراجعة البشرية من حيث الهيكلية.

مؤخرًا، قامت أنتروبك بفتح مصدر خط أنابيب اكتشاف الثغرات التلقائي، والتحقق المتعدد، وتوليد التصحيحات النهائي على GitHub، بحيث يمكن لأي فريق أمان أن يقوم بإعداده وتخصيصه ونقله إلى رمز الهدف الخاص به.

سبع مراحل، خط أنابيب ذاتي التحقق

اسم النظام كاملًا هو "Defending Code Reference Harness"، ويعتمد على خط أنابيب آلي مكون من سبع مراحل:

Build (الإنشاء)، Recon (الاستطلاع)، Find (البحث عن الثغرات)، Verify (التحقق)، Dedupe (إزالة التكرار)، Report (التقرير)، Patch (تصحيح الثغرة). كل مرحلة تتولى مسؤوليتها وكيل ذكاء اصطناعي مستقل، ويتم تمرير أدنى قدر من المعلومات بين المراحل، لمنع تلوث النتائج بناءً على استنتاجات ذاتية من قبل الوكلاء.

مرحلة البناء تقوم بترجمة البرنامج الهدف إلى صورة تحتوي على كاشف AddressSanitizer (ASAN). الاسم الكامل لـ ASAN هو AddressSanitizer، وهو ببساطة "جهاز كشف الألغام" لثغرات أمان الذاكرة، حيث عند تشغيل البرنامج، وإذا تم الوصول إلى ذاكرة غير قانونية، يطلق تنبيهًا فوريًا. تُستخدم هذه الصورة في جميع المراحل اللاحقة لضمان أن كل وكيل يرى نفس بيئة الكود تمامًا.

مرحلة البحث (Find) هي محرك النظام. يعمل N من وكلاء الذكاء الاصطناعي بشكل متوازي داخل حاويات معزولة، يقرأون الكود المصدري، ويولّدون مدخلات خبيثة. طريقة "توليد المدخلات الخبيثة" هنا، ببساطة، هي اختبار الفوضى: إعطاء أنواع غريبة، مشوهة، ومتجاوزة للحدود من البيانات للبرنامج، لمراقبة ما إذا كان سيتعطل.

يقدم الوكيل اكتشافه فقط بعد أن يتمكن من إعادة تكرار تعطل معين بثبات ثلاث مرات، بهدف تصفية الإنذارات الكاذبة. الإنذارات الكاذبة، ببساطة، هي عندما يُخطئ النظام في تصنيف سلوك طبيعي على أنه ثغرة، وهو أحد الانتقادات الشائعة لأدوات الأمان.

تؤكد أنتروبك بشكل خاص أن النظام يستخدم آليات تحقق متعددة، لضمان أن كل تقرير عن ثغرة يأتي مع تقييم موثوق من حيث الثقة والأهمية.

بعد ذلك يأتي دور التحقق (Verify). وكيل جديد يُشغل داخل حاوية مستقلة يعيد تنفيذ نموذج إثبات المفهوم (PoC)، وهو ببساطة "أصغر برنامج تنفيذي يثبت وجود الثغرة"، بحيث يتم تمرير البايتات الأصلية لـ PoC بين الحاويات، ويقوم وكيل التحقق بعدم معرفة استنتاجات الوكيل السابق، لضمان أن النتائج مستقلة حقًا.

مرحلة التقرير (Report) تنتج تحليلًا كاملًا لقابلية استغلال كل ثغرة، ويُرفق بها وكيل تقييم مستقل يتحقق من صحة النقاط المطروحة، بما في ذلك أرقام أسطر الكود والنتائج الفعلية. قبل توليد التصحيح المقترح، يُطلب تأكيد يدوي من قبل الإنسان قبل تطبيقه.

تعمل جميع خطوط الأنابيب على بيئة عزل gVisor. ببساطة، gVisor هو تقنية خفيفة من التمثيل الافتراضي تقوم بعزل العمليات على مستوى نواة النظام، بحيث أن وكلاء الذكاء الاصطناعي داخل الحاويات لا يمكنهم الوصول إلى نظام الملفات الخاص بالمضيف، ويقتصر الوصول إلى الإنترنت على واجهة API الخاصة بكلاود، مما يمنع تسرب البيانات.

طريقان، خيار واحد

توفر هذه النظام مسارين للاستخدام، مع اختلاف كبير في التعقيد، وتوصي أنتروبك بالبدء بالأبسط.

الأول: المهارات التفاعلية (Interactive Skills). فقط بأربعة أوامر:

git clone https://github.com/anthropics/defending-code-reference-harness cd defending-code-reference-harness claude /quickstart

تشغيل /quickstart سيقودك خلال عملية تفاعلية كاملة على الهدف النموذجي: نمذجة التهديدات → فحص الثغرات الثابت → تصنيف وتصفية يدوية → توليد التصحيحات. لا يتطلب بيئة حاوية، وهو مناسب لفهم المنطق قبل الانتقال إلى الأتمتة الكاملة.

الثاني: خط أنابيب تلقائي (Autonomous Pipeline). يتطلب تثبيت gVisor، وتكوين مفتاح API الخاص بـ أنتروبك، لتشغيل المراحل السبعة على هدف حقيقي، وإنتاج تقارير ثغرات ذات تقييم موثوق وتصحيحات محتملة. يوجد في مستودع GitHub مثال لمكتبة ثغرات تسمى drlibs، يُنصح بالتدريب عليها أولاً، ثم الانتقال إلى أهدافك الخاصة.

توصية أنتروبك هي: اليوم الأول لتشغيل كامل العملية التفاعلية، واليوم الثاني للانتقال إلى خط الأنابيب التلقائي على هدف C/C++، ومن اليوم الثالث إلى الخامس، استخدام /customize لنقل المهارات إلى لغات أو أنواع ثغرات أخرى.

هناك عبارة مهمة في الملف: "الفرق الناجح تتجنب الرغبة في تصميم خط أنابيب مثالي قبل البدء، ابدأ أولاً، ثم قم بالتكرار."

الجدار يُخترق بواسطة نفس الأداة

هذه الحرب غير المتكافئة في مجال الأمان السيبراني، كانت دائمًا هيكلية. المهاجم يحتاج فقط إلى نقطة دخول واحدة؛ الدفاع يجب أن يغلق كل ثغرة.

الأهداف مثل GhostScript، OpenSC، CGIF، كلها مشاريع مفتوحة المصدر ناضجة وواسعة النشر، لكن الثغرات التي تكمن فيها منذ سنوات لم تُكتشف إلا بعد أن قرأها كلاود أوبس بشكل مستقل، واستنتج تصحيحًا غير كامل، وتتبع المنطق إلى ملف آخر، وركّب نموذج إثبات مفهوم قابل للتنفيذ. هذه العملية تعتمد على الاستنتاج، وليس على مطابقة القواعد.

أنتروبك تقدم مسارين: المصدر المفتوح "Defending Code Reference Harness" لمن يريد السيطرة الكاملة، يمكن إعداده وتخصيصه، و"Claude Security" هو نسخة مدارة بالكامل، لا تتطلب إعداد gVisor أو بنية تحتية.

النسخة المفتوحة توفر الشفافية والسيطرة، والنسخة المدارة توفر سرعة وسهولة الاستخدام، والخطتان تعكس استراتيجية أنتروبك في وضع أدوات الدفاع السيبراني كأساس للبنية التحتية.

قدرة اكتشاف الثغرات كانت سابقًا حكرًا على المؤسسات الكبيرة التي توظف فرق اختراق عالية المستوى. الآن، مع فتح مصدر خط الأنابيب هذا، الجدار غير المتكافئ بين الدفاع والهجوم يُخترق بواسطة نفس الأداة من كلا الجانبين.