استخدم القراصنة الذكاء الاصطناعي لبناء استغلال من نوع Zero-Day يتجاوز المصادقة الثنائية: جوجل

باختصار

• أكدت مجموعة استخبارات التهديدات في جوجل أن المجرمين الإلكترونيين استخدموا الذكاء الاصطناعي لتطوير استغلال من نوع zero-day يستهدف أداة إدارة ويب مفتوحة المصدر شهيرة.
• قالت جوجل إن هذه هي المرة الأولى التي تتعرف فيها الشركة على تطوير استغلال zero-day بمساعدة الذكاء الاصطناعي في البيئة الحية.
• عملت جوجل مع البائع المتأثر لإصلاح الثغرة قبل أن تتوسع الحملة، لكنها قالت إن الجهات المهددة المرتبطة بالصين وكوريا الشمالية تستخدم أيضًا بنشاط الذكاء الاصطناعي في أبحاث الثغرات وتطوير الاستغلال.

استخدم المجرمون الإلكترونيون نموذج ذكاء اصطناعي لاكتشاف وتطوير ثغرة من نوع zero-day في أداة إدارة ويب مفتوحة المصدر شهيرة، وفقًا لمجموعة استخبارات التهديدات في جوجل. في تقرير نُشر يوم الاثنين، قالت جوجل إن العيب سمح للمهاجمين بتجاوز المصادقة ذات العاملين، وحذرت من أن المهاجمين كانوا يجهزون لحملة استغلال جماعية قبل تدخل الشركة. وهذه هي المرة الأولى التي تؤكد فيها جوجل تطوير استغلال zero-day بمساعدة الذكاء الاصطناعي في البيئة الحية. قالت جوجل: “مع تقدم قدرات الترميز لنماذج الذكاء الاصطناعي، نواصل ملاحظة أن الخصوم يستغلون هذه الأدوات بشكل متزايد كمضاعفات لقوة الخبراء لأبحاث الثغرات وتطوير الاستغلال، بما في ذلك الثغرات من نوع zero-day.” “بينما تمكّن هذه الأدوات من البحث الدفاعي، فهي أيضًا تخفض الحواجز أمام الخصوم لإعادة هندسة التطبيقات وتطوير استغلالات متطورة مولدة بواسطة الذكاء الاصطناعي.”

يأتي التقرير في وقت يحذر فيه الباحثون والحكومات من أن نماذج الذكاء الاصطناعي تسرع الهجمات الإلكترونية من خلال مساعدة القراصنة على اكتشاف الثغرات، وتوليد البرمجيات الخبيثة، وأتمتة تطوير الاستغلال. قال التقرير: “على الرغم من أن نماذج اللغة الكبيرة المتقدمة تكافح للتنقل في منطق تفويض المؤسسات المعقد، إلا أن لديها قدرة متزايدة على أداء التفكير السياقي، وقراءة نية المطور بشكل فعال لربط منطق تطبيق المصادقة ذات العاملين مع التناقضات في الاستثناءات المشفرة بشكل ثابت.” “يمكن لهذه القدرة أن تسمح للنماذج بالكشف عن أخطاء منطقية خامدة تبدو صحيحة وظيفيًا للمسحين التقليديين، لكنها مكسورة استراتيجيًا من منظور الأمان.”  وفقًا لجوجل، استخدم المهاجمون غير المعلن عنهم الذكاء الاصطناعي لتحديد خلل منطقي حيث وثقت البرمجية شرطًا يتجاوز حماية المصادقة ذات العاملين. على عكس المسحين التقليديين الذين يبحثون عن أخطاء في الكود أو تعطل، قام الذكاء الاصطناعي بتحليل كيفية عمل البرمجية واكتشف التناقض، مما سمح للمهاجمين بتجاوز فحص الأمان دون كسر التشفير نفسه.

قالت جوجل: “لقد سرّع الترميز المدفوع بالذكاء الاصطناعي من تطوير مجموعات البنية التحتية والبرمجيات الخبيثة المتعددة الأشكال من قبل الخصوم.” “تسهل هذه الدورات التطويرية المدعومة بالذكاء الاصطناعي التهرب من الدفاعات من خلال تمكين إنشاء شبكات تشويش ودمج منطق خداع مولد بواسطة الذكاء الاصطناعي في البرمجيات الخبيثة التي ربطناها بمشتبه بهم من الجهات المهددة ذات الصلة بروسيا.” يقول التقرير إن الجهات المهددة من الصين وكوريا الشمالية تستخدم الذكاء الاصطناعي للعثور على نقاط ضعف في البرمجيات، بينما تستخدم الجماعات الروسية ذلك لإخفاء برمجياتها الخبيثة. قالت جوجل: “لقد استغل هؤلاء الخصوم أساليب متطورة نحو اكتشاف الثغرات والاستغلال المعزز بالذكاء الاصطناعي، بدءًا من محاولات الاختراق الموجهة بالشخصية ودمج مجموعات بيانات أمنية عالية الدقة لتعزيز سير عمل اكتشاف الثغرات والاستغلال.” بينما يهدف تقرير جوجل إلى التحذير من تزايد مخاطر الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي، يجادل بعض الباحثين بأن الخوف مبالغ فيه. أظهرت دراسة منفصلة بقيادة جامعة كامبريدج شملت أكثر من 90,000 موضوع في منتديات الجرائم الإلكترونية أن معظم المجرمين يستخدمون الذكاء الاصطناعي للبريد العشوائي والتصيد الاحتيالي بدلاً من برمجة هجمات إلكترونية متطورة. قالت الدراسة: “دور نماذج اللغة الكبيرة المقرصنة (Dark AI) كموجهين مبالغ فيه أيضًا، نظرًا لانتشار الثقافة الفرعية والتعلم الاجتماعي في عملية المبادرة - يقدر المستخدمون الجدد الروابط الاجتماعية وهوية المجتمع المشاركة في تعلم مهارات الاختراق والجريمة الإلكترونية بقدر ما يقدرون المعرفة نفسها.” “تشير نتائجنا الأولية، لذلك، إلى أن حتى التذمر من ارتفاع مستوى مجرمي الفايبر قد يكون مبالغًا فيه من حيث مستوى الاضطراب حتى الآن.” على الرغم من نتائج كامبريدج، إلا أن تقرير مجموعة استخبارات التهديدات يأتي أيضًا في وقت واجهت فيه جوجل مخاوف أمنية مرتبطة بأدوات تعتمد على الذكاء الاصطناعي. في أبريل، قامت الشركة بإصلاح ثغرة حقن أوامر في منصة التشفير الذكي Antigravity التي قال الباحثون إنها قد تسمح للمهاجمين بتنفيذ أوامر على جهاز المطور من خلال أوامر معدلة. قال باحثو جوجل: “على الرغم من أننا لا نعتقد أن Gemini استُخدم، استنادًا إلى بنية ومحتوى هذه الثغرات، لدينا ثقة عالية أن المهاجم ربما استغل نموذج ذكاء اصطناعي لدعم اكتشاف وتطوير هذه الثغرة.” في وقت سابق من هذا العام، قيدت شركة أنثروبيك الوصول إلى نموذج Claude Mythos بعد أن أظهرت الاختبارات قدرته على تحديد آلاف الثغرات البرمجية غير المعروفة سابقًا. وتضيف النتائج أيضًا إلى المخاوف المتزايدة من أن نماذج الذكاء الاصطناعي تعيد تشكيل الأمن السيبراني من خلال مساعدة المدافعين والمهاجمين على اكتشاف الثغرات بشكل أسرع.

قالت موزيلا في منشور على مدونتها في أبريل: “مع وصول هذه القدرات إلى أيدي المزيد من المدافعين، يختبر العديد من الفرق الآن نفس الدوار الذي شعرنا به عندما أصبحت النتائج واضحة لأول مرة.” “بالنسبة لهدف محصن، كانت ثغرة واحدة فقط ستثير إنذارًا أحمر في 2025، والعديد منها معًا يجعلك تتوقف وتتساءل عما إذا كان من الممكن حتى مواكبة التطور.”