مايكروسوفت تحذر: منظمات التهديدات الإلكترونية تزداد في استغلال الذكاء الاصطناعي في شن الهجمات

موقع IT之家، 8 مارس، ذكرت أن شركة مايكروسوفت أعلنت أن منظمات التهديدات الإلكترونية تستخدم بشكل متزايد الذكاء الاصطناعي في عملياتها، بهدف تسريع وتيرة الهجمات، وتوسيع نطاق الأنشطة الخبيثة، وتقليل الحواجز التقنية أمام تنفيذ الهجمات الإلكترونية.

وأشارت أحدث تقارير قسم استخبارات التهديدات في مايكروسوفت إلى أن المهاجمين يستخدمون أدوات الذكاء الاصطناعي التوليدي في مهام متعددة، بما في ذلك جمع المعلومات، والتصيد الاحتيالي، وبناء البنى التحتية للهجمات، وصناعة البرمجيات الخبيثة، وتنفيذ العمليات التالية للاختراق.

وفي معظم الحالات، يُستخدم الذكاء الاصطناعي لكتابة رسائل التصيد الاحتيالي، وترجمة المحتوى، وتلخيص البيانات المسروقة، وتصحيح أخطاء البرمجيات الخبيثة، بالإضافة إلى المساعدة في كتابة السكربتات أو تكوين البنى التحتية للهجمات.

وحذرت مايكروسوفت من أن قسم استخبارات التهديدات لاحظ أن معظم الاستخدامات الخبيثة للذكاء الاصطناعي تركز على استغلال نماذج اللغة الكبيرة في توليد النصوص، والرموز، أو المحتوى المتعدد الوسائط. وتستخدم منظمات التهديدات الذكاء الاصطناعي التوليدي لكتابة فخاخ التصيد، وترجمة المحتوى، وتلخيص البيانات المسروقة، وتوليد أو تصحيح البرمجيات الخبيثة، وإنشاء السكربتات أو البنى التحتية للهجمات. وأكدت مايكروسوفت أن “في هذه الاستخدامات، يلعب الذكاء الاصطناعي دور مضاعف للفعالية، حيث يقلل من الصعوبة التقنية ويسرع التنفيذ، مع بقاء المهاجمين يسيطرون على أهداف الهجوم، والضحايا، وقرارات النشر.”

وقد رصدت مايكروسوفت عدة منظمات هجوم إلكتروني تدمج الذكاء الاصطناعي في عملياتها، من بينها منظمات مرتبطة بكوريا الشمالية، تُعرف باسم “جاسبر سليت” (Jasper Sleet، Storm0287) و"كورال سليت" (Coral Sleet، Storm1877)، والتي تستخدم التقنية في خطط اختراق الموظفين عن بُعد.

وفي هذه العمليات، تساعد أدوات الذكاء الاصطناعي في توليد معلومات هوية واقعية، وسير ذاتية، ومحتوى تواصل، لخداع الشركات الغربية والحصول على فرص توظيف، والحفاظ على الوصول بعد التوظيف.

واستخدمت منظمة “جاسبر سليت” منصة الذكاء الاصطناعي التوليدي لتبسيط عملية إنشاء الهويات الرقمية المزيفة، حيث يقوم أعضاء المنظمة بإعطاء أوامر للذكاء الاصطناعي لتوليد قوائم أسماء وعناوين بريد إلكتروني تتوافق مع خلفيات ثقافية معينة، لتطابق صور الهوية المستهدفة. وفي هذا السياق، قد تستخدم المنظمة أوامر مثل:

مثال على الأمر 1: “توليد 100 اسم يوناني.”

مثال على الأمر 2: “استخدام اسم جين دو (Jane Doe) لإنشاء مجموعة من عناوين البريد الإلكتروني.”

كما تستفيد منظمة “جاسبر سليت” من الذكاء الاصطناعي التوليدي لمراجعة إعلانات التوظيف على منصات مهنية، واستخراج وتجميع المهارات المطلوبة، ثم تصميم هويات مزيفة مخصصة لوظائف معينة.

وتتناول التقارير أيضًا كيف يُستخدم الذكاء الاصطناعي في دعم تطوير البرمجيات الخبيثة وبناء البنى التحتية للهجمات، حيث تستغل منظمات التهديد أدوات الترميز بالذكاء الاصطناعي لإنشاء وتحسين الشفرات الخبيثة، واكتشاف الأخطاء، أو نقل مكونات البرمجيات الخبيثة إلى لغات برمجة مختلفة.

وقد ظهرت بعض التجارب على البرمجيات الخبيثة التي تظهر خصائص تمكين الذكاء الاصطناعي، حيث يمكنها توليد السكربتات أو تعديل سلوكها بشكل ديناميكي أثناء التشغيل.

كما رصدت مايكروسوفت أن منظمة “كورال سليت” تستخدم الذكاء الاصطناعي بسرعة لبناء مواقع إلكترونية وهمية للشركات، وتكوين البنى التحتية للهجمات، وإجراء اختبارات على المحتوى المنشور، وتحديد الأعطال.

وأشارت مايكروسوفت إلى أن عندما تحاول أنظمة الحماية من الذكاء الاصطناعي منع هذه الاستخدامات الخبيثة، تلجأ منظمات التهديد إلى تقنيات كسر الحماية (الجيلبريك)، لخداع نماذج اللغة الكبيرة لتوليد رموز أو محتوى خبيث.

وبالإضافة إلى الذكاء الاصطناعي التوليدي، اكتشف باحثو مايكروسوفت أن منظمات التهديد بدأت في تجربة الذكاء الاصطناعي الوكيل (الوكيل الذكي) لتحقيق تنفيذ المهام بشكل مستقل، والتكيف مع النتائج.

ومع ذلك، أشارت مايكروسوفت إلى أن الاستخدام الحالي للذكاء الاصطناعي يقتصر على دعم عمليات اتخاذ القرار، وليس على شن هجمات مستقلة بالكامل.

وبسبب اعتماد العديد من هجمات الاختراق على استغلال الأذونات القانونية، نصحت مايكروسوفت الشركات باعتبار مثل هذه الاحتيالات والسلوكيات المشابهة مخاطر داخلية.

كما أن هذه الهجمات المدعومة بالذكاء الاصطناعي تشبه أنماط الهجمات التقليدية، لذا ينبغي على الجهات المعنية التركيز على رصد الاستخدام غير الطبيعي للشهادات، وتعزيز أنظمة الهوية لمقاومة التصيد، وحماية أنظمة الذكاء الاصطناعي التي قد تصبح أهدافًا مستقبلية للهجمات.

وقد لاحظت شركة IT之家 أن الأمر لا يقتصر على مايكروسوفت فقط، حيث أبلغت شركة جوجل مؤخرًا أن منظمات التهديدات تستخدم الذكاء الاصطناعي Gemini بشكل مفرط في جميع مراحل الهجمات الإلكترونية، وهو ما يتوافق مع ما رصده أمازون في عملياتها ذات الصلة. كما أبلغت أمازون ومدونة Cyber and Ramen للأمن السيبراني مؤخرًا عن حادثة هجوم: حيث استغل أحد منظمات التهديدات عدة خدمات للذكاء الاصطناعي التوليدي لاختراق أكثر من 600 جدار حماية FortiGate.