جوجل تعطل القراصنة الذين يستخدمون الذكاء الاصطناعي لاستغلال ضعف غير معروف في الدفاع الرقمي للشركة

قالت شركة جوجل يوم الاثنين إنها عطلت محاولة مجموعة إجرامية لاستخدام الذكاء الاصطناعي لاستغلال ثغرة رقمية غير معروفة سابقًا لدى شركة أخرى، مما يزيد من المخاوف المتزايدة عبر الحكومة والصناعة الخاصة حول مخاطر الذكاء الاصطناعي على الأمن السيبراني.

شاركت جوجل معلومات محدودة عن المهاجمين والهدف، لكن جون هولتكست، كبير المحللين في فرع استخبارات التهديدات التابع لعملاق التكنولوجيا، قال إن ذلك يمثل لحظة حذر منها خبراء الأمن السيبراني لسنوات: قراصنة خبيثون يسلحون أنفسهم بالذكاء الاصطناعي لتعزيز قدرتهم على اختراق حواسيب العالم.

“لقد أصبح هنا،” قال هولتكست. “عصر الثغرات والاستغلال المدفوع بالذكاء الاصطناعي قد بدأ بالفعل.”

يأتي ذلك في وقت حققت فيه قدرات الذكاء الاصطناعي على اكتشاف الثغرات قفزات، بما في ذلك نموذج Mythos الذي أعلن عنه قبل شهر من قبل شركة Anthropic. ومن بين من يحاولون تعزيز دفاعاتهم، البيت الأبيض بقيادة الرئيس دونالد ترامب، الذي غير نهجه في كيفية فحص نماذج الذكاء الاصطناعي الأقوى قبل إصدارها للجمهور.

بعد الوفاء بوعد حملة لإلغاء الحواجز التي وضعها الرئيس الديمقراطي جو بايدن حول التكنولوجيا سريعة التطور، فإن الإدارة الجمهورية وحلفاؤها يرسلون الآن إشارات مختلطة حول دور الحكومة في الرقابة على الذكاء الاصطناعي.

القصص ذات الصلة

قال ديان بول، زميل كبير في مؤسسة الابتكار الأمريكي الذي كان سابقًا مستشارًا تكنولوجيًا في البيت الأبيض ومؤلفًا رئيسيًا لخارطة طريق سياسة الذكاء الاصطناعي لترامب العام الماضي، “بعض الناس لا يريدون أن يكون هناك استجابة تنظيمية لهذا الأمر، وآخرون يريدون ذلك.”

“أنا لا أحب التنظيم،” قال بول. “أفضل ألا يتم تنظيم الأمور. لكن أعتقد أننا بحاجة إلى ذلك في هذه الحالة.”

قراءة المزيد

قالت جوجل إنها وجدت أدلة على أن الذكاء الاصطناعي ساعد في هجوم إلكتروني

قالت جوجل إنها رصدت مجموعة من “الجهات المهددة” البارزة تخطط لعملية كبيرة تعتمد على ثغرة اكتشفوها. سمحت لهم الثغرة بتجاوز المصادقة ذات العاملين للوصول إلى أداة إدارة نظام عبر الإنترنت شهيرة، رفضت جوجل ذكر اسمها.

وصفته الشركة بأنه استغلال من نوع “ثغرة يوم الصفر”، وهو هجوم إلكتروني يستغل ثغرة أمنية غير معروفة سابقًا. “يوم الصفر” يشير إلى أن مهندسي الأمان لم يكن لديهم سوى يوم واحد لتطوير إصلاح للثغرة.

قالت جوجل إنها أبلغت الشركة المتضررة والسلطات القانونية، وتمكنت من تعطيل العملية قبل أن تتسبب في أي ضرر. ولكن أثناء تتبع آثار القراصنة، وجدت أدلة على أنهم استخدموا نموذج لغة كبير من الذكاء الاصطناعي — نفس التقنية التي تدعم الدردشات الشائعة — لاكتشاف الثغرة.

لم تكشف جوجل عن النموذج المستخدم في الهجوم الإلكتروني، فقط أنها على الأرجح لم تكن من نماذج جوجل الخاصة مثل Gemini أو Anthropic’s Claude Mythos. كما لم تكشف عن المجموعة التي اشتبهت بها في الهجوم، لكنها قالت إنه لا توجد أدلة على ارتباطها بحكومة معادية، رغم أن الشركة ذكرت أن مجموعات مرتبطة بالصين وكوريا الشمالية كانت تستكشف تقنيات مماثلة.

قال هولتكست إن مقارنة مع جواسيس الحكومة الذين يعملون عادة ببطء وهدوء، فإن القراصنة الإجراميين لديهم الكثير ليكسبوه من “القدرة الهائلة للذكاء الاصطناعي على السرعة” في اكتشاف واستغلال الثغرات الأمنية.

“هناك سباق بينك وبينهم لإيقافهم قبل أن يتمكنوا من الحصول على البيانات التي يحتاجونها لابتزازك، أو شن هجمات فدية،” قال في مقابلة. “الذكاء الاصطناعي سيكون ميزة هائلة لأنهم يمكنهم التحرك بسرعة أكبر.”

شركة Anthropic’s Mythos أثارت حالة من الذعر ودعوة للتنظيم

أعلنت وزارة التجارة الأمريكية الأسبوع الماضي أنها وقعت اتفاقيات جديدة مع جوجل ومايكروسوفت وxAI التي أسسها إيلون ماسك لتقييم نماذهم الأكثر قوة من نماذج الذكاء الاصطناعي قبل إصدارها للجمهور، استنادًا إلى اتفاقيات سابقة أبرمتها إدارة بايدن مع شركة Anthropic وصانع ChatGPT، OpenAI. لكن الإعلان اختفى لاحقًا من موقع وزارة التجارة.

وكان ذلك المثال الأحدث على الإشارات المختلطة من إدارة ترامب منذ إعلان Anthropic عن نموذجها الجديد Mythos الذي قالت إنه “مثير للدهشة” في قدرته على الاختراق والأمن السيبراني لدرجة أنها لا تستطيع إصداره إلا لمجموعة صغيرة من المؤسسات الموثوقة.

أنشأت Anthropic مبادرة تسمى مشروع Glasswing تجمع بين عمالقة التكنولوجيا مثل أمازون، أبل، جوجل ومايكروسوفت، بالإضافة إلى شركات أخرى مثل JPMorgan Chase، على أمل حماية البرمجيات الحيوية في العالم من تداعيات “شديدة” قد يسببها النموذج الجديد على السلامة العامة، والأمن القومي، والاقتصاد. لكن علاقتها مع الحكومة الأمريكية كانت معقدة بسبب نزاع علني وقانوني مع البنتاغون وترامب نفسه حول استخدام الجيش لتقنياتها في الذكاء الاصطناعي.

أكبر منافسيها، شركة OpenAI، قدمت منذ ذلك الحين نموذجًا مشابهًا. وقالت الشركة يوم الجمعة إنها ستطلق نسخة متخصصة من ChatGPT للأمن السيبراني، ستكون متاحة فقط لـ"المدافعين المسؤولين عن تأمين البنية التحتية الحيوية" لمساعدتهم على اكتشاف الثغرات وتصحيحها في برمجياتهم.

قال بول إنه متفائل بأنه على المدى الطويل، ستجعل أدوات الذكاء الاصطناعي التي تتطور بشكل متزايد في البرمجة العالم أكثر أمانًا من الهجمات السيبرانية الروتينية التي تصيب المستشفيات والمدارس والمنظمات الأخرى. ومع ذلك، في الوقت الحالي، قال إن هناك “تريليونات غير محسوبة من أسطر الشيفرة البرمجية” التي تدعم أنظمة الحوسبة في العالم والتي تكون معرضة للخطر إذا تم إطلاق أدوات الذكاء الاصطناعي لاستغلال جميع ثغراتها.

قد يستغرق الأمر سنوات لتقوية كل تلك البرمجيات — وهي عملية يعتقد بول أنها ستتسهل بالتنسيق مع الحكومة الأمريكية.

وفي الوقت نفسه، يتوقع بول فترة “انتقالية” حيث ترتفع مخاطر الأمن السيبراني بشكل كبير، و"قد يكون العالم أكثر خطورة فعلاً."