ما هو مدى خطورة Mythos؟ لماذا قررت شركة Anthropic عدم إصدار نموذج جديد للجمهور؟

العنوان الأصلي: كيف تعلمت Mythos أن Mythos كان خطيرًا جدًا على البرية
مؤلف النص الأصلي: مارجي ميرفي، جيك بليبرج، و باتريك هاول أونيل، بلومبرج
الترجمة: بيغي، BlockBeats

مؤلف النص الأصلي: بلوكبيتس
المصدر الأصلي:
إعادة النشر: مارس فاينانس

مقدمة المحرر: عندما تختار شركة ذكاء اصطناعي عدم طرح أقوى نماذجها مباشرة للجمهور، فإن ذلك بحد ذاته يوضح المشكلة.

لقد أصبح Mythos من Anthropic قادرًا على تنفيذ مجموعة كاملة من عمليات الهجوم بشكل مستقل. من اكتشاف الثغرات الصفرية، وكتابة رموز الاستغلال، إلى ربط مسارات متعددة للدخول إلى النظام المركزي، تم ضغط هذه الأعمال التي كانت تتطلب تعاون خبراء قرصنة من الطراز الرفيع إلى ساعات أو حتى دقائق.

وهذا هو السبب في أنه، عند الكشف عن النموذج، دعا سكوت بيسنت وجيروم باول إلى عقد اجتماع مع مؤسسات وول ستريت، مطالبين باستخدامه لـ “التحقيق الذاتي”. عندما يتم إطلاق قدرات اكتشاف الثغرات على نطاق واسع، فإن النظام المالي يواجه هجمات مستمرة بدلاً من هجمات متفرقة.

التغير الأعمق يكمن في هيكل العرض. في الماضي، كان اكتشاف الثغرات يعتمد على عدد قليل من فرق الأمان وخبرات القراصنة، وكان بطيئًا وغير قابل للتكرار. الآن، بدأت هذه القدرة تُنتج بشكل جماعي بواسطة النماذج، مما يقلل من عتبة الهجوم والدفاع في آنٍ واحد. تشبيه شخص مطلع يقول بشكل مباشر: إعطاء النموذج لقراصنة عاديين يعادل تزويدهم بقدرات عمليات خاصة.

بدأت المؤسسات تستخدم نفس الأدوات لإجراء فحوصات عكسية على أنظمتها. JPMorgan Chase، Cisco Systems، وغيرها يختبرون داخليًا، على أمل إصلاح الثغرات قبل استغلالها. لكن القيود الواقعية لم تتغير، فسرعة الاكتشاف تتسارع، لكن الإصلاح لا يزال بطيئًا. “نحن جيدون جدًا في اكتشاف الثغرات، لكننا غير جيدين في إصلاحها”، هذا هو تقييم جيم زيملين، الذي يوضح عدم التوافق في الوتيرة.

في الواقع، لأن Mythos لا يمثل مجرد تحسين في القدرة الأحادية، بل هو دمج وتسريع وتقليل عتبة الوصول للقدرات الهجومية الموزعة والمحدودة سابقًا. بمجرد أن يخرج عن السيطرة، كيف سيتسرب هذا القدر من القدرة، لا توجد خبرة سابقة يمكن الاعتماد عليها.

الخطر ليس فيما يمكن أن يفعله، بل في من يمكن أن يستخدمه وتحت أي ظروف.

وفيما يلي النص الأصلي:

في مساء دافئ من فبراير، خلال حفل زفاف في بالي، غادر نيكولاس كارليني مؤقتًا، وفتح حاسوبه المحمول، مستعدًا لـ “إحداث بعض الضرر”. في ذلك الوقت، كانت شركة Anthropic قد أطلقت نموذج الذكاء الاصطناعي الجديد Mythos للاختبار الداخلي، وكان الباحث المعروف في الذكاء الاصطناعي يخطط لرؤية مدى الضرر الذي يمكن أن يسببه.

وظيفة كارليني في Anthropic هي إجراء “اختبار ضغط” على نماذج الذكاء الاصطناعي الخاصة بهم، لتقييم ما إذا كان يمكن للقراصنة استغلالها في أنشطة تجسس، سرقة أو تدمير. خلال حفل زفافه في بالي، تأثر بقوة قدرات هذا النموذج.

خلال بضع ساعات فقط، اكتشف تقنيات متعددة لاختراق أنظمة شائعة على مستوى العالم. وعندما عاد إلى مكتبه في وسط سان فرانسيسكو، اكتشف أن Mythos يمكنه الآن توليد أدوات هجوم قوية بشكل مستقل، بما في ذلك أدوات استغلال تستهدف لينكس — وهو أحد أنظمة المصدر المفتوح التي تدعم البنية التحتية الحديثة للحوسبة.

عرض Mythos عملية “سرقة بنك رقمية”: يمكنه تجاوز بروتوكولات الأمان، والدخول إلى الشبكة من الباب الرئيسي، ثم اختراق خزنة رقمية، والوصول إلى الأصول عبر الإنترنت. في الماضي، كان الذكاء الاصطناعي يقتصر على “فتح الأقفال”، والآن، لديه القدرة على التخطيط وتنفيذ عملية “سرقة” كاملة.

بدأ كارليني وزملاؤه في إصدار تحذيرات داخل الشركة، مع إبلاغهم بما اكتشفوه. وفي الوقت نفسه، كانوا يكتشفون يوميًا ثغرات عالية الخطورة وحتى مميتة في الأنظمة التي تم اكتشافها بواسطة Mythos — وهي مشكلات عادةً لا يستطيع أذكى القراصنة حول العالم اكتشافها.

وفي الوقت نفسه، فريق “Frontier Red Team” داخل الشركة — المكون من 15 موظفًا، المعروف باسم “Ants” — كان يجري اختبارات مماثلة. مسؤوليتهم هي ضمان عدم استخدام نماذج الشركة لإلحاق الضرر بالبشر. كانوا يختبرون مع الكلاب الآلية في المستودعات، مع المهندسين، للتحقق مما إذا كان يمكن استخدام روبوتات الدردشة في السيطرة الخبيثة على هذه الأجهزة؛ كما يتعاونون مع علماء الأحياء لتقييم إمكانية استخدام النماذج في تصنيع أسلحة بيولوجية.

وفي هذه المرة، أدركوا تدريجيًا أن أكبر خطر من Mythos يأتي من مجال الأمن السيبراني. قال لوجان غراهام، المسؤول عن الفريق: “عندما حصلنا على النموذج خلال ساعات، أدركنا أنه مختلف.”

النماذج السابقة، مثل Opus 4.6، أظهرت قدرات على مساعدة البشر في استغلال الثغرات البرمجية. لكن غراهام أشار إلى أن Mythos يمكنه الآن “العمل بنفسه” لاستغلال هذه الثغرات. هذا يشكل خطرًا على الأمن القومي، وأبلغ الشركة العليا بذلك. وأصبح عليه مواجهة موقف صعب: إبلاغ الإدارة أن مصدر دخل رئيسي قد يكون خطيرًا جدًا لدرجة عدم إتاحته للجمهور.

قال جارد كابلان، أحد المؤسسين المشاركين والرئيس العلمي لـ Anthropic، إنه خلال تدريب Mythos، كان “مراقبًا عن كثب” لتطوره. بحلول يناير، بدأ يدرك أن قدراته في اكتشاف الثغرات قوية بشكل غير عادي. كعالم في الفيزياء النظرية، كان عليه أن يقرر ما إذا كانت هذه القدرات مجرد “ظاهرة تقنية مثيرة للاهتمام”، أم أنها “مشاكل حقيقية مرتبطة بالبنية التحتية للإنترنت”. وخلص إلى أن الأمر هو الأخير.

خلال أسبوعي نهاية فبراير وبداية مارس، كان كابلان مع مؤسس مشارك آخر، سام مككاندليش، يوازن بين ما إذا كان ينبغي إصدار النموذج.

وفي الأسبوع الأول من مارس، عقدت إدارة الشركة — بما في ذلك المدير التنفيذي داريو أموداي، والرئيسة دانييلا أموداي، ورئيس أمن المعلومات فيتالي جودانيتس — اجتماعًا للاستماع إلى تقارير كابلان ومككاندليش.

وتوصلوا إلى أن مخاطر Mythos عالية جدًا، ولا ينبغي إصداره للجمهور بشكل كامل. لكن، يجب أن يُسمح لبعض الشركات، حتى المنافسة، باختباره.

قال كابلان: “سرعان ما أدركنا أن علينا أن نتبع نهجًا مختلفًا تمامًا، وأن هذه لن تكون مجرد إصدار منتج عادي.”

وفي الأسبوع الأول من مارس، اتفقت الشركة على استخدام Mythos كأداة دفاع سيبراني.

وكان رد الفعل في السوق فوريًا تقريبًا. ففي اليوم الذي أعلنت فيه Anthropic عن وجود Mythos، دعا وزير الخزانة الأمريكي سكوت بيسنت ورئيس الاحتياطي الفيدرالي جيروم باول كبار مسؤولي المؤسسات المالية في واشنطن لعقد اجتماع طارئ. وكانت الرسالة واضحة: استخدم Mythos فورًا لاكتشاف الثغرات في أنظمتك.

وفقًا لمصادر مقربة من المسؤولين المشاركين (طلبوا عدم الكشف عن هويتهم بسبب حساسية المعلومات)، فإن جدية الاجتماع كانت واضحة — حتى أن بعض المشاركين رفضوا الكشف عن محتواه للمستشارين الأساسيين.

تحذيرات عاجلة من مسؤولين في البيت الأبيض حول إمكانيات Mythos كأداة قرصنة، ومقترحات “استخدامها للدفاع”، تشير إلى تحول أعمق: أن الذكاء الاصطناعي أصبح قوة حاسمة في مجال الأمن السيبراني. أطلقت شركة Anthropic مشروع “Glasswing”، وسمحت بشكل محدود لبعض المؤسسات باستخدام Mythos، بما في ذلك أمازون ويب سيرفيسز، آبل، و JPMorgan Chase، لإجراء الاختبارات؛ كما أبدت الحكومة اهتمامًا كبيرًا.

قبل فتح المجال، قدمت Anthropic تقارير كاملة لمسؤولين حكوميين أمريكيين عن قدرات إصدار تجريبي من Mythos، بما يشمل استخداماته المحتملة في الهجمات والدفاعات السيبرانية. وأكدت أن الشركة تتواصل مع حكومات عدة دول. وفقًا لموظف داخل الشركة، طلب عدم الكشف عن هويته، فإن الأمر يتطلب مراقبة دقيقة.

وتابعًا، أعلنت شركة OpenAI، المنافسة، عن إطلاق أداة لاكتشاف الثغرات البرمجية باسم GPT-5.4-Cyber، بعد أن اكتشف الباحثون عشرات الحالات المثيرة للقلق، بما في ذلك عدم الامتثال للأوامر، ومحاولة إخفاء الأفعال بعد انتهاكها.

حتى الآن، لم تُعلن شركة Anthropic عن إصدار Mythos رسميًا كأداة أمنية، ولم يتم التحقق من قدراته بشكل كامل من قبل الباحثين الخارجيين. لكن قرارها بـ “تقييد الوصول” يعكس توافقًا متزايدًا داخل الصناعة والحكومة: أن الذكاء الاصطناعي يعيد تشكيل الاقتصاد الأمني السيبراني — فهو يقلل بشكل كبير من تكلفة اكتشاف الثغرات، ويقصّر زمن الاستعداد للهجمات، ويخفض العتبة التقنية لبعض أنواع الهجمات.

كما حذرت الشركة من أن القدرات الذاتية المتزايدة لـ Mythos تحمل مخاطر. ففي الاختبارات، لوحظت حالات مقلقة: النموذج لا يطيع الأوامر، ويحاول أحيانًا إخفاء الأدلة بعد انتهاكها. وفي حادثة، صمم النموذج مسار هجوم متعدد الخطوات، و"هرب" من بيئة مقيدة، وحصل على وصول أوسع إلى الإنترنت، وبدأ بنشر محتوى ذاتي.

وفي العالم الحقيقي، توجد ثغرات برمجية معقدة وخفية في أنظمة البنوك والمستشفيات، وغالبًا ما تتطلب أسابيع أو شهور من العمل من قبل خبراء لاكتشافها. وإذا استغلها قراصنة قبل ذلك، فقد يؤدي ذلك إلى تسريب بيانات أو هجمات فدية، وتبعات وخيمة.

لكن، هناك شخصيات بارزة تشكك في قدرات Mythos الحقيقية ومخاطرها المحتملة. قال ديفيد ساكس، مستشار البيت الأبيض للأتمتة، على منصة X: “يزداد الشك في أن شركة Anthropic هي ‘ال boy who cried wolf’ في صناعة الذكاء الاصطناعي. وإذا لم تظهر تهديدات Mythos، فستواجه الشركة مشكلة سمعة خطيرة.”

لكن الواقع أن القراصنة بدأوا بالفعل في استخدام نماذج اللغة الكبيرة لشن هجمات معقدة. على سبيل المثال، استخدم تنظيم تجسس إلكتروني نموذج Claude من Anthropic لمحاولة اختراق حوالي 30 هدفًا؛ وقراصنة آخرون استغلوا الذكاء الاصطناعي لسرقة بيانات من وكالات حكومية، ونشر برامج فدية، واختراق جدران حماية البيانات بسرعة.

وفقًا لمصدر مطلع، فإن مسؤولي الأمن القومي الأمريكي يرون أن ظهور Mythos يخلق حالة من عدم اليقين غير مسبوقة — فكيف نقيّم مخاطر الأمن السيبراني أصبح أكثر صعوبة. وإذا أعطينا النموذج لقراصنة فرديين، فسيكون الأمر بمثابة رفع جندي عادي إلى مستوى قوات العمليات الخاصة.

وفي الوقت نفسه، يمكن أن يصبح هذا النموذج “مضاعفًا للقدرات”: يمنح مجموعة إجرامية قدرات هجومية على مستوى دولة صغيرة، ويمكّن بعض أجهزة الاستخبارات والجيش في دول صغيرة من تنفيذ هجمات إلكترونية كانت تتطلب سابقًا قدرات دول عظمى.

قال روبرت جويس، مسؤول سابق في وكالة الأمن القومي، إن “أعتقد أن الذكاء الاصطناعي على المدى الطويل سيجعلنا أكثر أمانًا، لكن بين الآن ووقت معين، ستكون هناك فترة مظلمة، حيث ستسيطر أنظمة الذكاء الاصطناعي الهجومية — وأولئك الذين لم يجهزوا دفاعاتهم بشكل جيد، سيكونون أول من يُخترق.”

ومن الجدير بالذكر أن Mythos ليست النموذج الوحيد الذي يمتلك مثل هذه القدرات. فهناك نماذج أخرى، مثل النسخ المبكرة من Claude و Big Sleep، تستخدم حاليًا من قبل مؤسسات لاكتشاف الثغرات.

ووفقًا للمصدر، فإن الثغرات الصفرية التي كانت تستغرق أيامًا أو أسابيع لتحديدها، وكتابة رموز استغلالها، يمكن الآن بواسطة الذكاء الاصطناعي إنجازها في ساعة واحدة، أو حتى دقائق. الثغرة الصفرية، هي ثغرة أمنية لم تكتشفها أنظمة الدفاع بعد، ويصعب إصلاحها.

حاليًا، تركز JPMorgan على سلاسل التوريد والبرمجيات المفتوحة المصدر، واكتشفت العديد من الثغرات، وأبلغت عنها للموردين المعنيين.

قال المدير التنفيذي جيمي ديمون خلال مؤتمر الأرباح إن ظهور Mythos “يشير إلى وجود العديد من الثغرات التي لا تزال بحاجة إلى إصلاح.”

وفقًا لمصدر، قبل أن يعرف العالم بوجود Mythos، كانت JPMorgan Chase تتواصل مع Anthropic لمناقشة اختبار النموذج، لكن الأخير رفض التعليق.

اليوم، تحاول بنوك وول ستريت وشركات التكنولوجيا الأخرى استخدام Mythos لإصلاح الثغرات قبل أن يكتشفها القراصنة. ووفقًا لبلومبرج، فإن مؤسسات مالية مثل Goldman Sachs، Citigroup، Bank of America، و Morgan Stanley تختبر التقنية داخليًا.

ويحذر موظفو Cisco من احتمال أن يستغل المهاجمون الذكاء الاصطناعي للبحث عن ثغرات في برمجيات أجهزة الشبكة العالمية — بما في ذلك الموجهات، الجدران النارية، والمودمات. قال أنطوني غريكو، كبير مسؤولي الأمن والثقة، إنه يخشى أن يسرع الذكاء الاصطناعي من هجمات على أجهزة “انتهت دورة حياتها” — التي لن تتلقى تحديثات مستقبلًا.

ومع ذلك، فإن إصلاح الثغرات التي يكتشفها الذكاء الاصطناعي سيظل تحديًا طويل الأمد. يُطلق على هذه العملية اسم “تصحيح الثغرات” (security patching)، وغالبًا ما تكون مكلفة وتستغرق وقتًا، مما يدفع العديد من المؤسسات إلى تجاهل الثغرات. والهجمات الكارثية مثل التي تعرضت لها شركة Equifax، حيث سُرقت بيانات 147 مليون شخص، كانت بسبب عدم إصلاح الثغرات المعروفة في الوقت المناسب.

رغم رفضها المساعدة في عمليات المراقبة الواسعة للمواطنين الأمريكيين، وُصفت شركة Anthropic سابقًا بأنها “تهديد في سلسلة التوريد” من قبل إدارة ترامب، إلا أنها لا تزال تتواصل مع الوكالات الفيدرالية.

وفي هذا الأسبوع، تسعى وزارة الخزانة الأمريكية للحصول على إذن لاستخدام Mythos. قال وزير الخزانة سكوت بيسنت إن النموذج سيساعد الولايات المتحدة على الحفاظ على تفوقها في مجال الذكاء الاصطناعي.

وفي اختبار، كتب Mythos رمز هجوم على متصفح، ربط بين أربع ثغرات مختلفة في سلسلة استغلال كاملة — وهو مهمة تتطلب مهارة عالية حتى للبشر. وأشار تقرير أمني إلى أن “سلسلة الثغرات” هذه يمكن أن تفتح حدود أنظمة عالية الأمان، على غرار طريقة هجوم Stuxnet على أجهزة الطرد المركزي في إيران.

بالإضافة إلى ذلك، قال Anthropic إن Mythos يمكنه، عند توجيه واضح، التعرف على واستغلال جميع الثغرات الصفرية في المتصفحات الرئيسية.

وأفادوا أنهم استخدموا Mythos لاكتشاف ثغرات في كود لينكس. قال جيم زيملين إن “لينكس يدعم معظم أنظمة الحوسبة الحالية”، من هواتف أندرويد، وأجهزة التوجيه، إلى حواسيب ناسا العملاقة، وهو منتشر بشكل كبير. يمكن لـ Mythos اكتشاف عيوب في الكود المفتوح، وإذا استُغلت، يمكن للمهاجمين السيطرة الكاملة على الجهاز.

بدأ عشرات من فريق Linux Foundation باختبار Mythos. يرى زيملين أن سؤالًا رئيسيًا هو: هل يمكن لنموذج Anthropic أن يوفر رؤى قيمة تساعد المطورين على كتابة برمجيات أكثر أمانًا من المصدر، وتقليل الثغرات؟

قال: “نحن جيدون جدًا في اكتشاف الثغرات، لكننا سيئون جدًا في إصلاحها.”