خبير أمن المعلومات: نماذج الذكاء الاصطناعي الخطيرة مثل كلاود ميثوس لا يمكن إيقافها، وستكون في كل مكان خلال 24 شهرًا

فرضت حكومة ترامب الأسبوع الماضي، بحجة الأمن القومي، على شركة Anthropic سحب موديلين من أقوى نماذجها، هما Claude Fable 5 و Mythos 5. والسبب هو أنهما "يمكن أن يختراقا الحماية". لكن خبراء الأمن السيبراني أبدوا تشكيكًا، قائلين إن هذه الرقابة تقتصر على شركة واحدة، وعلى مجموعة من النماذج؛ وخلال 6 إلى 24 شهرًا، ستتوافر قدرات مماثلة على نطاق واسع من مصادر متعددة.
(ملخص سابق: إنفاق الكثير من المال للنمو! تسرب ملفات OpenAI يكشف عن "خسائر تشغيلية بقيمة 209 مليار دولار"، ومن المتوقع أن تحقق أرباحًا بحلول عام 2030)
(معلومات إضافية: CZ يمدح Hyperliquid باعتباره اختراعًا رائعًا! لكنه يضحك قائلًا إن عدم وجود KYC خطير جدًا: لقد مررت بذلك، من الأفضل أن يكون لديهم محامون قويون جدًا)

في نهاية الأسبوع الماضي، فرضت حكومة ترامب، بحجة مخاطر الأمن القومي، سحب موديلين حديثين من شركة Anthropic: Claude Fable 5 و Mythos 5. والمنطق من البيت الأبيض هو: أن Fable 5 مفتوح للجمهور، لكن الحواجز (بمعنى بسيط، آلية الأمان التي ترفض الرد على الأسئلة الضارة) يمكن إزالتها، وهذا يُعتبر خطرًا على الأمن القومي.

لا تزال شركة Anthropic تتفاوض مع البيت الأبيض بشأن شروط إعادة التشغيل، ولم يتضح بعد متى ستعود النماذج للعمل.

هذه سيف ذو حدين، وAnthropic تعرف ذلك جيدًا

Mythos 5 ليس نموذج لغة عادي. منذ أن أطلقت شركة Anthropic أول مرة باسم "Mythos Preview" في أبريل، كانت تحذر من مخاطره بشكل متزامن. ببساطة، هو أداة دفاعية في يد الباحثين في الأمن السيبراني، لكنه قد يكون سلاح هجوم في يد المهاجمين.

لهذا السبب، تم إصدار Mythos 5 في البداية بشكل خاص فقط لفريق مشروع Glasswing، وهو اتحاد مختار؛ بينما Fable 5 على الرغم من أنه متاح للجمهور، إلا أنه يحتوي على قيود محددة تتعلق بالكائنات الحية والأمن السيبراني.

6 أشهر مقابل 24 شهرًا

على الرغم من أن حكومة ترامب أمرت بحظرها، إلا أن قائد فريق الأمان في شركة Anthropic، Logan Graham، قال بوضوح في أبريل عند إصدار Mythos Preview لـ WIRED:

"الرسالة الحقيقية هي أن الأمر لا يتعلق بهذا النموذج أو Anthropic. نحن بحاجة للاستعداد لعالم، خلال 6، 12، 24 شهرًا، ستكون هذه القدرات متاحة على نطاق واسع."

قالت تارا ويلر، مديرة أمن المعلومات في شركة TPO Group، بشكل أكثر مباشرة:

"الاعتقاد بأنه لا توجد شركات أخرى ستطور قدرات مماثلة لـ Mythos، أو حتى أن الشركات لم تصل بعد، هو رؤية قصيرة جدًا. هناك شركات أخرى تلاحق Anthropic بسرعة، ومن المحتمل أن تمتلك هذه القدرات أيضًا، لكنها تراقب وتنتظر كيف ستتعامل معها اللوائح الحالية."

كما أشار الباحث في جامعة هارفارد، بروس شناير، لـ WIRED: "هذه هي الاتجاهات العامة في التكنولوجيا. النماذج الأصغر والأرخص والمفتوحة المصدر، أحيانًا بشكل فردي، وأحيانًا بالتعاون، يمكنها أن تتطابق مع أداء Mythos من خلال تحسينات في التلميحات. يجب أن نتوقع أن تتطابق نماذج أخرى مع إبداع ومرونة Mythos/Fable خلال بضعة أشهر، والنماذج المفتوحة المصدر بعد فترة أطول قليلاً."