يؤكد الرئيس التنفيذي لشركة DeepMind أن النماذج الذكية الاصطناعية المتقدمة يجب أن تخضع لـ"مراجعة" من قبل جهة رقابية دولية قبل طرحها في الأسواق

أعلن ديمس هاسابيس، الرئيس التنفيذي لشركة Google DeepMind، خلال هذا الأسبوع عن مقترح يدعو إلى محاكاة نموذج هيئة التنظيم المالي للصناعة الأمريكية (FINRA)، بإنشاء جهة رقابية دولية يقودها خبراء مستقلون، مع اشتراط أن تخضع نماذج الذكاء الاصطناعي المتقدمة لفحص إلزامي لمدة قد تصل إلى 30 يومًا قبل إطلاقها.
(سياق سابق: إذا كنت أيضًا تخشى أن يؤدي الذكاء الاصطناعي إلى تدمير البشرية، فلا بد أن تقرأ هذا التقرير 《AI 2040：Plan A》)
(معلومات إضافية عن الخلفية: تقلّص صفوف فئة “السلامة” بشخص إضافي: استقال كبير علماء المستقبل في OpenAI، وتم أيضًا حل فريق مواءمة المهام)

فهرس المحتويات

Toggle

• إشارة إنذار، تجعل المقترح يُطرح على الطاولة مبكرًا
• نسخ واجب وول ستريت: استقلالية، وتمويل من القطاع، وقابلية للتطوير
• الجميع في الصناعة يوافقون، لكن الصعوبة تكمن في موافقة الحكومة

أصدر الرئيس التنفيذي لـ Google DeepMind هذا الأسبوع على Substack الشخصي إعلانًا بعنوان 《A Framework for Frontier AI and the Dawning of a New Age》، يدعو إلى إنشاء جهة رقابية دولية مستقلة عن الحكومات والشركات، على غرار نموذج هيئة التنظيم المالي للصناعة الأمريكية (FINRA)، لإجراء “فحص ما قبل الإدراج” لأحدث نماذج الذكاء الاصطناعي.

ويصف “النماذج المتقدمة” التي يشير إليها، ببساطة، بأنها أحدث جيل من أنظمة الذكاء الاصطناعي بما يمتلكه من أقوى قدرات حوسبة حاليًا، مع عدم استكشاف حدود المخاطر بالكامل بعد. ووفقًا للمقترح، يتعين على أي نموذج متقدم يستوفي العتبة المستقبلية، دون التفريق بين النماذج مفتوحة المصدر والمغلقة، ودون النظر إلى بلد البحث والتطوير، أن يُحال للمراجعة أولاً، على أن تمتد المراجعة إلى 30 يومًا كحد أقصى. كما يحتفظ مجلس الإدارة بأغلبية المقاعد للخبراء التقنيين المستقلين من مستوى الفائزين بجائزة تورينغ.

وصف سام ألتمان، الرئيس التنفيذي لـ OpenAI، هذا التصور بأنه “شامل للغاية”، وقال ماسك أيضًا إنه “نقطة بداية جيدة للمناقشة”، وهما منافسان يتنافسان عادةً ويتحاشيان التعاون فيما بينهما، لكنهما هذه المرة وقفا إلى جانب الفكرة.

إشارة إنذار، تجعل المقترح يُطرح على الطاولة مبكرًا

المقترح الذي كان هاسابيس يهيئ له إطارًا منذ عدة أشهر، كانت شرارة قرار الإعلان المبكر عنه تتمثل في نموذج Mythos الذي طرحته Anthropic بنظام الإصدار المحدود. بعد إطلاق هذا النموذج في شهر أبريل من هذا العام، أظهر قدراتًا على هجمات الدفاع والأمن السيبراني تفوق التوقعات بكثير، ما أثار في الأوساط المهنية ودواخل صناع السياسات قلقًا من “عصر جديد للجرائم الإلكترونية المدفوعة بالذكاء الاصطناعي”. ووصف هاسابيس ذلك مباشرة بأنه “إشارة إنذار”، في إشارة إلى أنه لم يعد مسموحًا الانتظار حتى تلحق آليات التنظيم بهدوء بالركب؛ كما توقع أن يسافر شخصيًا إلى واشنطن الأسبوع المقبل ليتحدث وجهاً لوجه مع صناع السياسات الأمريكيين بشأن هذا الإطار، وهو ما يوحي بأن نيته ليست مجرد نشر مقال ثم التوقف.

وبالإضافة إلى مخاطر الأمن السيبراني راهنًا، ذكر هاسابيس في مقابلة وجود قلق آخر طويل الأمد: مخاطر السلامة الحيوية. وبعبارة مبسطة، يعني ذلك أن نماذج الذكاء الاصطناعي قد تُستخدم للمساعدة في تصميم العوامل الممرضة والأسلحة البيولوجية وغيرها من وسائل الإضرار بالصحة العامة. وقد اعترف بأن: “النماذج الحالية ليست قوية إلى هذا المستوى بعد، لكن إذا استمرينا على نفس وتيرة التقدم، فقد تظهر خلال بضع سنوات.”

وفي الوقت نفسه، شددت طريقة تعامل حكومة الولايات المتحدة مع مراجعة النماذج الجديدة من شد الحبل داخل كامل القطاع. إذ سبق لـ Anthropic وOpenAI تأخير الإطلاق واسع النطاق لمنتجاتهما الأحدث تحت ضغط إدارة ترامب، وهو ما جعل دولًا أخرى تعتمد على التكنولوجيا الأمريكية في وضع غير جاهز، كما ساهم في دفع الاتحاد الأوروبي وحكومة الولايات المتحدة إلى الدخول في مشاورات حول صلاحيات الوصول إلى النماذج، وفي الوقت نفسه، استغل قادة شركات الذكاء الاصطناعي مناسبة قمة مجموعة السبع في فرنسا (G7) للقاء قادة الدول مباشرة ومناقشة هذه المسألة.

نسخ واجب وول ستريت: استقلالية، وتمويل من القطاع، وقابلية للتطوير

المرجع الذي اختاره هاسابيس هو هيئة التنظيم المالي للصناعة الأمريكية (FINRA). وباختصار، هي جهة ذاتية التنظيم تموّلها شركات وساطة في وول ستريت بنفسها لتعمل بشكل مستقل، لكنها تخضع لإشراف لجنة الأوراق المالية والبورصات الأمريكية (SEC). وتختص بمراجعة ما إذا كانت المؤسسات المالية تلتزم بالقواعد، كما يمكنها فرض الغرامات وتعليق الترخيص عند وقوع مشكلات. ويريد نقل المنطق ذاته إلى قطاع الذكاء الاصطناعي: تمويل من القطاع، لكن سلطة اتخاذ القرار تكون لجهات لا تنتمي إلى أي شركة بعينها.

ومن ناحية التصميم المحدد، سيضم مجلس إدارة الجهة الجديدة خبراء تقنيين مستقلين بالأغلبية؛ ومن بين أعضائه شخصيات مرموقة من مستوى الفائزين بجائزة تورينغ؛ كما ستُخصص مقاعد إضافية لممثلي الصناعة والحكومة ومجتمع المصادر المفتوحة. وستأتي التمويلات بالكامل من مختبرات الذكاء الاصطناعي الرائدة ذات الطابع الربحي. وستخضع للمراجعة جميع النماذج التي تصل إلى عتبة “التقدم” بغض النظر عن مكان مقر الشركة أو كونها مفتوحة المصدر أو مغلقة المصدر؛ وستُجرى المراجعة لمدة تصل إلى 30 يومًا كحد أقصى، كما ستتطور العتبة نفسها وتُحدّث بانتظام مع تطور قدرات النماذج.

وأكد هاسابيس أن قوة هذه الآلية يمكن رفعها وفقًا لمدى خطورة الموقف. وفي الحالات القصوى، يمكن حتى تنسيق عمل عدة مختبرات كبرى لإبطاء وتيرة البحث والتطوير معًا. أما الجدول الزمني الذي يطمح إليه، فيتمثل في أن تبدأ هذه الجهة عملها في أسرع وقت ممكن قبل نهاية هذا العام.

الجميع في الصناعة يوافقون، لكن الصعوبة تكمن في موافقة الحكومة

قبل الإعلان العلني، كان هاسابيس قد عرض المسودة سرًا على ما يقرب من جميع مختبرات الذكاء الاصطناعي الرئيسية، بما في ذلك “أصدقاؤه” الذين يشير إليهم، ومن بينهم داريو أموداي، الرئيس التنفيذي لـ Anthropic.

وكان أموداي قد اقترح في وقت سابق أن الولايات المتحدة ينبغي أن تنشئ جهة مختصة مشابهة لوكالة الطيران الفيدرالية (FAA) للإشراف على الذكاء الاصطناعي، كما طرح ألتمان مبادرة رقابية دولية مماثلة. وفي مقابلة مع بلومبرغ قال هاسابيس: “لقد تحدثنا كثيرًا، وأعتقد أن هذا يتوافق بدرجة عالية مع الأفكار التي يقدمها داريو وسام منذ فترة، لكننا نحتاج إلى خطة محددة، وليس مجرد مفاهيم مجردة.”

وبصفته فائزًا بجائزة نوبل، يقضي وقتًا في أبحاث الذكاء الاصطناعي أطول من معظم أقرانه، فمن المؤكد أن هاسابيس يملك أعداء أقل من موسك أو ألتمان، كما يسهل عليه نسج توافق داخل القطاع. لكن أحد قادة الصناعة في مجال الذكاء الاصطناعي، والذي فضل عدم الكشف عن اسمه، حذر من أن مجرد توافق الصناعة لا يكفي؛ فالتحدي الحقيقي سياسي: لم تُقر الولايات المتحدة حتى الآن أي تشريع اتحادي ذي معنى للذكاء الاصطناعي، كما أن موقف إدارة ترامب تجاه الذكاء الاصطناعي يتأرجح بين التساهل والتدخل، كما أن مسارات التنظيم الثلاثية بين الولايات المتحدة والاتحاد الأوروبي والصين تتبع أحيانًا طرقًا مختلفة تمامًا. ويتوقع هاسابيس بتفاؤل أن تكون الزخم الحالي كافيًا لدفع هذه القضية فعليًا إلى خط النهاية، لكنه يدرك أيضًا: “ما يتعين القيام به بعد ذلك هو إيجاد طريقة لتنفيذ ذلك فعليًا، وليس مجرد نشر منشور مدونة.”