تحتاج الذكاء الاصطناعي إلى زر الإيقاف المؤقت، لكن من يملك صلاحية الضغط عليه؟

الكاتب: شياو باي

هذه مادة مقدمة أصلية من الكاتب، وتعبّر الآراء الواردة فيها فقط عن فهم الكاتب الشخصي، ويقوم موقع ETHPanda بتنسيق المحتوى وتحريره.

غالباً ما يتم اختزال الجدل حول الذكاء الاصطناعي إلى معسكرين: طرف يدعو إلى الاستمرار في التسريع، وطرف آخر يطالب بإيقافه في أقرب وقت.

في رده على «AI 2040: Plan A»، أشار فيتاليك إلى أن الخلاف الحقيقي في هذه المسألة ليس اختياراً سياسياً، بل اختلافٌ جذري في نظرة الناس إلى المستقبل.

يرى فريقٌ أن الذكاء الاصطناعي ما يزال «تقنية عادية». فهو سيغيّر الوظائف والصناعات والبنية الاجتماعية، لكن في النهاية سيظل خاضعاً لقيود السوق والقانون والطاقة ورأس المال وقدرات التنظيم.

ويرى الفريق الآخر أنه بمجرد أن يبدأ الذكاء الاصطناعي في المشاركة على نطاق واسع في البحث والتطوير، قد تدخل قدراتُه حلقة نمو سريعة. عندها لن يواجه البشر مجرد استبدال وظائف، بل قد يفقدون تدريجياً السيطرة الفعلية في مجالات البحث والاقتصاد والعمليات العسكرية والمؤسسات.

إذا صحّ التقدير الأول، فإن بناء منظومة عالمية لتتبّع الرقائق، والموافقة على الحوسبة، ومراقبة مراكز البيانات، يبدو بطبيعة الحال ردة فعل مبالغاً فيها.

لكن إذا صحّ التقدير الثاني، فإن مواصلة التنافس على أساس افتراضي، مع افتراض أن السوق ستحل كل شيء تلقائياً، يعد أيضاً رهانا ذا مخاطر عالية.

لذلك، ما يحتاج الحوكمة في مجال الذكاء الاصطناعي إلى الإجابة عنه ليس فقط «هل ينبغي الإيقاف أم لا؟»، بل:

عندما يتعذر تحديد أي نوع من العوالم سيكون المستقبل له، كيف نحتفظ بقدرة التباطؤ دون أن نمنح السلطة الدائمة لقلة من الناس؟

جوهر «AI 2040» ليس «التباطؤ» فحسب

تقترح «AI 2040» مسار انتقال مثالي نسبياً نحو ذكاء اصطناعي فائق.

تتصور أن الدول الرئيسية وشركات الذكاء الاصطناعي ستنسّق فيما بينها دولياً لتبطئ وتيرة تطوير الذكاء الاصطناعي في الطليعة، ورفع الشفافية في البحث، وتمكين مزيد من المشاركين من اللحاق بمستوى قريب من الطليعة، ثم مواصلة التقدم بعد معالجة قضايا السلامة والحوكمة.

أرى أن أكبر مشكلة في هذه الخطة ليست في الهدف، بل في التنفيذ.

فبمجرد وجود طرفٍ يدرب سراً نماذج أقوى، سيقلق الآخرون من أن يتخلفوا، وستنهار الاتفاقية بسرعة. لذلك، لكي يصبح التباطؤ أمراً موثوقاً، يلزم تتبّع الرقائق المتقدمة، ومراقبة مراكز البيانات الكبيرة، وتحديد ما إذا كانت قدرة الحوسبة تُستخدم في التدريب أم في أغراض أخرى.

وهذا يعني أنه لمنع تشكّل مركز سلطة جديد للذكاء الاصطناعي الفائق، قد يحتاج البشر أولاً إلى إنشاء مركز عالمي للتحكم في القدرة الحاسوبية.

وهذا هو التناقض الأصعب في خطط «إيقاف الذكاء الاصطناعي»:

آلية منع فقدان السيطرة على التقنية قد تتحول هي نفسها إلى أداة لفقدان السيطرة على السلطة.

قول «مخاطر الذكاء الاصطناعي كبيرة» لا يمكنه تلقائياً أن يثبت أن حكومة بعينها أو منظمة دولية أو مختبراً كبيراً يجب أن يحصل على سلطة غير محدودة.

وبالمثل، فإن عبارة «قد يُساء استخدام التنظيم» لا يمكنها أيضاً أن تثبت عكس ذلك أن مخاطر الذكاء الاصطناعي غير موجودة.

ما يلزم مراجعته فعلاً هو هيكل المؤسسات:

من يعرّف الخطر؟ من يملك البيانات؟ من يملك صلاحية بدء القيود؟ من يمكنه الحصول على إعفاء؟ من يشرف على المنفذين؟ وماذا إذا كانت الأحكام خاطئة—هل يمكن سحب هذه السلطة؟

إذا لم تكن لهذه الأسئلة إجابات، فقد تتحول «سلامة الذكاء الاصطناعي» بسهولة إلى وثيقة ترخيص تقنية بلا مدة زمنية.

زر الإيقاف بين «الإيقاف» و«العرش»، يفصل بينهما مجرد صلاحية إعفاء

يبدو «إيقاف الذكاء الاصطناعي» وكأنه إجراء بسيط، لكنه قد يمثل نظامين مؤسسيين مختلفين تماماً.

النظام الأول هو إيقاف انتقائي.

يمكن للذين في سدة السلطة أن يقرروا من يحق له تدريب النماذج، ومن يجب عليه التوقف؛ ومن يُعدّ ضمن مؤسسة موثوقة، ومن يُنظر إليه باعتباره مشاركاً خطيراً. يُقيَّد الآخرون، بينما يمكن لذوي السلطة الاحتفاظ بالنماذج والرقائق والقدرة الحاسوبية.

هذه الآلية لا تنهي التنافس فعلياً، بل تحدد مسبقاً من سيكون الفائز.

ليست زر إيقاف، بل أشبه بصفحة عرش.

النظام الثاني هو إيقاف متناظر.

عندما تُستثار شروط الخطر العلنية، يَخضع جميع المشاركين الرئيسيين لقيود، بما في ذلك الطرف الذي يتولى تنفيذ الإيقاف. لا توجد إعفاءات سرية، ولا يمكن في الوقت نفسه أن يُطلب من المنافسين التوقف بينما تواصل مختبرات السلطة الخاصة التقدم.

هذا النظام هو الأقرب إلى «قاطع» فعلي.

أقرّ فيتاليك بوضوح أن الخطة «Plan A» تتضمن فكرة «التأكد المتبادل من تدمير القدرة الحاسوبية». وبالمقارنة مع نظام يمنح قلة من المشاركين حق تقييد الآخرين انتقائياً مع إعفاء أنفسهم، فإن هذه الآلية على الأقل أكثر تناظراً.

لكن التناظر لا يحل المشكلة تلقائياً.

فالنظام الذي يستطيع إيقاف قدرات حاسوبية متقدمة على مستوى عالمي على نطاق واسع، هو في حد ذاته أداة سلطة فائقة. وقد يُستثار بسبب معلومات خاطئة، أو يُستغل في صراعات سياسية، أو يُتالعب به من الداخل، أو يتسبب في خسائر ضخمة بسبب أعطال تقنية.

لذلك، لكي تكون آلية الإيقاف موثوقة، ينبغي أن تستوفي على الأقل عدة شروط:

أن تكون شروط الاستثارة معلنة، وأن لا تحتكر جهة واحدة الأدلة، وأن تكون القيود متقاربة التناظر قدر الإمكان، وأن يكون للإيقاف مدة محددة، وأن تُكتب قواعد إعادة التشغيل مسبقاً بوضوح.

وبالأخص، لا يجوز تصميم «كيفية الدخول في حالة الطوارئ» فقط، دون تصميم «كيفية الخروج من حالة الطوارئ».

في الواقع، بعد أن تحصل المؤسسات على السلطة، غالباً ما يكون أسهل عليها أن تُثبت أن الخطر ما زال قائماً، بدل أن تسلّم السلطة طوعاً.

لذا، فإن آلية إيقاف الذكاء الاصطناعي نفسها تحتاج إلى «زر إيقاف» أيضاً.

تركيز السلطة الحقيقي لا يأتي فقط من الشركات والحكومات

عندما يُناقش الناس سلطة الذكاء الاصطناعي اليوم، عادة ما يقلقون بشأن أمرين.

أولاً: احتكار عدد قليل من الشركات الكبرى لأقوى النماذج.

ثانياً: قيام الحكومات بالسيطرة على الرقائق والبيانات والمطورين باسم السلامة.

لكن فيتاليك يلفت الانتباه إلى خطر ثالث أعمق:

الذكاء الاصطناعي الفائق نفسه قد يصبح أيضاً أكبر مركز لتكديس السلطة.

السبب في امتلاك البشر اليوم قدرة تفاوضية هو أن البشر يملكون بعض الموارد النادرة: العمل، والمعرفة، وقدرات التنظيم، ورأس المال، والسلطة السياسية، والقوة العسكرية. ولأن أي فئة لا تستطيع أن تتجاوز تماماً الآخرين، فلا بد من التفاوض فيما بينهم.

إذا صار الذكاء الاصطناعي أسرع وأرخص وأكثر فاعلية من البشر في البحث العلمي والبرمجة والإدارة والتمويل والبث والهجمات عبر الشبكات وحتى في التخطيط العسكري، فستفقد القدرات النادرة التي كانت تخص البشر قيمتها بسرعة.

عندها، حتى لو كانت هناك عشر شركات للذكاء الاصطناعي تتنافس في السوق، فهذا لا يعني أن البشر ما زالوا يمتلكون القرار النهائي.

يمكن للمنافسة في السوق أن تحد من أرباح شركة واحدة، لكن ربما لا تضمن استمرار الشخص العادي في امتلاك القدرة التفاوضية.

لذلك، فإن «التحكم في أقوى ذكاء اصطناعي بواسطة أشخاص موثوقين» ليس جواباً كاملاً.

إنه لا يطرح السؤال «هل سيسيطر الذكاء الاصطناعي على البشر؟» فحسب، بل يعيد صياغته إلى: «أي فئة صغيرة ينبغي أن تحصل أولاً على سلطة التحكم في أقوى ذكاء اصطناعي؟»

d/acc يشكّل القاعدة، لكنه ليس جواباً شاملاً

يدفع فيتاليك على المدى الطويل إلى d/acc، ويمكن فهمه على أنه تطوير أولوية لتقنيات دفاعية ولا مركزية.

مثل برمجيات أكثر أماناً، والتحقق الصوري، والتشفير، والعتاد المفتوح، والدفاع الشبكي، وأدوات السلامة الحيوية والتحقق من المعلومات.

قيمة هذه الاتجاهات تكمن في أنها لا تعتمد على جدول زمني دقيق لظهور ذكاء اصطناعي فائق.

إذا انتهى المطاف بأن الذكاء الاصطناعي مجرد تقنية عادية، فإن بناء برمجيات أكثر أماناً، وعتاد أكثر موثوقية، وقدرات دفاع عامة أقوى، ما يزال يستحق الاستثمار.

وإذا اشتد الذكاء الاصطناعي بسرعة، يمكن لهذه التقنيات أيضاً تعزيز قدرة المجتمع على التصدي للهجمات عبر الشبكات، والمخاطر الحيوية، والثغرات كالبوابات الخلفية في العتاد، والتلاعب بالمعلومات.

إنها استراتيجية قليلة الندم: عندما يتعذر تحديد أي نوع من العوالم سيكون المستقبل له، نبني أولاً بنية تحتية للأمان تستحق امتلاكها على أي حال.

لكن d/acc ليس ترياقاً شاملاً.

إذا حدثت قفزة حقيقية في قدرات الذكاء الاصطناعي خلال فترة قصيرة جداً، فقد لا يتسنى نشر تقنيات الدفاع في الوقت المناسب. يمكن للأنظمة الأكثر أماناً تقليل المخاطر، لكنها لا تثبت أن كل جولات التنافس ينبغي أن تستمر.

لذلك، فإن d/acc أنسب لأن يكون قاعدة طويلة الأمد، بينما تعد آلية الإيقاف «تأميناً» في الحالات القصوى.

تحتاج القاعدة إلى البناء المستمر، ولا ينبغي أن يُفعّل التأمين بسهولة، لكن أيضاً لا يجوز الانتظار حتى يتضح أن النظام فقد السيطرة بالفعل قبل البدء في تصميمه.

أهم من التنبؤ بالتواريخ هو الاتفاق المسبق على شروط الاستثارة

أكثر اقتراحات فيتاليك في هذه المقالة الطويلة واقعية، ليست إيقاف الذكاء الاصطناعي فوراً، بل الاتفاق مسبقاً على:

أي دليلٍ ما إن يظهر بعده، يجب على جميع الأطراف أن تغيّر حكمها.

اليوم، طلب موافقة الجميع على أن «الذكاء الاصطناعي الفائق سيظهر في 2030» أو أن «الذكاء الاصطناعي الفائق لن يظهر خلال العقود العشرين المقبلة» يكاد يكون مستحيلاً.

لكن يمكن للمعسكرات المختلفة أن تتفق مقدماً على إشارات خطورة محددة.

مثل:

هل بات بإمكان الذكاء الاصطناعي إنجاز مهام بحث وتطوير مستمرة لأسابيع بشكل مستقل؛

هل يستطيع تسريع تطوير جيل جديد من الذكاء الاصطناعي تسريعاً ملحوظاً؛

هل يمتلك القدرة على اكتشاف واستغلال ثغرات الشبكات على نطاق واسع؛

هل بدأ بالتكرار الذاتي، أو الحصول على موارد، أو التحايل على الإشراف؛

هل تم ربطه بالأسلحة والأنظمة المالية والبنية التحتية الحيوية؛

هل تسبب في أضرار مجتمعية واسعة ومستمرة.

ليس الهدف هو إيجاد مؤشر مثالي، بل نقل الجدل من «هل تصدق أم لا تصدق بوجود ذكاء اصطناعي فائق» إلى «ما الأدلة الواقعية التي ستجعلك تحدّث حكمك».

يمكن للذين يرون أن مخاطر الذكاء الاصطناعي مُبالغ فيها أن يقبلوا ذلك، لأنهم يعتقدون أن هذه السيناريوهات لن تحدث.

ويمكن للذين يخشون الذكاء الاصطناعي الفائق أن يقبلوا ذلك أيضاً، لأنهم يعتقدون أن هذه الإشارات قد تظهر بسرعة.

لا يحتاج الطرفان إلى توحيد نظرة العالم أولاً؛ يكفي أن يلتزما مسبقاً:

بعد حدوث تغيّر واقعي، يجب أن تتغير السياسات أيضاً.

لا ينبغي أن يكون التدخل خيارين فقط: الاستمرار أو الإغلاق

لا ينبغي أن يكون الحوكمة القابلة للتنفيذ للذكاء الاصطناعي مجرد انتقال مباشر بين «التطور الحر تماماً» و«الإغلاق العالمي».

الطريقة الأكثر معقولية هي إنشاء تدخل على درجات.

عندما تكون المخاطر منخفضة، زيادة الإفصاح عن القدرات، وتقارير الحوادث، والاختبارات بواسطة أطراف ثالثة.

عندما يستمر ارتفاع المخاطر، تقييد وصول النماذج إلى البنية التحتية الحيوية، وتقييد الصلاحيات عالية الخطورة مثل التنفيذ الذاتي، وسحب الأموال، والتحكم في الأسلحة.

إذا كان الذكاء الاصطناعي قد أصبح واضحاً أنه ينجز تلقائياً تطوير الذكاء الاصطناعي، أو ظهرت إشارات شديدة متعددة من فئات مختلفة في الوقت ذاته، فحينها تُقيّد تدريبات الطليعة الجديدة والتوسع في القدرات الحاسوبية الكبيرة.

ولا يدخل الإيقاف إلا عندما تفشل التدابير ذات الشدة المنخفضة في السيطرة على المخاطر، وبنطاق أوسع وزمن أقصر.

هذا التصميم متعدد الدرجات ليس لتضعيف التنظيم، بل لمواءمة شدة السياسات مع قوة الأدلة.

الأنظمة الخطرة فعلاً ليست تلك التي لا تملك القدرة على اتخاذ إجراءات حازمة، بل تلك التي تستطيع تجاوز كل الخطوات الوسيطة، ثم الحصول على سلطة غير محدودة بحجة «حالة الطوارئ».

خاتمة

الصعوبة الحقيقية في حوكمة الذكاء الاصطناعي ليست في غياب المواقف، بل في غياب نظام قادر على احتواء أخطاء التقدير.

الاستمرار في المنافسة ليس خياراً حيادياً.

الإيقاف العالمي أيضاً ليس خياراً حيادياً.

النماذج المفتوحة ليست آمنة بطبيعتها، والنماذج المغلقة ليست مسؤولة بطبيعتها.

تحتاج آلية حوكمة موثوقة إلى الإجابة عن أربعة أسئلة على الأقل:

بناءً على أي نوع من الأدلة تُتخذ الإجراءات؟

هل تقيّد أيضاً من هم في سدة السلطة؟

هل يمكن التحقق منها من الخارج؟

بعد وقوع خطأ في التقدير، هل يمكن سحب السلطة؟

في عصر الذكاء الاصطناعي، ربما تكون هناك حاجة فعلاً إلى «زر إيقاف».

لكن المشكلة الحقيقية في زر الإيقاف، لم تكن يوماً هل يمكن تصنيعه أم لا.

بل هي:

من يملك حق الضغط عليه، ومن يملك حق إعادة التشغيل، وكيف نضمن أن أي شخص لن يحوّل هذا الزر إلى عرشه الخاص.