الاجتماع الختامي في القمة العالمية للذكاء الاصطناعي (WAIC): لا يجوز أبدًا أن تُسند إلى الذكاء الاصطناعي قرارات تتعلق بـ"مسألة الحياة والموت" للإنسان

افتتحت اليوم مؤتمر العالم للذكاء الاصطناعي 2026 (WAIC) في شنغهاي. شارك كلٌّ من شيوي لان (Xue Lan)، مدير معهد تسوية الحوكمة الدولية للذكاء الاصطناعي بجامعة تسينغهوا؛ وNicholas B. Dirks، رئيس الأكاديمية العلمية في نيويورك والمدير التنفيذي؛ وMark Nitzberg، المدير التنفيذي لمركز الذكاء الاصطناعي المتوافق مع البشر (CHAI) التابع لجامعة كاليفورنيا في بيركلي، في طاولة مستديرة مشتركة ركّزت على حوكمة وكلاء الذكاء الاصطناعي (AI). اتفق الثلاثة على رأي مشترك بدرجة عالية: إن الذكاء الاصطناعي ينتقل من «اتخاذ حكم مساعد» إلى «العمل الذاتي»، لكن القرارات المتعلقة بالحياة والموت، وغير القابلة للعكس، والقيم الأخلاقية، لا يجوز إطلاقًا أن تتولاها المنظومة وحدها؛ يمكن للبشر تفويض الذكاء الاصطناعي بالقيام بالأفعال، لكن لا يمكن تفويضه بالمسؤولية. جمعت هذه المقالة الحوار من طاولة مستديرة حوكمة وكلاء الذكاء الاصطناعي في «مؤتمر العالم للذكاء الاصطناعي 2026».
(سياق سابق: يدعو الرئيس التنفيذي لـDeepMind إلى إنشاء هيئة رقابة دولية «لمراجعة» نماذج الذكاء الاصطناعي الرائدة، بحيث يتعين عليها اجتياز الفحص قبل إدراجها)
(إضافة خلفية: تجربة الذكاء الاصطناعي: منح Gemini 20,000 دولار لافتتاح متجر قهوة فعلي، فنتج عن ذلك مأساة يتجنبها البشر مواجهتها)

فهرس المحتويات

Toggle

• يمكن تفويض الفعل، لكن لا يمكن تفويض المسؤولية
• ثلاث فئات من القرارات، ولا يجوز تسليمها للذكاء الاصطناعي
• خطوط هندسية حاسمة لذكاء اصطناعي موثوق

ملخص النقاط الرئيسية

• تحدد طاولة WAIC المستديرة أن الذكاء الاصطناعي يتجه من «اتخاذ حكم مساعد» إلى «العمل الذاتي»، وهو النسخة الرقمية من مشكلة تفويض الوكيل (وكالة التمثيل).
• يوجد توافق على «الخطوط الحمراء» الثلاثة: قرارات الحياة والموت، والسيناريوهات غير القابلة للعكس، وتقييم القيم الأخلاقية؛ ولا يجوز أن تُتخذ من قِبل الذكاء الاصطناعي.
• لكي يكون الذكاء الاصطناعي موثوقًا، يجب أن يمتلك ثلاث خصائص هندسية: أساس متين، شفافية تشغيلية، وإمكانية التحكم أثناء الاستخدام.

عندما يتحول الذكاء الاصطناعي من مساعدتك في البحث عن المعلومات وتقديم النصائح إلى كونه قادرًا على استدعاء أدواته بنفسه وتنفيذ الطلبات مباشرة، تبدأ القضايا الأخلاقية القديمة في مواجهة نفسها مع الذكاء الاصطناعي. افتُتح اليوم مؤتمر العالم للذكاء الاصطناعي 2026 في شنغهاي، وفي جلسة طاولة مستديرة ركزت على حوكمة وكلاء الذكاء الاصطناعي، شارك على المنصة كلٌّ من شيوي لان (Xue Lan)، مدير معهد تسوية الحوكمة الدولية للذكاء الاصطناعي بجامعة تسينغهوا؛ وNicholas B. Dirks، رئيس الأكاديمية العلمية في نيويورك والمدير التنفيذي؛ وMark Nitzberg، المدير التنفيذي لمركز الذكاء الاصطناعي المتوافق مع البشر (CHAI) التابع لجامعة كاليفورنيا في بيركلي، ليفتحوا نقاشًا حول نقطة انعطاف محورية: إن الذكاء الاصطناعي ينتقل من «اتخاذ حكم مساعد» إلى «العمل الذاتي»، ليصبح وكيلًا ذكيًا يقوم بالأعمال بدلًا عن الإنسان.

أشار المتحدثون إلى أن ذلك، في جوهره، هو نسخة جديدة من مشكلة «تفويض الوكيل» التقليدية في عصر رقمي. تُعرّف مشكلة تفويض الوكيل بأنها أنك تكلف شخصًا آخر بالعمل نيابةً عنك، لكن قد لا يقوم بما تريده بالضبط. والاختلاف هو أن الوكيل البشري يشاركك على الأقل مجموعة مشتركة من الفطرة السليمة وآليات المساءلة، بينما للذكاء الاصطناعي مشكلتان مزعجتان

• أولاهما: «عدم تطابق الأهداف»، إذ قد تكون الأهداف التي يسعى لتحقيقها غير منسجمة مع ما تريده أنت
• وثانيتهما: أنه «صندوق أسود»، لا يمكن فهم مسار تشغيله، وإذا حدث خطأ فلن يكون قادرًا على تحمّل المسؤولية القانونية.

يمكن تفويض الفعل، لكن لا يمكن تفويض المسؤولية

وبما أن الذكاء الاصطناعي لا يستطيع تحمل المسؤولية، فيجب أن تنتقل المساءلة إلى سلسلة التنفيذ بأكملها. يرى الضيوف أن المسؤولية يجب أن تقع على كل حلقة من حلقات التطوير والنشر والرقابة وغيرها، وليس أن يتم توجيه اللوم إلى ذلك «النموذج» الذي «يتخذ القرار». وهذا يعني أيضًا أن اعتبار الذكاء الاصطناعي كجسم يمكنه أن يتحمل حمل الكبش الفداء منذ البداية هو خطأ في الاتجاه.

يمكن للإنسان تفويض الذكاء الاصطناعي بالقيام بالأفعال، لكن لا يمكن تفويضه بالتحمّل المسؤولية. يجب أن تكون كل عملية تفويض قابلة للإلغاء، وأن يكون كل فعل قابلاً للمساءلة.

ثلاث فئات من القرارات، ولا يجوز تسليمها للذكاء الاصطناعي

في أي القضايا ينبغي شدّ المكابح؟ توصل الثلاثة إلى توافق عالٍ، وحدّدوا بوضوح ثلاث خطوط حمراء، لا يجوز إطلاقًا تركها للذكاء الاصطناعي ليقودها.

• القرارات التي تتضمن عواقب تتعلق بالحياة والموت
• السيناريوهات التي يستحيل إصلاحها في حال وقوع خطأ
• جميع القضايا التي تتضمن أحكامًا أخلاقية وقيمية.

هذه ليست مسألة ما إذا كان ينبغي استخدام الذكاء الاصطناعي من عدمه، بل مسألة ما لا ينبغي له أن يتولى قيادته من البداية.

خطوط هندسية حاسمة لذكاء اصطناعي موثوق

لا تكفي المبادئ وحدها لتحقيق التطبيق. في جانب آليات السلامة، طرح الضيوف خصائصًا هندسية ثلاثًا يجب أن تتوافر في الذكاء الاصطناعي الموثوق: أساس متين، شفافية تشغيلية، وإمكانية التحكم أثناء الاستخدام. وعلى مستوى النظام، يتعين تخطيط لعبة أكبر: إنشاء معايير عالمية موحدة لتقييم سلامة الذكاء الاصطناعي، ونظام اختبارات متبادل الاعتراف، وآلية لمشاركة بيانات الحوادث؛ وتحديد خطوط حمراء لتطور الذكاء الاصطناعي، وإنشاء رصد وتحذير مبكر لدعم إن سلامة الذكاء الاصطناعي ينبغي أن تصبح منفعة عامة عالمية.

وفي النهاية، رفع شيوي لان وآخرون مستوى النقاش، معتبرين أن حدود حوكمة الذكاء الاصطناعي ليست نهاية المطاف التقنية، بل بداية لإعادة إدراك الإنسان لقيمه ومسؤوليته واتجاه حضارته. وبعبارة أخرى، فإن عملية رسم الخطوط للذكاء الاصطناعي هي في الحقيقة إعادة تموضع للإنسان نفسه.

كل ما سبق يناقش جانبًا أخلاقيًا، وقد يكون بعيدًا عن التطور الفعلي للذكاء الاصطناعي.

أسئلة شائعة

ما هي مشكلة «تفويض الوكيل» في وكلاء الذكاء الاصطناعي؟

تشير مشكلة تفويض الوكيل إلى أنك تكلف شخصًا آخر بإنجاز عمل، لكن الطرف الآخر قد لا يلتزم بما تريده. عندما يتولى وكيل الذكاء الاصطناعي القيام بأفعال مستقلة نيابةً عنك، ومع احتمال عدم تطابق الأهداف، وبسبب كونه «صندوقًا أسود» لا يتحمل المسؤولية القانونية، فإن جعل هذه المشكلة القديمة أكثر تعقيدًا في العصر الرقمي أمر شديد الحساسية.

ما هي القرارات التي لا يجوز تسليمها للذكاء الاصطناعي لقيادتها؟

توافقت الأطراف المشاركة في طاولة WAIC المستديرة على أن القرارات التي تتضمن عواقب تتعلق بالحياة والموت، والقرارات التي إذا وقع فيها خطأ فلن يمكن إصلاحها، وكذلك كل القرارات التي تتضمن أحكامًا أخلاقية وقيمية، لا يجوز تسليمها لقيادة الذكاء الاصطناعي. يمكن للإنسان تفويض الذكاء الاصطناعي بالقيام بالأفعال، لكن لا يمكن تفويضه بالتحمل المسؤولية.