جلسة مستديرة لـ WAIC 2026: لا ينبغي أبدًا تفويض قرارات ترتبط بالحياة والموت إلى الذكاء الاصطناعي؛ يمكن للبشر تفويض اتخاذ الإجراءات لكن لا يمكنهم تفويض المسؤولية

وفق رصد Beating من «动察»، أجرى تشو لاني (Xuelan) مدير معهد تسينغهوا للحوكمة الدولية للذكاء الاصطناعي، ونيكولاس بي ديركس (Nicholas B. Dirks) رئيس أكاديمية نيويورك والمدير التنفيذي، ومارك نيتزبرغ (Mark Nitzberg) المدير التنفيذي لمركز الذكاء الاصطناعي المتوافق مع البشر التابع لمختبر أبحاث الذكاء الاصطناعي بجامعة كاليفورنيا بيركلي، حوارًا طاولة مستديرة في مؤتمر 2026 العالمي للذكاء الاصطناعي، ناقشوا فيه حوكمة وكلاء الذكاء الاصطناعي. وأشار الضيوف إلى أن الذكاء الاصطناعي يتحول من «اتخاذ المساعدة في الحكم» إلى «العمل الذاتي»، بوصفه وكلاء يمكنهم القيام بالأعمال بدلًا عن البشر، وهو ما يمثّل تجسيدًا جديدًا لمشكلة الوكالة التقليدية في العصر الرقمي. وبخلاف الوكلاء من البشر، يواجه الذكاء الاصطناعي مشكلة عدم توافق الأهداف، ولا يمكنه تحمّل المسؤولية القانونية بوصفه «صندوقًا أسود»، ومن ثم يجب أن تتحول آليات المساءلة إلى سلسلة التنفيذ كاملة، مثل المطورين، والمشغّلين، والجهات التنظيمية.

توصل الضيوف إلى توافق عالٍ في الرأي: لا ينبغي أبدًا أن تُسند إلى الذكاء الاصطناعي قرارات تتضمن نتائج تتعلق بالحياة أو الموت، أو سيناريوهات لا يمكن إصلاحها إذا وقع خطأ، أو أي مسائل تمس الأخلاقيات وتقييم القيم. يمكن للإنسان أن يفوّض للذكاء الاصطناعي القيام بالعمل، لكن لا يمكنه أن يفوّض له تحمّل المسؤولية. يجب أن تكون كل عملية تفويض قابلة للإلغاء، وأن تكون كل عملية تنفيذ قابلة للمساءلة، بحيث لا يتجاوز معدل تسليم وكالة الوكيل سرعة التحقق من قدرة الذكاء الاصطناعي لدى البشر.

وعلى مستوى آليات السلامة، اقترح الضيوف أن يستوفي بناء الذكاء الاصطناعي الموثوق ثلاث خصائص هندسية: أساس متين، وشفافية تشغيلية، وإمكانية التحكم أثناء الاستخدام. وعلى مستوى بناء الأطر المؤسسية، يلزم إنشاء معايير عالمية موحدة لتقييم أمان الذكاء الاصطناعي، ونظام اختبارات قابلة للاعتراف المتبادل، وآلية لمشاركة بيانات الحوادث، مع تحديد خطوط حمراء لتطور الذكاء الاصطناعي، وإقامة آليات رصد وإنذار مبكر، بما يدفع إلى أن يصبح أمان الذكاء الاصطناعي منتجًا عامًا عالميًا. ليست حدود حوكمة الذكاء الاصطناعي نهايةً تكنولوجية، بل هي نقطة انطلاق لإعادة البشر فهم قيمهم ومسؤولياتهم واتجاه حضارتهم.

اضغط على رابط النص الأصلي أدناه، وانضم إلى قناة «动察 Beating · 飞书 AI» للأخبار، عبر مراقبة متواصلة على مدار 7×24 ساعة دون انقطاع لأبرز اهتمامات الذكاء الاصطناعي عالميًا والأخبار.