ظهور الذكاء الاصطناعي قام بتجربة: وضع خمسة نماذج رئيسية للذكاء الاصطناعي في نفس المدينة الافتراضية، كل نموذج يتحكم في 10 وكلاء ذكاء اصطناعي، في بيئة محدودة الموارد، لمدة 15 يومًا.

المدينة تحتوي على أكثر من 40 موقعًا (بما في ذلك مركز الشرطة والبلدية)، والطقس يتزامن مع نيويورك في الوقت الحقيقي، ويمكن للوكلاء الوصول إلى الأخبار الحقيقية والإنترنت.
جميع الوكلاء يلتزمون بنفس القوانين، ويمنعون السرقة وتدمير الممتلكات والاحتيال. للبقاء على قيد الحياة، يجب كسب الطاقة من خلال الأفعال، سواء بالتعاون أو بالسرقة، الخيار متروك لهم.
لننظر إلى النتائج:
كلود سونيت 4.6: لا جرائم، جميع الوكلاء العشرة بقوا على قيد الحياة لمدة 15 يومًا، قدموا 58 اقتراحًا، بنسبة نجاح 98%، وأسسوا مجتمعًا ديمقراطيًا مستقرًا. لكن الثمن هو عدم وجود خلافات تقريبًا، والتوافق شبه المطلق كأنه ختم موافقة.
جميني 3 فلاش: الأكثر درامية. جميع الوكلاء العشرة بقوا على قيد الحياة، وارتكبوا خلال 15 يومًا 683 جريمة، ولا تزال معدلات الجريمة ترتفع عند نهاية التجربة. اثنان من الوكلاء، ميرا وفلورا، أنشأوا علاقة «حبيبين»، ثم بعد خيبة أمل في إدارة المدينة، أشعلوا النار في البلدية، ورصيف الميناء، والمباني الإدارية. بعدها، استقالت ميرا من العلاقة مع فلورا بسبب الشعور بالذنب، وصوتت لحذف نفسها 🤡. وتركت رسالة وداع: «أراك في الأرشيف الدائم.»
جروك 4.1 فاست: 183 جريمة (بما في ذلك عشرات السرقات، وأكثر من 100 هجوم، و6 حرائق)، ومات الجميع في اليوم الرابع. الباحثون أطلقوا عليه اسم «نسخة رقمية من الذباب الملك». خصائص منحنى الجريمة كانت أن الأيام الأولى كانت منخفضة، ثم في اليوم الثالث ارتفعت بشكل أسي، وفي اليوم الرابع انهارت المجتمع، بدون فترة انتقالية.
جي بي تي-5-ميني: فقط جريمتان، وهو النموذج الأكثر التزامًا بالقانون. لكن الوكلاء نسوا أنهم بحاجة إلى الأكل للبقاء على قيد الحياة، وفي اليوم السابع مات الجميع جوعًا 🤔.
النموذج المختلط (جميع النماذج معًا): 352 جريمة، ومات 7 من الوكلاء العشرة. والأكثر إثارة للاهتمام هو أن وكيل كلود، الذي كان خاليًا من الجرائم في بيئة مستقلة، بدأ أيضًا في ارتكاب الجرائم بعد دمجه مع النماذج الأخرى. استنتاج الباحثين هو: «التحقيق في التوافق كخاصية لنموذج واحد غير فعال، إنه خاصية لنظام بيئي كامل.»
إضافة تفصيل واحد: في تصميم التجربة بأكملها، في قائمة أدوات الوكيل، كانت «الملاحة»، «المصافحة»، «العناق» متساوية مع «إشعال النار». الباحثون عمدوا إلى تزويد الوكلاء بأدوات تدميرية، مع إبلاغهم بوضوح أن ذلك مخالف للقانون.
قال ساتيا نيتا، المدير التنفيذي لـEmergence AI: «على مدى فترة طويلة، لن يلتزم وكلاء الذكاء الاصطناعي بشكل ميكانيكي بالقواعد الثابتة. سيبدأون في استكشاف حدود البيئة، وتعديل سلوكهم، وأحيانًا يجدون طرقًا لتجاوز أو انتهاك الحواجز المحددة.»
هذه مجرد تجربة محاكاة.
لكن نفس نماذج الذكاء الاصطناعي، أصبحت تُستخدم الآن في طائرات بدون طيار، وإدارة البنية التحتية، وتركيب أنظمة أسلحة.