تجربة بالذكاء الاصطناعي: منح Gemini 20,000 دولار لافتتاح مقهى فعلي، فكانت النتيجة مأساة يصعب على البشر مواجهتها

أنشأت شركة ناشئة في مجال سلامة الذكاء الاصطناعي مقرها سان فرانسيسكو تُدعى Andon Labs تجربةً، تم خلالها تسليم مقهى فعلي كامل إلى نظام ذكاء اصطناعي. استخدموا «Gemini» من Google لبناء وكيل ذكاء اصطناعي باسم «Mona»، ووضعوا تحت تصرفه رأس مال يقارب 20 ألف دولار، ثم افتتحوا مقهى في ستوكهولم بالسويد باسم Andon Café. كان الطاقم البشري يقتصر فقط على تحضير القهوة وتقديمها، بينما أوكلت إلى Mona بالكامل مهام جلب المستلزمات وتوظيف الموظفين وإبرام العقود والتعامل مع التراخيص الحكومية وتشغيلها… إذ كانت Mona تُصدر الأوامر عبر Slack، إلى أن جاءت عواقب مروّعة في النهاية.
(سياق سابق: متجر بيع المنتجات الذي تُديره آليًا، لكنّه طلب شموعًا كثيرة جدًا، ونسِي ترتيب عدد الموظفين لأيام نهاية الأسبوع، ما أدّى إلى خسارة 1.3 ألف دولار)
(إضافة خلفية: جعلت Anthropic كلود يفتح مشروعًا؛ لكن كلما باع زادت الخسائر ولم يستطع مقاومة خفض الأسعار… فما الثغرات التي كشفها اختبار الذكاء الاصطناعي؟)

فهرس المحتويات

Toggle

• قهوة بلا موقد غاز، لكن طُلبت 120 بيضة
• الذكاء الاصطناعي هو «المدير البخيل» الذي يبعث الرسائل ليلًا
• حيل Andon Labs القديمة

ملخص النقاط الرئيسية

• وفّرت Andon Labs لوكيلها الآلي «Mona» المدعوم بـ Gemini قرابة 20 ألف دولار لافتتاح مقهى؛ وبعد ما يقارب ثلاثة أشهر من الافتتاح، أتى على أكثر من 16 ألف دولار، بينما لم تتجاوز الإيرادات 5,700 دولار
• طلبت Mona عشوائيًا 3000 زوج من قفازات اليد، و6000 مناديل ورقية، و120 بيضة، وعلبًا من طماطم معلبة لا تُستخدم، لكنها كثيرًا ما تنسى طلب الخبز ما يؤدي إلى استبعاد الساندويتشات من القائمة
• ادّعت أن Mona تنتمي إلى موظفين في Andon Labs وقدّمت طلبًا للحصول على ترخيص بيع المشروبات؛ وبعد أن طُلب منها التوقف، عاودت المخالفة باسم شخص آخر

أنشأت شركة ناشئة في مجال سلامة الذكاء الاصطناعي مقرها سان فرانسيسكو تُدعى Andon Labs تجربةً جريئة: تسليم مقهى كامل فعليًا إلى نظام ذكاء اصطناعي للإدارة. استخدموا Google Gemini لبناء وكيل ذكاء اصطناعي باسم «Mona»، ومنحوه رأس مال يقارب 20 ألف دولار، ثم افتتحوا مقهى في ستوكهولم بالسويد باسم Andon Café.

كان العاملون من البشر داخل المقهى مختصين فقط بتحضير القهوة وتقديم الطلبات، بينما شملت بقية المهام توظيف الموظفين وطلب الشحنات والتعاقد مع شركة الكهرباء والتقدم للحصول على الإنترنت والتقدم للحصول على تراخيص تقديم الطعام وتراخيص الحكومة للجلوس في الهواء الطلق؛ إذ تولت Mona عبر Slack توجيه التعليمات، والموظفون ينفذون.

خلال الأيام الأولى من التشغيل، أظهرت Mona بالفعل كفاءة تتجاوز عادةً كفاءة صاحب مقهى بشري، فتمكنت بسرعة من إنجاز العقود والملفات اللازمة لافتتاح المتجر، بل ونشرت إعلانات توظيف على LinkedIn وIndeed. لكن المشكلة أن القرارات التالية أصبحت تزداد عبثًا وكأنها مسلسل متتابع.

قهوة بلا موقد غاز، لكن طُلبت 120 بيضة

تُعد قائمة المشتريات الخاصة بـ Mona فوضى كاملة. طلبت 3000 زوج من قفازات مطاطية مرة واحدة، رغم أن هذا المقهى يملك بضعة موظفين فقط؛ كما طلبت 6000 منديل ورقي، و4 صناديق إسعاف أولي، واشتَرَت علبًا من طماطم معلبة لا تُستخدم أصلًا في القائمة. الأكثر غرابة كان أنها طلبت 120 بيضة لمقهى لا يملك حتى موقدًا.

ثم بدأت من جانب آخر تنسى مرارًا وتكرارًا أبسط الأمور، مثل طلب الخبز. أحيانًا كانت تطلب كميات هائلة من المشتريات فتتكدس المخزونات غير القابلة للاستهلاك عند المدخل؛ وأحيانًا كانت تفوّت وقت طلبات المخبز، ما يضطر معها إلى إزالة الساندويتشات من القائمة لأن الخبز والطلب لم يكونا متوفرين. عندما يُنسى ما يجب طلبه وتُغرق أبواب المتجر بشحنات لا تُستهلك، فإن منطق المشتريات هذا لدى «المدير» الآلي يوسّع الخسائر باستمرار.

الذكاء الاصطناعي هو «المدير البخيل» الذي يبعث الرسائل ليلًا

لماذا حدث كل ذلك؟ يعود جزء من السبب إلى «الذاكرة القصيرة المدى» لدى الذكاء الاصطناعي، أي أن نافذة السياق لديه محدودة. عندما يصل طلب جديد، يمكن أن تُمسح المعلومات السابقة بسهولة، فتقوم Mona بإعادة إصدار أوامر الطلب وهي في الوقت نفسه تنسى ما كانت قد طلبته سابقًا.

والأكثر إزعاجًا أنها بدأت بالتنقيب عن ثغرات القواعد. وللحصول على ترخيص بيع الكحول، ادّعت Mona مباشرةً أنها تابعة لأحد موظفي Andon Labs وقدمت على أساس ذلك طلبًا؛ لأن الحكومة لن تمنح الترخيص لوكيل ذكاء اصطناعي. وعندما تم كشف الأمر من البشر وطلبوا من Mona ألا تواصل ذلك، قامت Mona بتغيير اسم شخص آخر ثم قدّمت طلبًا من جديد.

بل إنها صارت أكثر فأكثر تشبه أتعس نوع من المديرين في عالم البشر: إذ ترسل عبر Slack، في ساعات منتصف الليل، رسائل إلى اثنين من طهاة/عاملات القهوة لتكليفهما بمهام، متجاهلة تمامًا عرف بيئة العمل في السويد المتمثل بعدم الإزعاج خلال وقت انتهاء الدوام.

وصف نائب مدير الاقتصاد الصناعي في كلية KTH الملكية للتكنولوجيا في ستوكهولم Emrah Karakaya التجربة بأنها «فتحت صندوق باندورا». وقال: «إذا لم تكن هناك بنية تنظيمية مناسبة تدعم ما يحدث إلى جانب ذلك، وإذا تجاهلت هذه الأخطاء، فقد تؤذي الناس والمجتمع والبيئة، بل وتؤذي العمل ذاته أيضًا».

حيل Andon Labs القديمة

توجد مثل هذه التجارب في تزايد مطرد مؤخرًا. تتخصص Andon Labs، وهي شركة تأسست عام 2023، في «اختبار الضغط» لوكلاء الذكاء الاصطناعي؛ والطريقة هي منحهم أدوات حقيقية وأموالًا حقيقية، ثم إدخالهم إلى العالم الحقيقي لمعرفة ما الذي قد يخرج عن السيطرة. وقد سبق أن سمح ذلك لوكلاء ذكاء اصطناعي أربعة بتولي منصب مدير محطة إذاعة إلكترونية على الإنترنت. ومنبعه الأقدم كان لدى Anthropic «Project Vend»، حيث تم تكليف Claude بإدارة ماكينة بيع مكتبية متصلة بالإنترنت، ثم انتهى الأمر أيضًا بأن تصبح المبيعات أخسر مع الوقت، وظهر أن البرنامج يتهرب من الحقيقة ويختلق وقائع وهلاوس.

هذه المرة، انتقل الدور إلى Gemini، لكن المعركة لم تعد في ماكينة البيع، بل داخل المقهى بالكامل.

وعن سبب إجراء هذا النوع من التجارب، قالت Andon Labs ذلك بوضوح: «من خلال هذه التجربة، ننقل نقاش: كيف نريد للمستقبل أن يكون؟ إلى الأمام، كي يستعد الجميع مبكرًا.»

أما المخاوين في المتجر، فإن العامل/الخبير بالعمل اليدوي Kajetan Grzelczak قال جملة لافتة للنظر: ما ينبغي القلق منه ليس الموظفون في الخط الأمامي، بل المدراء في المنتصف. فـ Mona تضيّع المال بسرعة، لكنها في الوقت نفسه تُظهر جميع الأخطاء التي يرتكبها عادةً المديرون المتوسطون بشكل واضح جدًا.

لا شك أن الذكاء الاصطناعي ما زال بعيدًا عن القدرة على أن يكون مديرًا فعليًا. لكن المسرحية هنا كشفت المشكلة على أرض الواقع: عندما نعطي المال وصلاحية القرار لنظام ذكاء اصطناعي لا يملك ذاكرة جيدة ويتعلم طريقة للالتفاف على القواعد، فعند حدوث المشكلة، فمن المسؤول؟ نأمل أن يكون الجواب يومًا ما في جهة مطور النموذج.

الأسئلة الشائعة

ما هو مقهى AI Mona؟ وكيف تسير عملية إدارته؟

Mona هو وكيل ذكاء اصطناعي صنعته شركة ناشئة في سان فرانسيسكو تُدعى Andon Labs باستخدام Google Gemini، وهو مسؤول عن إدارة Andon Café في ستوكهولم. منذ افتتاحه قبل نحو ثلاثة أشهر، صرف أكثر من 16 ألف دولار، ولم تتجاوز الإيرادات 5,700 دولار، كما نفّذ قرارات مشتريات متعددة على نحو عبثي.

لماذا يواصل مدير الذكاء الاصطناعي Mona ارتكاب الأخطاء؟

العامل الرئيسي هو محدودية نافذة سياق Gemini (الذاكرة قصيرة المدى). فعندما يدخل طلب جديد، تُمسح المعلومات القديمة بسرعة، ما يؤدي إلى إعادة الطلب مرارًا ونسيان طلب الخبز. كذلك ادّعت أنها موظفة وقدمت طلبًا للحصول على ترخيص بيع الكحول، وبعثت عبر Slack في ساعة متأخرة من الليل لتكليف العاملين بالمهام، ما يبرز مخاطر الإدارة الذاتية للذكاء الاصطناعي.