وكلاء الذكاء الاصطناعي للمؤسسات يحتاجون إلى اختبارات التحمل، لا إلى عروض البيع

_أبهيشيك ساكسينا، رئيس الاستراتيجية والنمو في شركة سينتنت.*

قطاع التكنولوجيا المالية يتسارع. الأخبار في كل مكان، والوضوح نادر.

نشرة فنتك ويكلي تقدم لك القصص والأحداث الرئيسية في مكان واحد.

انقر هنا للاشتراك في النشرة البريدية لفنتك ويكلي

يقرؤها مسؤولون تنفيذيون من جي بي مورغان، كوينبيس، بلاك روك، كلارنا وغيرهم.

الذكاء الاصطناعي المؤسسي يعاني من أزمة ثقة لا يمكن لأي قدر من التسويق حلها. بدأت الشركات في نشر وكلاء مستقلين في بيئات إنتاجية حيث يمكن لقرار واحد خاطئ أن يتسبب في انتهاك للامتثال، أو فشل في الدفع، أو خطأ تداول، أو خسارة مالية، أو أزمة سمعة. ومع ذلك، لا يزال المعيار السائد في الصناعة لتقييم ما إذا كان الوكيل جاهزًا للإنتاج هو، في الواقع، مجرد عرض توضيحي يبدو مثيرًا للإعجاب على المنصة.

إطلاق Nvidia لـ NemoClaw هذا الأسبوع يشير إلى مدى سرعة انتقال الوكلاء المستقلين من التجارب إلى سير العمل المؤسسي. تضيف المنصة ضوابط أمان وخصوصية مهمة، بما في ذلك العزل (sandboxing) وحواجز الحماية السياساتية. لكن النشر الآمن ليس هو نفسه الجاهزية للإنتاج. السؤال الأصعب هو ما إذا كانت هذه الأنظمة قد اختبرت لتعمل بشكل موثوق تحت الغموض والحالات الحدية والضغوط التنظيمية.

بناء وكيل يمكنه إكمال مهمة في بيئة خاضعة للرقابة هو أمر بسيط نسبيًا. لكن بناء وكيل يمكنه التعامل مع الغموض، والتعافي من المدخلات غير المتوقعة، والحفاظ على الاتساق عبر آلاف التفاعلات المتزامنة، والقيام بكل هذا دون انتهاك القيود التنظيمية، هو مشكلة هندسية مختلفة تمامًا.

هذا الاختلاف هو المكان الذي تواجه فيه العديد من عمليات النشر المؤسسي مشاكل. الفجوة بين أداء العرض التوضيحي وموثوقية الإنتاج أوسع مما يتوقعه معظم الفرق.

قد يتعامل وكيل مع استفسار دعم العملاء بشكل مثالي في الاختبار، لكنه يهلوس بسياسة استرداد غير موجودة عندما يواجه حالة حدية لم يرها من قبل. قد يؤدي وكيل يدير سير عمل مالي أداءً مثاليًا على البيانات التاريخية، لكنه يتخذ قرارات كارثية عندما تتغير ظروف السوق خارج نطاق تدريبه. قد ينجح وكيل لوجستي ينسق سلسلة توريد في المحاكاة، لكنه يعاني عندما تبدأ التأخيرات والإشارات المتضاربة في العالم الحقيقي في التراكم.

أي شخص قام بتشغيل وكلاء عبر بيئات اختبار عدائية سيتعرف على هذه الأنماط بسرعة. تعمل الأنظمة - حتى تواجه نوع الغموض والضغط الذي يحدد العمليات الحقيقية.

لهذا السبب، فإن التركيز الحالي للصناعة على بناء أُطر عمل أكثر للوكلاء يغفل جزءًا حاسمًا من اللغز. العائق الحقيقي ليس مدى سرعة الشركات في إنشاء وكلاء. بل هو مدى ثقتها في تقييمهم قبل أن يُمنح هؤلاء الوكلاء مسؤولية حقيقية.

ما يحتاجه الذكاء الاصطناعي المؤسسي هو بنية تحتية صارمة ومنهجية لاختبار الإجهاد مصممة خصيصًا للأنظمة المستقلة. هذا يعني إدخال المدخلات التي تكسر الوكلاء في الإنتاج بشكل متعمد. يعني تقييم كيفية تصرف الوكلاء تحت عدم اليقين، والمعلومات المتضاربة، والحالات الحدية التي لا تظهر في مجموعات البيانات المعيارية النظيفة. ويعني التقييم المستمر، وليس اختبارًا لمرة واحدة قبل الإطلاق.

النهج مفتوح المصدر لـ NemoClaw هو خطوة في الاتجاه الصحيح لأنه يمنح المطورين رؤية لكيفية عمل الوكلاء. لا يمكنك اختبار صندوق أسود بشكل صحيح. لكن الرؤية وحدها لا تكفي. تحتاج البنية التحتية للاختبار نفسها إلى التطور جنبًا إلى جنب مع الأنظمة التي تقيمها.

يجب أن يفترض تطوير الوكيل أن أنماط الفشل حتمية ويجب الكشف عنها مبكرًا. الهدف ليس إثبات أن الوكيل يعمل مرة واحدة، بل فهم كيف يتصرف عندما تصبح الظروف غير متوقعة. هذه العقلية تغير طريقة تقييم الوكلاء، وكيفية تصميم حواجز الحماية، وكيفية إعداد الأنظمة للنشر في بيئات عالية المخاطر.

ستزداد المخاطر فقط مع انتقال الوكلاء من المهام المنعزلة إلى سير العمل الشامل. تستكشف المؤسسات بالفعل وكلاء يتفاوضون على العقود، وينفذون المعاملات المالية، وينسقون سلاسل التوريد، ويديرون عمليات تشغيلية معقدة. عندما تعمل هذه الأنظمة عبر نقاط قرار متعددة، يمكن أن يتصاعد تأثير خطأ واحد بسرعة.

وكيل دعم العملاء الذي يفشل يخسر تذكرة. وكيل مالي يفشل يمكن أن يفقد رأس المال. وكيل تشغيلي يفشل يمكن أن يؤخر خط إنتاج كامل.
الشركات التي ستنجح في النهاية مع الذكاء الاصطناعي المؤسسي لن تكون تلك التي نشرت الوكلاء أولاً. بل ستكون تلك التي نشرت وكلاء يمكنها الوثوق بهم فعليًا.

الثقة ليست ميزة تضاف في نهاية التطوير. إنها نظام هندسي - يبدأ بكيفية اختبار الأنظمة، وكيفية تقييم سلوكها تحت الضغط، وكيفية فهم أنماط فشلها قبل وقت طويل من ملامسة أي حمل إنتاجي.

تقدم Nvidia للشركات أدوات قوية لبناء وكلاء مستقلين. السؤال الأصعب - والذي سيحدد ما إذا كانت هذه الأنظمة ستنجح في العالم الحقيقي - هو ما إذا كانت المنظمات ستستثمر بشكل متساوٍ في البنية التحتية المطلوبة لإثبات أن هؤلاء الوكلاء جاهزون.

عن المؤلف

أبهيشيك ساكسينا هو رئيس الاستراتيجية والنمو في شركة سينتنت، وهي منصة ذكاء اصطناعي مفتوحة المصدر تبني البنية التحتية للوكلاء المستقلين الموثوقين. سابقًا، شغل أبهيشيك مناصب في شركة بوليجون تكنولوجي، وأبل، وإنموبي، وحصل على ماجستير إدارة الأعمال من كلية هارفارد للأعمال.