وكلاء الذكاء الاصطناعي للمؤسسات بحاجة إلى اختبارات ضغط، وليس عروض مبيعات

أبهيشيك ساكسينا، رئيس الاستراتيجية والنمو، سينشنت.

التكنولوجيا المالية تتطور بسرعة. الأخبار في كل مكان، والوضوح ليس كذلك.

يقدم أسبوع التكنولوجيا المالية أهم القصص والأحداث في مكان واحد.

انقر هنا للاشتراك في النشرة الإخبارية لأسبوع التكنولوجيا المالية

يقرأها التنفيذيون في جي بي مورغان، كوين بيس، بلاك روك، كلارنا وغيرهم.

تواجه الذكاء الاصطناعي المؤسسي مشكلة في الثقة لا يمكن لأي قدر من التسويق حلها. بدأت الشركات في نشر وكلاء مستقلين في بيئات الإنتاج حيث يمكن لقرار سيء واحد أن يسبب انتهاكًا للامتثال، أو فشلًا في الدفع، أو خطأ في التداول، أو خسارة مالية، أو أزمة سمعة. ومع ذلك، فإن المعيار الصناعي لتقييم جاهزية الوكيل للإنتاج لا يزال، بشكل فعال، عرضًا تقديميًا يبدو رائعًا على المسرح.

إطلاق نيموكلو من نفيديا هذا الأسبوع يشير إلى مدى سرعة انتقال الوكلاء المستقلين من التجربة إلى سير العمل المؤسسي. تضيف المنصة تحكمات مهمة في الأمان والخصوصية، بما في ذلك العزل والسياسات الحماية. لكن النشر الآمن ليس هو نفسه الجاهزية للإنتاج. السؤال الأصعب هو ما إذا كانت هذه الأنظمة قد تم اختبارها للعمل بشكل موثوق تحت الغموض، والحالات الحدية، والضغوط التنظيمية.

إن بناء وكيل يمكنه إكمال مهمة في بيئة مسيطرة هو أمر بسيط نسبياً. أما بناء وكيل يمكنه التعامل مع الغموض، والتعافي من المدخلات غير المتوقعة، والحفاظ على الاتساق عبر آلاف التفاعلات المتزامنة، وفعل كل ذلك دون انتهاك القيود التنظيمية، فهو مشكلة هندسية مختلفة تمامًا.

وهذا الاختلاف هو المكان الذي تواجه فيه العديد من عمليات النشر المؤسسية مشاكل. الفجوة بين أداء العرض التقديمي وموثوقية الإنتاج أوسع مما تتوقعه معظم الفرق.

وكيل يتعامل بشكل مثالي مع استعلام دعم العملاء أثناء الاختبار قد يتوهم سياسة استرداد غير موجودة عند مواجهته لحالة حدية لم يرها من قبل. وكيل يدير سير عمل مالي قد يؤدي بشكل مثالي على البيانات التاريخية لكنه يتخذ قرارات كارثية عندما تتغير ظروف السوق خارج توزيع تدريبه. ووكيل لوجستي ينسق سلسلة إمداد قد ينجح في المحاكاة لكنه يواجه صعوبة عندما تبدأ التأخيرات في العالم الحقيقي والإشارات المتضاربة في التراكم.

أي شخص قام بتشغيل وكلاء في بيئات اختبار عدائية سيتعرف على هذه الأنماط بسرعة. الأنظمة تعمل—حتى تواجه نوع الغموض والضغط الذي يميز العمليات الحقيقية.

لهذا السبب، يفتقد التركيز الحالي للصناعة على بناء أطر عمل أكثر للوكيل قطعة حاسمة من اللغز. العائق الحقيقي ليس مدى سرعة قدرة الشركات على إنشاء وكلاء. بل مدى ثقتها في تقييمهم قبل أن يُعطوا تلك الوكلاء مسؤولية حقيقية.

ما تحتاجه الذكاء الاصطناعي المؤسسي هو بنية تحتية صارمة ومنهجية لاختبار الإجهاد مصممة خصيصًا للأنظمة المستقلة. هذا يعني إدخال أنواع من المدخلات التي تكسر الوكلاء في الإنتاج عمدًا. يعني تقييم كيفية تصرف الوكلاء تحت عدم اليقين، والمعلومات المتضاربة، والحالات الحدية التي لا تظهر في مجموعات البيانات القياسية النظيفة. ويعني التقييم المستمر، وليس اختبارًا لمرة واحدة قبل الإطلاق.

نهج نيموكلو مفتوح المصدر هو خطوة في الاتجاه الصحيح لأنه يمنح المطورين رؤية لكيفية عمل الوكلاء. لا يمكنك اختبار صندوق أسود بشكل صحيح. لكن الرؤية وحدها ليست كافية. يجب أن تتطور بنية الاختبار نفسها جنبًا إلى جنب مع الأنظمة التي تقيمها.

يجب أن يفترض تطوير الوكيل أن أنماط الفشل حتمية ويجب أن تظهر مبكرًا. الهدف ليس إثبات أن الوكيل يعمل مرة واحدة، بل فهم كيف يتصرف عندما تصبح الظروف غير متوقعة. هذا التفكير يغير كيفية تقييم الوكلاء، وتصميم الحواجز، وتحضير الأنظمة للنشر في بيئات عالية المخاطر.

ستزداد المخاطر فقط مع انتقال الوكلاء من مهام معزولة إلى سير عمل شامل. تستكشف الشركات بالفعل وكلاء يتفاوضون على العقود، وينفذون المعاملات المالية، وينسقون سلاسل الإمداد، ويديرون عمليات معقدة. عندما تعمل هذه الأنظمة عبر نقاط قرار متعددة، يمكن أن تتسلسل تأثيرات خطأ واحد بسرعة.

وكيل دعم العملاء الذي يفشل يخسر تذكرة. ووكيل مالي يفشل قد يخسر رأس مال. ووكيل عمليات يفشل قد يؤخر خط إنتاج كامل.
الشركات التي ستنجح في النهاية مع الذكاء الاصطناعي المؤسسي لن تكون تلك التي نشرت الوكلاء أولاً. بل تلك التي نشرت وكلاء يمكنها حقًا الوثوق بهم.

الثقة ليست ميزة تضاف في نهاية التطوير. إنها تخصص هندسي—يبدأ بكيفية اختبار الأنظمة، وتقييم سلوكها تحت الضغط، وفهم أنماط فشلها قبل أن تلمس عبء عمل حقيقي.

تقدم نفيديا للشركات أدوات قوية لبناء وكلاء مستقلين. السؤال الأصعب—والذي سيحدد نجاح هذه الأنظمة في العالم الحقيقي—هو ما إذا كانت المؤسسات تستثمر بشكل متساوٍ في البنية التحتية اللازمة لإثبات أن تلك الوكلاء جاهزون.