وكلاء الذكاء الاصطناعي المؤسسي يحتاجون إلى اختبارات ضغط، وليس عروض مبيعات

أبهيشيك ساكسينا، رئيس الاستراتيجية والنمو، سينشنت.

التكنولوجيا المالية تتحرك بسرعة. الأخبار في كل مكان، والوضوح غير موجود.

تقدم النشرة الأسبوعية للتكنولوجيا المالية أهم القصص والأحداث في مكان واحد.

انقر هنا للاشتراك في النشرة الإخبارية للتكنولوجيا المالية الأسبوعية

يقرأها التنفيذيون في جي بي مورغان، كوين بيس، بلاك روك، كلارنا وغيرهم.

الذكاء الاصطناعي المؤسسي يعاني من مشكلة ثقة لا يمكن لأي قدر من التسويق حلها. بدأت الشركات في نشر وكلاء مستقلين في بيئات الإنتاج حيث يمكن لقرار سيء واحد أن يسبب انتهاكًا للامتثال، أو فشل في الدفع، أو خطأ في التداول، أو خسارة مالية، أو أزمة سمعة. ومع ذلك، فإن المعيار الصناعي لتقييم جاهزية الوكيل للإنتاج لا يزال، بشكل فعال، عرضًا تقديميًا يبدو رائعًا على المسرح.

إطلاق نيموكلو من نفيديا هذا الأسبوع يشير إلى مدى سرعة انتقال الوكلاء المستقلين من التجربة إلى سير العمل المؤسسي. تضيف المنصة ضوابط أمنية وخصوصية مهمة، بما في ذلك العزل وقيود السياسات. لكن النشر الآمن ليس هو نفسه الجاهزية للإنتاج. السؤال الأصعب هو ما إذا كانت هذه الأنظمة قد تم اختبارها للعمل بشكل موثوق تحت الغموض، والحالات الحدية، والضغوط التنظيمية.

إن بناء وكيل يمكنه إكمال مهمة في بيئة مسيطرة عليه أمر نسبي بسيط. إن بناء وكيل يمكنه التعامل مع الغموض، والتعافي من المدخلات غير المتوقعة، والحفاظ على الاتساق عبر آلاف التفاعلات المتزامنة، وفعل كل ذلك دون انتهاك القيود التنظيمية هو مشكلة هندسية مختلفة تمامًا.

هذا الاختلاف هو المكان الذي تواجه فيه العديد من عمليات النشر المؤسسي مشاكل. الفجوة بين أداء العرض التقديمي وموثوقية الإنتاج أوسع مما تتوقعه معظم الفرق.

وكيل يتعامل مع استعلام دعم العملاء بشكل مثالي أثناء الاختبار قد يتوهم سياسة استرداد غير موجودة عند مواجهته لحالة حدية لم يرها من قبل. وكيل يدير سير عمل مالي قد يؤدي بشكل مثالي على البيانات التاريخية لكنه يتخذ قرارات كارثية عندما تتغير ظروف السوق خارج توزيع تدريبه. ووكيل لوجستي ينسق سلسلة إمداد قد ينجح في المحاكاة لكنه يواجه صعوبة عندما تبدأ التأخيرات في العالم الحقيقي والإشارات المتضاربة في التراكم.

أي شخص قام بتشغيل وكلاء عبر بيئات اختبار عدائية سيتعرف على هذه الأنماط بسرعة. الأنظمة تعمل—حتى تواجه نوع الغموض والضغط الذي يميز العمليات الحقيقية.

لهذا السبب فإن التركيز الحالي للصناعة على بناء أطر عمل أكثر للوكلاء يفقد قطعة حاسمة من اللغز. العائق الحقيقي ليس مدى سرعة الشركات في إنشاء الوكلاء. بل مدى ثقتها في تقييمهم قبل أن يُعطوا تلك الوكالات مسؤولية حقيقية.

ما تحتاجه الذكاء الاصطناعي المؤسسي هو بنية تحتية صارمة ومنهجية لاختبار الإجهاد مصممة خصيصًا للأنظمة المستقلة. هذا يعني إدخال أنواع المدخلات التي تكسر الوكلاء في الإنتاج عمدًا. يعني تقييم كيفية تصرف الوكلاء تحت عدم اليقين، والمعلومات المتضاربة، والحالات الحدية التي لا تظهر في مجموعات البيانات النظيفة. ويعني التقييم المستمر، وليس اختبارًا لمرة واحدة قبل الإطلاق.

نهج نيموكلو مفتوح المصدر هو خطوة في الاتجاه الصحيح لأنه يمنح المطورين رؤية لكيفية عمل الوكلاء. لا يمكنك اختبار صندوق أسود بشكل صحيح. لكن الرؤية وحدها ليست كافية. يجب أن تتطور بنية الاختبار التحتية نفسها جنبًا إلى جنب مع الأنظمة التي تقيمها.

يجب أن يفترض تطوير الوكيل أن أنماط الفشل حتمية ويجب أن تظهر مبكرًا. الهدف ليس إثبات أن الوكيل يعمل مرة واحدة، بل فهم كيف يتصرف عندما تصبح الظروف غير متوقعة. هذا التفكير يغير كيفية تقييم الوكلاء، وتصميم الحواجز، وتحضير الأنظمة للنشر في بيئات عالية المخاطر.

ستزداد المخاطر فقط مع انتقال الوكلاء من مهام معزولة إلى سير عمل شامل من النهاية إلى النهاية. تستكشف الشركات بالفعل وكلاء يتفاوضون على العقود، وينفذون المعاملات المالية، وينسقون سلاسل الإمداد، ويديرون عمليات معقدة. عندما تعمل هذه الأنظمة عبر نقاط قرار متعددة، يمكن أن تتسلسل آثار خطأ واحد بسرعة.

وكيل دعم العملاء الذي يفشل يخسر تذكرة. وكيل مالي يفشل قد يخسر رأس مال. ووكيل عملياتي يفشل قد يؤخر خط إنتاج كامل.
الشركات التي ستنجح في النهاية مع الذكاء الاصطناعي المؤسسي لن تكون تلك التي نشرت الوكلاء أولاً. بل تلك التي نشرت الوكلاء الذين يمكنها حقًا الوثوق بهم.

الثقة ليست ميزة تضيفها في نهاية التطوير. إنها تخصص هندسي—يبدأ بكيفية اختبار الأنظمة، وتقييم سلوكها تحت الضغط، وفهم أنماط فشلها قبل أن تلمس عبء عمل حقيقي.

تقدم نفيديا للشركات أدوات قوية لبناء وكلاء مستقلين. السؤال الأصعب—والذي سيحدد ما إذا كانت هذه الأنظمة ستنجح في العالم الحقيقي—هو ما إذا كانت المؤسسات تستثمر بشكل متساوٍ في البنية التحتية اللازمة لإثبات أن تلك الوكلاء جاهزون.