وكلاء الذكاء الاصطناعي للمؤسسات بحاجة إلى اختبارات ضغط، وليس عروض مبيعات

أبهيشيك ساكسينا، رئيس الاستراتيجية والنمو، سينتنت.

تحرك فينتك بسرعة. الأخبار في كل مكان، لكن الوضوح ليس كذلك.

تقدم فينتك ويكلي القصص والأحداث الرئيسية في مكان واحد.

اضغط هنا للاشتراك في النشرة الإخبارية لـ فينتك ويكلي

يقرأها التنفيذيون في جي بي مورغان، كوينباس، بلاك روك، كلارنا والمزيد.

تمتلك الذكاء الاصطناعي في المؤسسات مشكلة ثقة لا يمكن حلها بأي مقدار من التسويق. بدأت الشركات في نشر الوكلاء المستقلين في بيئات الإنتاج حيث يمكن أن يؤدي قرار سيء واحد إلى انتهاك التوافق، أو فشل في الدفع، أو خطأ في التداول، أو خسارة مالية، أو أزمة سمعة. ومع ذلك، فإن المعيار الصناعي لتقييم ما إذا كان الوكيل جاهزًا للإنتاج لا يزال، بشكل فعال، عرضًا يبدو مثيرًا للإعجاب على المسرح.

إطلاق نيموكلاو من Nvidia هذا الأسبوع يشير إلى مدى سرعة انتقال الوكلاء المستقلين من التجريب إلى سير العمل في المؤسسات. تضيف المنصة عناصر مهمة من الأمن والخصوصية، بما في ذلك وضع الصندوق والحواجز السياسية. لكن النشر الآمن ليس هو نفسه جاهزية الإنتاج. السؤال الأصعب هو ما إذا كانت هذه الأنظمة قد تم اختبارها لتعمل بشكل موثوق تحت عدم اليقين، والحالات الحدية، والضغط التنظيمي.

بناء وكيل يمكنه إكمال مهمة في بيئة مسيطر عليها هو أمر بسيط نسبيًا. لكن بناء وكيل يمكنه التعامل مع عدم اليقين، والتعافي من المدخلات غير المتوقعة، والحفاظ على الاتساق عبر آلاف التفاعلات المتزامنة، وفعل كل ذلك دون انتهاك القيود التنظيمية هو مشكلة هندسية مختلفة تمامًا.

هذا الاختلاف هو المكان الذي تواجه فيه العديد من عمليات نشر المؤسسات مشاكل. الفجوة بين أداء العرض وموثوقية الإنتاج أوسع مما تتوقع معظم الفرق.

قد يتعامل وكيل يدير استفسار دعم العملاء بشكل مثالي في الاختبار، لكنه قد يتخيل سياسة استرداد لا وجود لها عندما يواجه حالة حدية لم يرها من قبل. قد يقوم وكيل يدير سير العمل المالي بأداء مثالي على البيانات التاريخية لكنه يتخذ قرارات كارثية عندما تتغير ظروف السوق خارج توزيع تدريبه. قد ينجح وكيل اللوجستيات الذي ينسق سلسلة الإمداد في المحاكاة، لكنه قد يواجه صعوبة عندما تبدأ التأخيرات الحقيقية والإشارات المتضاربة في التراكم.

أي شخص قد قام بتشغيل الوكلاء من خلال بيئات اختبار عدائية سيتعرف على هذه الأنماط بسرعة. الأنظمة تعمل—حتى تواجه نوع عدم اليقين والضغط الذي يحدد العمليات الحقيقية.

لهذا السبب فإن التركيز الحالي للصناعة على بناء المزيد من أطر الوكلاء يغفل قطعة حاسمة من اللغز. العنق الزجاجي الحقيقي ليس في مدى سرعة الشركات في إنشاء الوكلاء. بل هو في مدى ثقتها في تقييمهم قبل أن يتم منح هؤلاء الوكلاء مسؤولية حقيقية.

ما تحتاجه الذكاء الاصطناعي في المؤسسات هو بنية تحتية صارمة ومنهجية لاختبار الضغط مصممة خصيصًا للأنظمة المستقلة. هذا يعني إدخال الأنواع من المدخلات التي تكسر الوكلاء في الإنتاج عن عمد. يعني ذلك تقييم كيفية تصرف الوكلاء تحت عدم اليقين، والمعلومات المتضاربة، والحالات الحدية التي لا تظهر في مجموعات البيانات القياسية النظيفة. ويعني ذلك التقييم المستمر، وليس اختبارًا لمرة واحدة قبل الإطلاق.

إن نهج نيموكلاو مفتوح المصدر هو خطوة في الاتجاه الصحيح لأنه يمنح المطورين رؤية حول كيفية عمل الوكلاء. لا يمكنك اختبار صندوق أسود بشكل صحيح. لكن الرؤية وحدها ليست كافية. يجب أن تتطور بنية الاختبار نفسها جنبًا إلى جنب مع الأنظمة التي تقيمها.

يجب أن يفترض تطوير الوكيل أن أوضاع الفشل لا مفر منها ويجب أن تُظهر مبكرًا. الهدف ليس إثبات أن الوكيل يعمل مرة واحدة، بل لفهم كيف يتصرف عندما تصبح الظروف غير متوقعة. هذا التفكير يغير كيفية تقييم الوكلاء، وكيفية تصميم الحواجز، وكيفية إعداد الأنظمة للنشر في بيئات ذات مخاطر عالية.

ستزداد المخاطر فقط مع انتقال الوكلاء من المهام المعزولة إلى سير العمل من البداية إلى النهاية. الشركات تستكشف بالفعل الوكلاء الذين يتفاوضون على العقود، وينفذون المعاملات المالية، وينسقون سلاسل الإمداد، ويديرون العمليات التشغيلية المعقدة. عندما تعمل هذه الأنظمة عبر نقاط قرار متعددة، يمكن أن تتسارع تأثيرات خطأ واحد بسرعة.

وكيل دعم العملاء الذي يفشل يخسر تذكرة. وكيل مالي يفشل يمكن أن يفقد رأس المال. وكيل تشغيلي يفشل يمكن أن يؤخر خط إنتاج كامل.
الشركات التي ستنجح في النهاية مع الذكاء الاصطناعي في المؤسسات لن تكون تلك التي نشرت الوكلاء أولاً. بل ستكون تلك التي نشرت الوكلاء الذين يمكنهم الثقة بهم بالفعل.

الثقة ليست ميزة تضيفها في نهاية التطوير. إنها تخصص هندسي—واحدة تبدأ بكيفية اختبار الأنظمة، وكيفية تقييم سلوكها تحت الضغط، وكيفية فهم أوضاع فشلها قبل أن تلمس عبء العمل الإنتاجي.

تقدم Nvidia للشركات أدوات قوية لبناء الوكلاء المستقلين. السؤال الأصعب—وهو الذي سيحدد ما إذا كانت هذه الأنظمة ستنجح في العالم الحقيقي—هو ما إذا كانت المنظمات تستثمر بنفس القدر في البنية التحتية اللازمة لإثبات أن هؤلاء الوكلاء جاهزون.

عن المؤلف

أبهيشيك ساكسينا هو رئيس الاستراتيجية والنمو في سينتنت، منصة الذكاء الاصطناعي مفتوحة المصدر التي تبني البنية التحتية لوكلاء مستقلين موثوقين. شغل أبهيشيك سابقًا أدوارًا في تكنولوجيا بوليغون، وآبل، وإنموب، ويحمل شهادة ماجستير إدارة الأعمال من كلية هارفارد للأعمال.