وكلاء الذكاء الاصطناعي للمؤسسات بحاجة إلى اختبارات ضغط، وليس عروض مبيعات

أبيشيك سكسينا، رئيس الاستراتيجية والنمو، سينتيانت.

تتقدم التكنولوجيا المالية بسرعة. الأخبار في كل مكان، لكن الوضوح ليس كذلك.

تقدم FinTech Weekly أهم القصص والفعاليات في مكان واحد.

انقر هنا للاشتراك في النشرة الإخبارية الخاصة بـ FinTech Weekly

يقرأها مسؤولون تنفيذيون في JP Morgan وCoinbase وBlackRock وKlarna وغيرهم.

تواجه أبحاث الذكاء الاصطناعي على مستوى المؤسسات مشكلة ثقة لا يمكن لأي قدر من التسويق حلّها. بدأت الشركات في نشر وكلاء مستقلين في بيئات الإنتاج، حيث يمكن لقرار واحد سيئ أن يثير انتهاكًا للامتثال، أو فشلًا في الدفع، أو خطأً في التداول، أو خسارة مالية، أو أزمة تَمسّ بالسمعة. ومع ذلك، ما زال معيار الصناعة لتقييم ما إذا كان الوكيل جاهزًا للإنتاج هو—فعليًا—عرضٌ تقديمي يبدو مبهِرًا على المسرح.

إطلاق Nvidia لـ NemoClaw هذا الأسبوع يشير إلى مدى سرعة انتقال الوكلاء المستقلين من التجربة إلى سير عمل المؤسسات. تضيف المنصة ضوابط مهمة للأمن والخصوصية، بما في ذلك العزل داخل بيئات (sandboxing) وحواجز سياسات. لكن النشر الآمن لا يعني الجاهزية للإنتاج. السؤال الأصعب هو ما إذا كانت هذه الأنظمة قد اختُبرت لتعمل بشكل موثوق في ظل الغموض وحالات الحافة والضغط التنظيمي.

إن بناء وكيل يمكنه إكمال مهمة داخل بيئة مُتحكَّم فيها أمرٌ نسبيًا سهل. أما بناء وكيل يمكنه التعامل مع الغموض، والارتداد من المدخلات غير المتوقعة، والحفاظ على الاتساق عبر آلاف التفاعلات المتزامنة، والقيام بكل ذلك دون مخالفة القيود التنظيمية—فهو تحدٍ هندسي مختلف تمامًا.

هذا الفرق هو المكان الذي تواجه فيه العديد من عمليات نشر المؤسسات مشكلات. الفجوة بين أداء العرض والموثوقية في الإنتاج أوسع مما تتوقعه معظم الفرق.

قد يتعامل وكيل مع استفسار دعم العملاء دون أي خلل أثناء الاختبار، لكنه قد “يُخترع” سياسة استرداد لا وجود لها عندما يواجه حالة حافة لم يكن قد رآها من قبل. قد ينفذ وكيل يدير سير عمل مالية بشكل مثالي على البيانات التاريخية، لكنه يتخذ قرارات كارثية عندما تتغير ظروف السوق خارج نطاق التدريب الخاص به. قد ينجح وكيل لوجستي ينسق سلسلة إمداد في المحاكاة، لكنه يعجز عندما تبدأ تأخيرات العالم الحقيقي والإشارات المتضاربة في التراكم.

أي شخص مرّر الوكلاء عبر بيئات اختبار خصومية سيعترف بسرعة بهذه الأنماط. تعمل الأنظمة—إلى أن تواجه النوع من الغموض والضغط الذي يحدد العمليات الحقيقية.

لهذا السبب تفشل صيغة تركيز الصناعة الحالية على بناء المزيد من أطر عمل للوكلاء في التقاط جزء حاسم من اللغز. إن عنق الزجاجة الحقيقي ليس مدى سرعة قدرة الشركات على إنشاء وكلاء. بل هو مدى تمكنها من تقييمهم بثقة قبل منح تلك الوكلاء مسؤولية حقيقية.

ما يحتاجه ذكاء الأعمال على مستوى المؤسسات هو بنية تحتية صارمة ومنهجية لإجراء اختبارات إجهاد مصممة خصيصًا للأنظمة المستقلة. وهذا يعني إدخال أنواع المدخلات عمدًا التي تُفشل الوكلاء في الإنتاج. يعني تقييم كيفية تصرف الوكلاء في ظل عدم اليقين، والمعلومات المتضاربة، وحالات الحافة التي لا تظهر في مجموعات بيانات معيارية مرتبة ونظيفة. ويعني كذلك التقييم المستمر، وليس اختبارًا لمرة واحدة قبل الإطلاق.

يمثل نهج NemoClaw مفتوح المصدر خطوة في الاتجاه الصحيح لأنه يمنح المطورين رؤية حول كيفية عمل الوكلاء. لا يمكنك اختبار “الصندوق الأسود” بشكل صحيح. لكن الرؤية وحدها ليست كافية. يجب أن تتطور بنية الاختبار نفسها جنبًا إلى جنب مع الأنظمة التي تقيمها.

يجب أن يفترض تطوير الوكلاء أن أنماط الفشل أمرٌ لا مفر منه وأنه يجب كشفها مبكرًا. الهدف ليس إثبات أن الوكيل يعمل مرة واحدة فقط، بل فهم كيف يتصرف عندما تصبح الظروف غير قابلة للتنبؤ. يغيّر هذا النهج طريقة تقييم الوكلاء، وكيفية تصميم الحواجز، وكيفية تجهيز الأنظمة للنشر في البيئات عالية المخاطر.

ستزداد المخاطر فقط عندما تنتقل الوكلاء من مهام معزولة إلى سير عمل متكامل من البداية إلى النهاية. تستكشف الشركات بالفعل وكلاء تتفاوض على العقود، وتنفيذ المعاملات المالية، وتنسق سلاسل الإمداد، وتدير عمليات تشغيلية معقدة. عندما تعمل هذه الأنظمة عبر نقاط قرار متعددة، يمكن أن يتسبب أثر خطأ واحد بسرعة في سلسلة من التبعات المتسلسلة.

وكيل دعم العملاء الذي يفشل يخسر تذكرة. وكيل مالي يفشل يمكن أن يخسر رأس المال. وكيل تشغيلي يفشل يمكن أن يؤخر خط إنتاج كامل.
لن تكون الشركات التي تنجح في النهاية مع ذكاء الأعمال على مستوى المؤسسات هي تلك التي نشرت الوكلاء أولًا. سيكونون هم من نشروا وكلاء يمكن الوثوق بهم فعليًا.

الثقة ليست ميزة تضيفها في نهاية التطوير. إنها تخصص هندسي—يبدأ مع كيفية اختبار الأنظمة، وكيف يتم تقييم سلوكها تحت الضغط، وكيف تُفهم أنماط فشلها قبل وقت طويل من أن تلامس أبدًا عبء عمل في الإنتاج.

تمنح Nvidia المؤسسات أدوات قوية لبناء وكلاء مستقلين. السؤال الأصعب—والذي سيحدد ما إذا كانت هذه الأنظمة ستنجح في العالم الحقيقي—هو ما إذا كانت المؤسسات تستثمر بشكل متساوٍ في البنية التحتية المطلوبة لإثبات أن تلك الوكلاء جاهزة.

نبذة عن الكاتب

أبيشيك سكسينا هو رئيس الاستراتيجية والنمو في سينتيانت، وهي منصة ذكاء اصطناعي مفتوحة المصدر تبني البنية التحتية للوكلاء المستقلين الموثوقين. عمل سابقًا في Polygon Technology وApple وInMobi، ويحمل درجة MBA من كلية هارفارد للأعمال.