لقد سمعت مؤخرًا شيئًا يزعجني بشأن كيفية تعامل الشركات مع مخاطر الذكاء الاصطناعي، ويبدو أن Premetric تتصدى لهذه المشكلة أخيرًا بشكل مباشر.

إذن، هناك فجوة لا يتحدث عنها أحد: أغلب أطر حوكمة الذكاء الاصطناعي تتبع بشكل أساسي أسلوب اللحاق بالركب. تبني المؤسسات نماذجها، وتطلقها في الإنتاج، ثم تبدأ فجأة بالقلق بشأن الامتثال والمخاطر. بحلول ذلك الوقت، تكون أكبر القرارات قد تم اتخاذها بالفعل. تقوم Premetric بقلب هذا السيناريو تمامًا من خلال التركيز على اتخاذ القرارات قبل النشر — أي السؤال عما إذا كان يجب وجود نظام ذكاء اصطناعي قبل كتابة سطر واحد من الكود.

المنصة نفسها تعمل كآلية للتحكم. بدلاً من التدقيق بعد وقوع الحدث، تقوم بإجراء تقييمات مخاطر منظمة تتماشى مع أطر مثل قانون الاتحاد الأوروبي للذكاء الاصطناعي وإطار إدارة مخاطر الذكاء الاصطناعي من NIST. تحصل على سير عمل تقييم متعدد المراحل يصنف حالات الاستخدام حسب مستوى المخاطر، ويحدد الأضرار المحتملة، ويخلق سجلات قرارات قابلة للتدقيق. صممت لتتكامل مع سير عمل المنتجات والامتثال الحالي، وهو أمر مهم لأنه لا أحد يريد أداة منفصلة أخرى.

ما يثير الاهتمام هو المكان الذي يلقى فيه هذا صدى. يكتشف المستخدمون الأوائل في الخدمات المالية والرعاية الصحية قيمة حقيقية — فهي صناعات تغرق في المتطلبات التنظيمية. أشار أحد قادة حوكمة الذكاء الاصطناعي السابقين في بنك أوروبي كبير إلى أنه على الرغم من وجود عمليات تحقق قوية للنماذج، إلا أن شيئًا لم يساعدهم فعليًا في اتخاذ قرار ما إذا كان يجب المضي قدمًا في حالة استخدام معينة في البداية. تملأ Premetric هذه الفجوة بالضبط.

الوقت أيضًا مناسب. يدفع المنظمون في جميع أنحاء العالم نحو أطر حوكمة رسمية للذكاء الاصطناعي، لكن تفاصيل التنفيذ تقع على عاتق المؤسسات نفسها. هناك إجماع ناشئ على أن الحوكمة قبل النشر أصبحت فئة مستقلة الآن — منفصلة عن أنظمة المراقبة والتدقيق التي تعمل بالفعل. البائعون الذين يمكنهم تنفيذ قرارات الموافقة أو الرفض بطريقة منظمة وقابلة للتدقيق سيصبحون بنية تحتية أساسية لاعتماد المؤسسات على الذكاء الاصطناعي.

من الجدير بالمراقبة مع نضوج مشهد حوكمة الذكاء الاصطناعي. من الواضح أن Premetric تراهن على أن المؤسسات ستحتاج بشكل متزايد إلى إثبات أن أنظمتها للذكاء الاصطناعي لا تلتزم فحسب، بل تم تصميمها بمسؤولية من البداية.