CertiK تطلق ماسح مهارات الذكاء الاصطناعي لأمان الوكيل

• أطلقت شركة CertiK أداة مسح المهارات، وهي منتج أمني مصمم لتقييم مهارات الذكاء الاصطناعي من طرف ثالث قبل استخدامها من قبل وكلاء الذكاء الاصطناعي.
• يستهدف الأداة مخاطر مثل السلوك الخبيث المخفي، الوصول غير المصرح به إلى البيانات والتنفيذ الذاتي في بيئات Web3 و Web2.

تتعمق شركة CertiK أكثر في أمن الذكاء الاصطناعي مع إطلاق CertiK Skill Scanner، وهو منتج مصمم لمراجعة مهارات الذكاء الاصطناعي من طرف ثالث قبل تثبيتها أو نشرها أو الموافقة عليها للاستخدام داخل أنظمة المؤسسات. تصف الشركة الأداة بأنها شيء قريب من طبقة مضاد فيروسات لعصر وكيل الذكاء الاصطناعي. المقارنة ليست مثالية، لكنها تصل إلى النقطة. لم يعد وكلاء الذكاء الاصطناعي يقتصرون على الإجابة على الأسئلة في نافذة الدردشة. إنهم يبدأون في استدعاء أدوات خارجية، وقراءة الملفات، وتحفيز سير العمل، ونقل البيانات بين الأنظمة، وفي الحالات الأكثر حساسية، التفاعل مع البنية التحتية المالية. هذا يغير معادلة الأمان. يمكن أن يكون ملحق المتصفح السيئ بالفعل خطيرًا. يمكن أن يكون مهارة الذكاء الاصطناعي السيئة المرتبطة بوكيل مستقل أسوأ، لأن الوكيل قد ينفذ إجراءات بسرعة وفي سياق لا يراه المستخدم بالكامل. مهارات الذكاء الاصطناعي تخلق مخاطر تنفيذ جديدة تُصبح مهارات الذكاء الاصطناعي مكونات إضافية لاقتصاد الوكيل. فهي توسع ما يمكن لوكيل الذكاء الاصطناعي القيام به، من سحب البيانات وأتمتة المهام إلى تنفيذ الإجراءات المالية والتفاعل مع بروتوكولات Web3. ومع ذلك، فإن كل مهارة إضافية تخلق أيضًا نقطة أخرى يمكن أن يحدث فيها خطأ. هذا الخطر لا يقتصر على البرمجيات الخبيثة الواضحة. قد تطلب المهارة بيانات أكثر مما تحتاج، وتتصرف بشكل مختلف أثناء التنفيذ مقارنة بالمراجعة، وتحفز استدعاءات API غير مصرح بها أو تخلق ظروفًا للاستخدام السيئ لاحقًا بصمت. في البيئات المالية، يصبح القلق أكثر حدة. أداة يمكنها بدء مكالمات التمويل، وتوقيع طلبات سير العمل، أو إعداد المعاملات تحتاج إلى مستوى مختلف من التدقيق مقارنة بإضافة إنتاجية بسيطة. قالت شركة CertiK إن أداة مسح المهارات مصممة للكشف عن السلوك الخبيث المخفي، والوصول غير المصرح به إلى البيانات، ومخاطر التنفيذ قبل تعرض الأنظمة الحساسة. على عكس أدوات مسح الذكاء الاصطناعي الأوسع، تقول الشركة إن منتجها يركز على المخاطر التي قد تظهر أثناء التنفيذ الفعلي، بما في ذلك الحالات التي تتعلق بحركات الأموال والمعاملات المالية. قال رونغوي جو، الرئيس التنفيذي والمؤسس المشارك لشركة CertiK، إن نموذج الأمان حول مهارات الطرف الثالث أصبح أكثر أهمية مع انتقال وكلاء الذكاء الاصطناعي إلى الأنظمة المالية وسير العمل المؤسسي والخدمات الرقمية اليومية.

“تم بناء CertiK Skill Scanner لإنشاء طبقة ثقة موحدة قبل التنفيذ، لمساعدة المستخدمين والمنصات على تحديد المخاطر المخفية قبل تعرض البيانات أو الأصول أو الأنظمة الحساسة،” قال جو.

السوق، المؤسسات والمطورون هم في المقدمة المجموعات المستهدفة الأولى هي أسواق مهارات الذكاء الاصطناعي، والمؤسسات، والمطورون. يمكن للأسواق دمج أداة المسح في خطوط نشرها، بحيث يتم مراجعة المهارات قبل أن تصبح نشطة. كما يمكنها عرض أحكام CertiK كمؤشرات ثقة للمستخدمين الذين يقررون ما إذا كانوا سيقومون بتثبيت مهارة طرف ثالث. بالنسبة للمؤسسات، فإن الحالة الأكثر دفاعية. تحتاج الشركات التي تختبر وكلاء الذكاء الاصطناعي داخليًا إلى وسيلة لتقييم مهارات الطرف الثالث قبل دخولها إلى بيئات الإنتاج أو لمس بيانات العملاء أو الأنظمة الداخلية أو سير العمل الذي يتطلب الامتثال. هنا يصبح من المفيد وجود عملية مراجعة بتقييم. فهي تقدم لفريق الأمان شيئًا أكثر تحديدًا من ادعاء البائع أو وصف المطور. يمكن للمطورين المستقلين أيضًا استخدام الأداة للمراجعة الذاتية للمهارات قبل النشر. قالت CertiK إن التحديثات المستقبلية ستوسع الوصول المباشر للمستخدمين العاديين، مما يسمح للأفراد بمسح المهارات بأنفسهم قبل التثبيت أو الاستخدام. تنتج الأداة تقييمًا من 0 إلى 100، مع أحكام “نجاح”، “تحذير” أو “فشل” وقائمة محدودة من النتائج مجمعة حسب الخطورة. تقول CertiK إن النظام يصل إلى دقة تصل إلى 90.5% في تحديد مخاطر الأمان، بهدف تقليل الإيجابيات الكاذبة مع جعل تقييمات مهارات الذكاء الاصطناعي أكثر موثوقية. تم نشر المنتج بالفعل في بيئات بنية تحتية مختارة لوكلاء الذكاء الاصطناعي في Web3. كما تعمل CertiK على تكاملات مع منصات مهارات الذكاء الاصطناعي الإضافية، بما في ذلك FinChip.ai. يأتي الإطلاق بعد توسع CertiK الأوسع في بنية تحتية أمنية مركزة على الذكاء الاصطناعي، بعد أن قدمت الشركة مبادرتها لمراجعة الذكاء الاصطناعي في وقت سابق من هذا العام. بالنسبة لشركة معروفة أكثر بتدقيقات Web3، فإن الخطوة تعتبر امتدادًا منطقيًا. مع بدء وكلاء الذكاء الاصطناعي في التعامل مع الشفرات والأصول والأذونات وسير العمل التجاري، يجب أن تتم عمليات الفحص الأمني قبل التنفيذ، وليس بعد تعرض النظام بالفعل.