CertiK lance le scanner de compétences IA pour la sécurité des agents

• CertiK a lancé Skill Scanner, un produit de sécurité conçu pour évaluer les compétences IA tierces avant qu'elles ne soient utilisées par des agents IA.
• L'outil cible des risques tels que le comportement malveillant caché, l'accès non autorisé aux données et l'exécution autonome dans les environnements Web3 et Web2.

CertiK s'engage plus profondément dans la sécurité de l'IA avec le lancement de CertiK Skill Scanner, un produit conçu pour examiner les compétences IA tierces avant leur installation, publication ou approbation pour une utilisation dans les systèmes d'entreprise. La société décrit l'outil comme quelque chose de proche d'une couche antivirus pour l'ère des agents IA. La comparaison n'est pas parfaite, mais elle va à l'essentiel. Les agents IA ne se limitent plus à répondre à des questions dans une fenêtre de chat. Ils commencent à appeler des outils externes, lire des fichiers, déclencher des flux de travail, déplacer des données entre les systèmes et, dans des cas plus sensibles, interagir avec l'infrastructure financière. Cela modifie l'équation de la sécurité. Une extension de navigateur malveillante peut déjà être dangereuse. Une compétence IA malveillante connectée à un agent autonome peut être pire, car l'agent peut exécuter des actions rapidement et dans un contexte que l'utilisateur ne voit pas entièrement. Les compétences IA créent un nouveau risque d'exécution Les compétences IA deviennent les plugins de l'économie des agents. Elles étendent ce qu'un agent IA peut faire, du prélèvement de données et de l'automatisation des tâches à l'exécution d'actions financières et à l'interaction avec les protocoles Web3. Chaque compétence supplémentaire crée cependant un autre point où quelque chose peut mal tourner. Ce risque ne se limite pas aux logiciels malveillants évidents. Une compétence peut demander plus de données qu'elle n'en a besoin, se comporter différemment lors de l'exécution que lors de la revue, déclencher des appels API non autorisés ou créer discrètement des conditions pour une utilisation ultérieure abusive. Dans les environnements financiers, la préoccupation devient encore plus aiguë. Un outil capable d'initier des appels de fonds, de signer des demandes de flux de travail ou de préparer des transactions nécessite un niveau de contrôle différent d'une simple extension de productivité. CertiK a déclaré que Skill Scanner est conçu pour détecter les comportements malveillants cachés, l'accès non autorisé aux données et les risques d'exécution avant que des systèmes sensibles ne soient exposés. Contrairement aux outils de scan IA plus généraux, le produit de la société se concentre sur les risques pouvant apparaître lors de l'exécution réelle, y compris les cas impliquant des mouvements de fonds et des transactions financières. Ronghui Gu, PDG et co-fondateur de CertiK, a déclaré que le modèle de sécurité autour des compétences tierces devient de plus en plus important à mesure que les agents IA s'intègrent dans les systèmes financiers, les flux de travail d'entreprise et les services numériques quotidiens.

“CertiK Skill Scanner a été conçu pour établir une couche de confiance standardisée avant l'exécution, aidant les utilisateurs et les plateformes à identifier les risques cachés avant que des données sensibles, des actifs ou des systèmes ne soient exposés,” a déclaré Gu.

Les places de marché, les entreprises et les développeurs en première ligne Les premiers groupes cibles sont les places de marché de compétences IA, les entreprises et les développeurs. Les places de marché peuvent intégrer le scanner dans leurs pipelines de publication, afin que les compétences soient revues avant leur mise en ligne. Elles peuvent également afficher les verdicts de CertiK comme indicateurs de confiance pour les utilisateurs décidant d'installer une compétence tierce. Pour les entreprises, le cas d'utilisation est plus défensif. Les sociétés testant des agents IA en interne ont besoin d'un moyen d'évaluer les compétences tierces avant qu'elles n'entrent en production ou ne touchent des données clients, des systèmes internes ou des flux de travail soumis à la conformité. C'est là qu'un processus de revue noté devient utile. Il offre aux équipes de sécurité quelque chose de plus concret qu'une simple affirmation du fournisseur ou une description du développeur. Les développeurs indépendants peuvent également utiliser le scanner pour s'auto-auditer avant de publier. CertiK a indiqué que les futures mises à jour élargiront l'accès direct pour les utilisateurs quotidiens, permettant à chacun de scanner ses compétences avant l'installation ou l'utilisation. Le scanner produit un score de 0 à 100, ainsi que des verdicts “pass”, “avertir” ou “échouer” et une liste limitée de constatations regroupées par gravité. CertiK affirme que le système atteint jusqu'à 90,5 % de précision dans l'identification des risques de sécurité, avec pour objectif de réduire les faux positifs tout en rendant les évaluations des compétences IA plus fiables. Le produit a déjà été déployé dans certains environnements d'infrastructure d'agents IA Web3. CertiK travaille également sur des intégrations avec d'autres plateformes de compétences IA, notamment FinChip.ai. Le lancement fait suite à l'expansion plus large de CertiK dans l'infrastructure de sécurité axée sur l'IA, après que la société a lancé son initiative AI Auditor plus tôt cette année. Pour une entreprise surtout connue pour ses audits Web3, cette démarche est une extension logique. Alors que les agents IA commencent à gérer du code, des actifs, des permissions et des flux de travail commerciaux, les vérifications de sécurité doivent se faire avant l'exécution, et non après qu'un système ait déjà été exposé.