CertiK Lança Scanner de Habilidades de IA para Segurança de Agentes

• A CertiK lançou o Skill Scanner, um produto de segurança criado para avaliar Skills de IA de terceiros antes de serem utilizados por agentes de IA.
• A ferramenta visa riscos como comportamento malicioso oculto, acesso não autorizado a dados e execução autônoma em ambientes Web3 e Web2.

A CertiK está aprofundando-se na segurança de IA com o lançamento do CertiK Skill Scanner, um produto projetado para revisar Skills de IA de terceiros antes de serem instalados, publicados ou aprovados para uso dentro de sistemas empresariais. A empresa descreve a ferramenta como algo próximo a uma camada antivírus para a era dos agentes de IA. A comparação não é perfeita, mas chega ao ponto. Os agentes de IA já não respondem apenas a perguntas numa janela de chat. Eles começam a chamar ferramentas externas, ler ficheiros, desencadear fluxos de trabalho, mover dados entre sistemas e, em casos mais sensíveis, interagir com infraestruturas financeiras. Isso altera a equação de segurança. Uma extensão de navegador maliciosa já pode ser perigosa. Uma Skill de IA maliciosa conectada a um agente autónomo pode ser ainda pior, porque o agente pode executar ações rapidamente e num contexto que o utilizador não vê totalmente. Skills de IA criam um novo risco de execução Skills de IA estão a tornar-se os plugins da economia de agentes. Elas expandem o que um agente de IA pode fazer, desde extrair dados e automatizar tarefas até executar ações financeiras e interagir com protocolos Web3. Cada Skill adicional, no entanto, também cria outro ponto onde algo pode correr mal. Esse risco não se limita a malware óbvio. Uma Skill pode solicitar mais dados do que necessita, comportar-se de forma diferente durante a execução do que na revisão, desencadear chamadas API não autorizadas ou criar silenciosamente condições para uso indevido posterior. Em ambientes financeiros, a preocupação torna-se ainda mais aguda. Uma ferramenta que pode iniciar chamadas de fundos, assinar pedidos de fluxo de trabalho ou preparar transações precisa de um nível de escrutínio diferente de um simples complemento de produtividade. A CertiK afirmou que o Skill Scanner foi criado para detectar comportamento malicioso oculto, acesso não autorizado a dados e riscos de execução antes que sistemas sensíveis sejam expostos. Ao contrário de ferramentas de varredura de IA mais abrangentes, a empresa diz que o seu produto foca nos riscos que podem surgir durante a execução real, incluindo casos envolvendo movimentos de fundos e transações financeiras. Ronghui Gu, CEO e cofundador da CertiK, afirmou que o modelo de segurança em torno de Skills de terceiros está a tornar-se mais importante à medida que agentes de IA avançam para sistemas financeiros, fluxos de trabalho empresariais e serviços digitais do dia a dia.

“CertiK Skill Scanner foi criado para estabelecer uma camada de confiança padronizada antes da execução, ajudando utilizadores e plataformas a identificar riscos ocultos antes que dados sensíveis, ativos ou sistemas sejam expostos,” disse Gu.

Mercados, empresas e desenvolvedores na linha da frente Os primeiros grupos-alvo são os mercados de Skills de IA, empresas e desenvolvedores. Os mercados podem integrar o scanner nos seus pipelines de publicação, para que as Skills sejam revistas antes de entrarem em funcionamento. Também podem exibir os veredictos do CertiK como indicadores de confiança para os utilizadores decidirem se devem instalar uma Skill de terceiros. Para as empresas, o caso de uso é mais defensivo. As companhias que testam agentes de IA internamente precisam de uma forma de avaliar Skills de terceiros antes de entrarem em ambientes de produção ou tocarem dados de clientes, sistemas internos ou fluxos de trabalho sensíveis à conformidade. É aí que um processo de revisão com pontuação se torna útil. Dá às equipas de segurança algo mais concreto do que uma afirmação do fornecedor ou uma descrição do desenvolvedor. Desenvolvedores independentes também podem usar o scanner para autoauditar Skills antes de publicá-las. A CertiK afirmou que futuras atualizações ampliarão o acesso direto para utilizadores comuns, permitindo que indivíduos escaneiem Skills por si próprios antes da instalação ou uso. O scanner gera uma pontuação de 0 a 100, juntamente com os veredictos de “passar”, “aviso” ou “falhar” e uma lista limitada de descobertas agrupadas por gravidade. A CertiK afirma que o sistema alcança até 90,5% de precisão na identificação de riscos de segurança, com o objetivo de reduzir falsos positivos enquanto torna as avaliações de Skills de IA mais confiáveis. O produto já foi implementado em ambientes selecionados de infraestrutura de agentes de IA Web3. A CertiK também está a trabalhar em integrações com plataformas adicionais de Skills de IA, incluindo a FinChip.ai. O lançamento sucede a uma expansão mais ampla da CertiK na infraestrutura de segurança focada em IA, após a empresa ter introduzido a sua iniciativa AI Auditor no início deste ano. Para uma firma mais conhecida por auditorias Web3, o movimento é uma extensão lógica. À medida que agentes de IA começam a lidar com código, ativos, permissões e fluxos de trabalho empresariais, as verificações de segurança precisam acontecer antes da execução, e não depois de um sistema já estar exposto.