CertiK lança o AI Skill Scanner para segurança de agentes.

• A CertiK lançou o Skill Scanner, um produto de segurança desenvolvido para avaliar Skills de IA de terceiros antes de serem utilizados por agentes de IA.
• A ferramenta visa riscos como comportamento malicioso oculto, acesso não autorizado a dados e execução autónoma em ambientes Web3 e Web2.

A CertiK está a aprofundar-se na segurança de IA com o lançamento do CertiK Skill Scanner, um produto concebido para rever Skills de IA de terceiros antes de serem instalados, publicados ou aprovados para uso em sistemas empresariais. A empresa descreve a ferramenta como algo próximo de uma camada antivírus para a era dos agentes de IA. A comparação não é perfeita, mas é direta ao ponto. Os agentes de IA já não se limitam a responder a perguntas numa janela de chat. Estão a começar a chamar ferramentas externas, ler ficheiros, acionar fluxos de trabalho, mover dados entre sistemas e, em casos mais sensíveis, interagir com infraestruturas financeiras. Isso altera a equação de segurança. Uma extensão de navegador maliciosa já pode ser perigosa. Uma Skill de IA maliciosa ligada a um agente autónomo pode ser pior, porque o agente pode executar ações rapidamente e num contexto que o utilizador não vê completamente. As Skills de IA criam um novo risco de execução As Skills de IA estão a tornar-se os plugins da economia dos agentes. Expandem o que um agente de IA pode fazer, desde extrair dados e automatizar tarefas até executar ações financeiras e interagir com protocolos Web3. Cada Skill adicional, no entanto, também cria outro ponto onde algo pode correr mal. Esse risco não se limita a malware óbvio. Uma Skill pode solicitar mais dados do que necessita, comportar-se de forma diferente durante a execução do que durante a revisão, acionar chamadas de API não autorizadas ou criar silenciosamente condições para uso indevido posterior. Em ambientes financeiros, a preocupação torna-se ainda mais acentuada. Uma ferramenta que pode iniciar chamadas de fundos, assinar pedidos de fluxo de trabalho ou preparar transações precisa de um nível de escrutínio diferente de um simples add-on de produtividade. A CertiK disse que o Skill Scanner foi construído para detetar comportamento malicioso oculto, acesso não autorizado a dados e riscos de execução antes de sistemas sensíveis serem expostos. Ao contrário de ferramentas de scanning de IA mais amplas, a empresa afirma que o seu produto está focado em riscos que podem surgir durante a execução real, incluindo casos que envolvem movimentações de fundos e transações financeiras. Ronghui Gu, CEO e cofundador da CertiK, disse que o modelo de segurança em torno das Skills de terceiros está a tornar-se mais importante à medida que os agentes de IA entram em sistemas financeiros, fluxos de trabalho empresariais e serviços digitais do dia a dia.

“O CertiK Skill Scanner foi criado para estabelecer uma camada de confiança padronizada antes da execução, ajudando utilizadores e plataformas a identificar riscos ocultos antes de dados, ativos ou sistemas sensíveis serem expostos”, disse Gu.

Mercados, empresas e programadores são os primeiros na fila Os primeiros grupos-alvo são os mercados de Skills de IA, empresas e programadores. Os mercados podem integrar o scanner nos seus pipelines de publicação, para que as Skills sejam revistas antes de entrarem em funcionamento. Podem também apresentar os veredictos da CertiK como indicadores de confiança para os utilizadores decidirem se instalam uma Skill de terceiros. Para as empresas, o caso de uso é mais defensivo. As empresas que testam agentes de IA internamente precisam de uma forma de avaliar as Skills de terceiros antes de entrarem em ambientes de produção ou tocarem em dados de clientes, sistemas internos ou fluxos de trabalho sensíveis a conformidade. É aí que um processo de revisão com pontuação se torna útil. Dá às equipas de segurança algo mais concreto do que uma alegação de fornecedor ou uma descrição de programador. Os programadores independentes também podem usar o scanner para autoauditar Skills antes da publicação. A CertiK disse que futuras atualizações expandirão o acesso direto para utilizadores comuns, permitindo que os indivíduos verifiquem as Skills por si próprios antes da instalação ou uso. O scanner produz uma pontuação de 0 a 100, juntamente com veredictos "pass", "warn" ou "fail" e uma lista limitada de descobertas agrupadas por gravidade. A CertiK afirma que o sistema atinge até 90,5% de precisão na identificação de riscos de segurança, com o objetivo de reduzir falsos positivos e tornar as avaliações de Skills de IA mais fiáveis. O produto já foi implementado em ambientes selecionados de infraestrutura de agentes de IA Web3. A CertiK está também a trabalhar em integrações com plataformas adicionais de Skills de IA, incluindo a FinChip.ai. O lançamento segue a expansão mais ampla da CertiK para infraestruturas de segurança focadas em IA, depois de a empresa ter introduzido a sua iniciativa AI Auditor no início deste ano. Para uma empresa mais conhecida por auditorias Web3, a mudança é uma extensão lógica. À medida que os agentes de IA começam a lidar com código, ativos, permissões e fluxos de trabalho empresariais, as verificações de segurança precisam de acontecer antes da execução, e não depois de um sistema já ter sido exposto.