Agente de IA empresarial, o blind spot de segurança por trás da produtividade... a lacuna de governança se amplia

No contexto de aceleração da introdução de inteligência artificial (IA) pelas empresas, o “agente autónomo” que aumenta a eficiência do trabalho também se torna uma nova vulnerabilidade de segurança. É especialmente importante notar que muitas empresas, embora tenham implantado agentes de IA em seus sistemas internos, não conseguiram estabelecer sistemas de confiança e governança adequados para gerenciá-los, sendo isso apontado como um risco central.

O CEO da KnowBe4, Brian Palma, afirmou no evento KB4-CON 2026: “O problema fundamental na área de segurança atualmente é a disparidade entre a velocidade de introdução e a construção de sistemas de governança.” Ele enfatizou que as empresas devem primeiro “identificar” e “compreender” os agentes de IA que operam em seus sistemas. Ele explicou que a abordagem para lidar com agentes de IA deve ser semelhante à usada na segurança tradicional para lidar com funcionários humanos. Isso significa considerá-los como ativos não totalmente treinados, entender seu comportamento primeiro e, depois, protegê-los.

Palma compara os agentes de IA a estarem em um estágio de ensino fundamental. Ele explica que eles não conseguem distinguir comandos maliciosos e podem ser facilmente induzidos por comandos incorretos ou códigos maliciosos. Ele afirma: “A construção de confiança baseia-se na ‘transparência’.” É necessário entender claramente quais agentes existem, a quais sistemas estão conectados e quais recursos podem acessar.

De “pessoa” para “agente de IA”… Ampliação do escopo de gestão de segurança

Em resposta a essa mudança, a KnowBe4 está expandindo sua plataforma de gestão de riscos humanos existente para abranger a segurança de agentes de IA. A ferramenta AIDA da empresa é usada para treinar de forma automatizada e personalizada a conscientização de segurança dos funcionários, enquanto o recém-lançado “Gerenciador de Risco de Agentes” foca na gestão de agentes de IA operando no ambiente corporativo, listando-os, identificando suas rotas de conexão e acessos, e configurando políticas e mecanismos de restrição.

Segundo Palma, essa ferramenta inicialmente faz um inventário do estado atual dos agentes de IA internos da empresa. Depois, rastreia quais processos cada agente utiliza e onde eles se conectam, como sistemas de email ou financeiros. A última etapa é estabelecer “barreiras” que possam distinguir o que um agente “pode fazer” e o que “não pode fazer”.

Isso indica que as estratégias de segurança empresarial estão se reorganizando em uma estrutura de “ameaça dupla”. Pois, por um lado, um mesmo agente de IA pode aumentar a produtividade, mas, por outro, também pode se tornar um canal explorado por atacantes. No final, as empresas enfrentam a necessidade de desenvolver estratégias de defesa e de exploração simultaneamente.

Ameaças de IA cada vez mais avançadas… “No próximo ano, incidentes causados por agentes irão aumentar”

A KnowBe4 afirma que seu modelo de IA é treinado com base em dados de comportamento acumulados ao longo de 15 anos, de 70 mil organizações e mais de 100 milhões de usuários. Palma destaca que essa é uma das diferenças da empresa em relação aos concorrentes. De acordo com o relatório “Situação das Ameaças de Risco Humano 2025”, 45% dos líderes de segurança cibernética consideram as “ameaças impulsionadas por IA em constante evolução” como o maior desafio.

Ele acrescenta que, na plataforma AIDA, em comparação com métodos manuais, a pontuação de risco individual foi reduzida em cerca de 4 pontos percentuais. Isso indica que o treinamento de segurança personalizado com IA tem desempenhado um papel positivo na melhoria do comportamento real dos usuários.

Além disso, a KnowBe4 está expandindo seu suporte do Microsoft Copilot para incluir Gemini, Claude e ChatGPT, visando lidar com ambientes de “múltiplos LLMs”. Eles acreditam que, como as empresas não dependerão apenas de um modelo de linguagem grande específico, a gestão de riscos de agentes de IA também deve ser capaz de lidar com múltiplos modelos simultaneamente.

Palma alerta que, no próximo ano, o número de incidentes de segurança empresarial causados por agentes de IA como vulnerabilidades diretas pode aumentar significativamente. Ele afirma: “Os agentes ampliarão a superfície de ataque. A implantação em si é muito importante e eficaz, mas também traz riscos enormes.”

O foco na segurança de IA empresarial hoje vai além da simples questão de “se deve ou não introduzir”, passando a “quem está usando qual agente de IA e onde ele está conectado”. Alguns argumentam que, para que uma estratégia de IA voltada à produtividade e inovação seja bem-sucedida, é fundamental estabelecer previamente sistemas de confiança e controle, uma opinião que vem ganhando cada vez mais consenso.

Notas sobre IA da TP Este artigo é um resumo baseado no modelo de linguagem TokenPost.ai. O conteúdo principal pode ter sido omitido ou estar em desacordo com os fatos.