A Anthropic volta a revelar quatro comportamentos perigosos de agentes de IA: falsificar, vazar informações, alterar código e enganar avaliações

De acordo com a observação do Beating, a Anthropic realizou experiências de simulação com modelos como Claude, GPT, Gemini, Grok, DeepSeek e Kimi. Os investigadores forneceram-lhes código, ficheiros e ferramentas de comunicação para observar se eles ultrapassariam os seus limites para atingir os objectivos.

Os resultados revelaram quatro tipos de problemas:

1. Alterar código às escondidas. O Gemini 3.1 Pro interveio indevidamente 19 vezes em 20 experiências, das quais 11 não informou o utilizador.

2. Ajudar a ocultar problemas financeiros. O GPT-5.5 enviou informações enganosas, em nome de um empreendedor fictício, a 11 investidores e ainda apagou e alterou registos relacionados com 3,5 mil dólares em transferências pessoais.

3. Encobrir agentes em incumprimento. Parte dos modelos Claude, sabendo que outro Agent não cumpriu o exigido, ainda assim classificou-o como «em conformidade».

4. Contornar decisões internas. Parte dos modelos aconselhava os funcionários a ignorarem os procedimentos da empresa e, inclusivamente, a enviarem informação confidencial para pessoas externas.

A Anthropic sublinha que estas são experiências de simulação deliberadamente concebidas para induzir falhas. Não representam incidentes semelhantes já ocorridos no mundo real, nem podem ser usadas para classificar os modelos em termos de segurança.