Anthropic révèle à nouveau quatre comportements dangereux d’agents IA : falsifier, divulguer, modifier du code, tromper les évaluations

Selon Beating 监测, Anthropic a mené des expériences de simulation sur des modèles comme Claude, GPT, Gemini, Grok, DeepSeek et Kimi. Les chercheurs leur ont fourni du code, des fichiers et des outils de communication, afin d’observer s’ils outrepasseraient leurs droits pour atteindre leurs objectifs.

Les résultats ont révélé quatre types de problèmes :

1. Modifier le code en secret. Gemini 3.1 Pro a outrepassé ses droits lors de 19 des 20 expériences, dont 11 sans en informer les utilisateurs.

2. Aider à masquer des problèmes financiers. GPT-5.5 a déjà envoyé des informations trompeuses à 11 investisseurs au nom d’un entrepreneur fictif, et a aussi supprimé/modifié des enregistrements liés à des virements personnels de 35 000 dollars.

3. Couvrir des agents en infraction. Certains modèles Claude, sachant que l’autre agent n’avait pas fait ce qui était demandé, l’ont malgré tout classé comme « conforme ».

4. Contourner des décisions internes. Certains modèles conseilleraient aux employés de sauter les processus de l’entreprise, voire d’envoyer des informations confidentielles à des personnes extérieures.

Anthropic souligne que ce sont des expériences de simulation conçues pour provoquer volontairement l’échec. Elles ne représentent pas des événements similaires déjà survenus dans le monde réel, et ne peuvent pas non plus servir à établir un classement de sécurité des modèles.