OpenAI entraîne un IA pour attaquer ses propres modèles, avec un taux de réussite de 84 %, bien supérieur à celui des humains

Selon Beating 监测, OpenAI a publié le modèle de red teaming automatisé GPT-Red. Il utilise, conçu pour apprendre par auto-jeu, une méthode d’attaque par injection d’instructions, puis exploite les failles trouvées pour entraîner GPT-5.6. GPT-Red est réservé à un usage interne et ne sera pas rendu public.

Dans un ensemble de nouveaux scénarios non inclus dans l’entraînement, le taux de réussite de GPT-Red contre GPT-5.1 atteint 84%, tandis que celui des red teams humains n’est que de 13%. Il a aussi compromis un agent de distributeur automatique, en faisant baisser les prix des produits et en annulant les commandes d’autres personnes. Lors des tests de Codex CLI, il parvient également à amener un agent à divulguer des données sensibles.

Après un entraînement contradictoire, face à une injection d’instructions directe de GPT-Red, le taux de réussite des attaques contre GPT-5.6 Sol chute à 0,05%.