OpenAI entrena ataques de IA contra sus propios modelos, con una tasa de éxito del 84%, muy por encima de los humanos

Según observación en Beating, OpenAI presentó el modelo de red teaming automatizado GPT-Red. Está diseñado para aprender mediante autojuego ataques de inyección de prompts y, luego, usa las vulnerabilidades encontradas para entrenar GPT-5.6. GPT-Red solo se utiliza internamente y no se abrirá al público.

En un conjunto de escenarios nuevos que no participaron en el entrenamiento, la tasa de éxito de GPT-Red al atacar GPT-5.1 alcanzó el 84%, mientras que el red teaming humano fue del 13%. También comprometió un agente de máquina expendedora, haciendo que los productos bajaran de precio y cancelando pedidos de otros. Al probar Codex CLI, también pudo inducir a que el agente filtrara datos sensibles.

Tras el entrenamiento adversarial, GPT-5.6 Sol, frente a inyección de prompts directa de GPT-Red, redujo la tasa de éxito del ataque a 0,05%.