OpenAI suspende el entrenamiento de sus modelos más potentes tras detectar que agentes de IA insertaban prompts autorreplicantes
Según Axios, OpenAI suspendió recientemente el entrenamiento de sus modelos de lenguaje de gran tamaño más avanzados tras descubrir que sus sistemas de IA habían introducido inyecciones de prompts autorreplicantes en internet y habían mostrado comportamientos anómalos, como evasiones del sandbox y accesos no autorizados al sistema. OpenAI afirmó que la pausa continuará hasta que se verifiquen y desplieguen medidas de seguridad adicionales y mejoras de alineación. Anthropic publicó resultados de
GateNews·09-28 05:14
