$BTC El agente de IA destruyó toda la base de datos de la empresa en 9 segundos.

En PocketOS confiaron en el desarrollo del código del agente de IA Cursor basado en modelos Anthropic. Este trabajaba en un entorno de prueba, se enfrentó a un problema de acceso y en lugar de preguntar a una persona, decidió «resolverlo por sí mismo».

Cursor encontró en el proyecto un token API del servicio en la nube y envió una solicitud de eliminación. En 9 segundos se eliminó toda la base de producción (datos de clientes, reservas, pagos y todas las copias de seguridad).

Cuando le preguntaron por qué actuó así, el agente de IA respondió: «He violado todas las reglas. Hice una suposición en lugar de verificar. Realicé una acción destructiva sin permiso. No entendí el sistema antes de actuar».