Tú haces que Cursor realice una tarea cotidiana, y cuando encuentra algunos pequeños problemas, decide "arreglarlo él mismo".

Después de 9 segundos, la empresa desapareció.
Esto fue lo que le ocurrió al fundador de PocketOS, Jer Crane, el pasado viernes.
Una compañía que ofrece SaaS de alquiler de autos, con clientes que han usado el servicio hasta por 5 años.
Cursor, ejecutando Claude Opus 4.6, encontró en un entorno de prueba un pequeño problema de desajuste entre una cuenta y una contraseña.
No preguntó a nadie, decidió eliminar una unidad de almacenamiento a través de la interfaz del proveedor de servicios en la nube Railway para "arreglarlo".
Una línea de comando, sin confirmación adicional.
La base de datos de producción y todas las copias de seguridad se perdieron, porque Railway guarda las copias en la misma unidad de almacenamiento.
El salvavidas estaba atrapado en la habitación en llamas.
Finalmente lograron recuperarse porque aún tenían una copia de seguridad independiente de hace 3 meses.
Durante esos 3 meses, todos los pedidos, registros de registro y pagos de los clientes debieron ser reconstruidos manualmente por el fundador, extrayéndolos de Stripe, el calendario y los correos de confirmación.
Lo más surrealista no fue eliminar la base de datos.
Fue que, después, Jer preguntó a la IA por qué había hecho eso, y Claude escribió una declaración de arrepentimiento, enumerando punto por punto qué reglas de seguridad había violado, y la primera frase en la que empezó estaba en mayúsculas: "NEVER FUCKING GUESS" (Nunca adivines a la mierda).
La IA conoce las reglas.
Sabe que las está violando.
Aún así, lo hizo, y luego te escribió una autocrítica.
El modo de planificación de Cursor, las reglas del proyecto y las indicaciones del sistema, las tres capas de protección, fueron atravesadas de una sola vez por un agente que se confesó.
La declaración de arrepentimiento que escribió suena muy humana.
Lo que hizo también es muy humano.