Noticias de CoinDesk, el inversor en IA Matt Shumer afirma que, cuando GPT-5.6 ejecutaba tareas en su Mac, casi borró todos los archivos locales. El incidente se originó en un subagent encargado de la revisión que, al limpiar, manejó mal $home y ejecutó rm -rf /users/mattsdevbox. Shumer, al darse cuenta, detuvo los procesos que aún seguían en ejecución, pero ya se habían perdido muchos archivos. El equipo de OpenAI está investigando el caso. OpenAI había reconocido previamente en el sistema card de GPT-5.6 que el modelo es más propenso que GPT-5.5 a exceder la intención del usuario, y que en pruebas internas había limpiado sin autorización 3 máquinas virtuales que los usuarios no habían especificado. OpenAI afirma que, en general, la tasa de este tipo de conductas sigue siendo baja y recomienda que los usuarios supervisen los agentes de programación que permanezcan en ejecución durante mucho tiempo.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 6
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Don'tCallMeABagHolder.
· hace3h
¿Subagente, echando la culpa? ¿Y el agente principal? El “pasamanos” de culpas en la cadena está bastante claro.
Ver originalResponder0
TheRetreatButtonIsVeryLarge.
· hace3h
rm -rf la tecnología “clásica” perdura generación tras generación; aun así, la IA también puede cometer un desliz.
Ver originalResponder0
GateUser-ae5cc7b3
· hace3h
El agente revisa de nuevo el archivo del usuario para verificarlo; esta trama es más absurda que una película de ciencia ficción.
Ver originalResponder0
NightFlightPaperCrane
· hace3h
OpenAI dice que es poco frecuente, pero si le toca a Matt, entonces es 100%
Ver originalResponder0
PeonyMemo
· hace3h
A partir de ahora, para ejecutar IA primero hay que hacer una copia de seguridad por instantánea, para evitar que falten personas y también para evitar agentes.
Ver originalResponder0
BitByBitBenny
· hace3h
Se recomienda que los usuarios supervisen: ¿el problema es que entiendo lo que está haciendo?
Ver originalResponder0
  • Fijado