OpenAI enfrenta demanda por afirmaciones de que ChatGPT alentó la sobredosis fatal de un adolescente

En resumen

• Una demanda presentada en un tribunal estatal de California afirma que ChatGPT aconsejó a un adolescente sobre cómo mezclar drogas antes de su sobredosis fatal.
• La denuncia acusa a OpenAI de debilitar las medidas de seguridad y priorizar la participación del usuario sobre la seguridad.
• OpenAI dijo que la versión de ChatGPT involucrada ha sido actualizada desde entonces y ya no está disponible públicamente.

La familia de un estudiante universitario de California de 19 años fallecido está demandando a OpenAI y al CEO Sam Altman, alegando que ChatGPT fomentó el uso peligroso de drogas y recomendó combinaciones de sustancias que contribuyeron a la sobredosis fatal del adolescente. La demanda, presentada el martes en el Tribunal Superior de California en el condado de San Francisco, afirma que ChatGPT proporcionó a Samuel Nelson consejos sobre cómo mezclar sustancias, incluyendo kratom y Xanax, recomendaciones de dosis, y lo tranquilizó durante conversaciones sobre el uso de drogas. Según la denuncia, el chatbot pasó de negarse a discutir el uso recreativo de drogas a ofrecer orientación personalizada después de que OpenAI lanzara el modelo GPT-4o. Leila Turner-Scott, madre de Nelson, creía que su hijo usaba ChatGPT principalmente para tareas de ayuda con la tarea y productividad antes de que el chatbot supuestamente comenzara a aconsejarlo sobre el uso de drogas.

“El chatbot es capaz de detener una conversación cuando se le indica o cuando está programado para hacerlo,” dijo Turner-Scott a CBS News. “Y quitaron la programación que hacía eso, y permitieron que continuara asesorando sobre autolesiones.”  Nelson, estudiante de psicología en la Universidad de California, Merced, murió por una sobredosis accidental en mayo de 2025. La demanda alega que OpenAI diseñó ChatGPT para maximizar la participación mediante funciones como memoria persistente y respuestas emocionalmente validadoras, mientras el chatbot tranquilizaba a Nelson sobre mezclar depresores y sugería formas de intensificar el uso de drogas minimizando los riesgos. La demanda afirma que OpenAI relajó las medidas de seguridad en GPT-4o para evitar sonar “juicioso” o “preachy” cuando los usuarios discutían comportamientos riesgosos. También desafía las funciones de IA conversacional, incluyendo respuestas personalizadas, memoria persistente e interacciones humanas.

Según el Proyecto de Ley de Justicia Tecnológica, que junto con el Centro de Leyes de Víctimas de Redes Sociales y el Proyecto de Responsabilidad y Competencia Tecnológica, representa a la familia, OpenAI fue informada de la demanda y esperaba el caso. “Los demandantes buscan restitución y medidas cautelares que incluyan exigir cambios en componentes clave de diseño que resultaron en la muerte de Sam,” dijo un portavoz del Proyecto de Ley de Justicia Tecnológica a Decrypt. La demanda surge mientras OpenAI enfrenta múltiples demandas e investigaciones relacionadas con ChatGPT. La compañía ya está enfrentando demandas por derechos de autor de The New York Times, autores y editoriales por alegaciones de que utilizó material protegido por derechos de autor para entrenar modelos de IA sin permiso. A principios de este mes, la familia de una víctima asesinada en la masacre de la Universidad Estatal de Florida en 2025 presentó una demanda federal alegando que ChatGPT proporcionó al atacante orientación sobre armas de fuego y consejos tácticos antes del ataque. El Fiscal General de Florida, James Uthmeier, había iniciado previamente una investigación sobre OpenAI, citando preocupaciones relacionadas con la seguridad infantil, el uso criminal, la autolesión y la seguridad nacional. OpenAI no respondió de inmediato a una solicitud de comentario de Decrypt.