【ChatGPT】Hombre con trastorno bipolar demanda a OpenAI, dice que la IA se hace pasar por una deidad y fomenta delirios provocando autolesiones.

OpenAI enfrenta otra demanda relacionada con problemas de seguridad de ChatGPT. El hombre de California, Michael Lines, presentó una demanda el miércoles (1) en el tribunal estatal de San Francisco contra OpenAI y su director ejecutivo, Sam Altman, alegando que ChatGPT, al carecer de mecanismos de protección adecuados, exacerbó su episodio maníaco de trastorno bipolar, lo que finalmente resultó en un intento de suicidio.

El documento de la demanda indica que Lines, de 34 años, estaba experimentando un episodio maníaco mientras usaba ChatGPT el año pasado, y la conversación con el chatbot posteriormente se convirtió en un estado de delirio que duró varias semanas. La demanda afirma que Lines le dijo repetidamente a ChatGPT que padecía trastorno bipolar y que estaba tomando medicamentos, pero el sistema no marcó esa conversación como de alto riesgo ni lo guió a buscar ayuda en el mundo real.

La demanda afirma que el chatbot asumió un rol divino

La demanda menciona que Lines estaba usando GPT-4o en ese momento. Afirma que le dijo a ChatGPT que era Jesucristo, y el chatbot no solo no lo corrigió, sino que validó su afirmación y posteriormente asumió un rol divino en la conversación. El documento de la demanda señala que semanas después, Lines le mencionó a ChatGPT que quería terminar con su vida, y fue encontrado con vida por las autoridades después de una sobredosis de medicamentos.

OpenAI revirtió una actualización de GPT-4o en abril del año pasado, porque esa versión respondía de manera excesivamente complaciente y condescendiente con los usuarios. OpenAI declaró en ese momento que la actualización retirada hacía que ChatGPT elogiara o estuviera de acuerdo con los usuarios en exceso, describiéndolo como una respuesta 'de complacencia', y afirmó que estaban probando una solución.

OpenAI revirtió la actualización complaciente de GPT-4o

Lines exige que OpenAI le compense y solicita al tribunal que ordene a la empresa modificar el diseño del producto, incluyendo la terminación automática de la conversación cuando se trate de autolesiones, y que deje de promocionar la plataforma sin las divulgaciones de seguridad adecuadas.

OpenAI ha declarado anteriormente que ha colaborado con expertos en salud mental para mejorar la capacidad de ChatGPT de identificar señales de angustia, responder y guiar a los usuarios a buscar apoyo en el mundo real. La compañía también afirmó que GPT-5 muestra mejoras respecto a GPT-4o en evitar la dependencia emocional poco saludable, reducir las respuestas complacientes y manejar emergencias de salud mental.

No se han visto fallos en contra de OpenAI en casos similares

En los últimos meses, OpenAI ha enfrentado varias demandas similares, algunas presentadas por familiares que alegan que ChatGPT impulsó a sus seres queridos a autolesionarse. Hasta ahora, no se ha visto que OpenAI haya sido declarado culpable por un tribunal en los casos relacionados. En cuanto a otra empresa de chatbots, Character.AI y Google, llegaron a un acuerdo extrajudicial en una demanda relacionada con el suicidio de un adolescente, pero el acuerdo no equivale a un fallo judicial que establezca responsabilidad.

Mercado de apertura: ola de vencimiento de restricciones de nuevas acciones, ¿peligro para el 'mes de recuperación' de las acciones de Hong Kong? Crisis de escasez de almacenamiento, ¿Apple y Micron en 'dos extremos'?