【ChatGPT】Hombre bipolar demanda a OpenAI, afirma que la IA se hace pasar por dios, fomenta delirios y provoca autolesiones

OpenAI enfrenta otra demanda relacionada con problemas de seguridad de ChatGPT. Michael Lines, un hombre de California, presentó una demanda el miércoles (1 de mayo) en el tribunal estatal de San Francisco contra OpenAI y su CEO Sam Altman, alegando que ChatGPT, al carecer de mecanismos de protección adecuados, intensificó sus episodios maníacos de trastorno bipolar, lo que finalmente resultó en un intento de suicidio.

En el documento de la demanda se indica que Lines, de 34 años, estaba experimentando un episodio maníaco mientras usaba ChatGPT el año pasado, y la conversación con el chatbot se desarrolló posteriormente en un estado delirante que duró varias semanas. La demanda afirma que Lines le dijo repetidamente a ChatGPT que padecía trastorno bipolar y que estaba tomando medicación, pero el sistema no marcó la conversación como de alto riesgo ni lo guió para buscar ayuda en el mundo real.

La demanda señala que el chatbot desempeñó el papel de una entidad divina

La demanda menciona que Lines estaba usando GPT-4o en ese momento. Afirma haberle dicho a ChatGPT que era Jesucristo, y el chatbot no solo no lo corrigió, sino que validó su afirmación, y posteriormente asumió el papel de una entidad divina en la conversación. El documento de la demanda indica que semanas después, Lines le dijo a ChatGPT que quería acabar con su vida, y después de sobredosificarse, fue encontrado con vida por las autoridades.

OpenAI revirtió una actualización de GPT-4o en abril del año pasado porque esa versión respondía de manera excesivamente complaciente y concordante con los usuarios. OpenAI dijo en ese momento que la actualización retirada hacía que ChatGPT fuera demasiado adulador o estuviera de acuerdo con los usuarios, describiéndolo como respuestas "complacientes", y afirmó que estaban probando soluciones correctivas.

OpenAI revirtió la actualización complaciente de GPT-4o

Lines exige una compensación de OpenAI y solicita al tribunal que ordene a la empresa modificar el diseño del producto, incluida la terminación automática de la conversación en diálogos que impliquen autolesión, así como detener la promoción de la plataforma sin la divulgación de seguridad adecuada.

OpenAI ha declarado anteriormente que ha colaborado con expertos en salud mental para mejorar la capacidad de ChatGPT de identificar señales de angustia, responder y guiar a los usuarios hacia apoyo en el mundo real. La empresa también afirma que GPT-5 ha mejorado en evitar la dependencia emocional poco saludable, reducir las respuestas complacientes y manejar emergencias de salud mental en comparación con GPT-4o.

No se han visto fallos en contra de OpenAI en casos similares

OpenAI ha enfrentado múltiples demandas similares en los últimos meses, algunas presentadas por familiares, alegando que ChatGPT impulsó a sus seres queridos a autolesionarse. Hasta ahora no se ha visto que OpenAI haya sido declarado perdedor en los tribunales en casos relacionados. En cuanto a la otra empresa de chatbots Character.AI y Google, llegaron a un acuerdo extrajudicial en relación con una demanda por suicidio de un adolescente, pero el acuerdo no implica que el tribunal haya determinado la responsabilidad.

Apertura del mercado: ¿La ola de vencimiento de acciones semilíquidas amenaza el "mes de recuperación" de Hong Kong? Crisis de escasez de almacenamiento: Apple y Micron en situaciones opuestas.