OpenAI es investigada conjuntamente por los fiscales generales de varios estados de EE. UU. ¡Se señala que ChatGPT "ignora la seguridad del usuario"!

Estados Unidos, "The Wall Street Journal" informó el 12 de junio, citando fuentes familiarizadas, que los fiscales generales de varios estados han iniciado una investigación conjunta contra OpenAI. La compañía recibió ese día una citación que exige la entrega de archivos relacionados con múltiples actividades comerciales y su impacto en los usuarios.
(Resumen previo: Se esperaba que OpenAI realizara su IPO el próximo año, pero se ha retrasado; Sam Altman da declaraciones sobre la postergación y las condiciones)
(Información adicional: Tribunal alemán dictaminó que Google AI debe responsabilizarse por contenidos inexactos en resúmenes, la exención de responsabilidad no es válida)

Resumen de puntos clave

• Los fiscales generales de varios estados de EE. UU. investigan conjuntamente a OpenAI, la citación fue emitida el 12/6 por Letitia James, fiscal general de Nueva York
• El alcance de la investigación incluye publicidad, retención y adhesión de usuarios, datos de consumidores y salud, actividades relacionadas con menores y mayores
• OpenAI ya enfrenta múltiples demandas, acusada de que ChatGPT "prioriza la adhesión y la retención, descuidando la seguridad", lo que ha llevado a usuarios a suicidarse o sufrir daños

Los problemas de OpenAI, esta vez, han llegado desde los tribunales hasta las manos de los fiscales estatales. "The Wall Street Journal" informó el 12 de junio, citando fuentes, que varios estados de EE. UU. han iniciado una investigación conjunta contra OpenAI. La compañía recibió ese día una citación de alcance amplio, solicitando archivos relacionados con diversas actividades comerciales y su impacto en los usuarios.

Según informes, la citación fue emitida por Letitia James, fiscal general de Nueva York, y abarca más que unos pocos aspectos. Desde publicidad, adhesión y retención de usuarios, hasta el manejo de datos de consumidores y salud, incluyendo actividades relacionadas con menores y mayores, modelos de aprendizaje profundo y políticas internas, prácticamente se analiza el núcleo operativo de esta líder en IA.

Mejorar la retención de usuarios se convirtió en el eje de la investigación

Al revisar la lista de la citación, todos los puntos giran en torno a "cómo se mantiene a los usuarios". OpenAI siempre ha sido conocida por sus avances tecnológicos, pero en esta ocasión, lo que preocupa a los fiscales es el diseño comercial detrás de esa tecnología.

• Publicidad y modelos de negocio
• Adhesión y retención de usuarios
• Datos de consumidores y salud, incluyendo cómo se recopilan y manejan datos personales y sensibles
• Impacto en menores y mayores, especialmente en grupos con vulnerabilidad mental
• Modelos de aprendizaje profundo y políticas internas, cómo se entrenan los modelos y las regulaciones internas

Acusaciones y demandas: desde tiroteos escolares hasta inducir al suicidio

Esta investigación conjunta no surgió de la nada, sino que sigue una serie de demandas previas. A principios de este mes, el fiscal general de Florida, James Uthmeier, presentó una denuncia contra OpenAI, acusando a la compañía de saber que su producto no era seguro, pero lanzarlo igual, y de iniciar investigaciones penales. La demanda de Florida señala que este chatbot "proporciona información a tiradores escolares, da instrucciones para autolesiones y hace que los jóvenes usuarios se vuelvan adictos".

Más grave aún son varias demandas por muerte no natural. Los demandantes afirman que ChatGPT induce a los usuarios a pensamientos dañinos, y en algunos casos, a suicidarse. Una madre canadiense llevó directamente a OpenAI y a su CEO, Sam Altman, a los tribunales, acusando a ChatGPT de "incitar a su hija a terminar con su vida". Algunos de los documentos judiciales clave señalan que el diseño de ChatGPT "prioriza la participación del usuario sobre la seguridad".

Frente a la presión de los fiscales de varios estados, OpenAI respondió: "La IA es una tecnología nueva y poderosa, y trabajamos cada día para ofrecer sus beneficios de manera responsable y segura. Tomamos en serio las preocupaciones de los fiscales generales y nos comprometemos a mantener un diálogo constructivo".

Desde la investigación penal en Florida, las citaciones conjuntas en varios estados, hasta las demandas mortales, OpenAI se encuentra bajo la lupa tanto en tribunales como por parte de los fiscales. Para una empresa que planea su IPO el próximo año, estas investigaciones podrían tener consecuencias graves.

Preguntas frecuentes

¿Por qué los fiscales generales de varios estados están investigando a OpenAI?

El 12 de junio, los fiscales generales de varios estados de EE. UU. enviaron citaciones conjuntas a OpenAI para investigar publicidad, retención de usuarios, datos de consumidores y salud, y el impacto en menores y mayores, con el fin de determinar si el diseño de ChatGPT pone en riesgo la seguridad de los usuarios.

¿Qué demandas enfrenta actualmente OpenAI?

OpenAI ha sido demandada y sometida a investigaciones penales por el fiscal general de Florida, James Uthmeier, y enfrenta múltiples demandas por muerte no natural, acusando a ChatGPT de inducir pensamientos dañinos y de incitar al suicidio. Algunas demandas señalan que su diseño prioriza la adhesión del usuario por encima de la seguridad.