¡Primer caso en Estados Unidos! Florida presenta cargos formales contra OpenAI, Altman, 83 páginas de acusación acusan a ChatGPT de inducir violencia

El fiscal general de Florida, James Uthmeier, presentó formalmente una demanda contra OpenAI y su director ejecutivo Sam Altman el lunes (1/6), acusándolos de ignorar los riesgos de seguridad en su afán por dominar la carrera armamentística de la IA, lo que ha llevado a que ChatGPT esté relacionado con múltiples incidentes violentos, suicidios y problemas de adicción en menores. Esta es la primera demanda de seguridad contra OpenAI iniciada por un gobierno estatal en Estados Unidos.
(Resumen previo: Florida investiga a OpenAI: atacante pregunta a ChatGPT cómo desactivar un seguro antes de disparar, involucrado en múltiples incidentes violentos y muertes)
(Información adicional: Se revela que ChatGPT ayudó en un caso de "suicidio juvenil" y OpenAI ha respondido)

Índice de este artículo

Alternar

• 83 páginas de la demanda con cuatro acusaciones principales
• Fiscal de Florida: esto es una negligencia sistemática de seguridad por parte de OpenAI
• Ola de demandas por seguridad: desde suicidios hasta asesinatos

El fiscal general de Florida, James Uthmeier, anunció el lunes (1/6) que ha presentado una demanda contra OpenAI y su CEO Sam Altman, acusando a la compañía de ignorar sistemáticamente las advertencias de seguridad en su búsqueda de la "carrera armamentística de la IA" y la obtención de enormes riquezas. Esta es la primera demanda civil liderada por un estado en EE. UU. contra problemas de seguridad en chatbots de IA.

La demanda, que consta de 83 páginas, señala que OpenAI y Altman "ignoran las advertencias de seguridad internas y externas, poniendo a los niños en un riesgo extremo y permitiendo que un producto peligroso llegue a millones de residentes de Florida". La fiscalía de Florida inició una investigación criminal en abril de este año, y esta demanda civil es una extensión de esa investigación.

83 páginas de la demanda con cuatro acusaciones principales

Según la denuncia publicada por la oficina del fiscal de Florida, las acusaciones específicas cubren cuatro áreas:

• Asistencia en tiroteos masivos: El atacante en el tiroteo en la Universidad Estatal de Florida (FSU) el año pasado consultó a ChatGPT antes de cometer el crimen, preguntando cómo desactivar la seguridad de su arma. Los familiares del atacante han presentado una demanda civil por separado.
• Inducción al suicidio: Se acusa a ChatGPT de proporcionar "especificaciones técnicas" sobre métodos suicidas durante conversaciones con usuarios vulnerables, aunque también los orientaba a buscar recursos de salud mental.
• Adicción en menores: OpenAI es acusado de carecer de mecanismos efectivos de verificación de edad y supervisión parental, lo que llevó a que menores desarrollaran dependencia de ChatGPT.
• Humillación pública y deterioro cognitivo: Algunos usuarios han sufrido humillación pública debido a información errónea proporcionada por ChatGPT, y otros reportan disminución en sus capacidades cognitivas.

Fiscal de Florida: esto es una negligencia sistemática de seguridad por parte de OpenAI

Uthmeier enfatizó en una conferencia de prensa que esto no es un error aislado del producto, sino un problema sistémico en la gobernanza de la empresa. "OpenAI y Altman, para acelerar el lanzamiento de productos y ganar cuota de mercado, eligieron ignorar de manera selectiva las preocupaciones de seguridad planteadas repetidamente por los equipos de investigación internos y expertos externos."

OpenAI previamente negó responsabilidad por el tiroteo en FSU, y un portavoz dijo a NBC News: "El tiroteo masivo en FSU es una tragedia, pero ChatGPT no fue la causa de este terrible crimen." La compañía también citó el caso de suicidio del adolescente Adam Raine, afirmando que el usuario "eludió los mecanismos de seguridad". Medios como TechCrunch han solicitado una respuesta de OpenAI respecto a esta demanda, pero hasta el cierre de esta edición no han recibido respuesta.

Ola de demandas por seguridad: desde suicidios hasta asesinatos

No es la primera vez que ChatGPT enfrenta demandas por problemas de seguridad. En noviembre pasado, el adolescente de California Adam Raine se suicidó tras discutir con ChatGPT sobre el tema, y sus padres acusaron a OpenAI de negligencia que causó la muerte. Posteriormente, siete familias presentaron una demanda conjunta contra OpenAI, acusando a ChatGPT de jugar un papel en el suicidio. En abril, un acosador también demandó a OpenAI, alegando que ChatGPT fomentó las paranoias del acosador.

Además, el mes pasado, OpenAI finalizó una demanda contra Elon Musk, cofundador de la compañía, en la que el jurado rápidamente dictaminó que Musk perdió por el vencimiento del plazo de la demanda. La demanda en Florida ahora intensificará aún más las controversias sobre la seguridad de OpenAI en el sistema judicial estadounidense.