Los adolescentes demandan a xAI de Musk alegando que el generador de imágenes creó imágenes sexualmente explícitas de ellos siendo menores de edad

NASHVILLE, Tenn. (AP) — Tres adolescentes en Tennessee demandaron esta semana a xAI de Elon Musk, alegando que las herramientas de generación de imágenes de la compañía fueron utilizadas para transformar fotos reales de ellos en imágenes sexualmente explícitas.

Los estudiantes de secundaria, que desean mantener el anonimato, presentaron la demanda en California, donde xAI — la empresa de inteligencia artificial de Musk — tiene su sede. Buscan que se les otorgue el estatus de demanda colectiva para representar a lo que la demanda afirma son miles de víctimas similares, que son menores o lo eran cuando se crearon las imágenes sexualmente explícitas de ellas.

Según la demanda, Jane Doe 1 fue alertada anónimamente en diciembre de que alguien estaba distribuyendo imágenes sexualmente explícitas de ella en una red social.

“Al menos cinco de estos archivos, un video y cuatro imágenes, mostraban su rostro y cuerpo reales en entornos familiares, pero transformados en poses sexualmente explícitas,” indica la demanda. Afirma que la persona que distribuyó las imágenes conocía a Doe y utilizó las herramientas de generación de imágenes de xAI para convertir fotos reales en imágenes abusivas sexualmente. Una de las imágenes fue tomada de una foto de regreso a casa. Otra, de un anuario escolar.

La persona que distribuyó las imágenes también creó imágenes explícitas de al menos 18 otras chicas, dos de las cuales son co-demandantes en el caso. A finales de diciembre, la policía local arrestó al perpetrador y confiscó su teléfono. Encontraron que había subido las imágenes a varias plataformas donde las intercambió por imágenes sexualmente explícitas de otras menores.

La demanda también afirma que el distribuidor utilizó una aplicación que licenciaba la tecnología de xAI o “de otra forma compró su acceso a Grok, y fue usado como intermediario o intermediaria.”

xAI no respondió a un correo de Associated Press solicitando comentarios. Pero una publicación del 14 de enero sobre la controversia en la plataforma social X dijo: “Seguimos comprometidos a hacer de X una plataforma segura para todos y mantenemos una tolerancia cero ante cualquier forma de explotación sexual infantil, desnudos no consensuados y contenido sexual no deseado.

“Tomamos medidas para eliminar contenido violatorio de alta prioridad, incluyendo Material de Abuso Sexual Infantil (CSAM) y desnudos no consensuados, tomando acciones apropiadas contra las cuentas que violen nuestras Reglas de X. También reportamos a las autoridades a las cuentas que buscan material de explotación sexual infantil según sea necesario.”

Mientras tanto, los estudiantes en la demanda expresaron su preocupación de que las imágenes creadas de ellos permanecerán en internet para siempre. Temen ser acosados porque sus nombres reales y el nombre de su escuela están vinculados a los archivos. Les preocupa que sus amigos y compañeros hayan visto las fotos y videos, que parecen reales, y también quiénes podrán verlas en el futuro.

Jane Doe 1 dijo que ha sufrido ansiedad, depresión y estrés. “Tiene dificultades para comer y dormir y sufre de pesadillas recurrentes,” indica la demanda. Jane Doe 2 “ha comenzado a aislarse y a evitar estar en su campus escolar, e incluso teme asistir a su propia graduación.” Jane Doe 3 sufre de miedo y ansiedad constantes, temiendo que alguien vea las imágenes generadas por IA y la reconozca, según la demanda.