Adolescentes processam a xAI de Musk acusando gerador de imagens de ter criado imagens sexualmente explícitas deles como menores

NASHVILLE, Tenn. (AP) — Três adolescentes no Tennessee processaram esta semana a xAI de Elon Musk, alegando que as ferramentas de geração de imagens da empresa foram usadas para transformar fotos reais deles em imagens explicitamente sexuais.

Os estudantes do ensino médio, que procuram manter o anonimato, entraram com uma ação na Califórnia, onde a xAI — a empresa de inteligência artificial de Musk — tem a sua sede. Eles buscam o estatuto de ação coletiva para representar o que, segundo a ação, são milhares de vítimas como eles, que são menores ou eram menores quando foram criadas imagens sexualmente explícitas deles.

De acordo com a ação, Jane Doe 1 foi alertada anonimamente em dezembro de que alguém estava a distribuir imagens sexualmente explícitas dela numa rede social.

“Pelo menos cinco desses ficheiros, um vídeo e quatro imagens, mostravam o seu rosto e corpo reais em ambientes familiares, mas transformados em poses sexualmente explícitas,” afirma a ação. Alega que a pessoa que distribuía as imagens conhecia Doe e usou as ferramentas de geração de imagens da xAI para transformar fotos reais dela em imagens sexualmente abusivas. Uma das imagens foi tirada de uma foto de formatura. Outra, de um anuário escolar.

A pessoa que distribuía as imagens também criou imagens explícitas de pelo menos 18 outras raparigas, duas das quais são co-autoras na ação. No final de dezembro, a polícia local prendeu o perpetrador e confiscou o seu telemóvel. Encontraram nele as imagens carregadas em várias plataformas, onde as trocava por imagens sexualmente explícitas de outros menores.

Outras notícias relacionadas Duas ex-agentes do FBI afirmam numa ação que foram despedidas por seus papéis na investigação das eleições de Trump FCC aprova fusão de proprietários locais de televisão Nexstar e Tegna, enquanto duas ações tentam bloqueá-la Outras empresas de IA proibiram as suas geradoras de imagens de produzir qualquer conteúdo sexualmente explícito, mesmo de adultos. Musk viu nisso uma oportunidade de negócio e promoveu a capacidade do chatbot Grok da xAI de criar conteúdo “picante”, afirma a ação. No entanto, atualmente não há forma de impedir a geração de imagens explícitas de adultos enquanto se bloqueia completamente a geração de imagens de crianças, afirma a ação. Também alegam que a xAI sabia que o Grok poderia produzir imagens sexualmente explícitas de crianças, mas lançou a ferramenta mesmo assim.

A ação afirma que a pessoa que distribuiu as imagens dos autores usou uma aplicação que licenciou a tecnologia da xAI ou “de outra forma adquiriu acesso ao Grok, sendo usada como intermediária ou intermediário”.

A xAI não respondeu a um email da Associated Press solicitando comentário. Mas uma publicação de 14 de janeiro sobre a controvérsia na plataforma social X disse: “Continuamos comprometidos em tornar o X uma plataforma segura para todos e mantemos zero tolerância a qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.

Tomamos medidas para remover conteúdo violador de alta prioridade, incluindo Material de Abuso Sexual Infantil (CSAM) e nudez não consensual, tomando as ações apropriadas contra contas que violem as nossas Regras do X. Também reportamos contas que buscam materiais de Exploração Sexual Infantil às autoridades policiais, conforme necessário.”

Entretanto, os estudantes na ação disseram que temem que as imagens criadas deles fiquem eternamente na internet. Temem perseguição, pois os seus nomes reais e o nome da escola estão ligados aos ficheiros. Preocupam-se que os amigos e colegas tenham visto as fotos e vídeos, que parecem reais, e temem quem os verá no futuro.

Jane Doe 1 afirmou que sofre de ansiedade, depressão e stress. “Ela tem dificuldades em comer e dormir e sofre de pesadelos recorrentes,” afirma a ação. Jane Doe 2 “começou a isolar-se e a evitar estar na escola, chegando a temer participar na sua própria cerimónia de graduação.” Jane Doe 3 sofre de medo constante e ansiedade de que alguém veja as imagens geradas por IA e reconheça o seu rosto, segundo a ação.