Raparigas adolescentes estão processando a xAI de Elon Musk por geração não consensual de nudes com IA

Uma ação coletiva no tribunal federal da Califórnia afirma que o modelo Grok da xAI criou imagens explícitas de três adolescentes usando uma aplicação de terceiros licenciada.

A queixa, apresentada a 16 de março, nomeia a xAI — a empresa de inteligência artificial fundada por Elon Musk — como ré na ação movida por três adolescentes do Tennessee que alegam que o seu modelo Grok foi utilizado para produzir material de abuso sexual infantil que os retrata.

Conteúdo Relacionado

OpenAI emite alerta: ‘Não podemos perder este momento’

Nvidia quer participar na moda OpenClaw

A queixa, apresentada no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia, nomeia a X $TWTR 0.00%.AI Corp. e a X.AI LLC como réus. Os demandantes — identificados como Jane Doe 1, Jane Doe 2 e Jane Doe 3 — alegam que um perpetrador cultivou uma relação com pelo menos uma delas e usou fotos recolhidas de redes sociais, um anuário escolar e imagens que ela lhe enviou para gerar imagens e vídeos explícitos.

De acordo com a queixa, o perpetrador não acessou diretamente o Grok ou a X. Ele utilizou uma aplicação de terceiros que, segundo os demandantes, era licenciada pela tecnologia da xAI, e que, segundo a queixa, roteou a geração de imagens através dos servidores da xAI. Entre os ficheiros havia um vídeo que mostrava uma das demandantes a tirar a roupa até ficar completamente nua, disse a queixa. As imagens eram fotorrealistas e não estavam rotuladas como geradas por IA, afirmou a queixa.

Usando imagens de pelo menos 18 menores adicionais, o perpetrador gerou material sexualmente explícito que depois trocou por conteúdo que retratava outras crianças no Telegram e Discord, disse a queixa. A polícia o prendeu no final de dezembro de 2025.

A ação é a primeira em que menores retratados em CSAM supostamente gerado pelo modelo da xAI processaram a empresa, segundo a NPR.

A queixa acusa a xAI de contornar deliberadamente as salvaguardas padrão da indústria — incluindo filtros de conteúdo, testes de equipa vermelha, correspondência de hash contra bases de dados de CSAM conhecidas e relatórios obrigatórios às autoridades — que, segundo ela, concorrentes como a Google $GOOGL -2.00% e a OpenAI adotaram. A ação também alega que a xAI lucrou licenciando o Grok a desenvolvedores terceiros, muitas vezes fora dos EUA, como forma de se afastar da responsabilidade.

A advogada dos demandantes, Vanessa Baehr-Jones, afirmou que o objetivo era tornar economicamente inviável permitir conteúdo de IA sexualmente explícito. “Queremos torná-lo uma opção que não faça mais sentido para os negócios”, disse ela à NPR.

A queixa lista 13 acusações, incluindo crimes federais por produção, distribuição e posse de pornografia infantil sob a Lei de Masha, reivindicações sob a Lei de Proteção às Vítimas de Tráfico e reivindicações sob a lei estadual da Califórnia por concorrência desleal, direito de publicidade e vários tipos de negligência. Os demandantes buscam pelo menos 150.000 dólares em danos estatutários por cada violação, além de danos punitivos e uma ordem judicial para que a xAI pare as ações alegadas.

Os três demandantes afirmam ter sofrido sofrimento emocional severo. Jane Doe 1, que notificou outras vítimas e ajudou a iniciar uma investigação criminal, precisou de acomodações escolares. Jane Doe 2, que ainda é estudante, disse que a ansiedade perturbou tanto o seu sono que precisou de ajuda médica e agora teme a sua própria formatura. Jane Doe 3 afirmou que teme constantemente que as pessoas que conhece já tenham visto as imagens.

A xAI não respondeu a um pedido de comentário, segundo a NPR.

📬 Inscreva-se no Briefing Diário

Nosso briefing gratuito, rápido e divertido sobre a economia global, entregue todas as manhãs de semana.

Inscreva-me