xAI processa usuários do Grok por gerar imagens de abuso sexual infantil; não quer modificar os mecanismos de proteção do modelo

馬斯克旗下 xAI 首度控告用戶，指南卡羅來納州男子哈伍德利用 Grok 生成兒少性影像。xAI 要求 os usuários assumam total responsabilidade, em vez de redesenhar o modelo para impedir a geração; nos bastidores do processo, é uma disputa sobre os limites de responsabilidade.
（前情提要：馬斯克揚言提告蘋果：App Store 排名存在壟斷行為，惡意打壓 Grok）
（背景補充：美司法部替 xAI 擋汙染訴訟：關閉 Colossus 2 資料中心將威脅美軍 AI 作戰能力）

本文目錄

Toggle

• 首度提告：xAI 挑了一個能說嘴的案子
• 一週前，另一樁官司說的是完全相反的故事
• 把責任丟給用戶，比重新設計 Grok 容易多了

馬斯克旗下的 xAI, por muito tempo, negou repetidamente que o Grok tivesse capacidade de gerar imagens de exploração sexual infantil. Agora, em tribunal, a empresa acaba batendo de frente com o próprio discurso: ela escolheu processar um usuário, em vez de revisar seus mecanismos de proteção do modelo.

Em 14 de julho, a xAI entrou com uma ação na corte federal do Texas contra o homem da Carolina do Sul, Tery Wayne Harwood. Trata-se da primeira vez que a xAI acusa um usuário por usar o Grok para gerar conteúdo ilegal desde a fundação da empresa. Um acompanhamento do Wu Dao Observation aponta que essa escolha já revela uma coisa: assumir a responsabilidade com precisão para o usuário é muito mais fácil e muito mais compensador do que redesenhar um produto para tornar esse tipo de saída impossível. É um documento jurídico, não uma atualização de produto.

首度提告：xAI 挑了一個能說嘴的案子

De acordo com a petição, a xAI afirma que, ao descobrir que Harwood usou dois contas da xAI e levou meses para editar fotos originalmente inofensivas de múltiplas vítimas, transformando-as em imagens sexualizadas, a empresa teria se colocado ativamente para ajudar a viabilizar a prisão dele. Uma das vítimas parecia ter apenas 10 anos.

A promotoria da Carolina do Sul confirmou em comunicado que Harwood já havia sido preso em fevereiro deste ano por possuir e distribuir imagens de exploração sexual infantil. Ele foi um dos indivíduos detidos em uma série local de casos semelhantes. Para a xAI, este é um dos poucos casos que ela consegue exibir publicamente como “vitória” digna de ser contada.

Na petição, a xAI descreve Harwood como um usuário que teria deliberadamente contornado as proteções embutidas no sistema. Ela pede ao tribunal que condene ao pagamento de uma indenização em valor não especificado e que proíba permanentemente o uso de qualquer produto da xAI por parte dele. A ação é vista como um dos primeiros casos em que uma empresa de IA processa ativamente um usuário por imagens de menores, em vez de ficar por anos apenas respondendo a críticas passivamente. Ou seja, a empresa de IA volta a se apresentar como alguém que ataca de forma ativa e auxilia a aplicação da lei.

A lógica narrativa da petição é clara: o problema está em usuários individuais “maliciosos”, e não no Grok em si, nem no design dos mecanismos de proteção, muito menos em quem construiu essas proteções para que fossem tão fáceis de serem contornadas.

A xAI também aproveitou para divulgar um conjunto de números, tentando legitimar seu histórico de proteção: desde 2026, a empresa teria suspendido 52.222 contas, enviado 73.604 relatórios ao National Center for Missing & Exploited Children (Centro Nacional para Crianças Desaparecidas e Exploradas) e possibilitado pelo menos 244 prisões.

Em resumo: a xAI quer que o público acredite que ela sempre esteve do lado da aplicação da lei; quando algo dá errado, trata-se apenas de uma minoria de usuários maliciosos que deliberadamente contornaram as proteções. O modelo em si não teria problema, e os mecanismos de proteção estariam funcionando bem.

一週前，另一樁官司說的是完全相反的故事

O problema é que, cerca de uma semana antes de a xAI processar Harwood, outra menina acabara de entrar com uma ação coletiva proposta contra o Grok, contando uma história totalmente oposta. Ela acusa que o padrasto usou o Grok para gerar 7.000 imagens sexualizadas dela e distribuí-las na dark web. Depois do ocorrido, o padrasto teria escolhido tirar a própria vida.

Nesse caso, a xAI não é a parte que ajuda a prender: é a parte acusada no banco dos réus.

Nessa ação coletiva, os autores alegam que a xAI se recusou a ajudar a polícia a identificar os usuários que enviaram essas fotos. Os advogados dos autores citaram um relatório de 2026 do NCMEC indicando que a xAI teria feito até 90% das notificações serem recusadas, porque a empresa não forneceria informações de usuários que permitissem que as unidades de aplicação da lei rastreassem e localizassem os agressores, tornando impossível agir com base nesses dados.

90%, o equivalente a “quase todas as notificações são papel molhado”: mesmo que as unidades recebam notificações, elas não conseguem localizar pessoas. Um caso específico é ainda mais chocante: nas notificações compulsórias enviadas pela xAI ao NCMEC, ela teria anexado apenas as fotos originais das vítimas, sem conteúdo sexualizado gerado por IA, e também não teria incluído qualquer endereço IP rastreável. Na prática, isso transforma toda a notificação em um arquivo incompleto, sem base para investigação.

Essa ação coletiva já adicionou a Stability AI como ré adicional. A frente está se ampliando, e a lista de réus já não envolve apenas a xAI.

把責任丟給用戶，比重新設計 Grok 容易多了

O próprio Musk sempre insistiu que nunca viu qualquer exemplo de imagens de exploração sexual infantil geradas pelo Grok. Ele não teria se empenhado em limitar a saída do Grok para impedir esse tipo de geração; em vez disso, escolheu alertar os usuários para que assumissem responsabilidade própria. Em 3 de janeiro de 2026, em um post no X, ele escreveu: “Qualquer pessoa que use o Grok para produzir conteúdo ilegal arcará com as mesmas consequências de quem enviar conteúdo ilegal.” Em certo sentido, essa frase já antecipou tanto a ação posterior contra Harwood quanto a postura consistente da xAI diante de eventos desse tipo.

Ao processar Harwood, a empresa coloca essa frase em prática como uma ação jurídica concreta: transfere a responsabilidade de forma precisa para usuários individuais, em vez de admitir uma lacuna que o modelo teria de corrigir. Isso envia um sinal sobre os limites de responsabilização para toda a indústria de IA: enquanto for possível encontrar um usuário que deliberadamente contorne as proteções e processá-lo, a empresa consegue atuar diante das câmeras como parceira da aplicação da lei, ao mesmo tempo em que evita a pergunta mais fundamental — por que os mecanismos de proteção foram contornados — e também contorna outra questão mais incômoda: na hora de cooperar com a aplicação da lei, ela realmente trata todos de forma igual, ou só move ações que favorecem sua imagem.