xAI processa os utilizadores do Grok por gerarem imagens sexuais envolvendo menores, não querendo modificar as medidas de proteção do modelo

O xAI, sob a alçada de Musk, acusa pela primeira vez um utilizador: um homem de Harwood, na Carolina do Sul, terá usado o Grok para gerar imagens sexuais envolvendo menores. O xAI exige que os utilizadores assumam toda a responsabilidade, em vez de redesenhar o modelo para impedir este tipo de geração. Por trás do processo, está uma disputa sobre os limites de responsabilidade.

(Resumo anterior: Musk ameaçou processar a Apple: a classificação na App Store envolve práticas de monopólio; alegadamente, houve pressão maliciosa sobre o Grok)
(Contexto adicional: o Departamento de Justiça dos EUA defende o xAI contra a alegada contaminação: o encerramento do centro de dados Colossus 2 colocará em risco a capacidade de combate com IA das forças armadas dos EUA)

Sumário

Toggle

• Primeira acusação: xAI escolheu um caso “falador”
• Há uma semana, outro processo contava uma história totalmente oposta
• Lançar a responsabilidade para cima dos utilizadores é muito mais fácil do que redesenhar o Grok

A xAI, do conglomerado de Musk, tem negado repetidamente, durante muito tempo, que o Grok seja capaz de gerar imagens de exploração sexual infantil. No entanto, agora acaba de se contradizer em tribunal: a empresa decidiu processar um utilizador, em vez de rever os seus próprios mecanismos de proteção do modelo.

A 14 de julho, a xAI apresentou uma ação no tribunal federal do Texas contra Terry Wayne Harwood, um homem da Carolina do Sul. Este é, desde a sua criação, a primeira vez que a xAI acusa um utilizador por usar o Grok para gerar conteúdo ilegal. Observado pela DONGQUO, esta escolha, por si só, revela uma coisa: atribuir a responsabilidade com precisão aos utilizadores, em vez de redesenhar um produto para tornar impossível este tipo de saída, é muito mais fácil e também muito mais compensador. Trata-se de um documento jurídico, não de uma atualização de produto.

Primeira acusação: xAI escolheu um caso “falador”

De acordo com a queixa, a xAI afirma que, depois de descobrir que Harwood, com duas contas xAI e durante meses, alterou fotografias originalmente inocentes de várias vítimas para imagens sexualizadas, a empresa tomou a iniciativa de ajudar a facilitar a sua detenção, incluindo, no caso, em que uma das vítimas aparentava ter apenas 10 anos.

A promotoria da Carolina do Sul confirmou, em comunicado, que Harwood foi detido este ano em fevereiro por possuir e distribuir imagens de exploração sexual infantil, sendo uma das pessoas detidas numa série local de casos semelhantes. Para a xAI, este é um dos poucos casos de “sucesso” que se podem apresentar publicamente.

Na queixa, a xAI descreve Harwood como um utilizador que terá contornado intencionalmente as proteções integradas do sistema, pedindo ao tribunal que lhe conceda uma indemnização de valor não especificado e que o proíba permanentemente de usar qualquer produto da xAI. Este processo é visto como um dos primeiros exemplos em que uma empresa de IA se move proativamente contra utilizadores relacionados com imagens de menores, o que, na prática, transforma empresas de IA que durante muito tempo foram criticadas passivamente em alguém que parte para a ação e ajuda as autoridades.

A lógica narrativa da queixa é clara: o problema está em utilizadores maliciosos específicos, não no Grok em si, nem na conceção dos mecanismos de proteção, e muito menos em discutir quem fez esta proteção tão fácil de contornar.

A xAI também aproveitou a ocasião para divulgar um conjunto de números, tentando validar o seu historial de proteção: desde 2026, a empresa suspendeu 52,222 contas, submeteu 73,604 relatórios ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e ajudou a concretizar, pelo menos, 244 detenções.

Em termos simples, a xAI quer que o público acredite que tem estado sempre do lado da aplicação da lei, e que, quando há problemas, eles se devem apenas a um número ínfimo de utilizadores maliciosos que contornam a proteção. Assim, o modelo não teria qualquer problema e os mecanismos de proteção estariam a funcionar bem.

Há uma semana, outro processo contava uma história totalmente oposta

O problema é que, cerca de uma semana antes de a xAI processar Harwood, uma outra rapariga tinha acabado de se juntar a uma ação coletiva proposta contra o Grok, mas que contava uma história totalmente diferente. Alega que o padrasto usou o Grok para gerar 7,000 imagens sexualizadas dela e as distribuiu na dark web; após o incidente, o padrasto escolheu suicidar-se.

Neste caso, a xAI não é apresentada como parte que ajuda a capturar alguém; é a parte acusada no banco dos réus.

Nesta ação coletiva, os autores afirmam que a xAI se recusou a ajudar a polícia a identificar os utilizadores que carregaram estas fotografias. Os advogados dos autores citaram um relatório de 2026 da NCMEC que indica que a xAI terá feito até 90% dos relatórios sem os dados do utilizador necessários para as autoridades identificarem e localizarem o agressor, tornando impossível atuar com base nos mesmos.

90%, quase equivalente a “a esmagadora maioria dos relatórios é lixo”, significa que mesmo quando as autoridades recebem os relatórios, não conseguem localizar ninguém. Um caso específico torna isto ainda mais grave: nos relatórios compulsórios apresentados pela xAI à NCMEC, a empresa teria incluído apenas as fotografias originais das vítimas, não sexualizadas, omitindo todas as imagens geradas por IA, e sem apresentar qualquer endereço IP rastreável como fonte. Na prática, transforma todo o relatório num ficheiro incompleto e sem utilidade para investigação.

Esta ação coletiva já acrescentou a Stability AI como co-ré. A frente está a alargar-se e a lista de réus já não inclui apenas a xAI.

Lançar a responsabilidade para cima dos utilizadores é muito mais fácil do que redesenhar o Grok

Musk insiste sempre que não viu quaisquer exemplos de imagens sexualizadas envolvendo menores geradas pelo Grok. Em vez de limitar a saída do Grok para eliminar este tipo de geração, escolheu advertir os utilizadores para assumirem a responsabilidade. A 3 de janeiro de 2026, publicou no X: “Qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que quem fizer upload de conteúdo ilegal.” De certa forma, esta frase já prefigurava o que viria a acontecer com a acusação contra Harwood e também antecipava a postura consistente da xAI perante este tipo de incidentes.

Ao processar Harwood, a xAI transforma esta frase num ato jurídico concreto, colocando a responsabilidade de forma precisa em utilizadores individuais, em vez de admitir que o próprio modelo tem lacunas que precisam de ser corrigidas. Isto é um sinal para a fronteira de responsabilização de toda a indústria de IA: enquanto se conseguir encontrar um utilizador intencional que contorne as proteções para o processar, a empresa pode, diante das câmaras, desempenhar o papel de parceiro que ajuda as autoridades, ao mesmo tempo que evita o problema mais fundamental de “por que razão é que os mecanismos de proteção são tão fáceis de contornar” e, ainda, evita outro problema ainda mais incómodo: se, na verdade, quando se trata de cooperar com a aplicação da lei, a empresa aplica o mesmo tratamento a todos, ou se apenas ataca casos que são favoráveis à sua imagem.