ChatGPT há 8 meses baniram a conta do trapaceiro, mas não denunciaram às autoridades, depois ele matou 8 pessoas, Altman pediu desculpas

Colúmbia Britânica, Tumbler Ridge, causou 8 mortes por tiroteio em fevereiro deste ano, e posteriormente foi revelado que a OpenAI, já 8 meses antes do incidente, tinha banido a conta do ChatGPT do atirador Rootselaar por “cenários relacionados à violência armada”, mas sem informar a polícia por considerar que “não atingia o limiar de ameaça imediata”. O CEO da OpenAI, Sam Altman, enviou uma carta de desculpas na semana passada.
(Antecedentes: Elon Musk processa a OpenAI em audiência: pede a dissolução da entidade com fins lucrativos, a destituição de Altman, e uma compensação de 134 bilhões de dólares)
(Informação adicional: OpenAI lança os Cinco Princípios Constitucionais da AGI: a IA não pode ser monopolizada por poucos, sacrificando-se para obter mais resiliência)

Índice deste artigo

Alternar

• 8 meses de silêncio
• Quem define o limiar de denúncia?
• Mudanças e permanências

10 de fevereiro de 2026, uma cidade remota de Columbia Britânica, Tumbler Ridge, foi palco de um tiroteio. Jesse Van Rootselaar, de 18 anos, matou a mãe e o irmão de 11 anos em casa, depois foi até a escola local, causando a morte de 8 pessoas, e morreu por suicídio.

Investigações posteriores revelaram: a OpenAI, já 8 meses antes, tinha banido a conta do ChatGPT de Van Rootselaar por “descrever cenários relacionados à violência armada” na conversa, mas sem notificar qualquer autoridade policial.

8 meses de silêncio

Em junho de 2025, o sistema automático de detecção de abuso do ChatGPT, junto com revisores humanos, marcaram a conta de Van Rootselaar, que foi banida. Segundo a OpenAI, na época, os revisores também discutiram internamente se deveriam ou não notificar a polícia.

A decisão foi: não notificar.

A OpenAI afirma que a avaliação do revisor considerou que o comportamento da conta “não atingia o limiar de ameaça imediata e confiável de dano grave à pessoa”, portanto, não acionou o procedimento de denúncia às autoridades. Após o banimento, o caso permaneceu interno na empresa. A conta foi encerrada, mas o sinal não foi transmitido.

Até que, em fevereiro de 2026, após o tiroteio, a OpenAI entrou em contato proativamente com as autoridades canadenses.

Quem define o limiar de denúncia?

“Threats that are immediate and credible” (ameaças imediatas e confiáveis) é um limiar estabelecido pela própria OpenAI, decidido pela equipe de segurança, jurídico e políticas internas da empresa, que determina em quais situações deve-se informar a polícia. Este padrão não é supervisionado por órgãos reguladores externos, e não há explicação pública de como foi calibrado.

A conta de Van Rootselaar passou pelo padrão de “necessidade de banimento”, mas não pelo padrão de “necessidade de denúncia”; esses dois limiares, na lógica interna da OpenAI, são separados.

Em 23 de abril, Sam Altman escreveu uma carta de desculpas, publicada inicialmente no jornal local TumblerRidgeLines. Na carta, ele escreveu:

A dor que vocês enfrentam é inimaginável.

Nos últimos meses, tenho pensado em vocês. Sinto muito por não termos informado as autoridades na época do banimento em junho.

Antes de tornar a carta pública, Altman conversou pessoalmente com o prefeito de Tumbler Ridge, Darryl Krakowka, e com o governador de Columbia Britânica, David Eby. Eby compartilhou a carta nas redes sociais em 24 de abril, acrescentando: “Desculpar-se é necessário, mas isso é longe de ser suficiente diante do sofrimento das famílias de Tumbler Ridge.”

Mudanças e permanências

A OpenAI anunciou que irá relaxar os critérios para a denúncia às autoridades, permitindo que mais situações de contas acionem o procedimento de denúncia. O ministro federal de Inteligência Artificial do Canadá, Evan Solomon, afirmou que Altman concordou em estabelecer uma conexão direta com a Royal Canadian Mounted Police (RCMP), além de criar mecanismos para direcionar usuários que exibam sinais de crise para serviços de apoio locais.

O governo canadense está atualmente avaliando a necessidade de legislação adicional para regulamentar as obrigações de denúncia das plataformas de IA.

Porém, há uma contradição: muitas pessoas podem dizer algo impulsivamente por estarem emocionalmente instáveis (você também já deve ter dito algo como “quero morrer” por desabafo, não é?) e, por isso, serem denunciadas, o que pode fazer com que as pessoas tenham medo de compartilhar seus sentimentos com a IA (talvez nem seja uma má ideia?).

Atualmente, esse problema não é uma questão de capacidade da OpenAI. O ChatGPT detectou, os revisores humanos também viram, o problema é esse limiar, quem decide? Quem interpreta? Como equilibrar essa balança?