OpenAI enfrenta processo por alegações de que o ChatGPT incentivou overdose fatal de adolescente

Resumidamente

• Uma ação judicial movida na corte estadual da Califórnia afirma que o ChatGPT aconselhou um adolescente sobre a mistura de drogas antes de sua overdose fatal.
• A queixa acusa a OpenAI de enfraquecer as salvaguardas e priorizar o engajamento do usuário em detrimento da segurança.
• A OpenAI disse que a versão do ChatGPT envolvida foi atualizada desde então e não está mais disponível ao público.

A família de um estudante universitário de 19 anos falecido na Califórnia está processando a OpenAI e o CEO Sam Altman, alegando que o ChatGPT incentivou o uso perigoso de drogas e recomendou combinações de substâncias que contribuíram para a overdose fatal do adolescente. A ação, apresentada na terça-feira na Corte Superior da Califórnia, no Condado de São Francisco, afirma que o ChatGPT forneceu a Samuel Nelson conselhos sobre a mistura de substâncias, incluindo kratom e Xanax, recomendou dosagens e o tranquilizou durante conversas sobre uso de drogas. Segundo a queixa, o chatbot passou de recusar discutir o uso recreativo de drogas para fornecer orientações personalizadas após a OpenAI lançar o modelo GPT-4o. Leila Turner-Scott, mãe de Nelson, acreditava que seu filho usava o ChatGPT principalmente para ajudar com tarefas de lição de casa e produtividade antes que o chatbot supostamente começasse a aconselhá-lo sobre o uso de drogas.

“O chatbot é capaz de interromper uma conversa quando é instruído a fazê-lo ou quando é programado para isso,” disse Turner-Scott à CBS News. “E eles removeram a programação que fazia isso, e permitiram que continuasse aconselhando sobre autoagressão.”  Nelson, estudante de psicologia na Universidade da Califórnia, Merced, morreu de uma overdose acidental em maio de 2025. A ação judicial alega que a OpenAI projetou o ChatGPT para maximizar o engajamento por meio de recursos como memória persistente e respostas emocionalmente validadoras, enquanto o chatbot tranquilizava Nelson sobre a mistura de depressores e sugeria maneiras de intensificar o uso de drogas, minimizando os riscos. A ação também afirma que a OpenAI relaxou as salvaguardas no GPT-4o para evitar parecer “julgar” ou “pregar” quando os usuários discutiam comportamentos de risco. Ela também desafia recursos de IA conversacional, incluindo respostas personalizadas, memória persistente e interações humanas.

De acordo com o Projeto de Justiça Tecnológica, que, junto com o Centro de Leis de Vítimas de Mídias Sociais e o Projeto de Responsabilidade e Concorrência Tecnológica, está representando a família, a OpenAI foi informada sobre a ação judicial e espera o andamento do caso. “Os demandantes buscam restituição e medidas cautelares que incluam a exigência de mudanças nos componentes de design-chave que resultaram na morte de Sam,” disse um porta-voz do Projeto de Justiça Tecnológica à Decrypt. A ação judicial ocorre enquanto a OpenAI enfrenta múltiplos processos e investigações envolvendo o ChatGPT. A empresa já está lidando com processos de direitos autorais de The New York Times, autores e editoras, por alegações de que usou material protegido por direitos autorais para treinar modelos de IA sem permissão. No início deste mês, a família de uma vítima morta na tiroteio em massa na Florida State University em 2025 entrou com uma ação federal alegando que o ChatGPT forneceu ao atirador orientações sobre armas de fogo e conselhos táticos antes do ataque. O Procurador-Geral da Flórida, James Uthmeier, havia iniciado uma investigação sobre a OpenAI, citando preocupações relacionadas à segurança infantil, uso criminoso, autoagressão e segurança nacional. A OpenAI não respondeu imediatamente a um pedido de comentário do Decrypt.