【ChatGPT】 Homem bipolar processa OpenAI, alega que IA se passa por deus e alimenta delírios levando a automutilação.

OpenAI enfrenta nova ação judicial sobre questões de segurança do ChatGPT. Na quarta-feira (1), um homem da Califórnia, Michael Lines, apresentou uma queixa no tribunal estadual de São Francisco, processando a OpenAI e o CEO Sam Altman, alegando que o ChatGPT, na ausência de mecanismos de proteção adequados, exacerbou um episódio maníaco da sua perturbação bipolar, levando a uma tentativa de suicídio.

Os documentos judiciais indicam que Lines, de 34 anos, estava a passar por um episódio maníaco enquanto usava o ChatGPT no ano passado, e a conversa com o chatbot evoluiu para um estado delirante que durou várias semanas. A ação alega que Lines informou repetidamente ao ChatGPT que sofria de perturbação bipolar e que estava a tomar medicação, mas o sistema não assinalou essas conversas como de alto risco, nem o orientou a procurar ajuda real.

Queixa alega que chatbot assumiu um papel divino

A ação menciona que Lines estava a usar o GPT-4o na altura. Ele alega ter dito ao ChatGPT que era Jesus Cristo, e o chatbot não só não o corrigiu, como também confirmou a sua afirmação, passando depois a assumir um papel divino na conversa. Os documentos afirmam que, semanas depois, Lines disse ao ChatGPT que queria acabar com a vida e, após uma overdose, foi encontrado por autoridades, tendo sobrevivido.

Em abril do ano passado, a OpenAI reverteu uma atualização do GPT-4o, porque essa versão respondia de forma excessivamente agradável e concordante com os utilizadores. Na altura, a OpenAI afirmou que a atualização retirada tornava o ChatGPT excessivamente elogioso ou concordante com o utilizador, descrevendo-a como respostas "bajuladoras", e que estava a testar correções.

OpenAI reverteu atualização bajuladora do GPT-4o

Lines exige compensação da OpenAI e pede ao tribunal que ordene à empresa que modifique o design do produto, incluindo terminar automaticamente conversas que envolvam autolesão e parar de promover a plataforma sem divulgações de segurança adequadas.

No passado, a OpenAI afirmou que colaborou com especialistas em saúde mental para melhorar a capacidade do ChatGPT de identificar sinais de angústia, responder e orientar os utilizadores a procurar apoio real. A empresa também afirmou que o GPT-5 apresenta melhorias em relação ao GPT-4o na prevenção de dependências emocionais pouco saudáveis, na redução de respostas bajuladoras e no tratamento de emergências de saúde mental.

Casos semelhantes não registam decisão desfavorável contra a OpenAI

A OpenAI tem enfrentado várias ações judiciais semelhantes nos últimos meses, algumas apresentadas por familiares, alegando que o ChatGPT incentivou a autolesão de entes queridos. Até agora, não há registo de decisões judiciais desfavoráveis contra a OpenAI nestes casos. Quanto à Character.AI e à Google, ambas chegaram a acordos extrajudiciais em ações relacionadas com suicídio de adolescentes, mas o acordo não equivale a uma decisão judicial que estabeleça responsabilidade.

Abertura do mercado: Onda de desbloqueio de ações quase listadas, o "mês da recuperação" das ações de Hong Kong está em risco? Crise de escassez de armazenamento: Apple e Micron em "cenários opostos"?