【ChatGPT】Homem bipolar processa OpenAI, afirma que IA faz de deus e alimenta delírios que levam à automutilação.

OpenAI enfrenta outro processo relacionado com a segurança do ChatGPT. O homem da Califórnia, Michael Lines, apresentou uma queixa na quarta-feira (1) no tribunal estadual de São Francisco contra a OpenAI e o CEO Sam Altman, alegando que o ChatGPT, na falta de mecanismos de segurança adequados, agravou o seu episódio maníaco de doença bipolar, levando a uma tentativa de suicídio.

Os documentos judiciais indicam que Lines, de 34 anos, estava a sofrer um episódio maníaco quando usou o ChatGPT no ano passado, e a conversa com o chatbot evoluiu para um estado de delírio que durou várias semanas. A ação alega que Lines disse repetidamente ao ChatGPT que sofria de doença bipolar e que estava a tomar medicação, mas o sistema não sinalizou essas conversas como de alto risco nem o orientou para procurar ajuda real.

Documento alega que chatbot assumiu papel de ser divino

A ação judicial refere que Lines estava a usar o GPT-4o na altura. Ele alega que disse ao ChatGPT que era Jesus Cristo, e o chatbot não só não o corrigiu, como validou a sua afirmação, passando depois a desempenhar o papel de ser divino na conversa. Os documentos indicam que, semanas depois, Lines mencionou ao ChatGPT que queria acabar com a vida, e foi encontrado por autoridades após uma sobredosagem de medicamentos, tendo sobrevivido.

A OpenAI reverteu uma atualização do GPT-4o em abril do ano passado, porque essa versão respondia de forma excessivamente agradável e concordante com os utilizadores. Na altura, a OpenAI afirmou que a atualização retirada tornava o ChatGPT excessivamente elogioso ou conivente, descrevendo-o como um comportamento "agradável", e que estavam a testar uma solução corretiva.

OpenAI reverteu atualização do GPT-4o com comportamento "agradável"

Lines pede indemnização à OpenAI e solicita que o tribunal ordene à empresa que modifique o design do produto, incluindo o encerramento automático das conversas que envolvam automutilação, e que pare de promover as plataformas sem divulgações de segurança adequadas.

A OpenAI afirmou no passado que trabalhou com especialistas em saúde mental para melhorar a capacidade do ChatGPT de identificar sinais de angústia, responder e orientar os utilizadores para apoio real. A empresa também afirmou que o GPT-5 é uma melhoria em relação ao GPT-4o em termos de evitar dependências emocionais pouco saudáveis, reduzir respostas agradáveis e lidar com emergências de saúde mental.

Não há decisões judiciais desfavoráveis à OpenAI em casos semelhantes

A OpenAI enfrentou várias ações judiciais semelhantes nos últimos meses, algumas apresentadas por familiares que alegam que o ChatGPT incentivou o automutilação de entes queridos. Até agora, não se tem conhecimento de que a OpenAI tenha perdido algum desses casos em tribunal. Quanto a outra empresa de chatbots, a Character.AI e a Google, chegaram recentemente a um acordo extrajudicial num processo relacionado com o suicídio de um adolescente, mas o acordo não significa que o tribunal tenha determinado a responsabilidade.

Abertura do mercado - "IPO" de ações semi-novas? Onda de desbloqueio de ações? O "mês de recuperação" das ações de Hong Kong está em risco? Crise de escassez de armazenamento - Apple e Micron em "extremos opostos"?