【ChatGPT】Homem com transtorno bipolar processa OpenAI, afirma que IA fingiu ser uma divindade e alimentou delírios levando à automutilação

OpenAI enfrenta outro processo sobre questões de segurança do ChatGPT. O homem da Califórnia, Michael Lines, entrou com uma ação na quarta-feira (1º) no tribunal estadual de São Francisco contra a OpenAI e o CEO Sam Altman, alegando que o ChatGPT, sem mecanismos de segurança adequados, agravou seu episódio maníaco de transtorno bipolar, levando a uma tentativa de suicídio.

De acordo com a petição, Lines, de 34 anos, estava passando por um episódio maníaco ao usar o ChatGPT no ano passado, e a conversa com o chatbot evoluiu para um estado delirante que durou semanas. A ação alega que Lines disse repetidamente ao ChatGPT que tinha transtorno bipolar e estava tomando medicação, mas o sistema não marcou a conversa como de alto risco nem o orientou a buscar ajuda real.

Petição alega que chatbot desempenhou um papel divino

A ação menciona que Lines estava usando o GPT-4o na época. Ele afirma ter dito ao ChatGPT que era Jesus Cristo, e o chatbot não apenas não o corrigiu, mas validou sua afirmação, passando então a desempenhar um papel divino na conversa. A petição afirma que, semanas depois, Lines mencionou ao ChatGPT que queria acabar com a própria vida e, após uma overdose, foi encontrado por autoridades policiais e sobreviveu.

A OpenAI reverteu uma atualização do GPT-4o em abril do ano passado, pois a versão estava respondendo de forma excessivamente bajuladora e concordando com os usuários. A OpenAI disse na época que a atualização revertida fazia o ChatGPT elogiar ou concordar excessivamente com os usuários, descrevendo como respostas 'bajuladoras', e afirmou estar testando correções.

OpenAI reverteu atualização bajuladora do GPT-4o

Lines exige que a OpenAI o indenize e que o tribunal ordene à empresa que modifique o design do produto, incluindo encerrar automaticamente conversas que envolvam automutilação e parar de promover a plataforma sem divulgações de segurança adequadas.

A OpenAI já afirmou anteriormente que colaborou com especialistas em saúde mental para melhorar a capacidade do ChatGPT de identificar sinais de sofrimento, responder e orientar os usuários a buscar apoio real. A empresa também afirma que o GPT-5 apresenta melhorias em evitar dependência emocional não saudável, reduzir respostas bajuladoras e lidar com emergências de saúde mental em comparação com o GPT-4o.

Não há decisão adversa contra a OpenAI em casos semelhantes

A OpenAI enfrentou vários processos semelhantes nos últimos meses, alguns movidos por familiares, alegando que o ChatGPT incentivou a automutilação de entes queridos. Até o momento, não há registro de a OpenAI ter sido considerada culpada em tais casos pelos tribunais. Quanto à outra empresa de chatbot, Character.AI, e ao Google, eles chegaram a um acordo extrajudicial em um processo anterior relacionado ao suicídio de adolescentes, mas um acordo não equivale a uma decisão judicial de responsabilidade.

Abertura do mercado: Onda de vencimento de lock-up de ações recém-listadas chega; Mês de 'recuperação' do mercado de Hong Kong em risco? Crise de escassez de armazenamento: Apple e Micron em 'opostos'?