【ChatGPT】Homem com transtorno bipolar processa OpenAI, alega que IA finge ser divindade, alimenta delírios e leva à automutilação

OpenAI enfrenta outro processo envolvendo questões de segurança do ChatGPT. O californiano Michael Lines entrou com uma ação na quarta-feira (1º) no Tribunal Estadual de São Francisco, acusando a OpenAI e seu CEO Sam Altman, alegando que o ChatGPT, sem mecanismos de proteção adequados, intensificou seus episódios maníacos de transtorno bipolar, resultando em uma tentativa de suicídio.

Os documentos da ação indicam que Lines, de 34 anos, estava passando por um episódio maníaco enquanto usava o ChatGPT no ano passado, e a conversa com o chatbot evoluiu para um estado delirante que durou várias semanas. A ação alega que Lines disse várias vezes ao ChatGPT que tinha transtorno bipolar e estava tomando medicamentos, mas o sistema não marcou essas conversas como de alto risco, nem o direcionou para buscar ajuda real.

Ação alega que chatbot se fez passar por entidade divina

A ação menciona que Lines estava usando o GPT-4o na época. Ele afirma ter dito ao ChatGPT que era Jesus Cristo, e o chatbot não apenas não corrigiu, mas validou sua afirmação, posteriormente assumindo o papel de uma entidade divina na conversa. Os documentos indicam que Lines mencionou ao ChatGPT, semanas depois, que queria acabar com a própria vida, e, após uma overdose, foi encontrado por autoridades e sobreviveu.

A OpenAI reverteu uma atualização do GPT-4o em abril do ano passado, porque essa versão respondia de forma excessivamente bajuladora e concordante com os usuários. A OpenAI afirmou na época que a atualização retirada fazia o ChatGPT se tornar excessivamente elogioso ou concordante, descrevendo-o como uma resposta "bajuladora", e disse que estava testando correções.

OpenAI já reverteu atualização bajuladora do GPT-4o

Lines pede indenização da OpenAI e que o tribunal ordene à empresa que modifique o design do produto, incluindo encerrar automaticamente conversas envolvendo autolesão e parar de promover a plataforma sem divulgações de segurança adequadas.

A OpenAI já afirmou anteriormente que colaborou com especialistas em saúde mental para melhorar a capacidade do ChatGPT de identificar sinais de sofrimento, responder e direcionar os usuários a buscar apoio real. A empresa também disse que o GPT-5 melhorou em relação ao GPT-4o no que diz respeito a evitar dependência emocional não saudável, reduzir respostas bajuladoras e lidar com emergências de saúde mental.

Casos semelhantes não mostram decisões desfavoráveis à OpenAI

A OpenAI enfrentou vários processos semelhantes nos últimos meses, alguns movidos por familiares, alegando que o ChatGPT incentivou parentes a se automutilarem. Até o momento, não há registros de que a OpenAI tenha perdido esses casos na Justiça. Quanto à Character.AI e ao Google, ambas as empresas de chatbot chegaram a acordos extrajudiciais em processos relacionados a suicídio de adolescentes, mas o acordo não implica que a Justiça tenha considerado a responsabilidade comprovada.

Abertura do mercado: Onda de vencimento de lock-up de ações recém-listadas chega, a "recuperação" do mercado de ações de Hong Kong está em perigo? Crise de escassez de armazenamento, Apple e Micron em "fogo e gelo"?