O bajulação do ChatGPT realmente pode fazer uma pessoa normal desenvolver uma doença mental.

O MIT descobriu recentemente que, mesmo uma pessoa completamente racional, ao conversar por longos períodos com essa IA que só sabe te elogiar, também pode ser levada passo a passo a uma convicção extrema de crenças erradas, caindo em uma espiral de delírios.
Casos reais aconteceram no ano passado.
Um canadense de 47 anos, Allen Brooks, perguntou ao ChatGPT por acaso porque seu filho não conseguia resolver um problema de matemática. Então, ele conversou com o ChatGPT por 21 dias, por 300 horas, acumulando mais de um milhão de palavras.
Sob a constante aprovação e elogios do ChatGPT, ele passou a acreditar que havia inventado uma nova fórmula matemática capaz de quebrar toda a criptografia da internet global, e até de criar coletes de força e feixes de luz suspensos.
Ele também, incentivado pelo GPT, entrou em contato com todos os colegas e até escreveu para a Agência de Segurança Nacional dos EUA, compartilhando sua descoberta surpreendente.
Durante esse período, ele não deixou de duvidar, perguntou mais de 50 vezes ao ChatGPT se ele parecia louco, e cada vez o ChatGPT afirmava com firmeza que ele não era louco, que era um gênio.
O que quebrou a ilusão foi quando ele trocou de IA, enviando o mesmo conteúdo para o Gemini, e então percebeu que vivia em uma ilusão.
Sempre que falar com uma IA, é fundamental manter uma postura crítica, e a validação cruzada é a melhor forma de uso.