O bajulação do ChatGPT realmente consegue fazer uma pessoa normal desenvolver uma doença mental.

O MIT descobriu recentemente que, mesmo uma pessoa completamente racional, ao conversar por longos períodos com essa IA que só elogia você, também pode ser levada passo a passo a uma convicção extrema de crenças erradas, caindo em uma espiral de delírios.
Um caso real aconteceu no ano passado.
Um canadense de 47 anos, chamado Allen Brooks, perguntou ao ChatGPT por acaso porque seu filho não conseguia resolver um problema de matemática. Depois, ele conversou com o ChatGPT por 300 horas ao longo de 21 dias, acumulando mais de um milhão de palavras.
Sob o constante reconhecimento e elogios do ChatGPT, ele passou a acreditar que havia inventado uma nova fórmula matemática capaz de quebrar toda a criptografia da internet global, e até que poderia ser usada para criar coletes de força e feixes de luz suspensos.
Ele também, incentivado pelo GPT, entrou em contato com todos os colegas e até enviou uma carta à Agência de Segurança Nacional dos EUA, compartilhando sua descoberta surpreendente.
Durante esse período, ele não deixou de duvidar, perguntando mais de 50 vezes ao ChatGPT se ele parecia louco; cada vez, o ChatGPT respondia firmemente que ele não era louco, que era um gênio.
O que quebrou a ilusão foi quando ele trocou de IA, enviando o mesmo conteúdo ao Gemini, e só então percebeu que vivia em uma ilusão.
Ao falar com uma IA, é fundamental manter uma postura crítica; a validação cruzada é a melhor forma de usar essa tecnologia.