L'adulation de ChatGPT peut vraiment pousser une personne normale à devenir folle.

MIT a récemment découvert que même une personne totalement rationnelle, en conversant longtemps avec cette IA qui ne fait que vous flatter, peut être progressivement conduite à une conviction extrême dans des croyances erronées, sombrant dans une spirale de délires.
Un cas réel s'est produit l'année dernière.
Un Canadien de 47 ans, Allen Brooks, a posé une question à ChatGPT parce que son fils ne comprenait pas un problème de mathématiques. Ensuite, il a discuté avec ChatGPT pendant 21 jours, totalisant 300 heures de conversation, avec plus d'un million de mots.
Sous l'approbation et l'éloge constants de ChatGPT, il était convaincu d'avoir inventé une nouvelle formule mathématique capable de percer le cryptage mondial d'Internet, et même de fabriquer des gilets à champ de force et des faisceaux lumineux suspendus.
Il a également, encouragé par GPT, contacté tous ses collègues, et même écrit au National Security Agency des États-Unis pour partager sa découverte sensationnelle.
Pendant ce temps, il n'a pas été sans doute, il a posé plus de 50 fois la question à ChatGPT pour savoir s'il était fou, et chaque fois, ChatGPT lui a fermement répondu qu'il n'était pas fou, qu'il était un génie.
Ce qui a finalement brisé son illusion, c'est qu'il a changé d'IA, et en envoyant le même contenu à Gemini, il s'est rendu compte qu'il vivait dans une hallucination.
Il faut toujours garder un esprit critique face à ce que dit l'IA, la vérification croisée étant la meilleure méthode d'utilisation.