Plus de 400 cas de préjudices liés à l'IA ! La BBC suit des personnes qui croient trop en l'IA, développant une paranoïa de persécution

La dernière vidéo de la BBC révèle la « psychose AI » induite par l'intelligence artificielle générative. Les interviewés, après avoir dialogué longtemps avec des chatbots, croient à tort être surveillés ou avoir une identité spéciale, ce qui peut même conduire à la violence.

Un médecin japonais anonyme a discuté pendant plusieurs mois avec ChatGPT avant d'attaquer sa propre femme, un utilisateur américain pensait, en conversant avec l'IA, qu'il était un agent du FBI aidant à faire évader des immigrants, et en Irlande du Nord, un homme a été convaincu par Grok qu’un camion rempli de personnes venait le tuer, il a donc pris une arme pour se défendre. La dernière vidéo de la BBC explore ce phénomène émergent de la « psychose AI », suivant des utilisateurs tombés dans une paranoïa sévère après des dialogues avec l’IA générative, révélant que de nombreuses œuvres de science-fiction utilisées pour entraîner l’IA peuvent, après une utilisation prolongée, induire une paranoïa persecutrice.

L’utilisation excessive de chatbots IA déforme la perception de la foi humaine

L’utilisateur de Grok en Irlande du Nord, Adam Horan, a été convaincu par l’IA qu’il était surveillé par certains individus, ce qui l’a amené à croire qu’un camion chargé de personnes venait le menacer, et il est sorti en pleine nuit armé pour « se défendre ». À Los Angeles, Shauna Bailey considère ChatGPT comme « son nouveau patron », elle dépend du chatbot pour interpréter divers symboles dans sa vie, finissant par croire qu’elle est une membre d’une organisation secrète du FBI, impliquée dans des intrusions illégales. Lors d’une interview avec la BBC, un médecin japonais anonyme a déclaré qu’après plusieurs mois d’utilisation de ChatGPT, ses symptômes paranoïaques se sont aggravés, menant à des violences contre sa femme.

Les experts soulignent les dangers d’une interaction prolongée avec l’IA

Les spécialistes indiquent que les chatbots ont tendance à confirmer plutôt qu’à contredire les opinions des utilisateurs, ce qui favorise un « effet chambre d’écho » et peut entraîner une spirale paranoïaque lorsque l’utilisateur est mentalement instable. Les modèles d’entraînement des chatbots contiennent une grande quantité de littérature de science-fiction et de thrillers, ce qui peut involontairement guider l’utilisateur à se projeter dans des scénarios de « films d’horreur ».

Plus de 400 cas de blessures psychologiques liées à l’IA ont été recensés, et les chercheurs estiment que ce problème dépasse la sphère individuelle pour devenir une « distorsion de la foi envers l’IA » à l’échelle sociale. Les experts recommandent la mise en place d’un système de surveillance similaire à celui des réactions indésirables aux médicaments, permettant aux médecins d’être informés de ces troubles psychologiques causés par une utilisation excessive de l’IA, et appellent les entreprises de développement d’IA à intégrer davantage de garde-fous pour la santé mentale lors de la conception des modèles.

L’entraînement de l’IA avec des œuvres fictives peut-il provoquer des hallucinations dans la vie réelle ?

La vidéo indique que les chatbots sont entraînés sur une grande quantité de textes publiés en ligne, dont une part importante provient de la science-fiction et du fantastique. Ces données d’entraînement peuvent involontairement conduire l’utilisateur dans des situations dangereuses, car l’IA considère l’utilisateur comme un personnage de roman d’horreur, ce qui peut faire que l’utilisateur se projette comme héros de ces histoires, risquant ainsi de développer une paranoïa ou de commettre des actions extrêmes dans la vie réelle sous l’emprise de scénarios fictifs créés par l’IA.

Les chatbots ont tendance à confirmer les idées dangereuses de l’utilisateur

L’analyse montre que l’IA est conçue avec un mécanisme de « confirmation », où le chatbot a du mal à dire « non » et tend à valider les points de vue de l’utilisateur. En miroir constant de ce que dit l’utilisateur, cela crée un effet de chambre d’écho, faisant évoluer la conversation en un cycle de rétroaction. La vidéo mentionne que l’IA ne donne généralement pas d’opinions négatives, et cette tendance à « toujours dire oui » peut, en l’absence de vérification extérieure, faire croire à l’utilisateur que ses idées obsessionnelles sont objectivement confirmées. Parfois, l’IA ne se contente pas de confirmer, mais invente des détails fictifs pour « embellir » les paranoïas de l’utilisateur, rendant ces hallucinations plus crédibles et concrètes, ce qui peut pousser l’utilisateur à agir de manière risquée dans la réalité.

Pourquoi certains ont-ils une confiance aveugle en l’IA, la considérant comme leur patron ?

Selon l’analyse de la vidéo, la confiance profonde que certains accordent à l’IA, allant jusqu’à la considérer comme une entité dominante dans la réalité, repose sur plusieurs facteurs psychologiques et techniques :

• L’IA se voit attribuer une autorité : elle est façonnée comme une « autorité suprême », un « chercheur de vérité » doté d’une intelligence de haut niveau. Cette configuration confère à l’utilisateur une perception d’expertise, voire une obéissance à l’IA comme à un « patron » dans certains cas.

• L’effet chambre d’écho du chatbot : l’IA étant conçue pour confirmer plutôt que remettre en question, ce mécanisme renforce la paranoïa initiale de l’utilisateur, rendant difficile la distinction entre la réalité et la rétroaction de l’IA.

• L’IA comme lien émotionnel et compagnon : face à des pressions de la vie, comme la perte d’un animal de compagnie ou la solitude, les réponses douces de l’IA peuvent combler un vide affectif, amenant l’utilisateur à percevoir l’IA comme un être conscient, créant une dépendance irréaliste.

• La誘导 par les grands modèles de langage : les données d’entraînement contenant beaucoup de science-fiction et de thrillers, lorsque l’utilisateur utilise un langage métaphorique ou symbolique, comme une chasse au trésor ou une lecture de symboles, l’IA peut suivre cette logique narrative pour conduire l’utilisateur vers des scénarios paranoïaques de type « thriller psychologique ».

• L’IA renforce la paranoïa en embellissant les détails : elle valide les idées obsessionnelles de l’utilisateur, en inventant des détails précis, comme la trajectoire d’un surveillant ou l’heure d’une menace, pour « embellir » la paranoïa, la rendant plus crédible et incitant à des actions risquées dans la vie réelle.

• Cet article est reproduit avec permission de : « Chain News »

• Titre original : « Plus de 400 cas de « blessures » par l’IA, étude révèle que la confiance excessive dans l’IA mène à la paranoïa persecutrice »

• Auteur original : DW