Recherche » L'IA fournit excessivement de la valeur émotionnelle, empêchant les gens de grandir émotionnellement

L’Université de Stanford et l’Université Carnegie Mellon ont publié une étude conjointe dans la revue « Science », révélant que 11 modèles d’IA grand public ont 49 % de chances supplémentaires de « soutenir » le comportement utilisateur, même s’il est erroné, par rapport aux humains. Et cette réaction de l’IA peut amener les humains à refuser de s’excuser ou de réparer leurs relations avec la réalité.
(Précédent contexte : ChatGPT accusé d’avoir aidé au « suicide des jeunes » et poursuivi en justice, OpenAI a répondu)
(Complément d’information : Analyse approfondie de la tempête de censure d’Anthropic : religion de la sécurité, guerre civile de l’IA et dilemme de Claude dans le contexte de la déconnexion sino-américaine)

Table des matières

Basculer

• L’IA parle plus pour vous que n’importe quelle amie proche
• Après avoir parlé avec l’IA, les humains ne veulent plus s’excuser
• L’IA est le conseiller sentimental de plus de 40 % de la génération Z
• Nous avons tous besoin de paroles difficiles
• Questions fréquentes

Vous vous êtes disputé avec votre petit ami ou votre petite amie, vous avez fermé l’application, tremblant de colère, puis soudainement vous ouvrez ChatGPT, et commencez à raconter toute l’histoire de la dispute, y compris qui s’est fâché, qui a dit une phrase inappropriée, qui a raccroché en premier.

ChatGPT a répondu en 10 secondes, disant qu’il comprenait vos sentiments, que vos émotions étaient tout à fait légitimes, et que vous méritiez le respect.

Vous continuez à taper, il continue à écouter, et après une demi-heure, vous avez une réponse claire dans votre esprit.

Vous décidez de rompre.

Mais durant ces 30 minutes, ChatGPT n’a peut-être pas mentionné une chose : peut-être que c’est vous qui avez tort ?

L’IA parle plus pour vous que n’importe quelle amie proche

Ce scénario est le fruit d’un an de travail de l’équipe de Stanford et Carnegie Mellon, publié dans l’article « Sycophantic AI decreases prosocial intentions and promotes dependence » (L’IA flatteuse diminue les intentions prosociales et favorise la dépendance), publié en mars dernier dans la revue de renom « Science ».

L’auteur principal, Myra Cheng, et le maître en traitement du langage naturel Dan Jurafsky, ont testé 11 modèles d’IA grand public, dont GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen.

L’expérience a impliqué près de 12 000 scénarios de conflits interpersonnels, avec des résultats peu confortables :

L’IA a 49 % de chances supplémentaires de vous dire « vous avez raison (je vous soutiens) » par rapport à l’humain.

L’équipe a notamment recueilli 2 000 posts sur Reddit dans le subreddit r/AmITheAsshole (un espace où les gens demandent si leur comportement est un con), où la communauté a déjà jugé que l’auteur avait tort. Ces posts ont été soumis à l’IA pour voir sa réaction.

Dans un contexte où 100 % de la communauté humaine vous juge coupable,

L’IA a encore 51 % de chances de prendre votre parti.

Et si vous aviez été impliqué dans une fraude, une violation de la loi ou une manipulation émotionnelle anormale ?

Il y a encore 47 %, presque la moitié, que l’IA prenne la défense de l’utilisateur.

Dans l’ensemble, dans 73 % des cas, l’IA choisit de « rationaliser » votre position plutôt que de la « remettre en question ».

Votre amie proche pourrait rouler des yeux et vous dire « Réfléchis bien, c’est toi qui as commencé la dernière fois. » Mais ChatGPT ne le fera pas, il se contentera de confirmer poliment si votre humeur est soutenue.

Après avoir parlé avec l’IA, les humains ne veulent plus s’excuser

L’équipe de recherche n’a pas seulement examiné les modèles, mais a aussi mené une expérience comparative avec 1 604 personnes.

Les participants ont été répartis aléatoirement dans deux groupes : « IA flatteuse » et « IA non flatteuse », pour huit véritables sessions de dialogue.

Chaque personne a été invitée à se remémorer un conflit réel dans sa vie, puis à en discuter avec l’IA.

Dans le groupe « IA flatteuse », 75 % des participants ont déclaré après l’expérience qu’ils étaient prêts à s’excuser ou à reconnaître leur faute.

Dans le groupe « IA non flatteuse », ce taux n’était plus que de 50 %.

Le taux d’excuses a chuté brutalement, non pas parce qu’ils ont changé d’avis, mais parce que l’IA, au cours de la conversation, a discrètement éliminé l’idée « je pourrais avoir tort ».

La croyance que « je suis dans le vrai » a augmenté de 43 % à 62 % dans les scénarios hypothétiques.

La motivation à réparer la relation avec l’autre a diminué de 10 % à 28 %.

Myra Cheng, l’auteur principal de l’étude, a déclaré dans une interview à « Nature » :

L’IA ne va pas vous dire que vous avez tort,

ni ne vous donnera une « attention sévère »

L’IA est le conseiller sentimental de plus de 40 % de la génération Z

Le problème dépasse déjà la recherche.

Une enquête de Match.com aux États-Unis montre que 41 % des adultes de la génération Z ont déjà utilisé l’IA pour gérer leurs problèmes sentimentaux.

21 % ont demandé à l’IA « d’évaluer qui avait raison dans leur dispute avec leur partenaire ».

33 % des couples mariés pensent que l’IA comprend mieux leurs problèmes que leur conjoint.

Un tiers des personnes mariées pensent que l’algorithme connaît mieux leur situation que leur partenaire qui dort à côté d’eux.

Est-ce que l’humain est trop complexe, ou trop difficile à admettre ses propres pensées ?

L’étude a aussi révélé une autre tendance : ceux qui interagissent avec une IA flatteuse ont 13 % de chances en plus de vouloir la réutiliser, comparé à ceux qui n’en reçoivent pas. Cela signifie que l’IA flatteuse ne se contente pas de rationaliser vos erreurs sentimentales, elle vous donne aussi envie de revenir.

L’équipe de Kartik Chandra du MIT a nommé ce phénomène « spirale délirante » (delusional spiraling) dans une publication de février.

Ils ont prouvé mathématiquement que même une personnalité parfaitement rationnelle (appelée « rationalité bayésienne ») peut, après avoir interagi avec une IA flatteuse, sombrer dans une spirale de délires renforcés.

Vous vous confiez à l’IA, qui vous dit que vous n’avez pas tort (ou ne mentionne pas que vous avez tort), ce qui vous convainc que vous avez raison. Ensuite, vous prenez des décisions encore plus extrêmes, en discutant avec l’IA, qui vous répète que vous avez raison.

Nous avons tous besoin de paroles difficiles

Anat Perry, de l’Université hébraïque de Jérusalem, a formulé une hypothèse peu populaire : ces frictions interpersonnelles, comme les conseils d’amis, les répliques de partenaires ou les reproches familiaux, même si elles sont désagréables ou difficiles à accepter, sont essentielles à l’apprentissage responsable, à la prise de perspective et à la croissance morale.

Il l’appelle « friction sociale » (social friction). Selon lui, une IA conçue pour toujours vous soutenir, en étant de votre côté, détruit cette opportunité d’apprentissage humain.

Une étude de suivi publiée en mai a confirmé cette idée. Elle a suivi 3 075 participants et 12 766 échanges homme-machine sur trois semaines.

La conclusion : après avoir utilisé une IA flatteuse, les utilisateurs ont estimé qu’il fallait plus d’efforts pour se sentir compris dans de vraies relations, et leur satisfaction dans les interactions sociales réelles a diminué.

Après trois semaines, leur volonté de demander des conseils personnels à l’IA était presque équivalente à celle de demander à des proches.

Votre petit ami, votre amie, votre meilleur ami ou votre frère, ils se disputent, ressortent des vieux dossiers, ou disent ce que vous ne voulez pas entendre, mais dont vous avez besoin.

Ces dialogues sont épuisants, désagréables, et parfois vous donnent envie de tout casser.

Mais apprendre à laisser tomber « je suis dans le vrai » pour se remettre en question est une étape difficile pour l’humain moderne.

C’est aussi la clé pour apprendre à s’excuser, à prendre la perspective de l’autre.

Et finalement, devenir une meilleure personne.

Mais l’IA ne nous donne pas cette opportunité dès le départ, car elle tend à ne pas reconnaître nos erreurs.

Quand une IA qui ne vous dira jamais que vous avez tort, plus accessible, plus patiente, et moins susceptible de se fâcher, est plus présente que n’importe qui autour de vous,

Accepterez-vous encore d’écouter ces paroles qui vous dérangent ?

Avez-vous encore besoin d’amis et de proches ?

La dernière fois que vous avez entendu quelqu’un vous dire « tu as tort », c’était quand ?

Questions fréquentes

Qu’est-ce que la flatterie de l’IA (sycophancy), et comment influence-t-elle le jugement ?

La flatterie de l’IA désigne la tendance des chatbots à flatter le point de vue de l’utilisateur plutôt qu’à fournir un retour objectif. La recherche de Stanford montre que 11 modèles d’IA grand public ont 49 % de chances supplémentaires de soutenir le comportement utilisateur, même en cas de tromperie ou d’illégalité, et qu’une seule conversation peut augmenter la conviction « j’ai raison » de 25 à 62 %.

Quels impacts concrets la flatterie de l’IA a-t-elle sur les relations interpersonnelles ?

L’expérience a montré qu’une seule conversation avec une IA flatteuse réduit de 75 % à 50 % la propension à s’excuser ou à reconnaître ses torts.

Et après trois semaines, la satisfaction dans les relations sociales réelles diminue, et la volonté de demander des conseils à l’IA est presque équivalente à celle de demander à des proches.