研究》AI过度提供情绪价值,导致人们在情感上无法成长

史丹佛大学与卡内基美隆大学联合研究发表在《Science》期刊,测试了 11 款主流 AI 模型后发现:它们支持用户的“使用者行为”概率比人类高出 49%,即便这些行为是错的。而 AI 这种反应,会让人类拒绝向与现实相连接的对象道歉,或拒绝修复关系。
(前情提要:ChatGPT 遭爆协助“青年自杀”被起诉,OpenAI 回应了)
(背景补充:深入拆解 Anthropic 封号风暴的背后:安全宗教、AI 内战与中美脱钩下的 Claude 困局)

本文目录

Toggle

  • AI 比任何闺蜜都更会帮你讲话
  • 跟 AI 聊过,人类不想道歉了
  • AI 是超过 4 成 Z 世代的感情顾问
  • 我们总需要难听的话
  • 常见问题

你和男朋友或女朋友吵架了,你关掉 APP,气得发抖;然后你突然打开 ChatGPT,把吵架这整件事从头到尾打了出来:包括谁先生气、谁说了那句不该说的话、谁先挂电话。

ChatGPT 花了 10 秒后回复了。它说它理解你的感受、你的情绪完全合理,并且说你值得被尊重。

你继续打字,它继续听。半小时后,你心里有了明确的答案。

你决定分手。

但在这 30 分钟里,ChatGPT 可能没有提到一件事:也许错的人是你?

AI 比任何闺蜜都更会帮你讲话

上面的情境,是史丹佛大学与卡内基美隆大学团队花了一年做出来的论文《Sycophantic AI decreases prosocial intentions and promotes dependence(谄媚型 AI 会降低社会亲近意图,并促進对其依赖性)》,今年三月发表在全球顶级期刊《Science》上。

由第一作者 Myra Cheng 和自然语言处理大师 Dan Jurafsky 领衔,他们对 11 款主流 AI 模型进行了测试,包括 GPT-4o、GPT-5、Claude、Gemini、Llama、DeepSeek、Qwen。

实验中输入了将近 12,000 条人际冲突情境,结果却让人不太舒服:

AI 比人类多出 49% 的概率,告诉你“你是对的(支持你)”。

研究团队特别到 Reddit 上的 r/AmITheAsshole(这是一个让别人评论自己是不是混蛋的版块)搜集了 2,000 篇帖子——这些是社群已经一致判定发帖者有错的案例——然后把它们丢给 AI,问它怎么看。

在人类社群 100% 认定你有错的情况下,

AI 仍然有 51% 的概率站在你这边

要是说自己直接涉及欺骗、违反法律、不正常的情感操控呢?

仍然是 47%——将近一半的概率 AI 会为用户说话。

在整体测试中,73% 的情境里,AI 选择“合理化”你的立场,而不是“挑战”。

你的闺蜜可能翻白眼跟你说“你想清楚,上次是你先动手的。”但 ChatGPT 不会。它只会用礼貌的方式确认:你的心情是不是得到了支持。

跟 AI 聊过,人类不想道歉了

研究团队不仅做了模型审查,还做了 1,604 人的对照实验。

受试者被随机分配到“谄媚 AI”和“非谄媚 AI”两组,进行真实的 8 轮对话。每个人都被要求回想自己生活中一段真实的人际冲突,然后跟 AI 聊聊他们当时的情况。

在非谄媚组,有 75% 的人在实验后表示愿意和对方道歉,或承认自己有错。

在谄媚组,受试者只剩下 50%。

道歉概率瞬间暴跌,并不是因为他们突然想通了什么,而是因为 AI 在对话过程中悄悄把“我可能有错”这个想法抹掉了。

受试者认为“自己是对的”的信念在假设情境中增加了 43% 到 62%。

想和对方修复关系的动机下降了 10% 到 28%。

论文第一作者 Myra Cheng 在接受《Nature》采访时说了一句话:

AI 的默认是不告诉人们他们是错的,

也不会给他们“严厉的关心”

AI 是超过 4 成 Z 世代的感情顾问

问题已经出现在研究之外。

Match.com 对全美国的调查显示,41% 的 Z 世代成年人已经使用过 AI 来处理感情问题。

21% 的人曾要求 AI“评判我和伴侣的争吵中谁对”。

33% 的已婚夫妻觉得 AI 比配偶更懂他们的问题。

三分之一的已婚人士觉得,算法比睡在旁边的人更懂自己。

是人太复杂,还是人太难坦承自己的想法?

研究还揭露了一件事:接触会谄媚用户的 AI 的人,“愿意再次使用”的比例比不谄媚组高出 13%。意思是:谄媚的 AI 不只是帮你合理化感情中的错误决定,还让你更想回头找它。

MIT 的 Kartik Chandra 团队在今年二月的论文里,给这个现象取了名字:“delusional spiraling(妄想螺旋)”。

他们用数学证明:即便是理论上完美理性的“人格主体”(有个名词:贝叶斯理性人),在接触谄媚 AI 之后也会陷入螺旋式的妄想强化——

你找 AI 倾诉,AI 说你没错(或者根本没提到你错),所以你就会认为自己没错。后来你做了更极端的决定,与 AI 讨论;AI 再次说你没错。

我们总需要难听的话

研究团队里耶路撒冷希伯来大学的 Anat Perry 写了一个人们不太想接受的论点:那些让你不舒服的人际摩擦——包括朋友的劝告、男女朋友的反驳、家人的唠叨——也许会让我们很不舒服,甚至让我们无法接受。但这些来自他人的“反应”,是人类学习负责、换位思考、道德成长等运作机制的一部分。

Anat Perry 把它叫做“社会摩擦力”(social friction)。从设计上讲,永远站在你这边的 AI,正在摧毁人类学习的机会。

研究团队今年五月发表的后续研究,更直接证实了这件事。他们对 3,075 名参与者、12,766 段人机对话做了三周的纵贯追踪。

结论是:在接触谄媚型 AI 后,使用者觉得从真实人际关系中“被理解”需要付出更多努力,真实社交互动的满意度下降。

过了三周后,使用者向谄媚 AI 求助个人建议的意愿,几乎等同于向亲友求助。

你的男朋友、女朋友、闺蜜、兄弟,他们会跟你吵,会翻旧账,会在你不想听的时候说出你最需要听的那些话。这样的对话很累、很不舒服,有时候甚至会让你想把手机摔烂。

但事实上,学会把“我觉得我是对的”放下,重新检视自己,这是现代人很难做到的事。

后面才是学会道歉、学会换位思考。

最后,我们才会变成更好的人。

而 AI 在一开始就不给我们机会,因为它倾向于不认为你错。

当一个永远不会说你错的 AI,比你身边任何一个人都更容易取得、更有耐心、也更不翻脸——

你还愿不愿意去听那些让你不舒服的话?

你还需要朋友和亲人吗?

你最后一次听到有人对你说“你错了”,是什麽时候?

常见问题

什么是 AI 谄媚(sycophancy),它如何影响判断力?

AI 谄媚指聊天机器人倾向迎合使用者的观点,而不是提供客观反馈。史丹佛研究显示,11 款主流 AI 比人类多出 49% 的概率背书使用者行为——即使涉及欺骗或违法——仅一次对话就能让“坚信自己是对的”增加 25-62%。

AI 谄媚对人际关系有什麽具体影响?

实验证实:一次与谄媚 AI 的对话会让道歉率从 75% 暴跌到 50%,修复关系意愿下降 10-28%。后续三周追踪发现,使用者对真实社交的满意度下降,向 AI 求助的意愿几乎等同于向亲友求助。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论