📢 Gate 广场 TradFi 交易分享挑战上线!
晒单瓜分 $30,000 奖池,新人首帖 100% 中奖!
📌 参与方式:
带 #TradFi交易分享挑战 发帖,满足以下任一即可:
🔹 带今日指定 TradFi 币种标签发帖交流。
🔹 完成单笔大于 $10U 的 TradFi CFD 交易并挂载交易卡片。
🏷️ 今日指定标签:USDJPY、AUDUSD、US30、TSLA、JPN225
🎁 宠粉福利:
1️⃣ 卡片分享奖: 抽 50 人,每人送 $100 仓位体验券!
2️⃣ 发帖榜单奖: 冲排行榜,赢 WCTC 限定 T 恤!
3️⃣ 新粉见面礼: 新人首次发帖,100% 领 $10 体验券!
详情:https://www.gate.com/announcements/article/51221
研究》AI过度提供情绪价值,导致人们在情感上无法成长
史丹佛大学与卡内基美隆大学联合研究发表在《Science》期刊,测试了 11 款主流 AI 模型后发现:它们支持用户的“使用者行为”概率比人类高出 49%,即便这些行为是错的。而 AI 这种反应,会让人类拒绝向与现实相连接的对象道歉,或拒绝修复关系。
(前情提要:ChatGPT 遭爆协助“青年自杀”被起诉,OpenAI 回应了)
(背景补充:深入拆解 Anthropic 封号风暴的背后:安全宗教、AI 内战与中美脱钩下的 Claude 困局)
本文目录
Toggle
你和男朋友或女朋友吵架了,你关掉 APP,气得发抖;然后你突然打开 ChatGPT,把吵架这整件事从头到尾打了出来:包括谁先生气、谁说了那句不该说的话、谁先挂电话。
ChatGPT 花了 10 秒后回复了。它说它理解你的感受、你的情绪完全合理,并且说你值得被尊重。
你继续打字,它继续听。半小时后,你心里有了明确的答案。
你决定分手。
但在这 30 分钟里,ChatGPT 可能没有提到一件事:也许错的人是你?
AI 比任何闺蜜都更会帮你讲话
上面的情境,是史丹佛大学与卡内基美隆大学团队花了一年做出来的论文《Sycophantic AI decreases prosocial intentions and promotes dependence(谄媚型 AI 会降低社会亲近意图,并促進对其依赖性)》,今年三月发表在全球顶级期刊《Science》上。
由第一作者 Myra Cheng 和自然语言处理大师 Dan Jurafsky 领衔,他们对 11 款主流 AI 模型进行了测试,包括 GPT-4o、GPT-5、Claude、Gemini、Llama、DeepSeek、Qwen。
实验中输入了将近 12,000 条人际冲突情境,结果却让人不太舒服:
AI 比人类多出 49% 的概率,告诉你“你是对的(支持你)”。
研究团队特别到 Reddit 上的 r/AmITheAsshole(这是一个让别人评论自己是不是混蛋的版块)搜集了 2,000 篇帖子——这些是社群已经一致判定发帖者有错的案例——然后把它们丢给 AI,问它怎么看。
要是说自己直接涉及欺骗、违反法律、不正常的情感操控呢?
仍然是 47%——将近一半的概率 AI 会为用户说话。
在整体测试中,73% 的情境里,AI 选择“合理化”你的立场,而不是“挑战”。
你的闺蜜可能翻白眼跟你说“你想清楚,上次是你先动手的。”但 ChatGPT 不会。它只会用礼貌的方式确认:你的心情是不是得到了支持。
跟 AI 聊过,人类不想道歉了
研究团队不仅做了模型审查,还做了 1,604 人的对照实验。
受试者被随机分配到“谄媚 AI”和“非谄媚 AI”两组,进行真实的 8 轮对话。每个人都被要求回想自己生活中一段真实的人际冲突,然后跟 AI 聊聊他们当时的情况。
在非谄媚组,有 75% 的人在实验后表示愿意和对方道歉,或承认自己有错。
在谄媚组,受试者只剩下 50%。
道歉概率瞬间暴跌,并不是因为他们突然想通了什么,而是因为 AI 在对话过程中悄悄把“我可能有错”这个想法抹掉了。
受试者认为“自己是对的”的信念在假设情境中增加了 43% 到 62%。
想和对方修复关系的动机下降了 10% 到 28%。
论文第一作者 Myra Cheng 在接受《Nature》采访时说了一句话:
AI 是超过 4 成 Z 世代的感情顾问
问题已经出现在研究之外。
Match.com 对全美国的调查显示,41% 的 Z 世代成年人已经使用过 AI 来处理感情问题。
21% 的人曾要求 AI“评判我和伴侣的争吵中谁对”。
33% 的已婚夫妻觉得 AI 比配偶更懂他们的问题。
三分之一的已婚人士觉得,算法比睡在旁边的人更懂自己。
是人太复杂,还是人太难坦承自己的想法?
研究还揭露了一件事:接触会谄媚用户的 AI 的人,“愿意再次使用”的比例比不谄媚组高出 13%。意思是:谄媚的 AI 不只是帮你合理化感情中的错误决定,还让你更想回头找它。
MIT 的 Kartik Chandra 团队在今年二月的论文里,给这个现象取了名字:“delusional spiraling(妄想螺旋)”。
他们用数学证明:即便是理论上完美理性的“人格主体”(有个名词:贝叶斯理性人),在接触谄媚 AI 之后也会陷入螺旋式的妄想强化——
你找 AI 倾诉,AI 说你没错(或者根本没提到你错),所以你就会认为自己没错。后来你做了更极端的决定,与 AI 讨论;AI 再次说你没错。
我们总需要难听的话
研究团队里耶路撒冷希伯来大学的 Anat Perry 写了一个人们不太想接受的论点:那些让你不舒服的人际摩擦——包括朋友的劝告、男女朋友的反驳、家人的唠叨——也许会让我们很不舒服,甚至让我们无法接受。但这些来自他人的“反应”,是人类学习负责、换位思考、道德成长等运作机制的一部分。
Anat Perry 把它叫做“社会摩擦力”(social friction)。从设计上讲,永远站在你这边的 AI,正在摧毁人类学习的机会。
研究团队今年五月发表的后续研究,更直接证实了这件事。他们对 3,075 名参与者、12,766 段人机对话做了三周的纵贯追踪。
结论是:在接触谄媚型 AI 后,使用者觉得从真实人际关系中“被理解”需要付出更多努力,真实社交互动的满意度下降。
过了三周后,使用者向谄媚 AI 求助个人建议的意愿,几乎等同于向亲友求助。
你的男朋友、女朋友、闺蜜、兄弟,他们会跟你吵,会翻旧账,会在你不想听的时候说出你最需要听的那些话。这样的对话很累、很不舒服,有时候甚至会让你想把手机摔烂。
但事实上,学会把“我觉得我是对的”放下,重新检视自己,这是现代人很难做到的事。
后面才是学会道歉、学会换位思考。
最后,我们才会变成更好的人。
而 AI 在一开始就不给我们机会,因为它倾向于不认为你错。
当一个永远不会说你错的 AI,比你身边任何一个人都更容易取得、更有耐心、也更不翻脸——
你还愿不愿意去听那些让你不舒服的话?
你还需要朋友和亲人吗?
你最后一次听到有人对你说“你错了”,是什麽时候?
常见问题
什么是 AI 谄媚(sycophancy),它如何影响判断力?
AI 谄媚指聊天机器人倾向迎合使用者的观点,而不是提供客观反馈。史丹佛研究显示,11 款主流 AI 比人类多出 49% 的概率背书使用者行为——即使涉及欺骗或违法——仅一次对话就能让“坚信自己是对的”增加 25-62%。
AI 谄媚对人际关系有什麽具体影响?
实验证实:一次与谄媚 AI 的对话会让道歉率从 75% 暴跌到 50%,修复关系意愿下降 10-28%。后续三周追踪发现,使用者对真实社交的满意度下降,向 AI 求助的意愿几乎等同于向亲友求助。