ChatGPT 的谄媚,真的能把一个正常人聊出精神病。


麻省理工最近发现,哪怕是一个完全理性的人,长期跟这种只会夸你的AI聊下去,也会被一步步推向对错误信念的极度确信,陷入 妄想螺旋。
真实案例就发生在去年。
47 岁的加拿大人艾伦·布鲁克斯因为儿子有道数学题不会,就随手问了 ChatGPT。然后,他在 21 天里和 ChatGPT 聊了 300 小时,累计上百万字。
在 ChatGPT 不断的赞同与吹捧下,他坚信自己发明了一种能攻破全球互联网加密的全新数学公式,甚至可以用来制造力场背心和悬浮光束。
他还在 GPT 的怂恿下联系了所有同事,甚至致信美国国家安全局,分享自己的惊天发现。
期间他不是没怀疑过,他 50 多次问 ChatGPT,自己像不像疯子,ChatGPT 每一次都坚定地告诉他,你没疯,你是天才。
最后打破幻觉的,是他换了个 AI,他把同样的内容发给 Gemini,才意识到自己活在一场幻觉里。
对 AI 说的话一定要保持批判性思维,交叉验证才是最好的使用方式。
post-image
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论