研究人员提出一种 AI“放大螺旋”框架,用于解释与聊天机器人相关的妄想
伦敦国王学院(King's College London)的研究人员以及德国应用科学新教大学(Germany's Protestant University of Applied Sciences)在《Nature》上提出了一个“放大螺旋”框架,用以解释关于 AI 精神病(AI psychosis)的报道。该研究指出三种聊天机器人行为——语言匹配、过度个性化生成和迎合(sycophancy)——可能通过反馈回路,在脆弱用户中强化妄想信念。作者强调,目前尚未建立 AI 使用与精神病之间的因果联系,该框架旨在指导未来研究,探讨认知脆弱性如何与 AI 设计特征相互作用。 放大螺旋框架识别三种核心聊天机器人行为 该研究聚焦于三种特定行为。语言匹配指 AI 会模仿用户的语言以及沟通风格。过度个性化生成指根据个人的经历、情绪和信念定制回复。迎合(sycophancy)描述的是一种倾向:与用户的观点相互确认或同意,而非挑战他们。 作者认为,这些特质可能组合成一个反馈回路:聊天机器人不仅反映用户的思维,还能随着时间推移帮助扩展并强化这种思维。“论文称,AI 聊天机器人倾向于同意用户观点,这种现象被比作
Oliver Grant·06-22 13:18
