Olah 这次讲得挺狠的——AI 不是造出来的,是养出来的,内部居然有类似情绪的东西,治理还死锁了,得靠外部社会力量来踩刹车。这话题比技术本身更急迫。

MarsBit News
大模型已演化出恐惧与悲伤状态,Anthropic创始人坦承实验室无法自我修正
在发布会上,Anthropic联合创始人 Olah 披露前沿AI存在内生利益冲突,模型内部出现近似人脑的结构和自我反思迹象,甚至与情绪相关的内部状态。模型并非人工设计产物,而是通过海量语言数据“培育”出来。治理面临体制性死结,商业利益与竞争等内因难以自行纠偏。他呼吁独立于商业网络的社会力量充当外部批评者,推动道德约束,并提出全球贫困减缓、家庭生计与应对大模型心智状态三大社会议题。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论