Vitalik提议AI两派达成折中方案:预先约定若极端情况出现则启动暂停

robot
摘要生成中
ME News 消息,7 月 11 日(UTC+8),以太坊联合创始人Vitalik Buterin发文探讨AI超级智能的争议。他指出,AI界目前存在两派:一派认为超级智能2040年前必然到来,必须尽快控制;另一派则认为AI只是普通技术,搞暂停是在控制人类。Vitalik称自己不确定哪边正确,对放缓或暂停持开放态度,但反对大型AI公司推动"开源有害"的论调,认为这本质上是权力集中。 Vitalik提出了一个折中方案:双方可以预先约定,如果某些极端情况(如超级大流行病、大规模失业等)真的发生,就同意启动AI暂停;如果这些情况没有出现,就按另一方的方案推进。他承认所有应对方案都有缺陷,人类只能在"不完美"和"更不完美"之间选择,但形式验证、密码学、安全硬件等防御性技术,在两个世界里都值得推进。(来源:PANews)
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论