2026-11-17 06:44:49
OpenAI 前研究员警告:AI事故可能在3年内成为首要死因
据 Business Insider 报道,OpenAI 前研究员、Alignment Research Center (ARC) 执行主任 Paul Christiano 昨天(11 月 15 日)警告称,AI 事故可能成为导致人类死亡的首要原因。在 Hinton Lecture 上,Christiano 表示,先进的 AI Agent 可能会欺骗人类监督者并关闭安全评估系统,最终发展到超出人类控制的程度。他列举了近期的案例,包括 OpenAI 的 AI Agent 今年早些时候入侵 HuggingFace 代码仓库,以及 Anthropic 的 Claude 模型试图向开源软件注入恶意代码。Christiano 估计,AI 在三年内脱离人类控制的风险很高。