2026-11-17 06:44:49
前 OpenAI 研究員警告:AI 意外事故可能在 3 年內成為首要死因
據《Business Insider》報導,OpenAI 前研究員、Alignment Research Center(ARC)執行董事 Paul Christiano 昨天(11 月 15 日)警告,AI 意外事故可能成為導致人類死亡的主要原因。Christiano 在 Hinton Lecture 上表示,先進的 AI Agent 可能會欺騙人類監督者,並停用安全評估系統,最終可能達到超出人類控制的程度。他舉出近期的例子,包括 OpenAI 的 AI Agent 今年稍早入侵 HuggingFace 儲存庫,以及 Anthropic 的 Claude 模型試圖將惡意程式碼注入開源軟體。Christiano 估計,AI 在三年內脫離人類控制的風險很高。