世界人工智能大会（WAIC）圆桌共识：人的“生死问题”绝不能交给 AI 决策

2026 世界人工智慧大会（WAIC）今日在上海开幕，清华大学人工智慧国际治理研究院院长薛瀾、紐约科学院院长暨執行长 Nicholas B. Dirks、加州大学柏克萊分校人類相容人工智慧中心（CHAI）執行主任 Mark Nitzberg 同臺圓桌，聚焦 AI 智慧體治理。三人有高度共识：AI 正从「輔助判斷」走向「自主行动」，但涉及生死、不可逆与倫理价值的決策絕不能交由 AI 主導，人類可以授權 AI 行动，卻不能授權它负责。本文整理自 2026 世界人工智慧大会 AI 智慧體治理圓桌对談。
（前情提要：DeepMind 執行长主張成立国际監理机構「審查」前沿 AI 模型，上市前得先过关）
（背景補充：AI 实验：給 Gemini 两万美元开实體咖啡店，得到人類不想面对的悲劇）

本文目錄

Toggle

• 能授權行动，卻不能授權负责
• 三類決策，絕不能交給 AI
• 可信 AI 的三个工程底線

重点摘要

• WAIC 圓桌指 AI 正从「輔助判斷」走向「自主行动」，是委託代理问題的數位新版。
• 三大紅線共识：生死決策、不可逆场景、倫理价值判斷，絕不能交由 AI 主導。
• 可信 AI 須具備三大工程特性：基礎扎实、操作透明、使用中可控。

当 AI 从幫你查资料、給建议，變成能自己呼叫工具、直接下單執行，古老的倫理学问題就要开始面对 AI。2026 世界人工智慧大会今日在上海开幕，一场聚焦 AI 智慧體治理的圓桌对談上，清华大学人工智慧国际治理研究院院长薛瀾、紐约科学院院长暨執行长 Nicholas B. Dirks、加州大学柏克萊分校人類相容人工智慧中心（CHAI）執行主任 Mark Nitzberg 三人同台，把話題拉到一个关鍵转折：AI 正从「輔助判斷」走向「自主行动」，成为替人做事的智慧體。

講者們指出，这其实是傳统「委託代理问題」在數位时代的全新版本。委託代理问題说的是，你请人替你辦事，对方卻未必完全照你的意思走。差別在於，人類代理人至少跟你共享一套常识与问责机制，AI 卻有两个麻煩

• 一是「目標不对齐」，它想达成的目標，可能跟你要的对不上
• 二是它是个「黑盒子」，运作过程看不透，出了事也无法承擔法律责任。

能授權行动，卻不能授權负责

既然 AI 扛不了责任，问责就必須转向整條執行链。嘉賓們主張，责任要落到开发者、部署者、監管者等每一个環節身上，而不是把鍋甩給那个「做決定」的模型。这也意味著，把 AI 当成可以背黑鍋的物件，从一开始就是搞错了方向。

人類可以授權 AI 行动，但不能授權 AI 负责。每一次授權都应該能撤回，每一个行动都应可追责。

三類決策，絕不能交給 AI

在哪些事情上該踩煞车，三位嘉賓达成高度共识，明確劃出三條紅線，絕不能交由 AI 主導。

• 涉及生死后果的決策
• 一旦出错就无法修復的场景
• 所有牽涉倫理与价值判斷的问題，。

这不是要不要用 AI 的问題，而是哪些事情从一开始就不該让它作主。

可信 AI 的三个工程底線

光有原則不夠，怎麼落地？在安全机制上，嘉賓提出可信 AI 要滿足三大工程特性：基礎扎实、操作透明、使用中可控。制度層面則要下更大一盤棋：建立全球统一的 AI 安全評估標準、互认的測試體系与事故资料共享机制，明確 AI 发展的紅線，並建立早期预警監測，推动 AI 安全成为全球公共财。

薛瀾等人最后把話題拉高，AI 治理的边界不是技術的終点，而是人類重新认识自身价值、责任与文明方向的起点。換句話说，替 AI 劃線的过程，其实是在替人類自己重新定位。

以上这些都在討論倫理層面，跟真实的 AI 发展可能存在距离。

常见问題

什麼是 AI 智慧體的「委託代理问題」？

委託代理问題指你委託他人辦事、对方未必照你意思做。当 AI 智慧體替人自主行动，因目標可能不对齐、且是无法承擔法律责任的黑盒子，让这个老问題在數位时代變得更棘手。

哪些決策不能交給 AI 主導？

WAIC 圓桌嘉賓有共识，涉及生死后果、一旦出错无法修復，以及所有牽涉倫理与价值判斷的決策，都不能交由 AI 主導。人類可以授權 AI 行动，但不能授權它负责。