据 動察 Beating 監測，清華大學人工智慧國際治理研究院院長薛瀾、紐約科學院院長兼首席執行官杜寧凱 (Nicholas B. Dirks)、加州大學柏克萊分校人工智慧研究實驗室人類兼容人工智慧中心執行主任 Mark Nitzberg 在 2026 年世界人工智慧大會上進行圓桌對談，圍繞 AI 智能體治理展開討論。嘉賓們指出，AI 正從「輔助判斷」走向「自主行動」，成為代替人做事的智能體，這是傳統委託代理問題在數位時代的全新體現。與人類代理人不同，AI 面臨目標不對齊，且作為黑盒子無法承擔法律責任，問責必須轉向整個執行鏈條，如開發者、部署者、監管者等。
嘉賓們達成高度共識：涉及生死後果的決策、一旦出錯無法修復的場景、所有涉及倫理與價值判斷的問題，絕不能交由 AI 主導。人類可以授權 AI 行動，但不能授權 AI 負責，每一次授權都應可撤回，每一個行動都應可追責，讓渡代理權的速度永遠不應超過人類驗證 AI 能力的速度。
在安全機制層面，嘉賓們提出構建可信 AI 需滿足三大工程特性：基礎紮實、操作透明、使用中可控。在制度建設層面，需建立全球統一的 AI 安全評估標準、互認的測試體系與事故資料共享機制，明確 AI 發展的紅線並建立早期預警監測機制，推動 AI 安全成為全球公共產品。AI 治理的邊界不是技術終點，而是人類重新認識自身價值、責任與文明方向的起點。
點擊下方原文連結，加入動察 Beating · 飛書 AI 新聞頻道，7×24 小時不間斷監測全球 AI 熱點與新聞。
WAIC 2026 圓桌：涉及生死決策絕不可交由 AI，人類可以授權行動但不能授權責任
据 動察 Beating 監測，清華大學人工智慧國際治理研究院院長薛瀾、紐約科學院院長兼首席執行官杜寧凱 (Nicholas B. Dirks)、加州大學柏克萊分校人工智慧研究實驗室人類兼容人工智慧中心執行主任 Mark Nitzberg 在 2026 年世界人工智慧大會上進行圓桌對談，圍繞 AI 智能體治理展開討論。嘉賓們指出，AI 正從「輔助判斷」走向「自主行動」，成為代替人做事的智能體，這是傳統委託代理問題在數位時代的全新體現。與人類代理人不同，AI 面臨目標不對齊，且作為黑盒子無法承擔法律責任，問責必須轉向整個執行鏈條，如開發者、部署者、監管者等。
嘉賓們達成高度共識：涉及生死後果的決策、一旦出錯無法修復的場景、所有涉及倫理與價值判斷的問題，絕不能交由 AI 主導。人類可以授權 AI 行動，但不能授權 AI 負責，每一次授權都應可撤回，每一個行動都應可追責，讓渡代理權的速度永遠不應超過人類驗證 AI 能力的速度。
在安全機制層面，嘉賓們提出構建可信 AI 需滿足三大工程特性：基礎紮實、操作透明、使用中可控。在制度建設層面，需建立全球統一的 AI 安全評估標準、互認的測試體系與事故資料共享機制，明確 AI 發展的紅線並建立早期預警監測機制，推動 AI 安全成為全球公共產品。AI 治理的邊界不是技術終點，而是人類重新認識自身價值、責任與文明方向的起點。
點擊下方原文連結，加入動察 Beating · 飛書 AI 新聞頻道，7×24 小時不間斷監測全球 AI 熱點與新聞。