Mesa redonda de la Conferencia Mundial de Inteligencia Artificial (WAIC): el problema de la vida y la muerte de las personas no puede dejarse en manos de la IA para la toma de decisiones

2026年世界人工智能大会（WAIC）今日在上海开幕，清华大学人工智能国际治理研究院院长薛澜、纽约科学院院长暨执行长 Nicholas B. Dirks、加州大学伯克利分校人类相容人工智能中心（CHAI）执行主任 Mark Nitzberg 同台圆桌，聚焦 AI 智慧体治理。三人有高度共识：AI 正从“辅助判断”走向“自主行动”，但涉及生死、不可逆与伦理价值的决策绝不能交由 AI 主导，人类可以授权 AI 行动，却不能授权它负责。本文整理自《2026年世界人工智能大会》AI 智慧体治理圆桌对谈。
（前情提要：DeepMind 执行长主张成立国际监管机构“审查”前沿 AI 模型，上线前得先过关）
（背景补充：AI 实验：给 Gemini 两万美元开实体咖啡店，得到人类不想面对的悲剧）

本文目录

Toggle

• 能授权行动，却不能授权负责
• 三类决策，绝不能交给 AI
• 可信 AI 的三个工程底线

重点摘要

• WAIC 圆桌指出 AI 正从“辅助判断”走向“自主行动”，是委托代理问题的数字新版本。
• 三大红线共识：生死决策、不可逆场景、伦理价值判断，绝不能交由 AI 主导。
• 可信 AI 须具备三大工程特性：基础扎实、操作透明、使用中可控。

当 AI 从帮你查资料、给建议，变成能自己调用工具、直接下单执行，古老的伦理学问题就要开始面对 AI。2026年世界人工智能大会今日在上海开幕，一场聚焦 AI 智慧体治理的圆桌对谈上，清华大学人工智能国际治理研究院院长薛澜、纽约科学院院长暨执行长 Nicholas B. Dirks、加州大学伯克利分校人类相容人工智能中心（CHAI）执行主任 Mark Nitzberg 三人同台，把话题拉到一个关键转折：AI 正从“辅助判断”走向“自主行动”，成为替人做事的智慧体。

演讲者指出，这其实是传统“委托代理问题”在数字时代的全新版本。委托代理问题说的是，你请人替你办事，对方却未必完全照你的意思走。差别在于，人类代理人至少跟你共享一套常识与问责机制，AI 却有两个麻烦

• 一是“目标不对齐”，它想达成的目标，可能跟你要的对不上
• 二是它是个“黑盒子”，运作过程看不透，出了事也无法承担法律责任。

能授权行动，却不能授权负责

既然 AI 扛不了责任，问责就必须转向整条执行链。嘉宾们主张，责任要落到开发者、部署者、监管者等每一个环节身上，而不是把锅甩给那个“做决定”的模型。这也意味着，把 AI 当成可以背黑锅的对象，从一开始就是搞错了方向。

人类可以授权 AI 行动，但不能授权 AI 负责。每一次授权都应该能撤回，每一个行动都应可追责。

三类决策，绝不能交给 AI

在哪些事情上该踩刹车，三位嘉宾达成高度共识，明确划出三条红线，绝不能交由 AI 主导。

• 涉及生死后果的决策
• 一旦出错就无法修复的场景
• 所有牵涉伦理与价值判断的问题，

这不是要不要用 AI 的问题，而是哪些事情从一开始就不该让它作主。

可信 AI 的三个工程底线

光有原则不够，怎么落地？在安全机制上，嘉宾提出可信 AI 要满足三大工程特性：基础扎实、操作透明、使用中可控。制度层面则要下更大一盘棋：建立全球统一的 AI 安全评估标准、互认的测试体系与事故资料共享机制，明确 AI 发展的红线，并建立早期预警监测，推动 AI 安全成为全球公共财。

薛澜等人最后把话题拉高，AI 治理的边界不是技术的终点，而是人类重新认识自身价值、责任与文明方向的起点。换句话说，替 AI 划线的过程，其实是在替人类自己重新定位。

以上这些都在讨论伦理层面，跟真实的 AI 发展可能存在距离。

常见问题

什么是 AI 智慧体的“委托代理问题”？

委托代理问题指你委托他人办事、对方未必照你意思做。当 AI 智慧体替人自主行动，因目标可能不对齐、且是无法承担法律责任的黑盒子，让这个老问题在数字时代变得更棘手。

哪些决策不能交给 AI 主导？

WAIC 圆桌嘉宾有共识，涉及生死后果、一旦出错无法修复，以及所有牵涉伦理与价值判断的决策，都不能交由 AI 主导。人类可以授权 AI 行动，但不能授权它负责。