在 2026 年世界人工智能大会上,包括薛澜(清华大学人工智能治理研究院院长)、尼古拉斯·B·德克斯(纽约科学院院长兼首席执行官)和马克·尼茨伯格(加州大学伯克利分校人类兼容人工智能中心执行主任)在内的小组成员讨论了 AI Agent 治理。根据小组讨论,人工智能正从“辅助判断”转向“自主行动”,需要扩大开发者、部署者和监管者之间的责任链条。 小组成员达成共识:涉及生死攸关的决策、一旦出错无法纠正的场景,以及所有涉及伦理和价值判断的事务,绝不能由 AI 主导。人类可以授权 AI 采取行动,但不能推卸责任。每次授权都应可撤销,每个行动都可追溯,授予自主权的速度绝不能超过验证 AI 能力的速度。