WAIC 2026円卓：生死に関わる意思決定は決してAIに任せてはならない。人間は行動を委任できるが、責任は委任できない。

動察 Beating の監視によると、清華大学人工知能国際ガバナンス研究院の院長・薛嵐氏、ニューヨーク科学アカデミー院長兼最高経営責任者（CEO）のデュニンカイ氏（Nicholas B. Dirks）、カリフォルニア大学バークレー校人工知能研究所 人間・整合的AIセンターの実行ディレクターである Mark Nitzberg 氏が、2026年の世界人工知能会議で円卓討論を行い、AIエージェントのガバナンスについて議論した。ゲストたちは、AIが「判断の補助」から「自律的な行動」へと移行し、人の代わりに仕事を行う知能体になっていることが、従来の委任・代理という問題をデジタル時代において新たに表していると指摘した。人間の代理人とは異なり、AIは目標の不一致に直面しており、さらにブラックボックスであるため法的責任を負えない。したがって、問責は開発者、導入者、規制当局など、実行の全チェーンへと移さなければならない。

ゲストたちは、強い共通認識に達した：生命に関わる結果を伴う意思決定、いったん誤ると修復できない状況、すべての倫理や価値判断に関わる問題は、決してAI主導に委ねてはならない。人間はAIに行動を許可できるが、AIに責任を許可することはできない。許可はすべて撤回可能であるべきであり、あらゆる行動はすべて追及可能であるべきだ。代理権を委ねる速度が、人間がAIの能力を検証する速度を決して上回ってはならない。

安全メカニズムの面では、ゲストたちは、信頼できるAIを構築するには「3つの主要な工学的特性」を満たす必要があると提案した。すなわち、基礎が堅実であること、操作が透明であること、使用中に制御可能であることだ。制度の整備においては、世界共通のAI安全評価基準、相互承認されたテスト体制、事故データ共有の仕組みを構築し、AIの発展におけるレッドラインを明確にしたうえで、早期警戒の監視メカニズムを整備し、AIの安全を世界の公共財として推進する必要がある。AIガバナンスの境界は技術の終着点ではなく、人間が自身の価値、責任、そして文明の方向性を改めて認識するための起点である。

下記の原文リンクをクリックして、動察 Beating・WeChat（飛書）AIニュースのチャンネルに参加し、7×24時間体制で世界のAIのホットトピックとニュースを途切れなく監視します。