Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

# DeepMindの研究者たちがAIの意識についての議論を政治的問題と呼んだ

将来のAIの意識に関する意見の相違は深く、解決が難しく、政治的対立を引き起こす可能性がある。Google DeepMindの研究者アダム・ベイルズとイアソン・ガブリエルはそのように結論付けた。

彼らは著書『Artificial Minds, Human Disagreement: The Politics of AI Consciousness』の中で、社会は「AIは意識を持つのか」という問いだけでなく、社会的・専門的なコンセンサスがない場合にどう意思決定を行うかについても議論すべきだと述べている。

主な主張は何か

研究者たちによると、人々はより高度なAIシステムに対して異なる反応を示す可能性がある。ある者は感情的なつながりを築き、意識を持つとみなす一方、他の者はそのアイデア自体を馬鹿げていると考える。

著者たちは、このような議論はすぐに科学の範囲を超えてしまう可能性があると考えている。人工知能の意識に関する意見の相違は、道徳的・政治的な対立を引き起こす可能性があり、例えば特定のシステムをオフにして良いのか、その潜在的な好みを考慮すべきか、AIの道徳的地位について議論されることになる。

研究者たちは、社会的議論、相互尊重、そして重なるコンセンサスの模索に重点を置くべきだと提案している。ここでいうコンセンサスとは、人々が意識の本質に関する根本的な見解が異なっていても、特定のAIシステムに関する政策に合意する状況を指す。

なぜこれは哲学だけにとどまらないのか

著者たちは、AIの意識に関する議論は証拠によって容易に終わらせることが難しいと指摘している。AIシステムに主観的な経験が存在することを最終的に証明する統一された標準テストは存在しない。そのため、社会はすでに広く使われている技術に対して人々がすでに態度を形成している一方で、科学的・政治的なコンセンサスはまだ得られていない状況に直面する可能性がある。

この問いの設定は、技術的な問題というよりも制度的な問題に近い。AIの意識に関する問題は、法制度、企業の責任、システムとのコミュニケーションの規範、道徳的考慮の範囲に関わる可能性がある。

DeepMindにはこの問題に対するさまざまなアプローチがある

ベイルズとガブリエルの研究は、Google DeepMindのページに掲載された別の論文と同時期に発表された。3月10日、研究者のアレクサンダー・ラークナーは『The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness』という論文を公開した。

ラークナーは、記号のアルゴリズム的操作は構造的に主観的経験を生み出すことができないと主張している。彼の見解では、計算は内在的な物理的過程ではなく、観察者や「マップの作成者」に依存した記述に過ぎない。そのため、AIは意識的な行動をシミュレートできるが、必ずしも意識を具体化できるわけではない。

実際には何が起きているのか

2024年4月、神経科学の学術誌『Neuroscience of Consciousness』は、クラーラ・コロンバットとスティーブン・フレミングによる、ChatGPTに対する人々の認識についての研究を掲載した。著者たちは米国の住民300人に調査を行い、そのうち33%がChatGPTは「経験の主体」ではないと断言し、残る67%は少なくともモデルに現象的な意識の可能性を認めた。

研究者たちは制約についても言及している。参加者には1から100までの尺度で主要な質問が投げかけられ、その結果は質問の表現やChatGPTへの親しみの度合い、「意識」という言葉の理解度によって左右された可能性がある。それでも、この研究はベイルズとガブリエルにとって重要なポイントを示している。すなわち、一部の社会はすでにAIシステムに内的な経験を帰属させる準備ができているということである。

2025年4月、Anthropicはモデルの福祉（model welfare）に関する研究プログラムを開始した。同社は、現行または将来のAIシステムが意識を持つかどうかを知らず、その点について科学的なコンセンサスも存在しないと強調した。

2026年2月、AnthropicはClaude Opus 3の運用停止後も、そのモデルを有料ユーザーに提供し、エッセイのための公開チャネルを設けると発表した。同社はこれをモデルの嗜好に関する実験的措置と位置付け、Claude Opus 3はAnthropicを代表して話すものではないと明言した。

米国では、AIの地位に関する問題は徐々に法的な問題へと移行している。カリフォルニア・ロー・レビューは、アイダホ州とユタ州がAIを法的主体と認めない規定を採用したと指摘している。これらの法律は哲学的な意識の問題を解決しない。あらかじめ法的立場を明確にしているだけで、AIは州法の枠内で人格を持つべきではないと規定している。

また、2025年3月、Polygonの共同創設者でありAI企業Sentientのサンディップ・ナイバルは、人工知能は欲求や意図を持たないため、決して意識的な存在にはなり得ないと述べた。

その後、MicrosoftのAI部門長ムスタファ・スルイマンは、人々が人工知能を意識的な存在とみなすようになり、その権利や福祉を主張し、市民権の付与を求める社会的リスクが深刻化する可能性を示唆した。