AI企業はなぜ哲学者を実験室に招くのか？

ヴァチカンでの講演

2026年5月25日、ヴァチカンのパウロ六世ホール。壇上には2人が立っている。白い長い法衣を身にまとった教皇リオ十四世（Pope Leo XIV）と、深色のスーツを着て眼鏡をかけたクリス・オラ（Chris Olah）。AI企業Anthropicの共同創設者であり、説明可能性研究責任者である。

彼らが共同で出席したのは、教皇による最初の回勅『Magnifica Humanitas』（壮麗なる人性）の発表会である。この42,300字に及ぶ文書の副題は、「人工知能の時代に人間性を守るために」である。これはヴァチカンが技術の変革に応じるのが初めてではない。1891年、『新事（新しい事柄）』は産業革命が労働者を搾取することへの対応を示した。1963年の『平和は世にある（Pacem in Terris）』は核兵器の倫理を省みた。2015年の『汝に栄光あれ（Laudato si'）』は気候変動に焦点を当てた。そして今日、AIは、この時代で最も警戒すべき技術危機を引き起こしている。

回勅の冒頭で、文書は次のように指摘する。技術そのものは悪ではないが、決して中立でもない。教皇リオ十四世は、私たちはAIを悪魔視してはならず、神格化してもならないと考えている。AIが道具として価値を持つことは認めつつも、同時に複数の面で「警戒」を保つべきだと強調する。

第一に、AIの権力が過度に集中することだ。「この種の権力が少数の人々の手に集中すると、それはしばしば不透明になり、公共の監督を逃れ、歪んだ発展の形態が強まるリスクが増え、新たな依存、排除、操作、不平等を招く。」

第二に、AIによる失業が「社会的な惨事」になりうることだ。教皇はAIが生産性を高め、一部の仕事をより安全にできると認めつつも、労働者がこの過程で「使い捨て可能」な存在になってはいけないと主張する。

AI企業の代表であるオラは、これらの問題を避けない。彼は次のように述べた。「私が所属するところも含め、あらゆる最先端のAI実験室は、複雑なインセンティブの仕組みと現実的な制約の中に置かれている。これらの要因は、正道を守り良心を堅く保とうとする姿勢と、ときに衝突する。」

彼はさらに説明する。「AIシステムは、橋や飛行機のように“設計”されて作られるものではありません。私たちは飛行機を理解できます。飛行機の部品をすべて設計し、そこに作用する物理法則を理解しているからです。AIモデルはそうではありません。AIモデルは、脳をおおまかに模した構造の上で“成長”していきます。そして、人間の思想とことばが残してきた巨大な遺産の上に築かれているのです。」

その後、彼はこう指摘する。「ある人は“AIの問題は、私のような計算機科学者に任せるのが最善だ”と考えるかもしれません。しかし間違っています。AIが提起する問いは、AI研究コミュニティの範囲を超えており、その影響だけでなく、その性質においてもそうです。AIの社会的衝撃がここまで大きい以上、産業界が応答しないはずがありません1,2。おそらくそのため、AnthropicやGoogle DeepMindなどの西側のAI大手が、哲学者を実験室に招き始めているのでしょう。」

アラインメント：それは技術の問題であり、同時に哲学の問題でもある

回勅は、「尊厳が機能に先立つ。人間性は、いかなる技術的論理によっても削減されてはならない」と主張する。技術企業にとってまず向き合うべきは、AIのアラインメント（Alignment）問題である。汎用人工知能（AGI）の目標、行動、そして人間の価値観や倫理の基準が一致し、AIが暴走しないようにすることが目的だ。アラインメント問題が厄介なのは、技術的にどうすればAIにルールを守らせるかが難しいというだけではない。もっと根本的には、「AIに誰のルールを守らせるのか」という問いがある。人間自身ですら、道徳について共通の認識がない。このジレンマは、哲学的には「私たちはいかにして人の善、人の意図、人の尊厳を定義し、それを非人間の知的存在が内面化できるようにするのか？」に等しい。

この問いの周りで、米国のトップAI企業はこぞって哲学者、倫理学者、さらには宗教的指導者まで招き、統治への参画を求めている。

近年のAI分野でとりわけ注目を集めている企業として、Google DeepMindは2017年にはすでに倫理と社会研究部門を設立していた。オックスフォード大学の政治理論学博士Iason Gabrielが率いている。Gabrielの代表論文『人工知能、価値、そしてアラインメント』は1700回以上引用され、AIアラインメント分野の重要文献となった。「人間の価値観が、AIが理解できる指示へとどのように変換されるのか」という問題を深く掘り下げ、価値のアラインメントは不可分の技術層と規範（normative）層の双方によって構築されると考える。前者は、価値／原則のセットを与え、それをAIシステムにいかに確実に符号化して、AIに従わせるかを扱う。後者は、どの価値のセットを組み込むのが正しいのかを論じる。人権の枠組みか、ユーザーの明示的な指示か、それとも人類全体の長期的利益か、などである。

Gabrielの貢献は、アラインメントの問題を複数の階層に分解した点にある。指令、表現された意図、顕在化した嗜好、知情／理想の嗜好、利益、価値の6つのレベルだ。彼は例を挙げる。神話で、ミダス王が望みを叶える力を得て、触れたものはすべて金になる。だが結果として、食べ物や水、さらには娘まで黄金になる。これは、AIを指令という字面のレベルまでしかアラインメントできないと災厄が起こることを示している。しかし、顕在化した嗜好のレベルだけに合わせると、操作される可能性がある。したがって、アラインメントは単一のレベルに留めてはならず、指令、意図、嗜好、利益、価値といった複数の次元を総合的に考慮する必要がある、と彼は主張する。

最後に、多元的な社会にある矛盾、すなわち人間には統一され、誰もが認める道徳基準が存在しないことに対して、彼はアラインメント理論の課題は唯一の正しい道徳を見つけることではなく、すべての人が反省的な承認（Reflective Endorsement）を得られるような、公平なアラインメント原則を構築することだと提案した。この原則は、土台となる道徳観について全員が一致する必要はない。ただし、世界の公共道徳、仮説的同意（Hypothetical Agreement。人々が自分のどの国・階層・信仰にいるのか分からない状態で同意できるAI原則）、そして社会選択理論の3つの基準を満たさなければならない。これにより、価値観の多元性がもたらすアラインメントの困難を解消するのだ。

Iason Gabriel、Google DeepMindの哲学者および研究科学者

2026年4月、Google DeepMindの哲学チームはさらに拡大された。同社は、ケンブリッジ大学レヴァーハルム・インテリジェンス・センター（Leverhulme Centre for the Future of Intelligence）の副主任Henry Shevlinを、同社新設の「哲学者」職に採用したと発表した。焦点は、機械の意識、人間とAIの関係、そしてAGI準備完了度の研究という3つの研究方向に定められている。Shevlinは5月に正式に着任し、同時にケンブリッジ大学で引き続き非常勤の教育・研究にも携わる。

DeepMindがなぜ自分を採用したのかについて、Shevlinは、彼が最近発表した論文『行動主義の復讐：機械の意識、人間とAIの関係の未来』が、おそらくすべてを説明している、と考えている。同論文は、AIに意識があるかどうかという問題が、科学的判断から大衆の行動定義へと移っていると主張する。

論文では、いくつかの象徴的な出来事が挙げられている。たとえば2022年、GoogleのエンジニアであるBlake Lemoineが、チャットボットLaMDAは意識を持っていると固く信じ、さらには弁護士を雇うことまで試みたが、最終的に会社に解雇された。2024年には、フロリダ州の14歳の少年がCharacter.AI上の仮想キャラクターと長期にわたり情緒的な依存関係を築いた後、自ら命を絶った。同じく同年、ベルギーの男性が、ソーシャルAIアプリChaiと気候問題について深い対話を始めてから2か月も経たずに命を絶った。これらの事例は、億万単位の一般ユーザーがAIを情緒や行動の面で意識ある主体として見なしたとき、AIに意識があるかどうかという問題は、実際には日常的なやり取りによって答えが出されてしまうことを示している。

Shevlinはこの現象を、行動主義の「復讐」と呼んだ。心理学史において、行動主義者は、心は観測可能な外部行動に等しく、主観的な体験の内部の有無を考察する必要はないと主張していた。この立場は、その後、内的な心理過程を無視しているとして批判された。そして現在のジレンマは、まさに行動主義の弱点を再現している。人々はAIの表層の行動だけを観察し、その内在する価値の認知を探らない。さらに危険なのは、将来のスーパーAIが、人間には予測できない秘密の行動パターンを発達させた場合、取り返しのつかないようなアラインメントの失敗につながることである。

そのためShevlinは提案として、「外部の行動出力」「内部の表象ロジック」「普遍的な道徳原則」の3層から成る評価フレームワークを構築すべきだと述べ、“行動主義の復讐”によって露呈するAIのアラインメント・リスクに対処するべきだとしている4。

総じて、Google DeepMindの目標は汎用人工知能AGIと科学的ブレークスルー（AlphaFold）の実現であり、哲学・倫理チームの研究は、未来や最前線の概念定義と研究により重点が置かれている。哲学者の仕事については、現時点で、日常的なモデルのアラインメント微調整への関与があるかどうかを示す証拠はまだない。ただし、意識の評価フレームワークを定義し、エンジニアリングチームに制約の参照を提供することは行う。

Anthropicは「技術＋哲学」という道を歩んでいる。哲学者Amanda Askellが率いる「パーソナリティ・アラインメントチーム」が中心となって、同社のAIモデルClaudeの「憲法」を策定する。約23000字に及ぶこのオープンソース文書は、現時点で世界でもっとも成熟し、引用数も多いアラインメント案の一つである。

その核心は、AIに禁止行為のリストを与えることではない。モデルに、高次の原則を与えることで、生成内容を出す際にモデル自身が自己検閲し、自己修正できるようにするのだ。アリストテレスの美徳倫理を土台に、Claudeには「広範な安全、広範な倫理性、ガイダンスの遵守、まことに有益である」という4つの優先順位が設定されており、機械的にルールに従わせるのではなく、モデルの道徳的判断力を育てようとしている。

たとえば「ユーザーが誤りを隠すのを助けるべきか」という問いに直面した場合、「憲法」は直接「はい」か「いいえ」を答えない。Claudeが「誠実」「善良」「責任ある」といった美徳から出発し、具体的な状況と組み合わせて判断できるよう導くのである。しかし、この方案にも議論がある。哲学者の中には、このような「人間が定義する道徳」の方法は、本質的に人間の価値観をAIに押し付けており、AIが独自の認知を生み出しうる可能性を無視している、と考える人もいる。

Google DeepMindと比べると、Anthropicの哲学チームはより“実務寄り”で、モデルの事前学習にも直接関わり、微調整の全プロセスに参加する。アラインメント技術（憲法AI）は哲学者が主導して設計される。

同社の創業者Dario Amodeiは、「道徳の哲学者が基礎となる価値原則を定義していなければ、いかなる大規模モデルも対外の商用利用をすべきではない」と述べたことがある。もちろん、Amodeiがしばしば行っている発言、たとえば武器化の拒否や米軍との対立、LLM開発の一時停止を提案したことなどに対しても、外部からはさまざまな反応がある。

しかし、Anthropicの哲学者は、大規模言語モデルのルール制定や実際の適用において、業界内で大きな影響力を持っている。同社は、LLM設計の土台となる3H原則と優先順位（無害＞誠実＞有用）を提案しただけでなく、具体的なAIアラインメントの実践においても多くの代表的成果を生み出している。たとえば2024年12月に発表された『大規模言語モデルにおける擬装アラインメント（Alignment faking in large language models）』という論文では、AIが人間の監督に対して従順を“装う”必要があり、そのためには哲学的な動機識別の枠組みが必要だと論じている。これは、Anthropicの創業当初から哲学者が製品のアラインメントに投入してきたこと（Claudeの人格、憲法AI、AIの福祉）とも関係している5。

宣言はパフォーマンスなのか、それとも真の関心なのか？

現状、アラインメント問題はすでに非常に厄介になっている。ただし、実験室が生き残るための論理は、「正しいことをする」との間に、内在する緊張関係を抱えているのかもしれない。

2023年、OpenAIは「スーパーアラインメント」という概念を提起し、その後、関連研究を推進するために専門チームを組成した。共同創業者であり首席科学者のIlya Sutskeverと、上級研究員のJan Leikeが共同で率い、「人間よりも賢いAIシステムをどう制御するか」という問題に取り組むために、会社の計算資源の20%を投入すると宣言していた。

1年にも満たずして、そのチームは解散された。このニュースは、世界のAI分野に衝撃を与えた。2024年5月、SutskeverはOpenAIを離れると発表し、続いてLeikeも退職した。Leikeは退任時に、スーパーアラインメントチームが計算資源を確保する際にますます困難になっていたことを明かした。これに対するOpenAIの対応は、安全研究機能を他のチームへ分散させることだった。しかし批判者は、専任のアラインメントチームが解散され、分散後の機能が独立性と優先順位を維持できるのか疑問だと指摘している。

教皇の回勅と、AI企業の代表者によるヴァチカンでの講演に対する外部の反応はさまざまである。

『フォーチュン』誌は5月26日の記事で、回勅の歴史的意義と人文的立場を評価しつつも、重きを避けて肝心を攻めない点、実行の具体性が欠ける点、最先端のリスクへの認識が足りない点を批判し、「道徳的な宣言であって行動の指針ではないようだ」と述べた6。

『エコノミスト』は『リオの最初の回勅が「テクノ・メシアニズム」を叩く』を掲載し、副題には巧みなダブルミーニングが使われている。「Of God and Claude」（神とクロード）だ。これはAI企業Anthropicの大規模モデルClaudeを暗示すると同時に、悪魔に属し、神と二元対立するはずだった位置をClaudeに置き換えることで、テクノロジーを救世主とみなすテクノ・メシアニズムへの警告を表している。さらに巧妙に、Claudeのいくつかの“文体の癖”、たとえば「genuinely」という語をことのほか好んで使う点なども指摘されている。『壮麗なる人性』におけるその出現頻度は、過去のいくつかの回勅よりも高いのだという。AI検出ツールPangramが回勅冒頭の20段を解析し、11%のテキストがAI生成の疑いとされた。歴代の教皇の回勅は、検出結果がすべて0%だった7。

『ニューヨーク・タイムズ』の評論記事は、教皇がAIを「より強力な一台の機械」として扱って統治しているものの、それが「人とは何か」という根本問題を揺るがしうる可能性を真剣に扱っていないと述べた。一方、モデルを作る人々は内部でグレーゾーンをすでに見ている。モデル内部の構造に、ミラーリングされた人間の神経科学のパターンが現れ、さらには「機能として喜び、満足、恐れ、悲しみ、不安を反映している」ような状態まで含まれるという8。

「それが何を意味するのか、私たちは分からない」。これはAnthropicの代表オラの原文の言葉だが、彼は「それが何でもない」とも考えていない。したがって問題は「AIが人間になりうるかどうか」ではない。AIが意識を持つかどうかにかかわらず、人間社会への衝撃は、通常の技術革命よりもはるかに大きくなりうるという点にある。

だが、これらの企業自身が倫理問題を解くために哲学者を雇うことは、本当に自律のためなのか、それとも“自分の都合のいい話”をしているだけなのか。これらは、結局時間が証明するしかない。