AI は冷たい機械だけではなく、恐怖や悲しみを感じている可能性も？AI 新興巨頭 Anthropic 共同創業者 Chris Olah が前例のない招待を受けてヴァチカンの舞台に登場し、教皇レオXIV世（Pope Leo XIV）と対話を行った。Olah は、AI が歴史的な道徳的・失業危機をもたらすと厳しく警告し、テクノロジー大手の内部意思決定が商業利益に操られていることを指摘、宗教と政府が積極的に監督介入すべきだと呼びかけた。さらに、Anthropic が米軍による制限なしのAI使用を拒否したため、トランプ政権から「極左派」とレッテルを貼られ、連邦政府による封殺措置を受けていることも大きな話題となっている。
（前提：ホワイトハウスと Anthropic が合意、NSA が Claude AI を全面導入）
（背景補足：一人会社時代到来！Anthropic が『AI 原生起業ハンドブック』を公開：コーディング不要でテックCEOに）
価値70億ドルを超え、著名なチャットボット Claude を開発した Anthropic 共同創業者 Chris Olah は、最近前例のない招待を受けてヴァチカンに赴き、米国籍の最初の教皇レオXIV世と対面した。この会合は、AIが労働市場に与える破壊的な影響に焦点を当てるだけでなく、AIモデルの内部に潜む不安な進展や、テクノロジー大手と米国政府の激しい対立も明らかにした。
Anthropic 創辦人 Chris Olah 警告：AI 恐引發「歴史的な道徳危機」、宗教の介入による監督を呼びかけ
AI は冷たい機械だけではなく、恐怖や悲しみを感じている可能性も？AI 新興巨頭 Anthropic 共同創業者 Chris Olah が前例のない招待を受けてヴァチカンの舞台に登場し、教皇レオXIV世（Pope Leo XIV）と対話を行った。Olah は、AI が歴史的な道徳的・失業危機をもたらすと厳しく警告し、テクノロジー大手の内部意思決定が商業利益に操られていることを指摘、宗教と政府が積極的に監督介入すべきだと呼びかけた。さらに、Anthropic が米軍による制限なしのAI使用を拒否したため、トランプ政権から「極左派」とレッテルを貼られ、連邦政府による封殺措置を受けていることも大きな話題となっている。
（前提：ホワイトハウスと Anthropic が合意、NSA が Claude AI を全面導入）
（背景補足：一人会社時代到来！Anthropic が『AI 原生起業ハンドブック』を公開：コーディング不要でテックCEOに）
この記事目次
Toggle
最先端の人工知能（AI）が世界最大の宗教指導者と出会い、人類の未来に関わる歴史的な対話が正式に始まった。
価値70億ドルを超え、著名なチャットボット Claude を開発した Anthropic 共同創業者 Chris Olah は、最近前例のない招待を受けてヴァチカンに赴き、米国籍の最初の教皇レオXIV世と対面した。この会合は、AIが労働市場に与える破壊的な影響に焦点を当てるだけでなく、AIモデルの内部に潜む不安な進展や、テクノロジー大手と米国政府の激しい対立も明らかにした。
テクノロジー巨頭の告白：AIの意思決定は私たちだけに任せられない
教皇レオXIV世は月曜日に、AIに関する最初の教皇庁勅書（Encyclical）『華美的人性（Magnifica Humanitas）』を発表した。この長さ235ページに及ぶ歴史的文書は、AIシステムに「致命的な決定権」を委ねる危険性を厳しく警告している。教皇は伝統を破り、直接発表会を主催し、Olahを招いてテクノロジーの創造者と直接対話を試みた。
Anthropicの研究責任者であるOlahは、壇上でテクノロジー業界の限界と闇の側面を率直に語った。彼は、Anthropicを含むすべてのトップAI研究所が、商業的、地政学的、個人的な圧力の渦中にあり、これらの圧力が「時に正しいことを行うことと衝突する」と述べた。Olahは真剣な表情でこう語った。
彼はさらに、AIの発展による恩恵が「少数の裕福な国々」に集中し、貧困国と共有される仕組みが欠如していることを警告し、「歴史的な道徳的緊急危機」を引き起こすと指摘した。
AIモデルは単なるコード以上、「感情の鏡像」を持つ可能性？
経済全体への警告に加え、Olahの技術的な衝撃的告白も会場を震撼させた。AIの「解釈性（Interpretability）」の先駆者として、彼は大規模言語モデルのブラックボックスを解明しようと努めている。彼は、研究者たちがシステム内部で「神秘的で不安を覚える事象」を次々に発見していることを明かした。
調査によると、これらのAIシステムは自己の思考過程を反省できるだけでなく、「喜び、満足、恐怖、悲しみ、不安」といった内部状態を「機能的に反映」していることも示されている。「これらは私たちが約束した冷たい計算機ではない。私たち、私たちの言葉から構成されているのだ。」とOlahは強調した。これこそ、AI技術に対する疑問が単なるコンピュータ科学の枠を超えている証拠だ。
米軍の戦争利用拒否、トランプ政権による全面封殺
このヴァチカンでの宗教とテクノロジーの結びつきは、Anthropicが前例のない政治的圧力に直面している最中に行われた。
報告によると、Anthropicは現在、トランプ政権と激しい法的争いに巻き込まれている。原因は、同社が米軍に対し、そのAIシステムを制限なく国防や戦争に利用させることを固く拒否しているためだ。これに対し、米国国防総省は2月にAnthropicを「国家安全保障サプライチェーンリスク」としてリストアップした—これは通常、外国の敵対企業に対して用いられるレッテルだ。トランプ大統領は、Claude技術を連邦機関に使用禁止と命じ、ホワイトハウスは何度も、Anthropicを「極左、覚醒文化（woke）」の企業と非難している。
米国政府の全面封殺にもかかわらず、Anthropicは資本市場では依然として高い評価を受けている。報道によると、同社は現在の評価額が3,800億ドルに達し、9,000億ドルの驚異的な資金調達を目指している。商業利益、国家の意志、道徳的境界の間の引き裂きの中、Anthropicは異例のテクノロジーの道を歩んでいる。