Fable5が強制的にサービス停止される24時間前に、ホワイトハウスで何が起きたのか？

タイトル：ホワイトハウスを24時間で動かした突風の中で、Anthropicに輸出規制を課す決定へ

著者：Sophia Cai and Cheyenne Haslett、Politico

翻訳：Peggy

編集者注：Anthropicが数日前にリリースしたFable 5モデルが突然、下線された。原因はトランプ政権が国家安全保障を理由に、外国人のアクセスを制限するよう求めたためである。Anthropicは、Fable 5とMythos 5の高度なAIモデルへのアクセスを制限する必要があった。ユーザーの身元とアクセス権の区別が困難なため、最終的にすべての顧客に対して関連モデルの無効化を決定した。

この突発的な撤去の背後には、ホワイトハウスとAnthropicが24時間以内に展開した緊迫した交渉があった。Fable 5の安全策を回避できるかどうかについて、Anthropic CEOのDario Amodeiと財務省、商務省、ホワイトハウスのサイバーセキュリティ担当者など政府高官との間で何度も緊張した電話会議が行われた。政府は、モデルがソフトウェアの脆弱性を識別するために使われる可能性があり、国家安全保障上のリスクをもたらすと考えている。一方、Anthropicはこれらの問題は「一般的な脱獄（越狱）」ではなく、政府の行動は透明性や明確さ、技術的事実に基づく法的手続きに欠けていると批判した。

この事件の核心は、単なるモデルの下線だけではなく、先進的なAIモデルが潜在的な国家安全資産として再定義されつつあることである。モデルの能力がネットワークセキュリティや脆弱性発掘、情報分析などの敏感な場面に入り込むと、政府は企業の自己評価や自主的な審査だけに満足せず、輸出規制のようなより強硬な政策手段を行使し、モデルのリリースのペースに直接介入し始めている。

さらに皮肉なことに、AnthropicはAI業界の中で最も規制を積極的に求めてきた企業の一つだったが、今や規制の鉄拳の対象となっている。政府は、同社のセキュリティ脆弱性への対応が不十分だと考え、Anthropicはホワイトハウスの過剰反応だと見なしている。双方の争点の背後には、AI業界の未来が直面すべき新たな問題がある：誰がモデルの安全性を判断できるのか？企業の自己証明は十分か？国家安全保障の名の下に迅速な介入が、AI企業のコンプライアンスコストやリリースのペース、そして世界的な競争構図をどう変えるのか？

Anthropic事件は、先進的AIの規制における分水嶺となる可能性がある。今後、最先端モデルのリリースは単なる製品のローンチではなく、国家安全保障、地政学、資本市場、産業秩序を巻き込む高リスクの展開となるだろう。

以下は原文：

トランプ政権がAnthropicに全面的な輸出規制を課す前に、ホワイトハウスの高官は24時間にわたる緊急調整の中で、このAI企業に対し、新モデルの自主的な撤去を説得しようと試みた。複数の政府高官は、そのモデルに国家安全保障上のリスクがあると考えている。

二人の政府高官と一人のホワイトハウス高官によると、この騒動の中で、Anthropic CEOのDario Amodeiは、米財務長官のScott Bessentやホワイトハウスのサイバーセキュリティ責任者Sean Cairncrossを含む複数の政府高官と緊張した電話を何度も行った。これらの関係者は、事前に許可を得ずにこの件について議論したため、匿名を条件とした。

この事件は、ますます緊迫する問題を前面に押し出している：進化の速度が非常に速く、能力の境界が絶えず拡大する先進AIモデルに対して、ホワイトハウスは革新と安全の間でどのように線引きすべきか？

これらの通話の詳細は、これまで報道されていなかった。

モデル撤去前夜：安全性の論争

政府による輸出規制の実施後、Anthropicは新モデルFableを撤去せざるを得なくなった。このモデルは公開からわずか数日だった。Anthropicは以前、モデルの安全性と制御性を保証していたが、リリース後間もなく、政府高官は安全策が本当に堅固かどうかを再評価し始めた。

二人の政府高官と一人のホワイトハウス高官によると、木曜日、つまりFable公開の2日後、AmazonのCEO Andy Jassyはホワイトハウスに懸念を表明し、そのモデルの安全策に回避可能なリスクが存在する可能性を指摘した。

Amazon関係者は、政府の要請に応じて潜在的リスクについてフィードバックを行ったと述べている。

金曜日の早朝までに、この問題はホワイトハウスの最高レベルにまで上昇した。

政府高官とホワイトハウス高官によると、Bessent、Cairncross、ホワイトハウスのスタッフ長Susie Wiles、その他の高官が会議を行い、モデルと政府の対応策について議論した。そのうち一人は、Bessentが当初、ヒューストンで予定されていた公開イベントに向かう途中だったため、リモートで参加したと語った。

会議後、政府はAmodeiに連絡を試みたが、彼は健康静養のため一時的に電話に出られないと伝えられた。政府高官とホワイトハウス高官はこう述べている。

Anthropicの広報担当者はこれを否定し、「全くの事実無根です」と述べた。

Anthropicに近い関係者は、政府が正午頃にAmodeiに連絡を求め、その後1時間15分以内に高官と通話したと述べている。この関係者は、Amodeiが一時的に応答できなかった間、他の幹部が代わりに連絡を取る提案をしたとも語った。

最終的にAmodeiと連絡が取れた後、彼は三度の通話に参加した。ホワイトハウスの高官と政府高官によると、参加した政府高官は約半数の6人で、Cairncross、Bessent、商務長官のHoward Lutnickも含まれる。

ホワイトハウスの高官は、他のホワイトハウススタッフや政府高官も一部の通話に参加したと述べている。これには、商務省の工業・安全保障担当副長官Jeffrey Kessler、ホワイトハウスの書記長Will Scharf、ホワイトハウス副スタッフ長Richard Walters、そして大統領政策補佐Walker Barrettも含まれる。

通話中、Amodeiは誤解を解こうとした。彼は政府の安全性に関する懸念に反論し、Anthropicの防護策を擁護し、すでに存在する回避方法は特定のシナリオに限定されたものであり、より広範な意味での「脱獄（越狱）」ではないと強調した——つまり、モデルがAnthropicの安全策から完全に解放されることを意味しない。

輸出規制施行後に公開されたブログ記事で、Anthropicは次のように述べている：「現時点では、誰も一般的な脱獄方法——つまり、モデルの安全措置を大規模に回避し、多くのネットワーク能力を解放する方法——を見つけられていません。」また、同社は、Anthropicや他のAI企業にとって、すべての脱獄試行を完全に排除することは現実的ではないとも述べている。

Anthropicはまた、自社の安全システムを擁護し、その防護策は「非常に強力で、多くのユーザーから過剰だとの不満も出ている」と述べている。

しかし、CairncrossとBessentはAmodeiの説明に納得しなかった。一人のホワイトハウス高官は、Amazonの発見は米国家安全保障局に提出されており、同局はそれを「証拠」とみなしていると語った。

白宮高官と二人の政府高官によると、政府はAnthropicに対し、モデルの自主的撤去と脆弱性修復のための調整を促した。Amodeiは、より多くの時間と情報を求めたが、モデルの撤去は約束しなかった。ホワイトハウスの高官は、ある通話の中で、Bessentが直接Amodeiに「ひどい決定を下している」と伝えたと述べている。

規制の鉄拳：Fable 5とMythos 5の規制

通話終了後まもなく、トランプ政権はFable 5とMythos 5のモデルに対して輸出規制を実施した。Anthropicは、政府が国家安全保障の権限を行使し、外国人のこれらのモデルの使用を禁止したと述べている。同社は、この命令の「実質的な効果」として、コンプライアンスを確保するために「突然すべての顧客のアクセスを無効にしなければならなかった」と説明した。

一人のホワイトハウス高官は、「我々は彼らに協力を求めた数時間にわたる努力をした。輸出規制は最後の手段だ。これを望んでいたわけではないが、他に選択肢はなかった」と述べた。

報道後、Anthropicに近い関係者は、同社に「自主的な協力」の選択肢は与えられなかったと反論した。

その関係者は、「ホワイトハウスはモデル撤去を求めるのに90分しか与えず、実際の脅威に関する詳細も提供しなかった。懇願も協力要請もなく、ただ90分の最終期限だけが告知された」と述べた。

一人のホワイトハウス高官は、AmodeiがAnthropicの技術の危険性を核兵器に例えたと聞いていると語った。したがって、AIの安全規制を長年主張してきたCEOが、既知の安全脆弱性を修正するためにシステムの撤去を拒否した場合、政府関係者は理解に苦しむと述べている。

Anthropicは長らく、AI業界の中で最も規制を積極的に求めてきた企業の一つとみなされてきた。同社は、AIの急速な発展がもたらす世界的な安全リスクや雇用への衝撃に対処するために、規制枠組みの必要性を何度も訴えてきた。

三人の関係者は、政府の考え方を理解しているとし、Amazonだけが懸念を示したわけではないと述べている。

一人は、「問題の核心は、Anthropicがこの件に対して十分に真剣に取り組んでいないことにある。もしAnthropicが真剣に受け止め、これを孤立した事件と軽視せず、積極的に修正や一時停止を行えば、ここまで事態は悪化しなかっただろう」と語った。

もう一人のAnthropic関係者は、「いわゆる『脱獄』はFable 5の安全システムの失敗を意味しない」と反論し、同社はFableのリリース前に政府と連絡を取っていたと指摘した。この関係者は、多くのやり取りの中で、政府はFableのリリースに反対していなかったと述べている。

輸出規制後、Anthropicはブログで、政府の指示に従うと表明したが、同時にこの措置は過剰だと考えているとも述べた。

同社は、「以前も公言した通り、私たちは政府が安全でない展開を阻止する権限を持つべきだと考えている。ただし、それは透明性、公平性、明確さを備え、技術的事実に基づく法的手続きの上で行われるべきだ。今回の行動はこれらの原則に沿っていない」と述べている。

匿名を条件に発言を許されたホワイトハウスの高官は、「イノベーションは依然としてホワイトハウスの『最優先事項』だが、安全性も同時に最優先すべきだ」と語った。

Amazonは、政府との具体的なやり取りの詳細を明らかにすることを拒否した。Amazonの広報担当者は、「潜在的な安全リスクについての意見聴取は珍しくない。こうした場合、私たちは議論の詳細を公開しない」と述べている。

今年4月初め、Anthropicは最新の強力なモデルMythosを、少数のテクノロジー企業とサイバーセキュリティ企業に限定して公開し、これらの企業がソフトウェアの脆弱性をテストできるようにしたと発表した。当時、同モデルの能力が過剰であり、不適切な使用者の手に渡ると深刻な結果を招く可能性があるため、公開範囲を制限すべきだと述べていた。

Mythosの公開は、Amodeiとホワイトハウスの高官との一連の会議を引き起こした。双方はこれらの会議を有意義だったと述べている。その後、先進的AIモデルの規制について何度も議論が行われ、最終的に最近の行政命令に至った。これは、企業が先進モデルを広範に展開する前に、モデルを政府に自主的に提出し審査を受けることを義務付ける内容だった。

今週公開されたFable 5は、Anthropicによると「Mythos級モデル」に位置付けられるが、追加の安全措置を施し、一般ユーザー向けに公開された。このモデルは米国政府と英国のAI安全研究所の審査も受けている。

しかし、安全上の欠陥が明らかになった後、多くの政府高官は、このモデルは直ちに撤去されるべきだと考えている。

土曜日の午前、元ホワイトハウスAI責任者で、規制に反対する堅固な支持者のDavid SacksはX（旧Twitter）に投稿し、政府のAnthropicに対する輸出規制措置を支持した。

Sacksは、「この『脱獄』は単純なものではなく、無関係とも思えない。輸出規制は、政府がAI業界をより広範にコントロールしようとする試みではない」と述べた。Sacksは、「政府は今、Anthropicに安全性の問題を修正させ、その後輸出規制を解除し、Fableを再公開させたいと考えている。これらができるだけ早く実現することを望んでいる。率直に言えば、Anthropicが安全性の要請を最優先事項としながらも、協力を拒否していることに困惑している」とも述べている。

Sacksや他の政府関係者は、これまで何度もAnthropicを批判し、左翼的な政治偏見や、大規模な雇用への衝撃を警告し、業界の規制強化を訴えてきたとされる。

今年初め、国防長官のPete Hegsethと米国防総省は、政府とAnthropicの間の対立をこれまでにないレベルに引き上げた。3月3日、AnthropicがAIツールの大規模な国内監視や自律兵器システムへの使用を拒否したため、米国防総省は同社をサプライチェーンリスクとしてリストアップした。

土曜日、Sacksは、政府とAnthropicの間の既存の対立と今回の輸出規制決定は別の問題だと述べた。Sacksは、「政府はAnthropicの技術力を重視しており、この問題は深刻だが、解決は容易だと考えている。今、ボールはAnthropic側にある」と締めくくった。