2023年6月13日、Anthropicの最先端モデル2つがアメリカ政府によって一時停止された。
一つはFable 5、もう一つはMythos 5。前者は最近公開されたばかりで、後者はより制限されたサイバーセキュリティ顧客向けだった。禁令は米商務省から出され、アメリカ国外の顧客だけでなく、アメリカ国内の外国人も対象となった。Anthropicの最終的な選択は非常にシンプルで、すべてのモデルをオフラインにすることだった。
この件に関するすべての詳細を見て、私たちはこの24時間のタイムラインを大まかに整理した。
6月11日木曜日、つまりFable 5の公開から2日後、アマゾンのCEOアンディ・ジャシはホワイトハウスにリスクを提起した。彼は、Fable 5の安全バリアが回避可能であることを懸念していた。アマゾンの研究者は、一連のプロンプトを通じてFable 5に本来制限されるべき情報を出させ、それがサイバー攻撃に利用される可能性があるとされている。
6月12日金曜日の朝には、その問題はホワイトハウスの最高レベルの会議にまで進展した。財務長官のスコット・ベッセント、ホワイトハウスのサイバー担当シェーン・ケアンクロス、ホワイトハウスのスタッフ長スージー・ウィルズ、その他の高官が議論に参加した。ベッセントは当時ヒューストンへ向かう途中で、リモートで会議に参加していた。
その後、三者通話が行われた。
AnthropicのCEOダリオ・アモデイが通話に参加したとき、相手側には約半ダースの高官が座っていた。ベッセントとケアンクロスのほか、商務長官ハワード・ルトニックもいた。その他の参加者には、産業と安全保障を担当する商務省副長官ジェフリー・ケスラー、ホワイトハウスの幕僚長ウィル・シャーフ、ホワイトハウス副幕僚長リチャード・ウォルターズ、大統領政策補佐官ウォーカー・バレットも含まれていた。
アモデイは事態を誤解だと説明しようとした。彼は、アマゾンが発見したのは特定の回避方法であり、広範囲にわたる安全バリアの一般的な突破策ではないと考えていた。Anthropicも後に公開し、テスターはまだモデルの安全システムを大規模に回避できる方法を見つけていないと述べている。
しかし、ホワイトハウスは説得されなかった。
アマゾンのCEOの発見は国家安全保障局（NSA）に送られ、ホワイトハウス側は十分な証拠を得たと判断した。政府はAnthropicに対し、モデルの自主的な停止と脆弱性の修復を求めた。アモデイはより多くの時間と情報を求めたが、モデルの撤回は約束しなかった。ベッセントは電話の中で直接、「誤った決定を下した」と述べた。
その後、輸出規制が適用された。
Anthropic側は別の見解を示した。彼女たちは、ホワイトハウスはモデル停止を求めたのはわずか90分であり、実際の脅威の詳細については何も説明しなかったと述べている。一方、ホワイトハウスは、輸出規制はAnthropicに協力を求めた数時間の無駄な努力の最後の手段だったと主張している。
この事件のもう一つの重要なポイントは、アマゾンのこの件における立ち位置が非常に微妙であることだ。
2024年末、アマゾンはAnthropicに対して追加で40億ドルの投資を行い、総投資額を80億ドルに引き上げた。Anthropicは同時にAWSを主要なトレーニングパートナーに設定し、今後のモデル訓練と展開にはAWSのチップを使用する予定だ。Claudeもまた、Amazon Bedrock上で最も重要なモデルの一つであり続けている。
MicrosoftとOpenAIの提携はすでに明らかになっており、アマゾンはAnthropicに賭けることで、これを回避しようとしていた。
MicrosoftはOpenAIを持ち、GoogleはGeminiを持ち、さらにAnthropicにも投資している。アマゾンは十分な最先端の自社モデルを持たず、AWSの計算能力、Trainiumチップ、Bedrockプラットフォームを外部のモデル企業に提供するしかなかった。
しかし、1年半後、アマゾンとOpenAIもつながりを持つようになった。
今年、アマゾンはOpenAIへの投資を最大500億ドルまで検討していた。OpenAIは最大1000億ドルの新規資金調達を求めており、潜在的な取引にはOpenAIがアマゾンのAIチップを調達することも含まれていた。Axiosはまた、OpenAIの2025年の年間収益が200億ドルを超える一方、支出は1.4兆ドルに達すると報じている。
アマゾンは最先端モデル企業にAWSの計算能力を消費させ、自社のチップを検証し、データセンターを満たし、最強のモデルを自社クラウドの棚に並べる必要があった。これはもはや純粋な財務投資ではない。
したがって、アマゾンはAnthropicに投資しつつ、OpenAIにも近づいている。モデル企業の資金提供者であると同時に、モデル企業の供給者でもある。モデルを販売する手助けをしながら、これらのモデルがいかに危険かを政府に説明しなければならない。
結果として、アマゾンは最初にAnthropicの対面に立った形になった。Anthropicの視点では、資金、クラウド、チップ、配信チャネルを提供するパートナーが、政府に対して安全性のシグナルを送ったことになる。当然、アマゾンの公式見解は、「ホワイトハウスからの質問に答えただけだ」としている。
過去2年間、AI企業は自分たちを国家レベルの資産として位置付けることを好んできた。能力が高いほど、評価額が高くなり、資金調達も容易になり、政府の調達も想像しやすくなる。特にAnthropicはこのストーリーを得意としている。彼らはより慎重な安全性の言葉を使ってOpenAIと差別化し、「最先端リスク」という表現で規制当局に自分たちを真剣に扱うべき存在として示している。
今や米政府は、モデルを国家安全保障資産とみなしている。
ホワイトハウスの関係者の困惑もそこから来ている。Politicoの報道によると、ホワイトハウスはアモデイがAnthropicの技術の危険性を核兵器に例えたことを聞いている。彼が既知の安全上の脆弱性を理由にモデルの停止を拒否したとき、政府関係者はこれを技術的な意見の相違ではなく、態度の問題と見なしている。
これは初めての衝突ではない。3月3日、米国防総省はAnthropicをサプライチェーンリスクとしてリストアップした。理由は、Anthropicが自社のAIツールを大規模な国内監視や自律兵器に使わせることを拒否したためだ。
Anthropicと米国政府の間には以前から摩擦があった。
そして今回、Anthropicは政府の指示には具体的な国家安全保障の懸念が示されていないと批判し、この行動は透明性や明確さ、技術的事実に基づく法的手続きに欠けていると述べた。Anthropicは、この問題は範囲の狭い回避策に過ぎず、これだけでは広範な禁制を正当化できないと考えている。
しかし、政府の視点では、モデルの安全性はもはや企業自身がホワイトペーパーを書き、レッドチームテストを行い、システムをリリースする内部プロセスではなくなっている。誰がモデルにアクセスできるか、誰がモデルを訓練できるか、外国人スタッフがモデルの重みを見ることができるかも、輸出規制の対象となる。
4月にAnthropicがMythosを限定的なテクノロジーとサイバーセキュリティ企業向けに公開すると発表したとき、すでにホワイトハウスと複数回会議を行っていた。Fable 5のリリース前にも、米国政府と英国のAI安全研究所の審査を受けている。Anthropic側は、モデル公開前に政府から反対意見はなかったと考えている。
これにより、対立はより顕著になった。
モデル公開前は安全協力の段階であり、公開後は国家安全保障の問題となる。
OpenAIはこの事故を横で見ている。
Anthropicが最強モデルをオフラインに追い込まれることで、OpenAIの立ち位置はより快適になった。Anthropicが規制問題に巻き込まれるほど、OpenAIが「協力できる」選択肢になりやすい。もしアマゾンが本当にOpenAIに近づき続けるなら、もう一つのヘッジとなる。
もちろん、アマゾンがOpenAIを支援してAnthropicを攻撃している証拠は公開されていない。
より鋭い事実は、最先端モデルが兆ドル規模の資本支出サイクルに突入している今、パートナーシップはもはやクリーンではないということだ。クラウド事業者がモデル企業に投資し、モデル企業がクラウド計算能力を購入し、政府がクラウド事業者に安全リスクを問い合わせ、競合他社も同じ規制の枠組みの中でレッドチームを行っている。
資金提供者、供給者、流通者、検閲者が、同じ企業群によって演じられ始めている。
これは、ある種の回避策よりもはるかに重要だ。
Fable 5とMythos 5が停止された夜、Anthropicが失ったのは単なる2つのモデルのアクセスだけではなかった。彼女たちは自分たちのストーリーのコントロールも失った。
アマゾンの手はまだAWSのコントロールパネルにある。OpenAIの資金調達のテーブルもまだ動いている。米政府はすでにモデルリリース会議の最前列に座っている。
298.37K 人気度
2M 人気度
58.15K 人気度
756.99K 人気度
2.26M 人気度
一紙の禁止令、三通の電話、制御不能な物語：Anthropicの最暗24時間
2023年6月13日、Anthropicの最先端モデル2つがアメリカ政府によって一時停止された。
一つはFable 5、もう一つはMythos 5。前者は最近公開されたばかりで、後者はより制限されたサイバーセキュリティ顧客向けだった。禁令は米商務省から出され、アメリカ国外の顧客だけでなく、アメリカ国内の外国人も対象となった。Anthropicの最終的な選択は非常にシンプルで、すべてのモデルをオフラインにすることだった。
この件に関するすべての詳細を見て、私たちはこの24時間のタイムラインを大まかに整理した。
6月11日木曜日、つまりFable 5の公開から2日後、アマゾンのCEOアンディ・ジャシはホワイトハウスにリスクを提起した。彼は、Fable 5の安全バリアが回避可能であることを懸念していた。アマゾンの研究者は、一連のプロンプトを通じてFable 5に本来制限されるべき情報を出させ、それがサイバー攻撃に利用される可能性があるとされている。
6月12日金曜日の朝には、その問題はホワイトハウスの最高レベルの会議にまで進展した。財務長官のスコット・ベッセント、ホワイトハウスのサイバー担当シェーン・ケアンクロス、ホワイトハウスのスタッフ長スージー・ウィルズ、その他の高官が議論に参加した。ベッセントは当時ヒューストンへ向かう途中で、リモートで会議に参加していた。
その後、三者通話が行われた。
AnthropicのCEOダリオ・アモデイが通話に参加したとき、相手側には約半ダースの高官が座っていた。ベッセントとケアンクロスのほか、商務長官ハワード・ルトニックもいた。その他の参加者には、産業と安全保障を担当する商務省副長官ジェフリー・ケスラー、ホワイトハウスの幕僚長ウィル・シャーフ、ホワイトハウス副幕僚長リチャード・ウォルターズ、大統領政策補佐官ウォーカー・バレットも含まれていた。
アモデイは事態を誤解だと説明しようとした。彼は、アマゾンが発見したのは特定の回避方法であり、広範囲にわたる安全バリアの一般的な突破策ではないと考えていた。Anthropicも後に公開し、テスターはまだモデルの安全システムを大規模に回避できる方法を見つけていないと述べている。
しかし、ホワイトハウスは説得されなかった。
アマゾンのCEOの発見は国家安全保障局（NSA）に送られ、ホワイトハウス側は十分な証拠を得たと判断した。政府はAnthropicに対し、モデルの自主的な停止と脆弱性の修復を求めた。アモデイはより多くの時間と情報を求めたが、モデルの撤回は約束しなかった。ベッセントは電話の中で直接、「誤った決定を下した」と述べた。
その後、輸出規制が適用された。
Anthropic側は別の見解を示した。彼女たちは、ホワイトハウスはモデル停止を求めたのはわずか90分であり、実際の脅威の詳細については何も説明しなかったと述べている。一方、ホワイトハウスは、輸出規制はAnthropicに協力を求めた数時間の無駄な努力の最後の手段だったと主張している。
この事件のもう一つの重要なポイントは、アマゾンのこの件における立ち位置が非常に微妙であることだ。
2024年末、アマゾンはAnthropicに対して追加で40億ドルの投資を行い、総投資額を80億ドルに引き上げた。Anthropicは同時にAWSを主要なトレーニングパートナーに設定し、今後のモデル訓練と展開にはAWSのチップを使用する予定だ。Claudeもまた、Amazon Bedrock上で最も重要なモデルの一つであり続けている。
MicrosoftとOpenAIの提携はすでに明らかになっており、アマゾンはAnthropicに賭けることで、これを回避しようとしていた。
MicrosoftはOpenAIを持ち、GoogleはGeminiを持ち、さらにAnthropicにも投資している。アマゾンは十分な最先端の自社モデルを持たず、AWSの計算能力、Trainiumチップ、Bedrockプラットフォームを外部のモデル企業に提供するしかなかった。
しかし、1年半後、アマゾンとOpenAIもつながりを持つようになった。
今年、アマゾンはOpenAIへの投資を最大500億ドルまで検討していた。OpenAIは最大1000億ドルの新規資金調達を求めており、潜在的な取引にはOpenAIがアマゾンのAIチップを調達することも含まれていた。Axiosはまた、OpenAIの2025年の年間収益が200億ドルを超える一方、支出は1.4兆ドルに達すると報じている。
アマゾンは最先端モデル企業にAWSの計算能力を消費させ、自社のチップを検証し、データセンターを満たし、最強のモデルを自社クラウドの棚に並べる必要があった。これはもはや純粋な財務投資ではない。
したがって、アマゾンはAnthropicに投資しつつ、OpenAIにも近づいている。モデル企業の資金提供者であると同時に、モデル企業の供給者でもある。モデルを販売する手助けをしながら、これらのモデルがいかに危険かを政府に説明しなければならない。
結果として、アマゾンは最初にAnthropicの対面に立った形になった。Anthropicの視点では、資金、クラウド、チップ、配信チャネルを提供するパートナーが、政府に対して安全性のシグナルを送ったことになる。当然、アマゾンの公式見解は、「ホワイトハウスからの質問に答えただけだ」としている。
過去2年間、AI企業は自分たちを国家レベルの資産として位置付けることを好んできた。能力が高いほど、評価額が高くなり、資金調達も容易になり、政府の調達も想像しやすくなる。特にAnthropicはこのストーリーを得意としている。彼らはより慎重な安全性の言葉を使ってOpenAIと差別化し、「最先端リスク」という表現で規制当局に自分たちを真剣に扱うべき存在として示している。
今や米政府は、モデルを国家安全保障資産とみなしている。
ホワイトハウスの関係者の困惑もそこから来ている。Politicoの報道によると、ホワイトハウスはアモデイがAnthropicの技術の危険性を核兵器に例えたことを聞いている。彼が既知の安全上の脆弱性を理由にモデルの停止を拒否したとき、政府関係者はこれを技術的な意見の相違ではなく、態度の問題と見なしている。
これは初めての衝突ではない。3月3日、米国防総省はAnthropicをサプライチェーンリスクとしてリストアップした。理由は、Anthropicが自社のAIツールを大規模な国内監視や自律兵器に使わせることを拒否したためだ。
Anthropicと米国政府の間には以前から摩擦があった。
そして今回、Anthropicは政府の指示には具体的な国家安全保障の懸念が示されていないと批判し、この行動は透明性や明確さ、技術的事実に基づく法的手続きに欠けていると述べた。Anthropicは、この問題は範囲の狭い回避策に過ぎず、これだけでは広範な禁制を正当化できないと考えている。
しかし、政府の視点では、モデルの安全性はもはや企業自身がホワイトペーパーを書き、レッドチームテストを行い、システムをリリースする内部プロセスではなくなっている。誰がモデルにアクセスできるか、誰がモデルを訓練できるか、外国人スタッフがモデルの重みを見ることができるかも、輸出規制の対象となる。
4月にAnthropicがMythosを限定的なテクノロジーとサイバーセキュリティ企業向けに公開すると発表したとき、すでにホワイトハウスと複数回会議を行っていた。Fable 5のリリース前にも、米国政府と英国のAI安全研究所の審査を受けている。Anthropic側は、モデル公開前に政府から反対意見はなかったと考えている。
これにより、対立はより顕著になった。
モデル公開前は安全協力の段階であり、公開後は国家安全保障の問題となる。
OpenAIはこの事故を横で見ている。
Anthropicが最強モデルをオフラインに追い込まれることで、OpenAIの立ち位置はより快適になった。Anthropicが規制問題に巻き込まれるほど、OpenAIが「協力できる」選択肢になりやすい。もしアマゾンが本当にOpenAIに近づき続けるなら、もう一つのヘッジとなる。
もちろん、アマゾンがOpenAIを支援してAnthropicを攻撃している証拠は公開されていない。
より鋭い事実は、最先端モデルが兆ドル規模の資本支出サイクルに突入している今、パートナーシップはもはやクリーンではないということだ。クラウド事業者がモデル企業に投資し、モデル企業がクラウド計算能力を購入し、政府がクラウド事業者に安全リスクを問い合わせ、競合他社も同じ規制の枠組みの中でレッドチームを行っている。
資金提供者、供給者、流通者、検閲者が、同じ企業群によって演じられ始めている。
これは、ある種の回避策よりもはるかに重要だ。
Fable 5とMythos 5が停止された夜、Anthropicが失ったのは単なる2つのモデルのアクセスだけではなかった。彼女たちは自分たちのストーリーのコントロールも失った。
アマゾンの手はまだAWSのコントロールパネルにある。OpenAIの資金調達のテーブルもまだ動いている。米政府はすでにモデルリリース会議の最前列に座っている。