著者：Zack Whittaker
翻訳：深潮 TechFlow
深潮ガイド：先週の金曜日、米国商務省の手紙により、Anthropicは最強のモデルであるFable 5とMythos 5をすべてオフラインにせざるを得なくなった。政府の理由は国家安全保障だが、外部の見方はモデルのセーフガードが回避されたことにあると考えている。しかし、次第に多くの詳細が示すのは、別の解釈：これはトランプ政権とAnthropicの関係破綻後の報復のようなものだ。あるテクノロジー企業が政府の一通の命令だけで、裁判所の承認なしに製品を停止させられることは、米国のテクノロジー業界全体へのシグナルだ。
米国政府がAnthropicに送ったその法執行通知は、週末前に同社に最新のAIモデルをすべてオフラインにさせるよう迫った。米国のどのテクノロジー企業もこれを警鐘と捉えるべきだ。これはAI研究所だけの問題ではない。
まず、この数日のニュースの流れを整理しよう。金曜日の午後、米国商務省はAnthropicに対し、非常にマイナーな輸出管理規則を引用し、非米国人（Anthropicの従業員も含む）がFable 5とMythos 5にアクセスすることを禁じた。その理由は、明確にされていない国家安全保障上の懸念だ。Anthropicは、この通知はモデルのセーフガード回避に関係していると判断したが、詳細は不明だと述べている。この通知は今も公開されていない。
Anthropicの対応は、すべての顧客に対して両モデルを停止し、法令遵守を確実にすることだった。その結果、米国政府は迅速かつ一方的に、裁判所の承認を必要としないように見える行動で、テクノロジー企業にモデルの停止を強制した。
このトランプ政権の介入は、AI業界が政府の前で免疫を持てないことを示している。より広範なテクノロジー業界にとっても警告だ：従えばいい、さもなくばあなたとあなたの製品を一緒に閉じることができる。
Axiosは情報筋の話として、週末のこの二大プレイヤー間の緊張状態を伝え、実際にこの輸出命令を引き起こしたのは、Anthropicとトランプ政権の「性格の不一致」であり、AI製品自体の技術的問題ではないと述べている。
週末に浮上した新たな詳細は、政府のもともとの根拠の不備をさらに揺るがせている。
ネットセキュリティのベテラン、研究者、Luta Security創設者のKatie Moussourisは、ブログで、Anthropicが最近非公開で見せた論文を紹介した。それは、数人のセキュリティ研究者が書いたもので、Fable 5のセーフガード回避について述べている。（『ウォール・ストリート・ジャーナル』によると、論文の著者はアマゾンのセキュリティ研究者だ。）Moussourisは、Anthropicが彼女にこの論文を見せたのは、その見解を聞きたかったからだと述べている。
Moussourisはブログで、研究者たちがどのようにこのセーフガード回避を引き起こしたかを説明したが、彼女はこの回避自体が「輸出管理の対象になるべきではなかった」と述べている。違いは実は小さく、「コードの安全性をチェックさせる」ことと、「このコードを修正させる」ことは、表現が少し異なるだけで、最終的な結果はほぼ同じだ。
「論文で述べられている行動は根本的に修正できず、どんな試みもモデルの防御側の能力を弱めるだけだ」とMoussourisは言う。彼女はこの輸出管理命令を軽率で乱暴、判断ミスだと批判している。
その後、Moussourisと数十人のトップセキュリティ研究者・専門家は、トランプ政権にこの輸出管理命令の撤回を求め、「先進的なサイバーセキュリティ能力を米国の防御者の手から奪うことは『危険だ』」と警鐘を鳴らした。
歴代政権は、知識の盲点に対して一律の決定を下してきた。例えば、2010年代の米国政府が輸出法を改訂した際、防御にも攻撃にも使えるサイバーセキュリティツールを規制しようとしたが、用語が広すぎて、合法的なセキュリティや脆弱性研究まで違法とみなしかねない状況になった。
しかし、トランプ政権のこの命令は、報復の側面が強い。
Tech Policy Pressの編集者Justin Hendrixは、「この一手は、外国政府に対して米国のAIが重要な場面での信頼性に警鐘を鳴らす可能性が高い」と述べている。伝わるメッセージは、米国のAI企業は米国政府の介入なしに運営できないということだ。
トランプ政権は、なぜこの輸出管理命令を行使したのかを明らかにしていない。官僚がその報告書を誤読して慌てたのか？アマゾンのCEO、Andy Jassyが慎重さや私怨から何かを政府高官に伝え、それがこの反応を引き起こしたのか？翻訳の誤りか、それともこれはAnthropicに圧力をかけるための手段だったのか—双方の関係はすでにぎくしゃくしているからだ。あるいは、ホワイトハウスがこの通知の要求がこれほど大きな連鎖反応を引き起こすとは全く気づいていなかった可能性もある。官僚たちは今、混乱しながら自分たちの引き起こした問題の処理に追われている。
Hendrixの言葉を借りれば、「今の雰囲気は疑念に満ちており、上層部の官僚たちは個人的・政治的な要素で好みの対象を選んでいるようだ」。結果として、政府は「米国製ソフトウェアのリリースに対してどれだけのコントロールを持つつもりか」という危険な先例を作った。
今回、政府が標的にしたのはAnthropicだが、明日には他のどんな企業も標的になり得る。
566.97K 人気度
2.04M 人気度
58.46K 人気度
827.78K 人気度
68.35M 人気度
アメリカ政府がAnthropicのモデルを封鎖したのは、決して「脱獄」が原因ではない
著者：Zack Whittaker
翻訳：深潮 TechFlow
深潮ガイド：先週の金曜日、米国商務省の手紙により、Anthropicは最強のモデルであるFable 5とMythos 5をすべてオフラインにせざるを得なくなった。政府の理由は国家安全保障だが、外部の見方はモデルのセーフガードが回避されたことにあると考えている。しかし、次第に多くの詳細が示すのは、別の解釈：これはトランプ政権とAnthropicの関係破綻後の報復のようなものだ。あるテクノロジー企業が政府の一通の命令だけで、裁判所の承認なしに製品を停止させられることは、米国のテクノロジー業界全体へのシグナルだ。
米国政府がAnthropicに送ったその法執行通知は、週末前に同社に最新のAIモデルをすべてオフラインにさせるよう迫った。米国のどのテクノロジー企業もこれを警鐘と捉えるべきだ。これはAI研究所だけの問題ではない。
まず、この数日のニュースの流れを整理しよう。金曜日の午後、米国商務省はAnthropicに対し、非常にマイナーな輸出管理規則を引用し、非米国人（Anthropicの従業員も含む）がFable 5とMythos 5にアクセスすることを禁じた。その理由は、明確にされていない国家安全保障上の懸念だ。Anthropicは、この通知はモデルのセーフガード回避に関係していると判断したが、詳細は不明だと述べている。この通知は今も公開されていない。
Anthropicの対応は、すべての顧客に対して両モデルを停止し、法令遵守を確実にすることだった。その結果、米国政府は迅速かつ一方的に、裁判所の承認を必要としないように見える行動で、テクノロジー企業にモデルの停止を強制した。
このトランプ政権の介入は、AI業界が政府の前で免疫を持てないことを示している。より広範なテクノロジー業界にとっても警告だ：従えばいい、さもなくばあなたとあなたの製品を一緒に閉じることができる。
Axiosは情報筋の話として、週末のこの二大プレイヤー間の緊張状態を伝え、実際にこの輸出命令を引き起こしたのは、Anthropicとトランプ政権の「性格の不一致」であり、AI製品自体の技術的問題ではないと述べている。
週末に浮上した新たな詳細は、政府のもともとの根拠の不備をさらに揺るがせている。
ネットセキュリティのベテラン、研究者、Luta Security創設者のKatie Moussourisは、ブログで、Anthropicが最近非公開で見せた論文を紹介した。それは、数人のセキュリティ研究者が書いたもので、Fable 5のセーフガード回避について述べている。（『ウォール・ストリート・ジャーナル』によると、論文の著者はアマゾンのセキュリティ研究者だ。）Moussourisは、Anthropicが彼女にこの論文を見せたのは、その見解を聞きたかったからだと述べている。
Moussourisはブログで、研究者たちがどのようにこのセーフガード回避を引き起こしたかを説明したが、彼女はこの回避自体が「輸出管理の対象になるべきではなかった」と述べている。違いは実は小さく、「コードの安全性をチェックさせる」ことと、「このコードを修正させる」ことは、表現が少し異なるだけで、最終的な結果はほぼ同じだ。
「論文で述べられている行動は根本的に修正できず、どんな試みもモデルの防御側の能力を弱めるだけだ」とMoussourisは言う。彼女はこの輸出管理命令を軽率で乱暴、判断ミスだと批判している。
その後、Moussourisと数十人のトップセキュリティ研究者・専門家は、トランプ政権にこの輸出管理命令の撤回を求め、「先進的なサイバーセキュリティ能力を米国の防御者の手から奪うことは『危険だ』」と警鐘を鳴らした。
歴代政権は、知識の盲点に対して一律の決定を下してきた。例えば、2010年代の米国政府が輸出法を改訂した際、防御にも攻撃にも使えるサイバーセキュリティツールを規制しようとしたが、用語が広すぎて、合法的なセキュリティや脆弱性研究まで違法とみなしかねない状況になった。
しかし、トランプ政権のこの命令は、報復の側面が強い。
Tech Policy Pressの編集者Justin Hendrixは、「この一手は、外国政府に対して米国のAIが重要な場面での信頼性に警鐘を鳴らす可能性が高い」と述べている。伝わるメッセージは、米国のAI企業は米国政府の介入なしに運営できないということだ。
トランプ政権は、なぜこの輸出管理命令を行使したのかを明らかにしていない。官僚がその報告書を誤読して慌てたのか？アマゾンのCEO、Andy Jassyが慎重さや私怨から何かを政府高官に伝え、それがこの反応を引き起こしたのか？翻訳の誤りか、それともこれはAnthropicに圧力をかけるための手段だったのか—双方の関係はすでにぎくしゃくしているからだ。あるいは、ホワイトハウスがこの通知の要求がこれほど大きな連鎖反応を引き起こすとは全く気づいていなかった可能性もある。官僚たちは今、混乱しながら自分たちの引き起こした問題の処理に追われている。
Hendrixの言葉を借りれば、「今の雰囲気は疑念に満ちており、上層部の官僚たちは個人的・政治的な要素で好みの対象を選んでいるようだ」。結果として、政府は「米国製ソフトウェアのリリースに対してどれだけのコントロールを持つつもりか」という危険な先例を作った。
今回、政府が標的にしたのはAnthropicだが、明日には他のどんな企業も標的になり得る。