WIRED が北京・中関村の AI 年議に直に赴き、米中のトップクラスの学者にインタビューして得た最大の結論は、最先端 AI のネットワークセキュリティリスクがあまりにも大きく、どの国も単独では対応できないということだ。オープンソースモデルの能力限界は、危険な臨界点に近づいている。
（前情：Anthropic が米国政府に「封殺」され、Fable モデルを撤去、海外メディアは3つの懸念を指摘：中国のオープンソース支援の恐れ）
（背景：Nvidia が最強のオープンソースモデル Nemotron 3 Ultra を発表！AI エージェントタスクに特化）
本文目次
Toggle
一つの AI 軍拡競争が、核抑止を生み出す
オープンソースモデルの限界、危険な臨界点に迫る
中国もひそかに扉を閉める
WIRED 記者 Will Knight が北京智源人工智慧研究院（BAAI）主催のこの会議に赴いた。現場には、再帰的自己改善、人間型ロボットから量子安全に至るまでの多様な議題が集まり、参加者には公開鍵暗号の共同発明者 Whitfield Diffie、強化学習の基礎研究でチューリング賞を受賞した Andrew Barto が含まれていた。
Knight は記事の中で、会場を離れる時に一つの考えだけが残ったと書いている。それは、米中両国が AI 競争の敵意を収めるべきだということだ。理由は外交辞令ではなく、技術的現実にある。最先端 AI のネットワークセキュリティリスクは、どの国の政策が追いつく速度を超えて拡大しているのだ。
一つの AI 軍拡競争が、核抑止を生み出す
ワシントンの標準的な枠組みは、中国の AI 進展を経済的・国家的安全保障の脅威と見なすものだ。輸出規制は強化され続け、ハイエンドチップや製造装置の中国流入を制限している。今年6月、米国政府はさらに進み、国家安全保障を理由に、Anthropic に外国人による最強の2モデル Mythos 5 と Fable 5 へのアクセスを停止するよう要求した。
しかし、この北京会議は全く異なるシグナルを伝えた。開発速度が速すぎ、抑制のない AI は、米中双方にとってリスクであり、一方的な切り札ではないのだ。
MIT のコンピューター科学者 Stephen Casper はビデオで会議に参加し、彼が引用した研究によれば、国際社会が AI リスクに関して協力する利益は、協力自体がもたらす安全上の懸念よりもはるかに大きい。Casper は Knight に例え話をした：「AI の分野でほとんどすべての人が同意できることは、AI にはチェルノブイリの瞬間が必要ないということだ。」
彼は、これは冷戦時代の米ソ間の核兵器に関する矛盾した論理と同様だと指摘する。双方は武器庫を必死に拡大しながらも、核危機管理メカニズムを構築せざるを得なかった。彼らが最も警戒しているのは、ますます強力になるエージェント型 AI であり、能力が向上し続ければ、少し制御を失うだけで大規模な破壊を引き起こす可能性がある。
上海交通大学の教授 Lin Yun は、AI と情報セキュリティの交差点を長年研究しており、Knight に次のように指摘した。短期的には確かにハッカーが優位に立つが、新しい防御手段、特に AI 自体の対抗アプリケーションが中長期的にこの状況を逆転させるはずだ。より核心的な問題は基準にある：「もし異なる国がリスクの理解を共有していれば、共通の安全原則と技術基準を構築するのが容易になる」と Yun は言う。「鍵は、システムリスクを低減しつつ、機密の運用詳細を露出させない共有領域を見つけることだ。」
Lin Yun はまた、厄介な未解決問題を提起した。産業界はどのようにしてオープンソースモデルが継続的に更新され、バックドアの脆弱性がなく、安全基準を満たすことを保証するのか？この問題には現在答えがない。
中国もひそかに扉を閉める
見逃してはならない詳細がある。Will Knight がインタビューした匿名の情報提供者によると、ある中国のトップ AI 企業の内部関係者が、メディアに発言する権限がないため匿名を条件に語った。彼は、安全性の懸念が一部の先進モデルをオープンソースにしない理由の一つであると明かした。
これは注目に値するシグナルである。中国の AI 企業はこれまで、オープンソースの姿勢で世界的な影響力を得てきた。しかし、もし中国自身のトッププレイヤーが一部のモデルに制限をかけ始めているなら、オープンソースとクローズドソースの境界線は再定義されている。輸出規制は計算資源の流れを制限するが、モデル能力の拡散はソフトで国境がない。オープンソースコミュニティがクローズドソースモデルの9割の能力を再現でき、オープンモデル自体がサイバー兵器になり得るなら、いかなる一方的な規制も遅延に過ぎず、阻止にはならない。
美中 AI 対立が白熱しているが、両国の学者の共通認識は「AI に『チェルノブイリの瞬間』を迎えさせてはならない」ということだ。
WIRED が北京・中関村の AI 年議に直に赴き、米中のトップクラスの学者にインタビューして得た最大の結論は、最先端 AI のネットワークセキュリティリスクがあまりにも大きく、どの国も単独では対応できないということだ。オープンソースモデルの能力限界は、危険な臨界点に近づいている。
（前情：Anthropic が米国政府に「封殺」され、Fable モデルを撤去、海外メディアは3つの懸念を指摘：中国のオープンソース支援の恐れ）
（背景：Nvidia が最強のオープンソースモデル Nemotron 3 Ultra を発表！AI エージェントタスクに特化）
本文目次
Toggle
WIRED 記者 Will Knight が北京智源人工智慧研究院（BAAI）主催のこの会議に赴いた。現場には、再帰的自己改善、人間型ロボットから量子安全に至るまでの多様な議題が集まり、参加者には公開鍵暗号の共同発明者 Whitfield Diffie、強化学習の基礎研究でチューリング賞を受賞した Andrew Barto が含まれていた。
Knight は記事の中で、会場を離れる時に一つの考えだけが残ったと書いている。それは、米中両国が AI 競争の敵意を収めるべきだということだ。理由は外交辞令ではなく、技術的現実にある。最先端 AI のネットワークセキュリティリスクは、どの国の政策が追いつく速度を超えて拡大しているのだ。
一つの AI 軍拡競争が、核抑止を生み出す
ワシントンの標準的な枠組みは、中国の AI 進展を経済的・国家的安全保障の脅威と見なすものだ。輸出規制は強化され続け、ハイエンドチップや製造装置の中国流入を制限している。今年6月、米国政府はさらに進み、国家安全保障を理由に、Anthropic に外国人による最強の2モデル Mythos 5 と Fable 5 へのアクセスを停止するよう要求した。
Anthropic は直ちにこれら2モデルをすべての人に対して閉鎖した。理由の一つは、当局が Fable 5 の防御機構が破られ、Mythos のネットワーク攻撃能力が解放されることを懸念したからだ。
しかし、この北京会議は全く異なるシグナルを伝えた。開発速度が速すぎ、抑制のない AI は、米中双方にとってリスクであり、一方的な切り札ではないのだ。
MIT のコンピューター科学者 Stephen Casper はビデオで会議に参加し、彼が引用した研究によれば、国際社会が AI リスクに関して協力する利益は、協力自体がもたらす安全上の懸念よりもはるかに大きい。Casper は Knight に例え話をした：「AI の分野でほとんどすべての人が同意できることは、AI にはチェルノブイリの瞬間が必要ないということだ。」
彼は、これは冷戦時代の米ソ間の核兵器に関する矛盾した論理と同様だと指摘する。双方は武器庫を必死に拡大しながらも、核危機管理メカニズムを構築せざるを得なかった。彼らが最も警戒しているのは、ますます強力になるエージェント型 AI であり、能力が向上し続ければ、少し制御を失うだけで大規模な破壊を引き起こす可能性がある。
オープンソースモデルの限界、危険な臨界点に迫る
ネットワークセキュリティリスクが理論的な警告であるならば、オープンソースモデルの能力拡大は目前に見える地雷である。
近年、中国企業はオープンウェイトモデルの分野で先行している。月之暗面の Kimi、Alibaba の Qwen、Z.ai の GLM は、米国の研究コミュニティで多くのユーザーを持つ。米国の反撃は Nvidia の Nemotron であり、オープンソースの競争力を再構築しようとしている。
しかし、GLM 5.2 の分析によれば、Z.ai の最新モデルはすでに最先端レベルのエージェント能力とプログラミング能力を備えている。次の世代のオープンソースモデルは、Fable や Mythos と同等の能力を持つ可能性がある。
上海交通大学の教授 Lin Yun は、AI と情報セキュリティの交差点を長年研究しており、Knight に次のように指摘した。短期的には確かにハッカーが優位に立つが、新しい防御手段、特に AI 自体の対抗アプリケーションが中長期的にこの状況を逆転させるはずだ。より核心的な問題は基準にある：「もし異なる国がリスクの理解を共有していれば、共通の安全原則と技術基準を構築するのが容易になる」と Yun は言う。「鍵は、システムリスクを低減しつつ、機密の運用詳細を露出させない共有領域を見つけることだ。」
Lin Yun はまた、厄介な未解決問題を提起した。産業界はどのようにしてオープンソースモデルが継続的に更新され、バックドアの脆弱性がなく、安全基準を満たすことを保証するのか？この問題には現在答えがない。
中国もひそかに扉を閉める
見逃してはならない詳細がある。Will Knight がインタビューした匿名の情報提供者によると、ある中国のトップ AI 企業の内部関係者が、メディアに発言する権限がないため匿名を条件に語った。彼は、安全性の懸念が一部の先進モデルをオープンソースにしない理由の一つであると明かした。
これは注目に値するシグナルである。中国の AI 企業はこれまで、オープンソースの姿勢で世界的な影響力を得てきた。しかし、もし中国自身のトッププレイヤーが一部のモデルに制限をかけ始めているなら、オープンソースとクローズドソースの境界線は再定義されている。輸出規制は計算資源の流れを制限するが、モデル能力の拡散はソフトで国境がない。オープンソースコミュニティがクローズドソースモデルの9割の能力を再現でき、オープンモデル自体がサイバー兵器になり得るなら、いかなる一方的な規制も遅延に過ぎず、阻止にはならない。
米中両国は現在最も先進的なモデルの主要な供給源であり、したがってこのリスクにおいて最も責任のある二つの当事者である。Casper は率直に言う。「AI はグローバルな技術であり、グローバルな利益をもたらすと同時に、グローバルな害をもたらす。そして新しい能力は最終的に世界中に拡散する傾向がある。」北京とワシントンの輸出規制をめぐる攻防がどれだけ続こうとも、この論理は消えない。