Google DeepMind 執行长 Demis Hassabis 本週发表提案，主張仿照美国金融业監管局（FINRA）模式，成立由獨立專家主導的国际監理机構，要求前沿 AI 模型在发布前接受长达 30 天的強制審查。
（前情提要：如果你也怕 AI 会毀滅人類，必須读这份报告《AI 2040：Plan A》）
（背景補充：安全派再少一人：OpenAI 首席未来学家离職，使命对齐團队也已解散）
本文目錄
Toggle
一記警訊，让提案提前上桌
抄华爾街的作业：獨立、产业出资、可以升級
业界都点头了，难的是政府点头
Google DeepMind 執行长本週在个人 Substack 上发表一份名为《A Framework for Frontier AI and the Dawning of a New Age》的宣言，主張成立一个獨立於政府与企业之外的国际監理机構，比照美国金融业監管局（FINRA）的模式，替最前沿的 AI 模型做上市前體檢。
他口中的「前沿模型」，簡單来说就是目前运算能力最強、风险边界还沒被完全摸透的最新一代 AI 系统。根據提案，未来符合门檻的前沿模型，不分开源閉源、不分研发国籍，都得先送審，最长可審查 30 天，董事会多數席次保留給圖靈獎等級的獨立技術專家。
OpenAI 執行长 Sam Altman 稱这个構想「很周全」，马斯克也说这是「很好的討論起点」，两位平常互看不順眼的競爭对手，这次难得站到同一边。
具體设计上，这个新机構的董事会將以獨立技術專家为多數，成員包括圖靈獎得主等級的重量級人物，另外保留席次給产业、政府与开源社群代表；资金全部来自營利的头部 AI 实验室；受審物件是所有达到前沿门檻的模型，不論公司總部在哪、开源或閉源都得一視同仁，審查最长給 30 天，门檻本身也会随模型能力演进定期更新。
在公开发表前，Hassabis 已经私下把草案拿給幾乎所有主要 AI 实验室过目，其中包含他口中的朋友、Anthropic 執行长 Dario Amodei。
Amodei 稍早才建议美国应該成立一个類似聯邦航空總署（FAA）的專责机構来監管 AI，Altman 也提过類似的国际監理倡议。Hassabis 在接受彭博專訪时说：「我們聊了很多，我认为这跟 Dario 和 Sam 一直以来提出的想法高度相容，只是我們需要一个具體的方案，而不是抽象的概念。」
身为諾貝爾獎得主、投入 AI 研究时间比多數同业都长的 Hassabis，確实比 Musk 或 Altman 更少樹敵，也更容易在业界內部拉到共识。但一位不具名的 AI 业界领袖提醒，光有产业共识还不夠，真正的难題在政治：美国国会至今沒透过任何有意義的聯邦 AI 立法，川普政府对 AI 的態度也在放任与介入之间搖擺不定，美国、歐盟、中国三方的監管路線也时常各走各的。Hassabis 樂觀地认为，眼下动能可能足夠把这件事真正推过終点線，但他也清楚：「接下来要做的，是想辦法真的落实，而不只是发一篇部落格文章。」
DeepMind 执行长主张成立国际监管机构“审查”前沿 AI 模型，上市前得先过关
Google DeepMind 執行长 Demis Hassabis 本週发表提案，主張仿照美国金融业監管局（FINRA）模式，成立由獨立專家主導的国际監理机構，要求前沿 AI 模型在发布前接受长达 30 天的強制審查。
（前情提要：如果你也怕 AI 会毀滅人類，必須读这份报告《AI 2040：Plan A》）
（背景補充：安全派再少一人：OpenAI 首席未来学家离職，使命对齐團队也已解散）
本文目錄
Toggle
Google DeepMind 執行长本週在个人 Substack 上发表一份名为《A Framework for Frontier AI and the Dawning of a New Age》的宣言，主張成立一个獨立於政府与企业之外的国际監理机構，比照美国金融业監管局（FINRA）的模式，替最前沿的 AI 模型做上市前體檢。
他口中的「前沿模型」，簡單来说就是目前运算能力最強、风险边界还沒被完全摸透的最新一代 AI 系统。根據提案，未来符合门檻的前沿模型，不分开源閉源、不分研发国籍，都得先送審，最长可審查 30 天，董事会多數席次保留給圖靈獎等級的獨立技術專家。
OpenAI 執行长 Sam Altman 稱这个構想「很周全」，马斯克也说这是「很好的討論起点」，两位平常互看不順眼的競爭对手，这次难得站到同一边。
一記警訊，让提案提前上桌
Hassabis 醞釀这套框架已经好幾个月，真正让他決定提前公布的導火線，是 Anthropic 限量发布的 Mythos 模型。这款模型今年 4 月问世后，展现出远超预期的網路安全攻防能力，在业界与政策圈掀起「AI 驅动網路犯罪新时代」的擔憂。Hassabis 直接把它稱为一記「警訊」，示警不能再等監管机構慢慢跟上，他也预计下週親自飞一趟华盛頓，和美国政策制定者当面談这套框架，顯然不只是想发篇文章就收工。
除了眼下的網路安全风险，Hassabis 在接受專訪时还提到另一種更长期的擔憂：生物安全风险。簡單来说就是，AI 模型被拿来協助设计病原體、生化武器等危害公共衛生的能力。他坦言：「目前的模型还沒有強到那个程度，但如果照现在的进展外推，幾年內可能就会出现。」
同一时间，美国政府对新模型的審查態度也让整个产业繃緊神经。Anthropic 与 OpenAI 都曾在川普政府的壓力下，延后最新产品的大規模发布，这个舉动让依賴美国技術的其他国家措手不及，也促成歐盟与美国政府就模型存取權展开協商，各家 AI 公司執行长更趁著法国 G7 峰会的场合，直接与各国领袖碰面商討。
抄华爾街的作业：獨立、产业出资、可以升級
Hassabis 选的參照物件，是美国金融业監管局（FINRA）。簡單来说就是，一个由华爾街券商自己出钱養、獨立运作、但接受美国证券交易委員会（SEC）監督的自律机構，專门负责稽核金融机構有沒有守規矩，出事时也能开罰、能停權。他想把同一套逻辑搬到 AI：由产业出钱，但決策權交給不隸屬任何一家公司的人。
具體设计上，这个新机構的董事会將以獨立技術專家为多數，成員包括圖靈獎得主等級的重量級人物，另外保留席次給产业、政府与开源社群代表；资金全部来自營利的头部 AI 实验室；受審物件是所有达到前沿门檻的模型，不論公司總部在哪、开源或閉源都得一視同仁，審查最长給 30 天，门檻本身也会随模型能力演进定期更新。
Hassabis 強调，这套机制的強度可以随情勢嚴重程度往上调，最極端的情況甚至能協调各大实验室一起放慢研发腳步。他理想中的时间表，是希望这个机構最快能在今年底前开始运作。
业界都点头了，难的是政府点头
在公开发表前，Hassabis 已经私下把草案拿給幾乎所有主要 AI 实验室过目，其中包含他口中的朋友、Anthropic 執行长 Dario Amodei。
Amodei 稍早才建议美国应該成立一个類似聯邦航空總署（FAA）的專责机構来監管 AI，Altman 也提过類似的国际監理倡议。Hassabis 在接受彭博專訪时说：「我們聊了很多，我认为这跟 Dario 和 Sam 一直以来提出的想法高度相容，只是我們需要一个具體的方案，而不是抽象的概念。」
身为諾貝爾獎得主、投入 AI 研究时间比多數同业都长的 Hassabis，確实比 Musk 或 Altman 更少樹敵，也更容易在业界內部拉到共识。但一位不具名的 AI 业界领袖提醒，光有产业共识还不夠，真正的难題在政治：美国国会至今沒透过任何有意義的聯邦 AI 立法，川普政府对 AI 的態度也在放任与介入之间搖擺不定，美国、歐盟、中国三方的監管路線也时常各走各的。Hassabis 樂觀地认为，眼下动能可能足夠把这件事真正推过終点線，但他也清楚：「接下来要做的，是想辦法真的落实，而不只是发一篇部落格文章。」