El CEO de DeepMind sostiene que el organismo internacional de supervisión «revisará» los modelos de IA de vanguardia antes de su lanzamiento y que tendrán que pasar el control

Google DeepMind 執行長 Demis Hassabis 本週發表提案，主張仿照美國金融業監管局（FINRA）模式，成立由獨立專家主導的國際監理機構，要求前沿 AI 模型在發布前接受長達 30 天的強制審查。
（前情提要：如果你也怕 AI 會毀滅人類，必須讀這份報告《AI 2040：Plan A》）
（背景補充：安全派再少一人：OpenAI 首席未來學家離職，使命對齊團隊也已解散）

本文目錄

Toggle

• 一記警訊，讓提案提前上桌
• 抄華爾街的作業：獨立、產業出資、可以升級
• 業界都點頭了，難的是政府點頭

Google DeepMind 執行長本週在個人 Substack 上發表一份名為《A Framework for Frontier AI and the Dawning of a New Age》的宣言，主張成立一個獨立於政府與企業之外的國際監理機構，比照美國金融業監管局（FINRA）的模式，替最前沿的 AI 模型做上市前體檢。

他口中的「前沿模型」，簡單來說就是目前運算能力最強、風險邊界還沒被完全摸透的最新一代 AI 系統。根據提案，未來符合門檻的前沿模型，不分開源閉源、不分研發國籍，都得先送審，最長可審查 30 天，董事會多數席次保留給圖靈獎等級的獨立技術專家。

OpenAI 執行長 Sam Altman 稱這個構想「很周全」，馬斯克也說這是「很好的討論起點」，兩位平常互看不順眼的競爭對手，這次難得站到同一邊。

一記警訊，讓提案提前上桌

Hassabis 醞釀這套框架已經好幾個月，真正讓他決定提前公布的導火線，是 Anthropic 限量發布的 Mythos 模型。這款模型今年 4 月問世後，展現出遠超預期的網路安全攻防能力，在業界與政策圈掀起「AI 驅動網路犯罪新時代」的擔憂。Hassabis 直接把它稱為一記「警訊」，示警不能再等監管機構慢慢跟上，他也預計下週親自飛一趟華盛頓，和美國政策制定者當面談這套框架，顯然不只是想發篇文章就收工。

除了眼下的網路安全風險，Hassabis 在接受專訪時還提到另一種更長期的擔憂：生物安全風險。簡單來說就是，AI 模型被拿來協助設計病原體、生化武器等危害公共衛生的能力。他坦言：「目前的模型還沒有強到那個程度，但如果照現在的進展外推，幾年內可能就會出現。」

同一時間，美國政府對新模型的審查態度也讓整個產業繃緊神經。Anthropic 與 OpenAI 都曾在川普政府的壓力下，延後最新產品的大規模發布，這個舉動讓依賴美國技術的其他國家措手不及，也促成歐盟與美國政府就模型存取權展開協商，各家 AI 公司執行長更趁著法國 G7 峰會的場合，直接與各國領袖碰面商討。

抄華爾街的作業：獨立、產業出資、可以升級

Hassabis 選的參照物件，是美國金融業監管局（FINRA）。簡單來說就是，一個由華爾街券商自己出錢養、獨立運作、但接受美國證券交易委員會（SEC）監督的自律機構，專門負責稽核金融機構有沒有守規矩，出事時也能開罰、能停權。他想把同一套邏輯搬到 AI：由產業出錢，但決策權交給不隸屬任何一家公司的人。

具體設計上，這個新機構的董事會將以獨立技術專家為多數，成員包括圖靈獎得主等級的重量級人物，另外保留席次給產業、政府與開源社群代表；資金全部來自營利的頭部 AI 實驗室；受審物件是所有達到前沿門檻的模型，不論公司總部在哪、開源或閉源都得一視同仁，審查最長給 30 天，門檻本身也會隨模型能力演進定期更新。

Hassabis 強調，這套機制的強度可以隨情勢嚴重程度往上調，最極端的情況甚至能協調各大實驗室一起放慢研發腳步。他理想中的時間表，是希望這個機構最快能在今年底前開始運作。

業界都點頭了，難的是政府點頭

在公開發表前，Hassabis 已經私下把草案拿給幾乎所有主要 AI 實驗室過目，其中包含他口中的朋友、Anthropic 執行長 Dario Amodei。

Amodei 稍早才建議美國應該成立一個類似聯邦航空總署（FAA）的專責機構來監管 AI，Altman 也提過類似的國際監理倡議。Hassabis 在接受彭博專訪時說：「我們聊了很多，我認為這跟 Dario 和 Sam 一直以來提出的想法高度相容，只是我們需要一個具體的方案，而不是抽象的概念。」

身為諾貝爾獎得主、投入 AI 研究時間比多數同業都長的 Hassabis，確實比 Musk 或 Altman 更少樹敵，也更容易在業界內部拉到共識。但一位不具名的 AI 業界領袖提醒，光有產業共識還不夠，真正的難題在政治：美國國會至今沒透過任何有意義的聯邦 AI 立法，川普政府對 AI 的態度也在放任與介入之間搖擺不定，美國、歐盟、中國三方的監管路線也時常各走各的。Hassabis 樂觀地認為，眼下動能可能足夠把這件事真正推過終點線，但他也清楚：「接下來要做的，是想辦法真的落實，而不只是發一篇部落格文章。」