OpenAI 前員工提議將 AI 競賽放慢至 2040 年 - ForkLog

# OpenAI 前員工建議把 AI 競賽放慢到 2040 年

預測因 AI 導致人類滅絕的作者們推出了一份新情境——這次則帶著「得救」的可能性。文件 AI 2040：Plan A 由前 OpenAI 研究員 Daniel Kokotaylo 與 AI Futures Project 發表。

Kokotaylo 於 2024 年 4 月離開 OpenAI。他因在人工智慧安全問題上意見分歧而離職，並在 2025 年成立 AI Futures Project。

同年 4 月，該組織發布了 AI 2027 預測。其中指出，美國與中國之間的 AI 競賽可能導致人類消亡或獨裁。同時，作者也補充：滅絕的機率落在 10% 到 30% 的區間。

AI 2040：Plan A 的專家將其稱為建議：一套所描述的步驟組合，可能降低風險。

這應該要怎麼運作

根據情境，美國與中國在 2029 年簽署國際協議，約定 2029 年美國與中國將放棄追逐超級智能的競賽。若沒有交易，AI 研發的自動化將在 2030 年就已發生。

取而代之，各國逐步發展神經網路——直到達到最頂尖的人類專家的水準。到 2035 年，他們會先暫停，以保留人類對系統的控制權；到了 2040 年，暫停解除，AI 便達到超級智能的水準。

該計畫建立在四項原則之上：

• 爭取安全研究的時間；
• 完整揭露 AI 研發；
• 將人工智慧分配給不同公司與不同國家；
• 保持流程可逆性。

為了讓雙方互相信任，Plan A 依賴驗證。大型資料中心從太空可見，因此很難藏起來。

第一步因此而來：各國公開宣告購買 AI 晶片。接著對新的訓練運行引入暫時停頓——資料中心上的感測器用以確認其遵守情況。當信任被確認後，限制解除，但研究仍保持完全透明：任何國家與公司都能看到其他國家與公司正在做什麼。

為了防止交易破裂，作者將其比擬為核子威懾邏輯的「相互保證毀滅算力」應該能夠保護。依計畫，中國的新增資料中心建在加拿大，而美國的設施則建在蒙古，也就是在衝突時最容易被對手攻擊的位置。

如果協議失敗，接收方國家將嘗試在本國境內奪取他國的算力，而擁有者會自行摧毀它們，確保不會落入對手手中。

計畫的經濟面

依作者估算，全球算力將從 2026 年的 2 千萬個 H100 等價提升到 2034 年的 600 億個。美國實際 GDP 在某些 2030 年代特定期間的年增長最高可達 50%——相較之下是一般的 3%。

因自動化影響，2027 年美國的就業人口占比將從 62% 下滑到 2040 年的 12%。為補償工作機會流失，專家提出要導入「公民股息」——從政府向公司收取算力與機器人許可所獲得的收入中，對每位成年美國人發放的款項。

根據 AI Futures Project 的預測，2032 年該股息將為每人 45000 美元。到 2035 年將增至 100 萬美元，並在 2039 年達到 1000 萬美元。

四個備用情境

專家將 Plan A 對照另外四種發展路徑。依他們的說法，這些只是同一情境中的情節線——用來說明當權力方做出其他決定時會發生什麼。

• Plan B——美國建立盟友聯盟並施壓中國，甚至包括網路攻擊與針對他國 AI 專案的精準打擊。情境的結局是在「失去對 AI 的控制」與「戰爭」之間作出選擇。
• Plan C——華盛頓試圖與北京協商，並引入內部監管，但在企業施壓下，暫停會被迅速取消。結局帶有少數人寡頭權力持續存在的風險，因為他們掌控超級智能。
• Plan D——當局押注最低程度的監管與競賽。風險包括：失去對 AI 的控制、權力極度集中，以及第三次世界大戰。
• Plan S——全面且無限期地停止先進 AI 研發。主要危險在於，遲早這筆交易會崩解，而競賽會在較難受控的條件下重新開始。

提醒一下：2 月份，Citrini Research 的專家預測，將因人工智慧而導致經濟崩潰。