这份报告出自 Daniel Kokotajlo 創辦的 AI Futures Project，是團队第三份重量級报告。Kokotajlo 曾任職 OpenAI，2024 年 4 月因为对安全疑慮不滿而离職，隔年創辦 AI Futures Project。前两份报告分別是 2025 年 4 月发表的 AI 2027，以及 AI Futures Model；前者预測，若照目前路徑走下去，結局不是人類滅絕，就是權力不可逆地集中。
Plan A 是團队給出的正面解方，建立在四根支柱上。
第一，公开所有 AI 研究，也就是「總體研究透明化」，簡單来说就是，各国都看得到彼此在做什麼，才有辦法一起踩剎车，而不是关起门来賭命狂奔。
他們判斷，人類很可能无法在 AI 邁向超級智慧的过程中維持有效控制；就算最終真的把 AI 对齐成功（让 AI 的目標乖乖服从人類意志），結果也会是一场前所未见的權力集中：一小群人，甚至單一个人，短期內握有世界上唯一一支超級智慧大軍，並被賦予各種接下来要怎麼辦的选項，其中一部分，实质上就等於接管世界。
在报告设定裡，2027 年美国国会通过一部綜合法案《AI Transparency Act of 2027》，內容有好有壞，卻沒有从根本上改變局面。同一时间，美国出现两支勞动力：1.65 亿名人類員工，加上數百万个 AI agent，每小时被喚醒又关閉，以超人速度全天候运转，人們每月为此付出 100 亿美元。
报告设想，2028 年美国總统大选，AI 议題会成为两黨候选人交鋒的最大焦点，因为多數白领工作，屆时都已经像 2026 年的软體工程師一樣，被 AI 大幅取代。正在興建的资料中心，總造价达到美国整个軍事预算的两倍。目前还沒有出现递迴自我改进（也就是 AI 自己造出更強 AI 的迴圈）但徵兆已经浮现：最顶尖的寫程式 AI，已经被设定拒絕協助競爭对手做 AI 研发，等於把梯子收到自己腳下。
报告也把 Plan A 拿来对比另外四種替代方案，分別对应美国面对超級智慧挑戰时，可能採取的不同因应路徑。換句話说，延到 2040 年不是唯一选項，而是作者群认为风险最低的一个。
煞车，是门技術，更是政治
Kokotajlo 自己说得很清楚：Plan A 是一份建议，不是预測。團队用一个具體情境当載體，目的是溝通与壓力測試自己的政策主張，而不是保证世界真的会照著劇本走，因为现实很可能跑得比这份煞车方案更急。
如果你也怕 AI 会毁灭人类，必须读这份报告《AI 2040：Plan A》
AI Futures Project 於 9 日发表报告《AI 2040：Plan A》，主張把 AGI 问世时间从业界预设的 2030 年延后到 2040 年。方案靠四根支柱撐起。
（前情提要：AI 新創 General Intuition 執行长揭密：为何「遊戲资料」是通往 AGI 的終極鑰匙？）
（背景補充：豆包、阿里千问紛紛关閉 AI 人格设定，中国新法嚴管人工智慧親密互动）
本文目錄
Toggle
人類接下来十年怎麼走？AI Futures Project 在本週 9 日发表最新报告《AI 2040：Plan A》，主張把「AGI」，也就是在幾乎所有面向都全面超越人類的 AI 的问世时间，从业界预设走向的 2030 年，硬生生延后到 2040 年。
背后的判斷是：人類如果不主动踩剎车，这场全球競賽最終不会分出明確贏家，只会留下一小群人，甚至一个人，獨自握有全世界唯一一支超級智慧軍队。
十年的煞车方案
这份报告出自 Daniel Kokotajlo 創辦的 AI Futures Project，是團队第三份重量級报告。Kokotajlo 曾任職 OpenAI，2024 年 4 月因为对安全疑慮不滿而离職，隔年創辦 AI Futures Project。前两份报告分別是 2025 年 4 月发表的 AI 2027，以及 AI Futures Model；前者预測，若照目前路徑走下去，結局不是人類滅絕，就是權力不可逆地集中。
Plan A 是團队給出的正面解方，建立在四根支柱上。
第一，公开所有 AI 研究，也就是「總體研究透明化」，簡單来说就是，各国都看得到彼此在做什麼，才有辦法一起踩剎车，而不是关起门来賭命狂奔。
第二，让全球數十家公司都能追上最前沿的技術水準，不让少數幾家公司壟斷能力边界。白話说就是，把技術優勢攤开让更多玩家分食，才不会演變成一场贏者全拿的軍備競賽。
第三，美国与中国要在 2029 年前談成一套涵蓋 AI 研发全面透明化与验证机制的国际協议。
第四，也是最反直覺的一條：刻意进入「相互保证算力摧毀」的恐怖平衡。也就是比照冷戰时期核武「誰先动手誰就同歸於盡」的逻辑，把算力也綁上同一套嚇阻机制，逼所有玩家都不敢贸然搶跑。
照这套方案推演的时间線，專家級 AI 大约落在 2035 年出现，AGI 超級智慧則延到 2040 年，等安全基礎设施到位后才放行。报告同时判斷，AI 公司很可能在未来 1 到 10 年內，就做出全面超越人類的系统，而整个产业目前的策略，只是边做边想辦法控制，稱不上是一套站得住腳的计畫。
这场賽局，沒有人真的贏
报告的態度並不樂觀。因为如果競賽照原本的軌道继续下去，作者群不认为贏家会取得明顯领先，也不认为任何一方会主动放慢腳步降低风险。
他們判斷，人類很可能无法在 AI 邁向超級智慧的过程中維持有效控制；就算最終真的把 AI 对齐成功（让 AI 的目標乖乖服从人類意志），結果也会是一场前所未见的權力集中：一小群人，甚至單一个人，短期內握有世界上唯一一支超級智慧大軍，並被賦予各種接下来要怎麼辦的选項，其中一部分，实质上就等於接管世界。
在报告设定裡，2027 年美国国会通过一部綜合法案《AI Transparency Act of 2027》，內容有好有壞，卻沒有从根本上改變局面。同一时间，美国出现两支勞动力：1.65 亿名人類員工，加上數百万个 AI agent，每小时被喚醒又关閉，以超人速度全天候运转，人們每月为此付出 100 亿美元。
报告设想，2028 年美国總统大选，AI 议題会成为两黨候选人交鋒的最大焦点，因为多數白领工作，屆时都已经像 2026 年的软體工程師一樣，被 AI 大幅取代。正在興建的资料中心，總造价达到美国整个軍事预算的两倍。目前还沒有出现递迴自我改进（也就是 AI 自己造出更強 AI 的迴圈）但徵兆已经浮现：最顶尖的寫程式 AI，已经被设定拒絕協助競爭对手做 AI 研发，等於把梯子收到自己腳下。
报告也把 Plan A 拿来对比另外四種替代方案，分別对应美国面对超級智慧挑戰时，可能採取的不同因应路徑。換句話说，延到 2040 年不是唯一选項，而是作者群认为风险最低的一个。
煞车，是门技術，更是政治
Kokotajlo 自己说得很清楚：Plan A 是一份建议，不是预測。團队用一个具體情境当載體，目的是溝通与壓力測試自己的政策主張，而不是保证世界真的会照著劇本走，因为现实很可能跑得比这份煞车方案更急。
报告相信，OpenAI、Anthropic、xAI、Google DeepMind 的執行长們，大概都清楚競賽的終局长什麼樣子，卻还是选擇继续往前走，也許是因为，他們相信自己是较不壞的选項。儘管他們恐怕心裡都清楚风向不对，卻仍选擇賭一把，賭的理由，是相信自己任何人或对手執行长，更值得掌握这份權力。
《AI 2040：Plan A》完整原文