OpenAI 前员工提议将 AI 竞赛放缓至 2040 年 - ForkLog

# OpenAI 前员工建议将 AI 竞赛放缓至 2040 年

关于“因 AI 人类将灭绝”的预测报告作者发布了一个新的情景——这一次带着获救的可能性。该文件《AI 2040: Plan A》由前 OpenAI 研究员丹尼尔·科科泰洛（Daniel Kokotaylo）以及 AI Futures Project 提出。

科科泰洛于 2024 年 4 月离开 OpenAI。他离开是因为在人工智能安全问题上存在分歧，而在 2025 年他创立了 AI Futures Project。

同年 4 月，该组织发布了 AI 2027 的预测。文中表示，美国与中国之间的 AI 竞赛可能导致人类消亡，或演变为独裁体制。同时，作者补充说明：灭绝的概率在 10% 到 30% 的范围内波动。

AI 2040: Plan A 的专家将该方案称为一项建议：这是一套所描述的步骤，能够降低风险。

该如何运作

根据该情景，2029 年美国与中国达成一项国际协议：在 2029 年，美国与中国将签署一项关于放弃超智能竞赛的国际协议。如果没有这份协议，AI 研发的自动化本可在 2030 年就已发生。

各国改为逐步发展神经网络——逐步达到最优秀的人类专家的水平。到 2035 年，他们会暂停，以保留人类对这些系统的控制；而在 2040 年解除暂停，AI 达到超智能水平。

该方案建立在四项原则之上：

• 为安全研究争取时间；
• 完全披露 AI 研发；
• 将人工智能分配给不同公司和不同国家；
• 保持该过程可逆。

为让双方彼此信任，Plan A 依赖于核验。大型数据中心从太空可见，因此很难隐藏。

据此展开第一步：各国公开宣称购买 AI 芯片。随后在新的训练运行上设置临时暂停——数据中心上的传感器用于确认其遵守情况。当信任得到证实后，限制会被解除，但研究仍保持完全透明：任何国家和公司都能看到其他方正在做什么。

为防止协议遭到破坏，作者提出“相互保证摧毁计算能力”，并将其类比为核威慑逻辑。按照该计划，中国将把新的数据中心建在加拿大，而美国的设施将建在蒙古——也就是在发生冲突时更容易被对手攻击的地区。

如果协议失败，接收方国家将试图夺取对方在其本国境内的算力，而所有者则会自行摧毁这些算力，避免其落入对手之手。

方案的经济学

根据作者测算，全球计算能力将从 2026 年的 20 million H100 等效算力增长到 2034 年的 60 billion。美国在 2030 年代部分时期的实际 GDP 增长将达到每年 50%——而通常仅为 3%。

由于自动化，就业在美国将从 2027 年的 62% 降至 2040 年的 12%。为弥补失去的工作岗位，专家建议引入“公民股息”——政府从公司因获得算力和机器人许可所收取的收入中，对每名成年美国人发放的款项。

根据 AI Futures Project 的预测，到 2032 年，该股息将达到每人 $45 000。到 2035 年增至 $1 million，而到 2039 年增至 $10 million。

四个备选情景

专家将 Plan A 与其他四种发展路径进行对比。他们表示，这些是同一情景的不同叙事线——用于说明当权力方作出其他决定时会发生什么。

• Plan B——美国组建盟友联盟并对中国施压，施压手段包括网络攻击，以及对他方的 AI 项目进行精准打击。该情景最终以在失去对 AI 的控制权和战争之间作出选择告终。
• Plan C——华盛顿试图与北京达成协议并实施国内监管，但在公司施压之下，暂停会被迅速解除。结局存在由一个小型寡头集团持续掌控超智能的风险。
• Plan D——当局将押注于最少的监管和竞赛。风险包括失去对 AI 的控制权、权力高度集中，以及第三次世界大战。
• Plan S——对先进 AI 研发进行完全且无限期的彻底停摆。最大的危险在于，这笔交易迟早会崩解，竞赛将在更缺乏控制的条件下重新开始。

提醒一下：2 月份，Citrini Research 的专家预测，由于人工智能，经济将崩溃。