OpenAIの元従業員が、2040年までAI競争を減速させることを提案 - ForkLog

# OpenAIの元職員が、AIレースを2040年まで減速させるべきだと提案

AIによる人類絶滅の予測を出した論者たちが、新たなシナリオを公開した――今回は「救える可能性」つきだ。AI 2040：Plan Aは、OpenAIの元研究者ダニエル・ココタイロとAI Futures Projectが提示した。

ココタイロは2024年4月にOpenAIを退職した。彼は人工知能の安全性に関する論点で意見が分かれたため退いたが、2025年にAI Futures Projectを立ち上げた。

同じ年の4月に、組織はAI 2027の予測を公表した。そこでは、米国と中国の間のAIレースが人類の消滅、あるいは独裁につながり得ると述べられていた。あわせて著者らは、人類絶滅の確率は10%から30%の範囲で変動すると明確にした。

AI 2040：Plan Aの専門家はそれを勧告と呼んだ。すなわち、リスクを下げ得る一連の手順として説明されている。

どう機能するはずか

シナリオによれば、2029年に米国と中国が、超知能をめぐるレースをやめることに関する国際合意を2029年に結ぶ。取引がなければ、AI開発の自動化は2030年には起きてしまう。

その代わりに両国は、最高の人間エキスパートのレベルにまで、段階的にニューラルネットを育成していく。2035年までにいったん中断して、人間がシステムを統制できるようにし、2040年にその「中断」を解除すると、AIは超知能のレベルに到達する。

Plan Aは4つの原則に基づく：

• 安全性研究のための時間を稼ぐ
• AI開発を完全に開示する
• 人工知能を複数の企業や国に分配する
• プロセスを可逆に保つ

双方が互いを信頼できるように、Plan Aは検証に依拠する。大規模なデータセンターは宇宙からも見えるため、隠すのが難しい。

これを土台に、最初のステップとして各国は公にAIチップの購入を宣言する。次に、新たな学習の実行に対する一時的なポーズを導入する――データセンターのセンサーが、それを守っていることを確認する。信頼が確認されたら制限は解除されるが、研究は完全に透明なままだ。つまり、どの国や企業も、他が何をしているかが分かる。

取引の破綻から守るはずなのが、「計算能力の相互に保証された破壊」で、著者らはそれを核抑止の論理になぞらえた。計画上、中国の新しいデータセンターはカナダに建設し、米国の施設はモンゴルに置く。つまり、紛争が起きた場合に相手が最も攻撃しやすい地域にある。

もし合意が失敗したら、受け入れ国は自国領内で相手の能力を奪いにかかり、所有者は相手に渡らないよう自らそれらを破壊する。

プランの経済

著者らの試算では、世界の計算能力は、2026年の2,000万H100相当から、2034年には600億へと増える。米国の実質GDPの成長率は、いくつかの時期では2030年代に年間50%に達するが、通常の3%とは対照的だ。

自動化の影響で、米国の雇用は2027年の62%から2040年には12%へと落ち込む。専門家は、失われる雇用を補うために「市民配当」を導入することを提案した。これは、国家が計算やロボットの許可に対する企業からの収入を原資として、成人の米国人それぞれに支払う給付だ。

AI Futures Projectの予測によれば、2032年の配当は1人あたり$45,000になる。2035年には$1,000,000にまで増え、2039年には$10,000,000になる。

4つの予備シナリオ

専門家らはPlan Aを、ほか4つの道筋に対置した。彼らの言い分では、これは1つのシナリオにおける複数のストーリーラインであり、権力側の別の意思決定をした場合に何が起きるかを示す「イラスト」だ。

• Plan B――米国が同盟国の連合をつくり、中国を圧迫する。サイバー攻撃や、相手のAIプロジェクトへのピンポイントの打撃まで行う。シナリオの結末は、AIの統制を失うことと戦争の選択にある。
• Plan C――ワシントンは北京と交渉しようとし、国内規制を導入するが、企業の圧力で休止はすぐに解除される。結末は、超知能を支配する少人数の集団による、恒常的な寡頭支配のリスクをはらむ。
• Plan D――当局は、最小限の規制とレースに賭ける。リスクは、AIの統制を失うこと、権力の極端な集中、そして第三次世界大戦だ。
• Plan S――先進的なAI開発を無期限で全面的に停止する。最大の危険は、遅かれ早かれ取引が崩れて、より統制の効きにくい条件でレースが再開されることだ。

念のため、2月にCitrini Researchの専門家が、人工知能による経済の崩壊を予測したことをお伝えする。