彼は2024年4月にOpenAIを解雇され、6月にこの本『Situational Awareness』を書き上げました。これは本質的に資金調達のためのドキュメントです。9月には自身のヘッジファンドを立ち上げました。このファンドは1年で規模が2億ドル超から55億ドルに24倍に増え、2025年前半の純リターンは47％です。
私は読みながら考え始めました。彼は何故だろう。22歳の若者が、2024年に今日の世界を書き表せるのか？
未来を見ることができるのは、彼が未来が作られつつあるその部屋に立っているからです。彼はサンフランシスコのサークル、OpenAIのSuperalignmentチーム、そしてチーフサイエンティストのIlya Sutskeverの下で直接働いています。この本は、彼がIlyaに捧げたものです。
彼が2年前に書いた一言一言が、今振り返るとほぼすべて実現しています。
彼は言います、AIの短期的な最も不足しているものは、アルゴリズムではなく、計算能力、HBMメモリ、データセンター、電力だと。
彼は言います、真のボトルネックはCoWoSの先進パッケージに隠れていると。
彼は言います、アメリカの電力網は、最初に皆を詰まらせる関所になるだろうと。
彼は言います、「兆ドル規模のクラスター」が出現すると。その後、これらの見解はすべてヘッドラインになりました。
OpenAIはそのクラスターをStargateと名付けました。
2025年下半期、彼はこっそりとビットコインマイニングファームに大きく投資しました。
それは、価格の見通しではなく、マイニング工場がすでに電力契約、データセンターの場所、高出力冷却を握っているからです。AI時代に希少なものは、ビットコインマイニング場にはすべて揃っているのです。
マイナーはAIの計算力の貸主に変わるでしょう。
彼の論理はこうです；
第一層、AIは電力不足。
第二層、電力を握る者が最も希少。
第三層、すでに電力を握り、市場から見下されている者たちが金鉱である。
しかし、これらはまだ前菜に過ぎません。彼は本の中で一句を書きました。
2027年、AGI（汎用人工知能）が到来する。
その論理はこうです。過去4年間、AIは「幼稚園児」GPT-2から、「高校生」GPT-4へと成長しました。あと4年で、彼は言います、AIは人間の研究者に代わり、自らAIを訓練できるようになると。
一旦AIが自分でAIを研究できるようになれば、人類の10年分のアルゴリズムの進化を、1年で終わらせることができる。「知能爆発」がその瞬間から始まるのです。
その時、人類はAIが何をしているのか理解できなくなるでしょう。彼らが書くコード、下す決定。私たちはどうやって、それが騙しではないと確信できるのでしょう？
Leopoldは本の中で、三つの処方箋を提案しています。
一、弱い監督を強く。能力の低いが人間にも理解できるAIを使って、遥かに超える強いAIを監督させる。賭けは、弱い方が強い方の悪用を見破れるかどうかです。Leopold自身も、この論文の共同著者です。
二、AI同士の討論。複数のAIに対して、互いに反論させ、誤りを指摘させ、嘘を暴かせる。人間は静かな裁判官として、彼らの不一致を利用して、嘘つきを見つけ出すのです。
三、機械的な説明性。訓練時に危険なパラメータを取り除き、その後AIの頭の中を直接覗き込み、何を考えているのかを見る。「AIの嘘つき検査官」を作り、その「真理の方向性」を見つける。Leopold自身も言いますが、これはムーンショット級の難題です。
ここまで読んで、彼がOppenheimerの写真を結びに使った理由がわかりました。彼はこれを新たなマンハッタン計画のように書いているのです。
彼自身も認めていますが、この三つの道は本質的には「なんとか乗り切る」ためのものであり、真の解決策ではありません。ただ、人類が耐えられる日まで、対話の難題をAIに外注し続けることを賭けているのです。
今私たちがやっていることは、「AIの安全性を解決した」ではなく、「AIに解決させたい」と願っているのです。
聞こえは、ちょっと不自然な恋愛の話みたいですね。
どこかがおかしいと知りつつも、彼が変わることを賭けている。
投資に戻ります。この本の最も価値のある部分は、実は「2027年のAGI」という具体的な年ではありません。誤差範囲は大きく、遅れることも早まることもあります。
最も価値があるのは、AI産業の十年のボトルネック層を明確に語ったことです。
電力 > 先進封装 / HBM > 計算能力 > アルゴリズム > 応用。
上に行くほど希少で、下に行くほど混雑しています。
Leopold自身も、真剣な資金を使って、市場でそれを実証しました。
本を閉じる瞬間、私は思いました。
早く読むべき本もあります。早一年読めたら、それは運命かもしれません。
幸い、今はまだ遅くありません。
「砂漠で会おう、友よ。」

BTC-1.32%

原文表示