私は昨日『ザ・ニューヨーカー』に掲載された調査記事を読んだばかりで、多くの人を衝撃に陥れた。ロナン・ファローとアンドリュー・マランツは100人以上にインタビューし、未公開の内部メモやダリオ・アモデイ (Anthropicの創設者の個人的メモ200ページ以上を入手した。彼はOpenAI )から離れた。結果はほぼ爆弾だ。

すべては2023年秋にOpenAIの最高科学者イリヤ・スツケヴァーがまとめた70ページの文書から始まる。彼はSlackのメッセージ、HRとの通信、会議の議事録を集めた。目的は？単純な質問に答えることだ：サム・アルトマンは、史上最も危険な技術をコントロールしている彼が信頼できるのか？スツケヴァーの最初の一行の答えは：サムは一貫したパターンを示している…「嘘」を。

例は非常に具体的だ。2022年12月、アルトマンは理事会にGPT-4の機能はすでに安全性のレビューを通過したと保証した。承認書類を求められると、最も論争の的となったカスタマイズ調整とパーソナルアシスタントの導入は一度も承認されていなかったことが判明した。その後、インドのケースもあった。Microsoftは安全性のレビューが終了する前にChatGPTをリリースした。スツケヴァーはまた、アルトマンがCTOのミラ・ムラティに安全性のプロセスはそれほど重要ではないと言ったと記録している。なぜなら、法務顧問がすでに承認していたからだ。ムラティが法務顧問に確認したところ、「サムがどこからそんなことを言ったのか全くわからない」と答えた。

しかし最も冷ややかなのは、「スーパーアラインメント」チームに関するものだ。2023年半ば、アルトマンはバークレーの学生に連絡し、AIのアラインメント問題に非常に関心を持ち、10億ドルの研究賞を語った。その男は大学を卒業し、OpenAIに入った。するとアルトマンは考えを変え、賞金ではなく内部チームを作り、公開で会社の計算能力の20%、潜在的に10億ドル超の能力を投入すると発表した。非常に真剣な言葉で、「アラインメントが解決されなければ人類絶滅もあり得る」と語った。

実際には？そこに働いていた4人は、総能力のわずか1-2%しか割り当てられず、古いハードウェアだったと証言している。チームは何も完成せず解散された。ジャーナリストが「安全保障の研究責任者」にインタビューを求めたところ、広報は「それは実際に存在するものではありません」と答えた。

さらに、OpenAIのCFOサラ・フライアは、アルトマンとIPOについて真剣に意見が対立した。彼女はまだ準備ができていないと考えている—多くの官僚的な障壁と、アルトマンが約束した6000億ドルの計算能力投資のリスクが高すぎるからだ。しかしアルトマンは今年の第4四半期に向けて加速させたいと考えている。驚くべきことに？フライアはもはやアルトマンに直接報告していない。2025年8月以降はアプリ事業のCEOフィジ・シモに報告している。そしてシモは先週から休暇中だ。

元理事の一人はアルトマンについてこう述べている：彼は対面の交流で極端に好意を示す一方、騙すことの結果にはほとんど無関心だ。この組み合わせは非常に稀だ。しかし、販売者にとっては完璧な才能だ。Microsoftの幹部さえも耐えられなくなり、「事実を歪め、約束を破り、契約を次々と撤回している」と言う。ある者はバーニー・マドフやSBFと比較した。

では、なぜこれがそんなに重要なのか？なぜならOpenAIは普通のテック企業ではないからだ。世界経済を再構築し得る技術を開発し、生物化学兵器を大規模に作り出したり、サイバー攻撃を仕掛けたりできる。すべての安全メカニズムは基本的に形式的だ。非営利の使命はIPOへの競争に変わった。元最高科学者はアルトマンを信用できないと考えている。安全担当者は辞めてAnthropicを設立した。根本的なAIの開発方針の違いが理由だ。

NYUのAI教授ゲイリー・マーカスは後にこう書いた：もしOpenAIの将来のモデルが生物化学兵器や壊滅的なサイバー攻撃を生み出すことができたら、あなたは本当にアルトマンに決定を任せて安全だと感じるだろうか？

OpenAIの回答は？具体的な告発をほぼ無視し、メモを否定せず、ただ情報源の動機を問いただしただけだ。アルトマンは直接答えなかった。

OpenAIの10年を一段落でまとめると：理想主義者のグループがAIリスクに関心を持つNGOを設立し、顕著な進展を遂げ、多額の資金を集め、資金はリターンを求め、使命は妥協し、安全チームは解散し、反対派は追放され、非営利の構造は営利企業に変わり、理事会は今やCEOの味方だ。100人以上の証人が同じレッテルを貼った：「真実に縛られていない」。そして今、評価8500億ドル超でIPOに向かっている。