1M AI Newsによるモニタリングによると、アトランティック誌は、テクノロジー史研究者および金融史研究者セバスティアン・マラビーの新著『The Infinity Machine』からの抜粋を掲載した。同書は、Googleの買収（2014年）以降、Google DeepMind共同創業者デミス・ハサビが提唱してきたAI安全に関する概念の進化を、2023年から2026年までの継続的なインタビューに基づいて記録している。ハサビは当初、人類すべてのために、安全に超知能を構築する単一の科学チームを思い描き、マンハッタン計画に似た形で、重大な局面ではトップ研究者を秘密のバンカーへ退避させることまで計画していた。直後に入社した研究者は、インタビュー終盤にハサビが彼に「いつでもモロッコの秘密の場所へ飛ぶ準備をしておけ」と警告したことを回想した。2014年にGoogleがDeepMindを買収した際、ハサビは稀有な条件を設定した。独立した外部監督委員会の設置、軍事用途の禁止、そして技術導入に関してGoogleが完全な支配権を持たないこと、である。Googleはこれらの条件を受け入れた。翌年、彼はカリフォルニア州ハーソーンにあるイーロン・マスクの本社で秘密会合を招集し、潜在的な競合を統一しようと試みたが、裏目に出た。マスクはその後、サム・アルトマンと組んでOpenAIを設立した。その後ハサビは、Googleから統治上の自律性を取り戻すことを狙った秘密作戦「Project Mario」を開始し、法務チームを組成し、LinkedIn創業者のリード・ホフマンから$1 billionの資金拠出を取り付け、さらにDeepMindをGoogleからスピンオフすることも検討した。この闘争は3年続いたが、最終的に失敗し、共同創業者のムスタファ・スレイマンが2019年に会社を追い出されることになった。2022年末のChatGPTリリース後、ハサビは、善い科学だけを追求するという高邁な方針を完全に捨て去った。彼はマラビーに「これは戦時だ」と語り、その後はGeminiとChatGPTとの競争に身を投じた。AIの軍拡競争には何百億ドルもの資金が流れ込んでいるが、国家による規制も企業のガバナンス構造も競争を止めることはできていない。ハサビの安全哲学は根本的に変化した。「安全はガバナンス構造にあるわけではない。たとえガバナンス委員会があっても、重大な局面で正しい判断を下せる可能性はきわめて低い」。彼の新しい戦略は、意思決定の場で自分が席を持つことを確実にし、安全上の問題が生じた際に解決策の決定に参加できるようにすることだ。一方で、Googleは米国の防衛システム向けにAIを積極的に売り込んでおり、買収時にハサビが設定した軍事用途の禁止からの劇的な転換を示している。
ハサビスの「バンカープラン」：新刊書が明らかにするDeepMindの安全性理想の崩壊
1M AI Newsによるモニタリングによると、アトランティック誌は、テクノロジー史研究者および金融史研究者セバスティアン・マラビーの新著『The Infinity Machine』からの抜粋を掲載した。同書は、Googleの買収（2014年）以降、Google DeepMind共同創業者デミス・ハサビが提唱してきたAI安全に関する概念の進化を、2023年から2026年までの継続的なインタビューに基づいて記録している。ハサビは当初、人類すべてのために、安全に超知能を構築する単一の科学チームを思い描き、マンハッタン計画に似た形で、重大な局面ではトップ研究者を秘密のバンカーへ退避させることまで計画していた。直後に入社した研究者は、インタビュー終盤にハサビが彼に「いつでもモロッコの秘密の場所へ飛ぶ準備をしておけ」と警告したことを回想した。2014年にGoogleがDeepMindを買収した際、ハサビは稀有な条件を設定した。独立した外部監督委員会の設置、軍事用途の禁止、そして技術導入に関してGoogleが完全な支配権を持たないこと、である。Googleはこれらの条件を受け入れた。翌年、彼はカリフォルニア州ハーソーンにあるイーロン・マスクの本社で秘密会合を招集し、潜在的な競合を統一しようと試みたが、裏目に出た。マスクはその後、サム・アルトマンと組んでOpenAIを設立した。その後ハサビは、Googleから統治上の自律性を取り戻すことを狙った秘密作戦「Project Mario」を開始し、法務チームを組成し、LinkedIn創業者のリード・ホフマンから$1 billionの資金拠出を取り付け、さらにDeepMindをGoogleからスピンオフすることも検討した。この闘争は3年続いたが、最終的に失敗し、共同創業者のムスタファ・スレイマンが2019年に会社を追い出されることになった。2022年末のChatGPTリリース後、ハサビは、善い科学だけを追求するという高邁な方針を完全に捨て去った。彼はマラビーに「これは戦時だ」と語り、その後はGeminiとChatGPTとの競争に身を投じた。AIの軍拡競争には何百億ドルもの資金が流れ込んでいるが、国家による規制も企業のガバナンス構造も競争を止めることはできていない。ハサビの安全哲学は根本的に変化した。「安全はガバナンス構造にあるわけではない。たとえガバナンス委員会があっても、重大な局面で正しい判断を下せる可能性はきわめて低い」。彼の新しい戦略は、意思決定の場で自分が席を持つことを確実にし、安全上の問題が生じた際に解決策の決定に参加できるようにすることだ。一方で、Googleは米国の防衛システム向けにAIを積極的に売り込んでおり、買収時にハサビが設定した軍事用途の禁止からの劇的な転換を示している。