DeepMindの最高経営責任者は、国際監理機構の「審査」によって、最先端のAIモデルは上場前に事前審査を通過する必要があると主張している

Google DeepMind の最高経営責任者（CEO）デミス・ハサビスは今週、米国の金融業監督機関（FINRA）モデルを模倣する提案を発表し、独立した専門家が主導する国際的な監督機構を設立し、最先端のAIモデルについて公開前に最長30日間の強制審査を受けるよう求めた。
（前提：あなたも AI が人類を滅ぼすかもしれないのが怖いなら、このレポート『AI 2040：Plan A』を必ず読んでほしい）
（背景補足：安全派がもう一人減った――OpenAI のチーフ・フューチャリストが退職し、ミッション・アラインメント・チームも解散）

この記事の目次

Toggle

• ひとつの警鐘、提案を早めに議題にのせる
• ウォール街の手を借りる：独立、産業の出資、アップグレード可能
• 業界はうなずいた、難しいのは政府がうなずくこと

Google DeepMind のCEO は今週、個人の Substack に『A Framework for Frontier AI and the Dawning of a New Age』という名の宣言文を投稿し、政府や企業の外側に位置する独立した国際監督機構を設立し、米国の金融業監督機関（FINRA）のモデルを参考に、最前線の AI モデルに上場前の健康診断を受けさせるべきだと主張した。

同氏が言う「最前線のモデル」とは、簡単に言えば現在、計算能力が最も高く、リスクの境界がまだ完全には把握されていない最新世代のAIシステムのことだ。提案によれば、将来、基準を満たす最前線のモデルは、オープンソースかクローズドか、研究開発の国籍がどこであっても、すべて事前に審査に回される。審査は最長30日、理事会の過半数の議席はチューリング賞クラスの独立した技術専門家に留保される。

OpenAI のCEO サム・アルトマンはこの構想を「とても周到だ」と称え、マスクも「良い議論の出発点だ」と述べた。普段は互いに仲がよくない2人の競争相手が、今回は珍しく同じ側に立った。

ひとつの警鐘、提案を早めに議題にのせる

ハサビスが温めてきたこの枠組みは、すでに数カ月にわたる。だが、実際に彼が前倒しで公開を決めた引き金は、Anthropic が限定リリースした Mythos モデルだった。今年4月に登場したこのモデルは、予想を大きく上回るネットワークセキュリティの攻防能力を示し、業界や政策の場で「AI が駆動するネット犯罪の新時代」という懸念を引き起こした。ハサビスはそれを直接「警鐘」と呼び、監督機関がゆっくり追いつくのを待つわけにはいかないと警告した。さらに彼は来週、自らワシントンに飛び、米国の政策決定者とこの枠組みについて直接話す予定で、単に記事を書いて終わりにするつもりではないことがうかがえる。

目下のネットワーク安全上のリスクに加え、ハサビスはインタビューで、より長期的な別の懸念にも言及した。それはバイオセーフティ（生物安全）のリスクだ。簡単に言えば、AIモデルが病原体や生物兵器など、公衆衛生を損なう危害の設計を助けるために使われることだ。彼はこう認めた。「現時点のモデルはそこまで強いわけではないが、いまの進展をそのまま外挿すれば、数年以内に出てくる可能性がある。」

同時に、米国政府が新モデルの審査にどう向き合うかという姿勢も、業界全体の緊張を高めている。Anthropic と OpenAI はどちらも、トランプ政権の圧力の下で、最新製品の大規模なリリースを延期してきた。この動きは、米国の技術に依存する他の国々にとって想定外で、対応を迫られる事態となり、欧州連合（EU）と米国政府の間でモデルへのアクセス権をめぐる協議を促すことにもつながった。各 AI 企業のCEO は、フランスで開催された G7 サミットの場を利用して、各国のリーダーと直接会い、話し合いを行う動きも見せている。

ウォール街の手を借りる：独立、産業の出資、アップグレード可能

ハサビスが参照したのは、米国の金融業監督機関（FINRA）だ。簡単に言えば、ウォール街の証券会社自身がお金を出して自ら運営しつつ、米国証券取引委員会（SEC）の監督を受ける自主規制機関で、金融機関がルールを守っているかを監査し、問題が起これば罰金を科したり停止措置を取ったりもできる。彼はこの考え方を AI にも持ち込みたいのだ。つまり産業が資金を出す一方で、意思決定権はどの企業にも属さない人に委ねる。

具体的な設計として、この新機構の理事会は独立した技術専門家を多数とし、チューリング賞受賞者クラスの重鎮が含まれる。さらに、産業、政府、オープンソース・コミュニティの代表にも議席を割り当てる。資金は営利の上位AI実験室からのみ拠出される。審査の対象は、最前線の基準を満たすすべてのモデルで、企業の本社がどこにあっても、オープンソースかクローズドかにかかわらず同じ扱いとする。審査は最長30日、基準そのものもモデルの能力の進化に合わせて定期的に更新される。

ハサビスは、この仕組みの強度は状況の深刻さに応じて引き上げられると強調しており、最も極端な場合には、各実験室が一緒に研究の歩みを遅らせるよう調整することさえできるという。理想のタイムラインは、この機構が今年末までにできるだけ早く稼働を開始できることだ。

業界はうなずいた、難しいのは政府がうなずくこと

公開して発表する前に、ハサビスはすでに非公開の段階で、主要なAI実験室のほぼすべてに草案を見せていた。彼の言う「友人」である Anthropic のCEO ダリオ・アモデイもその一人だ。

アモデイは少し前に、米国は FAA（連邦航空局）のような専任機関を設けてAIを規制すべきだと提案していた。アルトマンも同様の国際監督の提案を口にしたことがある。ハサビスはブルームバーグのインタビューでこう語った。「私たちはたくさん話し合ったと思う。ダリオやサムがこれまでずっと出してきた考えと、かなり高いところで整合している。ただ、抽象的な概念ではなく、具体的な案が必要なんだ。」

ノーベル賞受賞者であり、AI研究に取り組む時間も多くの業界仲間より長いハサビスは、確かにムスクやアルトマンよりも敵を作りにくく、業界内部で合意を取り付けやすい。とはいえ、匿名のAI業界リーダーは注意を促し、「産業の合意だけでは不十分だ。本当の難題は政治にある」と言う。米国の連邦議会はこれまで、意味のある連邦のAI立法を通していない。トランプ政権のAIに対する姿勢も、放任と介入の間で揺れ動いている。さらに、米国・欧州連合・中国の3者で監督の路線が時々まったく別々に進むこともある。ハサビスは楽観的で、「いまの勢いなら、これを本当にゴールまで押し切れるだけの推進力があるかもしれない」と見ている。しかし同時に、こうも分かっている。「次にやるべきは、ちゃんと実装することだ。ブログ記事を出して終わりではない。」