DeepMindが先進的なAIモデルをリリース前に検証することを提案 - ForkLog

# DeepMindの章：先進的なAIモデルはリリース前に検証すべきだと提案

Google DeepMindの章（ヘッド）であるデミス・ハサビスは、米国において、最も強力なAIモデルをリリース前に検証するための標準機関を作ることを提案した。彼の評価によれば、汎用人工知能（AGI）は「数年以内」に登場し、その影響は電気や火の発見に匹敵するという。

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) July 14, 2026

AGIについて、ハサビスは人間の脳が持つあらゆる認知能力を備えたシステムを意味している。彼の見解では、そのような技術はインターネットや携帯通信ですら比較できない。

「今後数十年を振り返れば、私たちは『特異点』のふもとに立っていたのだと理解することになる――人類にとっての新しい時代の始まりにほかならない」とハサビスは書いた。

DeepMindの章は、AGIが創薬、新しいクリーンエネルギー源、そして先進的な材料の開発を加速させることができると考えている。同時に、AIの能力はそれに伴うリスクの理解よりも速いペースで進化している、と彼は指摘した。

現在の先進的なモデルは、すでにサイバーセキュリティ分野で脅威を生み出している。能力が高まるにつれて、生物学的、核、その他のリスクが強まる可能性がある。ハサビスはまた、複雑な一連の行動を実行でき、さらに再帰的に自己改善できる、より自律的なシステムの登場にも警告した。これらを制御し続けるには、追加の技術的な防御措置が必要になる。

新たな機関が先進モデルを定める

ハサビスは、FINRAをモデルにしたFrontier AI Standards Bodyを設立することを提案した。新しい枠組みは、公と民のパートナーシップとしても、連邦の監督がある自己規制機関としても機能し得る。資金は主にAI産業が拠出すべきだという。

ガイドラインには、独立した技術専門家と、オープンソース・コミュニティの代表を含めることが提案されている。この機関は、米国の連邦当局および国立研究所と共同で評価プロトコルを作成する。

特別なテストは、そのモデルが先進的なクラスに該当するかを判定するべきだ。試験はサイバーセキュリティ、生物学的脅威、その他の高リスク領域を対象にする。個別の確認では、モデルが防御上の制約を回避しようとする試み、ユーザーを誤認させる行為、あるいは自らの行動を隠すことを把握する。

検証は義務化される可能性がある

第一段階として、企業はリリースの30日前までに、先進モデルを任意で検証に回すことになる。

システムの有効性が確認されれば、その手順は法律で定めることもできる。その場合、先進モデルは米国市場での発売前に評価を確実に通過する必要がある。ハサビスは、独立監査人の市場を作り、米国の仕組みを将来の国際標準の基礎として使うことも提案した。

6月、米大統領ドナルド・トランプは、先進AIモデルのサイバー能力を対象とした任意の検証についての大統領令に署名した。企業は、外部の信頼できるパートナーに引き渡す前に最大30日間、当局にこれらへのアクセスを提供できる。この文書は、この仕組みをモデルの発売に関する必須のライセンス付与や事前許可の取得とみなすことを明確に禁じている。

そのエッセイの中で、ハサビスは技術のさらなる発展が不確実であり、専門家の間でも見解が分かれていることを認めた。

先に報じられたところによると、メディアは、トランプ政権が安全性に関する懸念を理由に、OpenAIに対してGPT-5.6をすぐに広範な一般アクセスで公開しないよう求めたことを明らかにした。サム・アルトマンの会社は、まずモデルを限られた数の顧客にだけ提供していた。

7月、国連事務総長のアントニオ・グテーレスは、先進AIシステムに共通のルールを導入し、チャットボットのリスクから子どもたちを守り、致死性のある自律型武器システムを禁止し、発展途上国が計算資源によりアクセスできるようにすることを求めた。

念のため、7月にサンフランシスコで行われた行進の参加者が、OpenAI、Anthropic、そしてGoogle DeepMindに対し、より強力なモデルの学習を協調して一時停止するよう要求していたことを思い出してほしい。解放された資源は安全対策に振り向けることを提案していた。

同じ月に、元OpenAI研究者のダニエル・ココタイロは、AIレースを2040年まで減速させることを提案した。