ディープフェイクの議論がさらに熱を帯びてきました。消費者擁護団体のPublic Citizenは、OpenAIに対し、AI動画生成ツールのSoraを市場から撤去するよう求めています。これは、この技術の悪用の可能性に対する深刻な懸念からです。

彼らの主張は、Soraの超リアルな偽動画を作成する能力が、これまでにない規模で誤情報を武器化する可能性があるというものです。選挙干渉、身元詐欺、または現実と虚構の境界を曖昧にする協調的な偽情報キャンペーンなどが考えられます。

これまでのAI論争と異なる点は、そのタイミングです。合成メディアツールが一般ユーザーにもアクセス可能になりつつある時代に突入しているのです。説得力のある偽コンテンツを作成する障壁が急速に崩れつつあります。

OpenAIはまだ撤退していませんが、圧力は高まっています。業界の一部は、革新を仮想的なリスクで抑制すべきではないと主張する一方で、リリース前に十分な安全策が組み込まれていないことを指摘する声もあります。

より大きな視点で見ると、生成AIの進展に対して規制の枠組みは遅れをとっています。動画合成、音声クローン、テキスト生成など、これらのツールが何をできるかだけでなく、社会がそれらを大規模に展開したときの影響に備える準備ができているかどうかが問われています。

Soraをめぐる論争は、今後の戦いの予兆かもしれません。技術の進歩と公共の安全をどうバランスさせるか、そして、いつそのツールを危険すぎると判断してリリースを控えるべきかを誰が決めるのか、という問題です。