ちょっとかなり不気味な話を耳にした。スカーレット・ジョハンソンをフィーチャーしたAI生成のディープフェイク動画がバイラルになり、正直なところこの技術がすでにどこまで進んでいるかの警鐘だ。その動画には彼女だけでなく、アダム・サンドラー、ミラ・クニス、スティーブン・スピルバーグなど、12人以上のユダヤ人著名人も含まれており、すべてAIで生成され、カニエ・ウェストの最近の反ユダヤ的発言に応答しているかのように見せていた。彼らは白いシャツを着て、中指とダビデの星を掲げ、「反ユダヤ主義はもう許さない」と宣言している。

驚くべきことに、そのスカーレット・ジョハンソンのディープフェイク動画は、イスラエルの生成AIの専門家、オリ・ベジェラノによって作られたと報じられている。メッセージ自体は反ヘイトだったが、それはほとんど問題の本質ではない—20人以上の有名人の似顔絵を彼らの許可なく生成できるという事実こそが本当の問題だ。

ジョハンソン本人も、注目すべき声明を出している。彼女はこれがAI盗用の最初の経験ではないと述べている。2024年5月には、OpenAIのChatGPTの声を模した「Sky」がほぼスカーレット・ジョハンソンの声に似ていると指摘し、それを批判したこともあった。その後、2023年11月には彼女の肖像を使った広告を出した企業もあった。だから、「人工知能の被害者であることは非常に公然の事実だ」と彼女が語るのも、実体験に基づいている。

ただし、ジョハンソンが強調したのは—そして彼女の声明でもそうだが—、本当の脅威は単に個々の有名人を守ることだけではないということだ。彼女は、AIを使ったヘイトスピーチがシステム的な問題になりつつあると警告している。「AIに関しては1,000フィートの波が来ている」と彼女は言い、米国外の進歩的な国々ではすでに責任ある立法が始まっていると指摘した。一方で、米国政府はこの問題に「麻痺している」状態だとも。

彼女は、立法者にAI規制を最優先事項にするよう求めており、それを超党派の問題として捉えている。スカーレット・ジョハンソンの偽物動画に関心があるかどうかに関わらず、彼女のより広いポイントは明白だ。私たちは、ディープフェイクや合成メディアが規模を拡大し、ヘイトスピーチや誤情報を指数関数的に増幅させる現実に向かって進んでいる。誰かが声を上げることは対抗できるが、AI生成のコンテンツがそのメッセージを何倍にもしてしまうのは、まったく別の問題だ。

一方、デイビッド・シュワイマーなど他の著名人も反発を強めている。彼はエロン・マスクに対して、カニエ・ウェストのXアカウントを停止させるよう呼びかけ、ウェストには3,270万のフォロワーがおり、世界のユダヤ人の人口の2倍以上だと指摘した。こうしたプラットフォームがヘイトスピーチに与える影響の規模は、考えるだけでも驚くべきものだ。

皮肉なことに、そのディープフェイク動画自体は善意—反ヘイトのメッセージを伝えるために作られたものだった。しかし、それでも脆弱性を証明してしまった。もし「良い」目的のためにこれができるなら、悪意のある者たちが何をしでかすか想像できる。スカーレット・ジョハンソンが警鐘を鳴らすAI規制の必要性は、単なる有名人のゴシップではなく、私たち全員に関わるガバナンスのギャップを示している。