最近、ソーシャルメディアでかなり懸念される出来事が起きました。テイラー・スウィフトの性的ディープフェイク動画がX、Instagram、Threadsなどのプラットフォームで大量に拡散され、これまでのプラットフォーム史上最大規模の偽コンテンツ危機を引き起こしました。

その規模は驚くべきもので、Xに投稿された1枚の画像だけで4700万回の閲覧を記録し、アカウントが停止されるまで拡散し続けました。これは、誰も適時に止めることができなかった場合のコンテンツの拡散の一例です。Xはより積極的な対策として、「Taylor Swift」や「IA（AI）」の検索を直接ブロックし、「何か問題が発生しました」というメッセージを表示するようにしました。Xは、「Taylor Swift」や「IA」の検索を直接ブロックし、誰かが検索しようとすると「何か問題が発生しました」というメッセージを表示しています。Xのビジネス責任者は、この措置は一時的なものであり、「安全性を優先するための措置」と述べました。

一方、InstagramとThreadsは異なる対応を取りました。アーティスト名の検索は許可していますが、「Taylor Swift IA」と検索すると、「続行してもよいですか？検索した用語は危険な組織や個人の活動と関連付けられることがあります」という警告が表示されます。ただし、これらのフィルターは単語の順序を変えることで比較的簡単に回避できるのが現状です。

興味深いのは、これは新しい問題ではなく、ただ今まで以上に顕在化しているという点です。MicrosoftとGoogleは、AI生成によるリアルな画像をテキストから作成できる無料ツールをリリースしました。MicrosoftのCEO、サティア・ナデラはディープフェイクについて「衝撃的で恐ろしい」と表現し、業界に迅速なセキュリティ対策を求めました。米国俳優組合の(SAG-AFTRA)は、テイラー・スウィフトの偽画像を「不安を煽り、有害で深刻に懸念される」と断定し、無断での配布を犯罪化すべきだと要求しました。

実際、ディープフェイクは特に女性に不均衡に影響を及ぼしています。Reality Defenderという団体は、AIによって生成されたテイラー・スウィフトのユニークな画像を20以上追跡し、その多くが暴力的または性的な内容を含んでいることを明らかにしました。2019年以降の研究では、露骨なディープフェイクの被害者の大半はハリウッド女優やK-pop歌手であることが示されています。技術の普及により、誰でも基本的なツールを使ってこのようなコンテンツを作成できる状況になっています。

スウィフトは、これらの画像を掲載したサイトに対して法的措置を検討していると報じられています。一方、ホワイトハウスは議会に対し、こうした問題に対応するための特別な法律制定を求めました。テイラー・スウィフトに起きたことは氷山の一角に過ぎず、MrBeastやトム・ハンクスなどの有名人も被害に遭っています。真の議論は、正当な技術を検閲せずにディープフェイクをどう抑制するかという点に集約されます。