Metaは最近、Joy Timeline HK Ltd.という香港の会社に対して訴訟を提起しました。この会社はCrushAIというアプリを開発しており、それが大きな論争を引き起こしました。このアプリは人工知能を利用して同意なしに性的な画像を生成し、多くの批判を受けています。この問題はMetaのソーシャルプラットフォーム上で発生し、FacebookやInstagramの広告を通じて宣伝されていますが、これらの広告はしばしばMetaの広告ポリシーに違反しており、頻繁に削除されています。

Metaは、Joy Timelineが広告審査システムを何度も回避しようとしたことを示しており、これが最終的にMetaが法的措置を取る原因となり、同社のプラットフォームでの広告活動を永久に禁止しようとしています。Metaは声明の中で、これらの乱用行為を法に基づいて厳正に対処する姿勢を強調し、プラットフォームの安全を法的手段で守っていくと述べています。「この訴訟は、プラットフォームの乱用行為に対する私たちの真剣な態度と、コミュニティを守る決意を反映しています。」

CrushAIや類似の「nudify」アプリは、多くのユーザーに懸念を抱かせています。これらのアプリは、特に女性や有名人を対象に、人像をデジタルで裸にすることが多いためです。このような行為は、ネットハラスメント、恐喝、子供の搾取を助長するものとして批判されています。最近、CBSニュースの調査によって、Metaプラットフォーム上に数百のこのような広告が存在することが明らかになり、その中には削除を試みたにもかかわらず、依然として表示されているものもあります。

これに対して、Metaはその法執行ツールを強化し、有害な広告を検出し阻止する新技術を導入しました。これにより、これらの広告が明示的に露骨な内容を表示していなくても、効果的に識別することができます。同時にMetaは他のテクノロジー企業と脅威インテリジェンスを共有しています。

さらに、Metaは4つの共同行動ネットワークを成功裏に排除したと報告しており、これらのネットワークはこの種の広告を専門に扱っています。Metaは内部の専門家と外部のパートナーと連携し、新しい回避技術に対処するために努めています。

立法者や研究者の圧力が高まる中、Metaは警戒を維持し、ユーザーの安全を守るために搾取的なAIアプリケーションの拡散を抑制するために必要な措置をすべて講じることを表明しました。