Meta a récemment intenté une action en justice contre une société de Hong Kong nommée Joy Timeline HK Ltd., qui a développé une application appelée CrushAI, suscitant une controverse considérable. Cette application utilise l'intelligence artificielle pour générer des images sexualisées sans consentement, ce qui a entraîné de nombreuses critiques. Les faits se sont produits sur la plateforme sociale de Meta, promus par le biais de publicités sur Facebook et Instagram, et ces publicités ne respectent souvent pas les politiques publicitaires de Meta, ce qui entraîne leur suppression fréquente.

Meta a déclaré que Joy Timeline avait tenté à plusieurs reprises de contourner le système de vérification des annonces, ce qui a finalement conduit Meta à engager des poursuites judiciaires pour tenter d'interdire définitivement cette entreprise de faire de la publicité sur sa plateforme. Meta a souligné dans un communiqué son sérieux à traiter ces abus conformément à la loi et a affirmé qu'elle continuerait à protéger la sécurité de la plateforme par des moyens juridiques. "Cette poursuite reflète notre position ferme sur les abus de la plateforme et notre détermination à protéger la communauté."

CrushAI et des applications similaires comme "nudify" inquiètent de nombreux utilisateurs, car ces applications numérisent des images de personnes en les rendant nues, en particulier celles des femmes et des célébrités. Ce comportement a été critiqué pour favoriser le harcèlement en ligne, le chantage et l'exploitation des enfants. Récemment, une enquête de CBS News a révélé qu'il existe des centaines de telles publicités sur la plateforme Meta, dont certaines restent visibles malgré les efforts pour les supprimer.

À cet égard, Meta a renforcé ses outils d'application de la loi en lançant de nouvelles technologies visant à détecter et à empêcher les publicités nuisibles, même si ces publicités ne présentent pas clairement de contenu explicite, elles peuvent être efficacement identifiées. Parallèlement, Meta partage également des informations sur les menaces avec d'autres entreprises technologiques.

De plus, Meta a rapporté avoir réussi à démonter quatre réseaux d'actions conjointes qui opéraient spécifiquement ce type de publicité. Meta continue de collaborer avec des experts internes et des partenaires externes pour lutter contre les nouvelles technologies d'évitement.

Dans un contexte où la pression des législateurs et des chercheurs augmente, Meta a déclaré qu'elle resterait vigilante et prendrait toutes les mesures nécessaires pour contenir la propagation des applications d'IA exploitantes afin de protéger la sécurité des utilisateurs.