Meta recientemente demandó a una empresa de Hong Kong llamada Joy Timeline HK Ltd., que desarrolló una aplicación llamada CrushAI, lo que generó una gran controversia. Esta aplicación utiliza inteligencia artificial para generar imágenes sexualizadas sin consentimiento, lo que ha provocado críticas de muchas personas. La situación ocurrió en la plataforma social de Meta, promovida a través de anuncios en Facebook e Instagram, y estos anuncios a menudo no cumplían con las políticas publicitarias de Meta, lo que llevó a que fueran eliminados con frecuencia.

Meta declaró que Joy Timeline intentó en múltiples ocasiones eludir el sistema de revisión de anuncios, lo que finalmente llevó a Meta a tomar acciones legales para intentar prohibir permanentemente a la empresa realizar actividades publicitarias en su plataforma. Meta enfatizó en un comunicado su seriedad en el tratamiento legal de estos abusos y afirmó que continuará defendiendo la seguridad de la plataforma a través de medios legales. "Esta demanda refleja nuestra postura firme hacia los abusos en la plataforma y nuestra determinación de proteger a la comunidad."

CrushAI y aplicaciones similares de “nudify” han generado preocupación entre muchos usuarios, ya que estas aplicaciones suelen digitalizar imágenes desnudas, especialmente de mujeres y celebridades, y este comportamiento ha sido criticado por fomentar el acoso en línea, la extorsión y la explotación infantil. Recientemente, una investigación de CBS News reveló que hay cientos de anuncios de este tipo en la plataforma Meta, algunos de los cuales siguen siendo visibles a pesar de los esfuerzos por eliminarlos.

En respuesta a esto, Meta ha reforzado sus herramientas de aplicación de la ley y ha lanzado nuevas tecnologías destinadas a detectar y detener anuncios dañinos, incluso si estos anuncios no muestran contenido desnudo de manera evidente, también pueden ser identificados de manera efectiva. Al mismo tiempo, Meta también está compartiendo inteligencia sobre amenazas con otras empresas tecnológicas.

Además, Meta informó que ha desmantelado con éxito cuatro redes de acciones coordinadas que operaban específicamente este tipo de anuncios. Meta continúa colaborando con expertos internos y socios externos para abordar las nuevas técnicas de evasión.

Ante el aumento de la presión por parte de legisladores e investigadores, Meta ha declarado que se mantendrá alerta y tomará todas las medidas necesarias para frenar la propagación de aplicaciones de IA explotadoras, con el fin de proteger la seguridad de los usuarios.