Meta baru-baru ini mengajukan gugatan terhadap perusahaan Hong Kong bernama Joy Timeline HK Ltd. yang mengembangkan aplikasi bernama CrushAI, yang memicu kontroversi. Aplikasi ini menggunakan kecerdasan buatan untuk menghasilkan gambar seksual tanpa persetujuan, yang mengundang banyak kritik. Kejadian ini terjadi di platform sosial Meta, melalui iklan di Facebook dan Instagram, dan iklan-iklan ini sering kali tidak sesuai dengan kebijakan iklan Meta, menyebabkan mereka sering dihapus.

Meta menyatakan bahwa Joy Timeline telah berulang kali berusaha untuk menghindari sistem peninjauan iklan, yang akhirnya mendorong Meta untuk mengambil tindakan hukum, berusaha melarang perusahaan tersebut secara permanen dari melakukan kegiatan iklan di platformnya. Meta menegaskan dalam pernyataannya tentang sikap serius dalam menangani penyalahgunaan ini berdasarkan hukum, dan menyatakan akan terus menjaga keamanan platform melalui jalur hukum. "Gugatan ini mencerminkan sikap tegas kami terhadap penyalahgunaan platform, serta tekad kami untuk melindungi komunitas."

CrushAI dan aplikasi "nudify" serupa membuat banyak pengguna khawatir, karena aplikasi ini biasanya mengubah gambar orang menjadi telanjang secara digital, terutama yang menargetkan perempuan dan selebriti. Tindakan semacam ini dikritik karena mendorong pelecehan online, pemerasan, dan eksploitasi anak. Baru-baru ini, sebuah penyelidikan CBS News mengungkapkan bahwa ada ratusan iklan semacam itu di platform Meta, beberapa di antaranya masih terlihat meskipun telah berusaha dihapus.

Untuk itu, Meta memperkuat alat penegakannya, meluncurkan teknologi baru yang bertujuan untuk mendeteksi dan menghentikan iklan berbahaya, bahkan jika iklan tersebut tidak secara jelas menampilkan konten telanjang, tetap dapat diidentifikasi dengan efektif. Sementara itu, Meta juga berbagi intelijen ancaman dengan perusahaan teknologi lainnya.

Selain itu, Meta melaporkan bahwa mereka telah berhasil membongkar empat jaringan tindakan kolaboratif yang secara khusus mengoperasikan iklan semacam itu. Meta terus bekerja sama dengan pakar internal dan mitra eksternal untuk menangani teknik penghindaran baru.

Di tengah meningkatnya tekanan dari legislator dan peneliti, Meta menyatakan akan tetap waspada dan mengambil semua langkah yang diperlukan untuk membatasi penyebaran aplikasi AI yang eksploitatif, demi melindungi keamanan pengguna.