Di App Store dan Google Play telah memblokir puluhan aplikasi AI untuk "membuka pakaian" orang - ForkLog: cryptocurrency, AI, singularitas, masa depan

# Di App Store dan Google Play telah diblokir puluhan aplikasi AI untuk “membuka pakaian” orang

Di toko aplikasi Apple dan Google terdapat puluhan aplikasi nudify yang memungkinkan pengguna memfoto orang dan menggunakan kecerdasan buatan untuk membuat gambar telanjang mereka. Hal ini dilaporkan oleh para ahli TTP.

Dalam pemeriksaan, analitik menemukan 55 aplikasi di Google Play dan 47 di App Store. Mereka menghubungi perwakilan perusahaan untuk menghapus layanan tersebut. Apple menghapus 28 alat nudify dari toko dan memperingatkan pengembang tentang kemungkinan penghapusan produk mereka jika melanggar aturan.

Dua aplikasi kemudian dipulihkan setelah semua masalah diselesaikan.

Perwakilan Google menyatakan bahwa perusahaan menghentikan beberapa program. Perusahaan sedang melakukan penyelidikan setelah menerima laporan serupa.

“Kedua perusahaan menyatakan bahwa mereka peduli dengan keamanan pengguna, tetapi mereka menempatkan aplikasi di toko mereka yang dapat mengubah foto wanita yang tidak berbahaya menjadi gambar yang menyinggung secara seksual,” — tulis laporan ahli TTP.

Mereka menemukan aplikasi dengan mencari istilah “nudify” dan “undress”, dan mengujinya menggunakan gambar AI. Dalam eksperimen, mereka menganalisis dua jenis layanan:

• yang menggunakan kecerdasan buatan untuk merender gambar wanita tanpa pakaian;
• yang lain menempatkan wajah orang ke foto yang terbuka.

“Jelas bahwa ini bukan sekadar aplikasi untuk ‘mengganti pakaian’. Mereka jelas dirancang untuk seksualisasi orang tanpa persetujuan mereka,” — kata direktur TTP, Katie Pol.

Para analis melaporkan bahwa 14 program dibuat di China.

“Undang-undang Tiongkok tentang penyimpanan data menyatakan bahwa pemerintah berhak mengakses informasi dari perusahaan mana pun di seluruh negeri. Jadi, jika seseorang membuat deepfake dengan gambar Anda, sekarang mereka berada di tangan otoritas,” — tambah Pol.

Kecerdasan Buatan yang Merugikan

Kecerdasan buatan membuat kemungkinan “membuka pakaian” gadis dan membuat deepfake porno menjadi lebih mudah dari sebelumnya. Pada Januari, chatbot Grok terlibat skandal karena fitur serupa. Kemudian perusahaan menonaktifkan pembuatan gambar terbuka dari orang nyata.

Pada Agustus 2024, kantor jaksa kota San Francisco, David Chiu, mengajukan gugatan terhadap pemilik 16 situs web terbesar di dunia yang memungkinkan “membuka pakaian” wanita dan gadis dalam foto menggunakan AI tanpa persetujuan mereka.

Dalam dokumen disebutkan pelanggaran terhadap undang-undang negara dan federal tentang deepfake pornografi, pornografi balas dendam, dan materi terkait kekerasan seksual terhadap anak-anak.

“AI generatif memiliki prospek besar, tetapi seperti teknologi baru lainnya, ada konsekuensi tak terduga dan penjahat yang berusaha memanfaatkan teknologi baru ini untuk keuntungan mereka. Kita harus memahami bahwa ini bukan inovasi — ini kekerasan seksual,” — kata Chiu.

Situs yang terlibat dalam kasus ini menawarkan antarmuka yang nyaman untuk mengunggah foto guna membuat versi porno yang realistis. Mereka hampir tidak berbeda dari gambar asli, digunakan untuk pemerasan, intimidasi, ancaman, dan penghinaan, kata pernyataan tersebut.

Perlu diingat, pada September 2024, Microsoft mengumumkan kemitraan dengan organisasi StopNCII untuk memerangi deepfake porno di mesin pencari Bing.