Meta, tanpa izin membuat Bot pembicaraan bebas selebriti wanita, dalam masalah

Sumber: Cryptopolitan

30 Agustus 2025 12:00

Meta sekali lagi menjadi sasaran kritik. Menurut hasil survei yang baru-baru ini diterbitkan oleh Reuters, alat AI perusahaan tersebut telah secara tidak sah membuat gambar deepfake dan chatbot dari selebriti terkenal seperti Taylor Swift, Scarlett Johansson, Anne Hathaway, dan Selena Gomez.

Menurut penelitian, sebagian besar bot ini dibangun oleh pengguna melalui platform chatbot AI Meta. Namun, ada juga beberapa yang dibuat oleh karyawan Meta di dalam perusahaan.

Beberapa chatbot yang meniru Taylor Swift mengklaim bahwa mereka adalah penyanyi asli, sering melakukan flirty dan mendorong untuk bertemu secara langsung.

Meta, terlibat dalam masalah avatar yang mengapung

Menurut laporan Reuters, setelah beberapa minggu pengujian, chatbot selebriti di platform Meta seperti Facebook, Instagram, dan WhatsApp terkadang melampaui percakapan yang hanya bersifat bercanda. Pengguna meminta untuk menghasilkan gambar realistis selebriti yang berpose dalam pakaian dalam atau di bak mandi, dan bahkan ada yang menyarankan kontak intim.

Yang sangat mengkhawatirkan adalah bahwa chatbot yang dibuat untuk aktor berusia 16 tahun, Walker Scobell. Bot ini diminta untuk mengunggah foto pantai dan kemudian menghasilkan foto seorang remaja laki-laki telanjang dada dengan caption “Lucu, kan?”

Kritik tidak hanya ditujukan kepada Meta. xAI milik Elon Musk juga mendapat kecaman karena memungkinkan pengguna untuk menghasilkan gambar deepfake selebriti dalam keadaan mengenakan pakaian dalam.

Juru bicara Meta, Andy Stone, mengakui kesalahan ini dan menyatakan bahwa alat perusahaan seharusnya tidak menghasilkan penggambaran intim selebriti dewasa atau konten pornografi yang melibatkan remaja.

Dia mengatakan kepada Reuters, “Seperti perusahaan lain, kami juga mengizinkan pembuatan gambar publik, tetapi kami memiliki kebijakan untuk melarang gambar yang mengandung nuditas, penggambaran intim, dan sugesti seksual.” Dia juga menambahkan bahwa gambar pakaian dalam mencerminkan kurangnya penegakan kebijakan perusahaan.

Aturan Meta melarang “peniruan langsung”, tetapi perusahaan mengklaim bahwa bot parodi diizinkan jika ditampilkan dengan jelas. Namun, penyelidikan Reuters menemukan bahwa beberapa avatar tidak memiliki penafian. Meta telah menghapus sekitar 12 bot yang termasuk dalam kategori yang tidak ditampilkan dan parodi. Perusahaan menolak untuk memberikan komentar mengenai penghapusan ini.

Kemungkinan tekanan regulasi meningkat karena masalah keamanan AI

Menanggapi berita ini, Meta menyatakan akan memperkenalkan langkah-langkah keamanan baru untuk melindungi remaja. Ini termasuk membatasi akses remaja ke karakter AI tertentu dan melakukan pelatihan ulang model untuk mengurangi tema yang tidak pantas.

Jaksa Agung Rob Bonta dari California memperingatkan industri dengan mengatakan, “Tidak ada toleransi untuk mengekspos anak-anak pada pornografi.”

Awal bulan ini, sebuah tragedi terjadi di New Jersey. Seorang pria berusia 76 tahun dengan gangguan kognitif kehilangan nyawanya ketika mencoba untuk bertemu dengan chatbot Meta yang ia kira adalah wanita sungguhan. Para kritikus menunjukkan bahwa kasus seperti ini menggarisbawahi bahaya penerapan alat AI secara besar-besaran tanpa langkah-langkah keamanan yang memadai.

Para ahli hukum memperingatkan bahwa Meta mungkin menghadapi tantangan serius terkait hak kekayaan intelektual yang ada dan hukum hak cipta. Profesor Mark Lemley dari Fakultas Hukum Universitas Stanford menunjukkan bahwa undang-undang “hak cipta” di California melarang penggunaan nama dan citra individu untuk tujuan komersial tanpa izin.

“Ini tidak mungkin nyata,” katanya, dan menunjukkan bahwa bot hanya menggandakan citra selebriti, bukan menciptakan karya yang inovatif.

Para pelaku cryptocurrency yang paling bijak sudah membaca buletin kami. Apakah Anda ingin bergabung? Silakan daftar.

Penyangkalan: Hanya untuk tujuan informasi. Kinerja masa lalu tidak menjamin hasil di masa depan.