Deepfake menggunakan banyak video porno untuk melatih AI: tetapi hukum hanya melindungi wajah, tidak pernah ada yang peduli siapa pemilik tubuh itu?

Diskusi tentang deepfake AI untuk konten pornografi sering kali berfokus pada wajah yang disintesis, tetapi mengabaikan siapa pemilik tubuh tersebut; lebih dari 10.000 TB konten dewasa diduga digunakan untuk melatih model nudify.
（Latar belakang: Penelitian Universitas California tentang fenomena “AI Brain Fog”: 14% pekerja kantor menjadi gila karena Agen dan otomatisasi, keinginan keluar kerja meningkat 40%）
（Konteks tambahan: Berita terbaru》Huang Renxun terakhir kali naik ke Air Force One “menemani kunjungan Trump ke China”, ekspor chip NVIDIA menjadi sorotan）

Daftar isi artikel

Toggle

• Tubuh sebagai data pelatihan
• Ketidaksesuaian zaman kontrak
• Ironi Take It Down Act

Setiap kali orang membahas deepfake AI untuk konten pornografi, fokus diskusi hampir selalu pada wajah, wajah yang disintesis dan melakukan hal yang belum pernah dilakukan oleh orang tersebut. Tetapi ada satu masalah lain yang hampir tidak pernah disebutkan: siapa pemilik tubuh tersebut?

Menurut laporan dari 《technologyreview》, Jennifer, seorang terapis psikologi berpraktik di New York berusia 37 tahun, pada tahun 2023 menggunakan perangkat lunak pengenalan wajah untuk mencari video dewasa dirinya sepuluh tahun lalu, dan hasilnya menemukan sebuah video yang belum pernah dilihatnya: tubuhnya, diganti wajah orang lain.

Dia mengenali latar belakangnya sebagai adegan yang diambil pada tahun 2013, dan menyadari: “Ada yang menggunakan tubuh saya untuk membuat deepfake.”

Tubuh sebagai data pelatihan

Kata deepfake muncul pada November 2017, pengguna Reddit “deepfakes” menggabungkan wajah selebriti ke tubuh aktor dewasa. Sejak saat itu, tubuh para pembuat konten dewasa menjadi bahan paling sering disalahgunakan, dan situasi ini “selalu terjadi,” kata pengacara yang ahli di industri dewasa, Corey Silverstein.

Namun, sifat masalahnya telah berubah. Tubuh aktor dewasa tidak lagi hanya diambil untuk satu video tertentu, melainkan digunakan sebagai data pelatihan untuk mengajarkan AI bagaimana menghasilkan “naked yang realistis,” bagaimana bergerak, dan bagaimana tampak nyata. Proses ini dilakukan tanpa persetujuan yang diketahui dan hampir tidak dapat dilacak.

Model bisnis aplikasi “nudify” dibangun di atas dasar ini: cukup unggah satu foto berpakaian, dan akan dihasilkan foto palsu telanjang. Aplikasi semacam ini hampir pasti menggunakan lebih dari 10.000 TB konten dewasa online sebagai sumber pelatihan, dan pencipta konten hampir tidak memiliki jalur pemulihan.

Hany Farid, pakar digital forensik dari UC Berkeley, mengatakan: “Ini semua adalah kotak hitam.” Tetapi mengingat tingkat konten dewasa di internet, digunakan untuk pelatihan AI adalah “asumsi yang masuk akal.”

Masalahnya tidak berhenti di data pelatihan saja. AI kini mampu mereproduksi penampilan dan suara aktor dewasa secara lengkap. Pembuat konten Tanya Tate baru-baru ini mengetahui bahwa seorang penggemar terkenal menghabiskan 20.000 dolar untuk melakukan obrolan seksual dengan versi AI dari “dia,” yang dibuat oleh penipu. Setelah banyak penggemar tertipu, mereka mulai menuduh Tate sendiri dan menyebarkan pernyataan yang tidak benar.

Perusahaan penegakan hak cipta Takedown Piracy menggunakan teknologi sidik jari digital untuk menghapus 130 juta video pelanggaran dari satu platform Google, bahkan jika video tersebut diubah atau wajahnya diganti, sidik jari digital tetap dapat mengenali materi asli.

Ketidaksesuaian zaman kontrak

Banyak aktor dewasa yang menandatangani kontrak bertahun-tahun lalu, yang berisi klausul “penerbit dapat menggunakan teknologi apa pun yang ada saat ini atau yang akan ditemukan di masa depan.” Pada masa itu, yang dibayangkan adalah VHS ke DVD.

Tidak ada yang membayangkan bahwa “teknologi masa depan” berarti: melatih AI dengan konten Anda, untuk menghasilkan pengganti sintetis yang dapat menggantikan pekerjaan Anda. Stephen Casper, mahasiswa doktoral ilmu komputer di MIT, menunjukkan bahwa aktor yang sudah berkarya sebelum munculnya AI tidak mungkin menyetujui penggunaan AI sebelumnya; risiko ini adalah “diterapkan secara retrospektif,” kata Jennifer.

Kemampuan penipuan AI juga semakin cepat. Penelitian Farid tahun 2025 menemukan bahwa tingkat keberhasilan peserta dalam mengenali suara yang dihasilkan AI hanya sekitar 60%, tidak jauh berbeda dari tebakan acak.

Ironi Take It Down Act

Satu-satunya undang-undang federal di AS yang saat ini mengatur deepfake adalah Take It Down Act, yang meminta situs web menghapus konten intim non-kesukarelaan (NCII) dalam waktu 48 jam. Tujuan hukum ini adalah melindungi korban, tetapi bisa berbalik arah.

Profesor hukum dari Universitas Santa Clara, Eric Goldman, mengatakan bahwa siapa pun dapat melaporkan konten dewasa yang sah dan disetujui oleh pihak terkait sebagai NCII, dan memaksa platform untuk menghapusnya. Ini menjadikan undang-undang ini alat potensial untuk membersihkan konten, sesuai dengan target Project 2025 untuk menghapus konten pornografi dari internet.

Hingga saat ini, hukum AS tidak menganggap pelanggaran semacam ini sebagai pelanggaran privasi, karena “kami tidak tahu siapa yang harus bertanggung jawab,” kata Goldman. Uni Eropa, Inggris, dan Australia telah mengumumkan pembatasan terhadap aplikasi nudify, tetapi begitu aplikasi ini dihapus, sering kali muncul kembali dengan nama yang berbeda.

Reba Rocket berkata: “Gadis AI akan melakukan apa saja yang kamu inginkan, mereka tidak berkata tidak. Ini membuatku takut, terutama ketika mereka melatih model tersebut dengan orang nyata. Dan begitu di internet, itu akan selalu ada.”