399 yuan “AI Kebangkitan” orang tercinta, risiko hukum apa saja yang tersembunyi?

Bacaan Pengantar

Seiring dengan meluasnya teknologi kecerdasan buatan generatif, cara berkabung “kebangkitan digital” menjadi viral di internet. Di balik itu, tersimpan berbagai garis batas hukum dan etika seperti pelanggaran hak atas potret, risiko keamanan data, dan penipuan konsumsi.

Menjelang Hari Qingming, seorang reporter dari 《Workers’ Daily》 melakukan penelusuran dan menemukan bahwa “kebangkitan digital” sedang bergeser dari sekadar tempat meluapkan emosi menjadi komersialisasi—mulai dari video kabar duka buatan AI yang dibuat oleh pengguna internet untuk mengenang hingga layanan kustom yang diberi harga secara jelas oleh platform e-commerce. Namun, dalam proses perkembangannya yang cepat, masalah seperti pelanggaran hukum, penipuan komersial, dan kebocoran data sering terjadi. Bukan hanya melanggar hak-hak kepribadian para almarhum serta hak sah konsumen, tetapi juga menyimpan potensi ancaman penipuan jaringan telekomunikasi.

Hak-hak kepribadian almarhum dilindungi oleh hukum

Baru-baru ini, pembuat konten edukasi terkenal Zhang Xuefeng (nama asli: Zhang Xuefeng) meninggal dunia. Sejumlah pengguna internet, didorong oleh rasa rindu, membuat video kabar duka AI menggunakan rekaman siaran langsung beliau semasa hidup, lalu menyebarkannya di internet. Ada juga pihak lain yang berniat buruk yang mencuri pakai potret beliau untuk promosi palsu. Pada 24 Maret, perusahaan di bawah Zhang Xuefeng, Suzhou Fengyue Wanjuan Cultural & Book Co., Ltd., mengeluarkan pengumuman untuk mencabut seluruh 《Surat Kuasa Penggunaan Potret》 yang sebelumnya diterbitkan kepada semua pihak, dan meminta agar pihak kerja sama dalam waktu 24 jam menarik sepenuhnya semua materi promosi dan konten video pendek apa pun yang menggunakan potret, potongan video, nama, serta bentuk/figur terkait dari Zhang Xuefeng.

Faktanya, terdapat preseden kontroversi yang melibatkan “kebangkitan digital” yang dilakukan terhadap tokoh publik yang telah meninggal. Pada Oktober 2025, seorang pakar teh terkenal yang telah meninggal “dibangkitkan” menggunakan teknologi AI oleh sebuah perusahaan teh, lalu dibuat menjadi video dukungan komersial. Meski perusahaan itu mengklaim telah memperoleh otorisasi dari anaknya terkait promosi budaya teh, istri yang ditinggalkan (janda) dengan tegas menyatakan menolak. Ia menilai video tersebut memakai citra almarhum untuk promosi komersial, yang pada hakikatnya merupakan “penghinaan” dan “pelecehan”.

Sebelumnya, beberapa artis yang telah meninggal juga pernah mengalami situasi serupa. Ada pengguna internet yang tanpa persetujuan keluarga, memanfaatkan materi seperti penampilan panggung dan cuplikan wawancara semasa hidup, serta video pribadi, lalu menggunakan teknologi AI untuk “membangkitkan” mereka dan membuat video terkait yang kemudian disebarkan secara luas di platform video pendek, sehingga keluarga yang ditinggalkan sangat menentang. Ada keluarga almarhum yang pernah menyuarakan secara terbuka bahwa video AI semacam ini tanpa izin adalah bentuk ketidakhormatan terhadap almarhum, dan mereka meminta platform terkait segera menurunkan semua konten yang terkait.

Profesor Shi Jiayou dari School of Law, Renmin University of China, menyatakan bahwa hak-hak kepribadian almarhum dilindungi oleh hukum, dan pelanggaran tidak hanya terjadi ketika dilakukan untuk kepentingan komersial. Tanpa persetujuan dari keluarga terdekat, bahkan jika dibuat dengan tujuan berkabung dan disebarkan secara terbuka video kebangkitan AI, tetap dapat menimbulkan pelanggaran terhadap hak potret serta hak atas reputasi almarhum.

Ada pedagang yang menargetkan lansia dengan “pemasaran rasa rindu”

Nyonya Li Huarong (nama samaran) pernah melalui pedagang di platform e-commerce membuat video “kebangkitan digital” dari idola yang telah lama meninggal, Zhang Guorong. “Waktu itu memang karena rindu, ingin mendengarnya berbicara dengan saya.” Ia menemukan sebuah toko, yang menawarkan layanan kustom “foto berbicara” dengan harga 49 yuan. Toko itu hanya meminta agar ia memberikan 1 foto yang menampilkan wajah yang jelas dikenali serta referensi audio berdurasi 15 detik, agar orang di dalam foto dapat “berbicara” 50 kata. Dalam seluruh proses transaksi, pihak toko tidak pernah menyebutkan adanya risiko hukum apa pun, dan juga tidak memberi tahu bagaimana data selanjutnya akan diproses.

Reporter mencatat bahwa di berbagai platform e-commerce, layanan barang dengan nama “AI kebangkitan”, “membuat foto berbicara”, dan “AI digitai人” (AI digital person), diberi harga mulai dari 10 yuan hingga beberapa ribu yuan. Namun, kualitas hasil produk tidak merata. Sebagian pedagang memanfaatkan emosi rasa rindu untuk pemasaran, mengubah produk rasa ketulusan menjadi komoditas. Hal itu berpotensi memicu konsumsi yang menyesatkan bahkan penipuan.

Li Huarong menyatakan bahwa sebelumnya ia juga pernah mencoba membeli layanan “membangkitkan” ibunya dari toko lain seharga 399 yuan. Saat itu, pihak toko mengklaim “bisa membuat ibuku seperti ada di hadapanku, dan juga bisa berinteraksi serta berbicara dengan saya lewat video”. Namun pada akhirnya, video yang ia terima tidak jauh berbeda dengan yang ia beli seharga 49 yuan sebelumnya. “Intinya durasi orang di foto berbicara lebih lama, dari 15 detik menjadi 1 menit, tapi sama sekali tidak seperti ibuku. Rasanya uang ini dibelanjakan dengan tidak sepadan.”

Ada juga beberapa pedagang yang menaruh perhatian pada kelompok lansia berusia lanjut dengan kemampuan membedakan yang lebih lemah. Mereka menggunakan teknologi kecerdasan buatan generatif kelas paling rendah untuk mencari keuntungan dengan biaya yang murah.

Profesor Shi Jiayou menyatakan bahwa untuk perilaku “pemasaran rasa rindu” terhadap lansia, dalam kondisi tertentu dapat masuk kategori penipuan konsumsi. Jika pedagang membesar-besarkan efek teknis video template yang kasar menjadi “pendampingan permanen”, menyembunyikan risiko teknis kebocoran data, atau jika layanan penghiburan emosional yang diberikan memiliki cacat serius, sehingga lansia membeli layanan berdasarkan pemahaman yang keliru, maka hal tersebut merupakan penipuan. Ia menyarankan agar otoritas pengawasan pasar membangun sistem pencatatan etika algoritma dan sumber data bagi pedagang yang menyediakan “jasa emosi digital”. Pemeriksaan khusus perlu dilakukan di area yang dihuni banyak lansia, seperti kawasan layanan panti jompo dan sekitar layanan pemakaman, dengan fokus pada penindakan praktik seperti “kalimat persuasif yang menyesatkan” dan “ketentuan sepihak yang memberatkan” (霸王条款).

Regulasi untuk “kebangkitan AI” model usaha kecil perlu diperkuat

Di luar sengketa pelanggaran, foto, suara, dan informasi hayati lainnya yang diunggah pengguna saat “membangkitkan” keluarga mereka juga menghadapi risiko kebocoran dan penyalahgunaan yang sangat tinggi. Jika pedagang melakukan penjualan atau pertukaran ilegal, data sensitif tersebut mudah mengalir ke rantai industri kriminal hitam-abu-abu, dan dapat digunakan oleh pelaku kejahatan untuk melakukan penipuan dengan AI deepfake seperti mengganti wajah dan mengganti suara. Berdasarkan pemberitahuan dari berbagai departemen pencegahan penipuan serta kasus-kasus tipikal, menunjukkan bahwa ada pelaku yang memperoleh secara ilegal informasi hayati seperti rekaman suara dan foto semasa hidup almarhum, kemudian mengarang alasan seperti “utang yang ditinggalkan almarhum semasa hidup” atau “transfer uang atas mimpi”, atau dengan cara menipu lansia agar percaya setelah memanfaatkan figur virtual, lalu menjalankan penipuan. Hal itu menyebabkan sebagian masyarakat yang kehilangan anggota keluarga mengalami serangan ganda pada aspek emosi dan harta.

Nyonya Li Huarong kini kembali mengingat proses penggunaan layanan “kebangkitan” saat itu, dan merasa takut: “Toko itu juga tidak memberi tahu saya apakah mereka akan menghapus foto dan audio tersebut. Saya tidak tahu bagaimana akhirnya data terkait akan diproses.”

Profesor Shi Jiayou menekankan bahwa data seperti foto dan rekaman suara yang diunggah pengguna berisi informasi pribadi sensitif tentang almarhum. Jika disalahgunakan, dampaknya sangat serius. Berdasarkan Undang-Undang Perlindungan Informasi Pribadi, sebelum platform memproses informasi pribadi almarhum, platform harus memperoleh persetujuan dari keluarga terdekat almarhum. Keluarga terdekat memiliki hak untuk mengajukan permintaan akses, salin, koreksi, penghapusan, dan hak lainnya atas informasi terkait. Platform perlu mengambil langkah-langkah seperti enkripsi dan anonimisasi untuk mencegah kebocoran data. Setelah layanan “kebangkitan AI” selesai, platform harus segera memenuhi kewajiban penghapusan, dan tidak boleh menyimpan data pengguna secara sepihak untuk melatih model lain. Aturan yang ada seperti 《互联网信息服务深度合成管理规定》 membatasi platform besar dengan lebih kuat, tetapi untuk pengembang individu serta layanan “kebangkitan AI” model usaha kecil yang banyak ada di platform e-commerce, masih kurang alat pengawasan yang efektif dan mekanisme penelusuran.

Untuk tata kelola sistem layanan “kebangkitan digital”, Profesor Shi Jiayou menyarankan membangun sistem tata kelola beragam yang terdiri dari “batas hukum + standar teknis + swadaya kepatuhan industri + kajian etika”. Dalam ranah hukum perdata, warga negara dapat diizinkan untuk, melalui wasiat digital, membuat penataan yang mengikat secara hukum sebelumnya mengenai “kepribadian digital” setelah mereka meninggal. Dalam ranah hukum publik, diwajibkan agar model yang menyediakan layanan “kebangkitan AI” harus terlebih dahulu lulus penilaian keamanan sebelum digunakan. Semua konten yang dihasilkan AI harus diberi label “Konten ini dihasilkan oleh kecerdasan buatan” pada posisi yang jelas. Dalam ranah industri, menyusun perjanjian etika industri “kebangkitan digital”, menetapkan “non-komersialisasi, non-penyebaran publik” sebagai garis merah yang harus dipatuhi, serta menerapkan teknologi penelusuran digital untuk memastikan video yang melanggar dapat dilacak.