399 Yuan “AI Menghidupkan Kembali” Orang Tersayang, Risiko Hukum Apa Saja yang Tersembunyi?

399元“AI bangkitkan” orang tercinta, risiko hukum apa saja yang tersembunyi?

Para ahli mengingatkan, jika pedagang melebih-lebihkan video template kasar menjadi efek “pendampingan permanen”, dan menyembunyikan risiko kebocoran data, maka dapat dianggap penipuan

Seiring dengan popularitas teknologi kecerdasan buatan generatif, cara berduka “bangkit digital” menjadi viral di internet, yang di baliknya tersembunyi pelanggaran hak citra, risiko keamanan data, penipuan konsumen, dan garis merah hukum serta etika lainnya.

Menjelang hari Qingming, wartawan《Harian Pekerja》menemukan bahwa dari video duka AI yang dibuat oleh netizen karena rindu, hingga layanan kustom berharga tetap yang ditawarkan platform e-commerce, “bangkit digital” perlahan beralih dari sekadar pengungkapan emosional menuju komersialisasi. Namun, dalam perkembangan pesat ini, sering muncul masalah pelanggaran hukum, penipuan bisnis, kebocoran data, yang tidak hanya merugikan hak pribadi almarhum dan hak konsumen, tetapi juga menyembunyikan potensi penipuan melalui jaringan telekomunikasi.

Hak pribadi almarhum dilindungi hukum

Baru-baru ini, blogger pendidikan terkenal Zhang Xuefeng meninggal dunia, beberapa netizen yang merasa rindu membuat video duka AI menggunakan rekaman siarannya semasa hidup dan menyebarkannya di internet, ada pula yang dengan niat buruk menggunakan citranya untuk promosi palsu. Pada 24 Maret, perusahaan di bawah Zhang Xuefeng, Suzhou Fengyue Wanjuan Cultural Books Co., Ltd., mengeluarkan pengumuman untuk menarik kembali seluruh “surat izin penggunaan citra” yang sebelumnya dikeluarkan kepada berbagai pihak, dan meminta mitra kerjasama untuk menurunkan semua materi promosi dan video pendek yang menggunakan citra, klip video, nama, serta citra terkait Zhang Xuefeng dalam waktu 24 jam.

Faktanya, kontroversi tentang “bangkit digital” tokoh publik yang telah meninggal sudah pernah terjadi sebelumnya. Pada Oktober 2025, seorang pakar teh terkenal yang telah meninggal dihidupkan kembali oleh sebuah perusahaan teh menggunakan teknologi AI, dan dibuatkan video iklan komersial. Meski perusahaan mengklaim telah memperoleh izin dari anak almarhum untuk mempromosikan budaya teh, namun janda almarhum secara tegas menentang, menganggap video tersebut menampilkan citra suaminya untuk promosi komersial, dan sebagai “pencemaran nama” serta “penghinaan”.

Sebelumnya, beberapa selebritas yang telah meninggal juga pernah mengalami hal serupa, di mana netizen tanpa izin keluarga mereka menggunakan penampilan panggung, wawancara, rekaman pribadi semasa hidup, dan bahan lain, melalui teknologi AI “menghidupkan kembali” dan membuat video terkait, yang kemudian menyebar luas di platform video pendek, memicu penolakan keras dari keluarga. Ada keluarga almarhum yang secara terbuka menyatakan bahwa video AI semacam ini tanpa izin adalah bentuk ketidak hormatan terhadap almarhum, dan menuntut platform terkait untuk segera menurunkan semua konten terkait.

Profesor Shi Jiayou dari Fakultas Hukum Universitas Rakyat Tiongkok menegaskan bahwa hak pribadi almarhum dilindungi hukum, dan bukan hanya pelanggaran jika digunakan untuk keperluan komersial. Tanpa izin dari kerabat dekat, bahkan jika dibuat dan dipublikasikan untuk tujuan duka cita, video bangkit AI juga dapat melanggar hak citra dan reputasi almarhum.

Beberapa pedagang melakukan “pemasaran rindu” terhadap lansia

Li Huarong( dengan nama samaran) pernah membuat video “bangkit digital” idolanya yang telah meninggal, Zhang Guorong, melalui platform e-commerce. “Saat itu karena rindu, ingin mendengar dia bicara dengan saya.” Ia menghubungi sebuah pedagang, yang menawarkan layanan kustom “bicara dari foto” seharga 49 yuan. Pedagang hanya meminta satu foto yang memperlihatkan wajah yang jelas dan satu rekaman audio 15 detik sebagai referensi, lalu orang dalam foto itu bisa “berbicara” sebanyak 50 kata. Dalam proses transaksi, pedagang tidak menyebutkan risiko hukum apa pun, maupun memberi tahu bagaimana data akan diproses selanjutnya.

Wartawan menemukan bahwa di beberapa platform e-commerce, produk dengan nama “bangkit AI”, “buat foto bicara”, “manusia digital AI” dihargai mulai dari 10 yuan hingga ribuan yuan. Namun, efektivitas produk bervariasi, dan sebagian pedagang memanfaatkan emosi rindu untuk melakukan pemasaran, mengkomersilkan emosi yang tulus, bahkan berpotensi menipu dan menjerat konsumen.

Li Huarong mengatakan bahwa dia juga pernah membeli layanan seharga 399 yuan dari toko lain untuk “menghidupkan kembali” ibunya, yang diklaim mampu membuat ibunya “berinteraksi dan bervideo seperti di depan mata saya.” Namun, video yang didapat akhirnya tidak jauh berbeda dari yang sebelumnya dia beli seharga 49 yuan, “hanya saja orang di foto itu bicara lebih lama, dari 15 detik menjadi 1 menit, tapi sama sekali tidak mirip ibu saya, rasanya uang ini tidak sepadan.”

Beberapa pedagang juga menargetkan lansia yang kemampuan membedakan rendah, menggunakan teknologi AI generatif paling dasar, dan memanfaatkan biaya rendah untuk meraup keuntungan.

Profesor Shi Jiayou menyatakan bahwa perilaku “pemasaran rindu” terhadap lansia dalam kondisi tertentu dapat dikategorikan sebagai penipuan konsumen. Jika pedagang melebih-lebihkan efek teknologi “pendampingan permanen” dari video template kasar, menyembunyikan risiko kebocoran data, atau layanan penghiburan emosional yang disediakan memiliki cacat serius, dan menyebabkan lansia membeli layanan berdasarkan kesalahpahaman, maka itu termasuk penipuan. Ia menyarankan otoritas pasar membangun sistem pencatatan etika algoritma dan sumber data untuk pedagang yang menawarkan “layanan emosional digital”, melakukan inspeksi khusus di komunitas lansia dan area sekitar layanan pemakaman, serta menindak praktik “pancingan kata-kata” dan “syarat sepihak”.

Pengawasan terhadap “bangkit AI” skala kecil perlu diperkuat

Selain sengketa pelanggaran hak, data biometrik yang diunggah pengguna saat “menghidupkan kembali” orang tercinta juga berisiko tinggi bocor dan disalahgunakan. Jika pedagang melanggar aturan jual beli data, data sensitif ini bisa mengalir ke rantai kejahatan siber, dan digunakan oleh penipu untuk melakukan penipuan melalui AI face swap dan voice swap. Berdasarkan laporan dari berbagai departemen anti-penipuan dan kasus-kasus tertentu, pelaku kejahatan ilegal memperoleh data biometrik seperti suara dan foto almarhum, lalu memalsukan utang almarhum, “menyampaikan pesan mimpi” untuk transfer uang, atau menipu orang tua dengan citra virtual, sehingga menyebabkan kerugian emosional dan finansial bagi keluarga yang berduka.

Li Huarong kini kembali mengingat proses penggunaan layanan “bangkit kembali” tersebut, dan merasa takut: “Pedagang juga tidak memberi tahu apakah mereka akan menghapus foto dan audio ini, saya tidak tahu bagaimana data itu akan diproses akhirnya.”

Profesor Shi Jiayou menegaskan bahwa data pribadi seperti foto dan rekaman suara almarhum yang diunggah berisi informasi pribadi sensitif, dan jika disalahgunakan, konsekuensinya sangat serius. Menurut Undang-Undang Perlindungan Informasi Pribadi, platform harus mendapatkan izin dari kerabat dekat almarhum sebelum memproses data pribadi almarhum, dan kerabat dekat berhak melakukan pemeriksaan, penyalinan, koreksi, dan penghapusan data tersebut. Platform harus menerapkan langkah-langkah enkripsi dan anonimisasi untuk mencegah kebocoran data, serta segera menghapus data setelah layanan “bangkit kembali” selesai, dan tidak boleh menyimpan data pengguna untuk pelatihan model lain. Regulasi《Peraturan Pengelolaan Sintesis Mendalam Layanan Informasi Internet》mengatur platform besar secara ketat, tetapi untuk pengembang individu dan layanan “bangkit kembali” skala kecil di platform e-commerce, masih kurang pengawasan dan mekanisme pelacakan yang efektif.

Dalam pengelolaan sistem layanan “bangkit digital”, Profesor Shi menyarankan membangun sistem pengelolaan yang menggabungkan “batas hukum + standar teknologi + disiplin industri + peninjauan etika”. Secara hukum sipil, warga negara dapat secara legal mengatur “kepribadian digital” mereka melalui wasiat digital sebelum meninggal. Secara hukum publik, model layanan “bangkit kembali AI” harus menjalani evaluasi keamanan sebelum digunakan, dan semua konten AI harus diberi label “konten ini dibuat oleh kecerdasan buatan” di tempat yang mencolok. Secara industri, perlu dibuat kode etik industri “bangkit kembali digital”, menegaskan bahwa “non-komersial, tidak untuk disebarluaskan secara terbuka” sebagai garis merah dasar, serta menerapkan teknologi pelacakan digital untuk memastikan video pelanggaran dapat dilacak.

Sumber: Harian Pekerja

Informasi besar, analisis akurat, semua di Sina Finance APP