Kasus | Generasi AI Bukan Alasan Pembebasan dari Tanggung Jawab! Penerbit yang tidak melaksanakan kewajiban verifikasi harus bertanggung jawab atas pelanggaran hak reputasi orang lain

Saat ini, teknologi AI berkembang pesat dan telah terintegrasi secara mendalam ke berbagai bidang tradisional seperti hiburan, keuangan, pemasaran iklan, dan lain-lain. Skenario lama dan skenario baru saling bertaut dan menyatu, sehingga sengketa perdata yang timbul juga semakin banyak. Baru-baru ini, Pengadilan Internet Beijing mengadili sebuah kasus pelanggaran hak reputasi (nama baik) yang disebabkan oleh penggunaan AI generatif untuk memublikasikan konten.

Uraian Kasus Dasar

Penggugat adalah sebuah institusi yang bergerak di bidang siaran langsung. Setelah seorang penyiar (host) di bawah naungannya malang meninggal dunia dan menarik perhatian publik. Tergugat, melalui akun platform media sosialnya, memublikasikan sebuah video berjudul “Seorang penyiar meninggal dunia #养生# kesehatan #养生就是养健康# berwirausaha #produk nutrisi”, yang isinya menyatakan bahwa penyiar tersebut “selalu bertahan dengan cara makan obat dan minum alkohol, sambil mengalami susah tidur serta cemas”, “setiap hari siaran langsung 15 jam, hingga larut malam menghafal naskah”, “membawa obat anti-depresi sambil berdalih itu permen pelega tenggorokan”, “dokter menyuruh istirahat untuk mengobati penyakit, tetapi tim justru mendesaknya untuk siaran langsung”, dan sebagainya. Penggugat berpendapat bahwa konten tersebut mengada-ada fakta, merendahkan reputasi institusi, lalu mengajukan gugatan ke pengadilan, dengan permohonan agar tergugat menghentikan pelanggaran, meminta maaf secara terbuka, serta membayar kerugian ekonomi dan biaya masuk akal untuk pemeliharaan hak hingga total 30000 yuan.

Dalam proses persidangan, tergugat telah menghapus video yang menjadi pokok perkara, dan berargumentasi bahwa naskah video bukanlah karya asli dirinya, melainkan dihasilkan oleh AI. Untuk itu, tergugat mengajukan bukti berupa rekaman layar pembuatan konten. Rekaman layar menunjukkan bahwa tergugat memberi instruksi kepada AI: “Seorang penyiar meninggal dunia, tulis naskah narasi tentang meninggal karena sakit, ajak agar memperhatikan kesehatan”; setelah draf pertama dihasilkan oleh AI, tergugat meminta agar ditambahkan isi pemberitaan media di internet, lalu AI mencari banyak artikel dari beberapa platform dan mengubah naskah; tergugat kemudian langsung memakai naskah tersebut untuk merekam dan memublikasikan video yang dimaksud dalam perkara ini. Berdasarkan hal tersebut, tergugat berpendapat bahwa kontennya memiliki dasar informasi dari internet, sehingga tidak termasuk pelanggaran hak reputasi.

Pertimbangan Pengadilan Setelah Persidangan

Dalam perkara ini, “seorang penyiar” yang disebut dalam video yang dipermasalahkan oleh tergugat adalah seorang penyiar yang terikat kontrak dengan penggugat. Oleh karena itu dapat disimpulkan bahwa “tim”-yang dimaksud dalam penyebutan “seorang penyiar” pada video tersebut mengarah kepada penggugat dalam perkara ini. Terkait apakah pernyataan tergugat memiliki dasar fakta, tergugat berargumen bahwa konten perkara dibuat melalui AI generatif dan konten yang dihasilkan AI tersebut merujuk pada banyak pemberitaan publik. Mengenai hal ini, pengadilan berpendapat bahwa sebagai pengguna layanan kecerdasan buatan generatif, tergugat berkewajiban secara hukum untuk melakukan verifikasi yang diperlukan terhadap informasi terkait ketika membuat dan memublikasikan video menggunakan konten yang dihasilkan AI. Dalam perkara ini, ketika tergugat memublikasikan video yang dimaksud, ia tidak mencantumkan sumber informasi, juga tidak memeriksa keaslian maupun kredibilitas sumber tersebut, serta tidak dapat mengajukan bukti efektif untuk membuktikan bahwa pernyataan seperti “setiap hari siaran langsung 15 jam, hingga larut malam masih menghafal naskah”, “dokter menyuruhnya beristirahat untuk mengobati penyakit, tetapi tim justru mendesaknya untuk siaran langsung” adalah benar secara objektif. Setelah video dalam perkara ini dipublikasikan, sejumlah netizen telah memberikan penilaian negatif terhadap penggugat di kolom komentar, yang secara objektif telah menimbulkan konsekuensi kerugian berupa penurunan penilaian sosial terhadap penggugat. Dengan demikian, perbuatan tergugat dalam memublikasikan video dalam perkara ini telah memenuhi unsur pelanggaran terhadap hak reputasi penggugat, sehingga secara hukum tergugat harus menanggung tanggung jawab perdata terkait pelanggaran tersebut.

Hasil Putusan

Pengadilan memutuskan bahwa tergugat harus meminta maaf kepada penggugat melalui pernyataan permintaan maaf di akun platform media sosialnya, serta membayar ganti rugi atas sejumlah kerugian ekonomi.

Saat ini, putusan dalam perkara tersebut telah berkekuatan hukum tetap.

Kata Hakim

Saat ini, teknologi kecerdasan buatan generatif telah menyebar dengan cepat dan terintegrasi secara mendalam ke dalam kehidupan sehari-hari, dan telah menjadi alat penting bagi publik untuk memperoleh informasi, membantu kognisi, menjalankan kreasi, serta mengambil keputusan. Di saat yang sama, konten yang dihasilkan AI memiliki keterbatasan; hasil keluarannya mudah mengalami deviasi fakta, kesalahan logika, bahkan “halusinasi” konten. Jika digunakan atau disebarkan tanpa verifikasi, hal itu sangat mudah menyesatkan publik, bahkan dapat membuat pengguna terjerumus ke dalam penilaian yang salah dan keputusan yang salah, sehingga pada akhirnya memicu berbagai sengketa dan risiko. Oleh karena itu, dalam menggunakan, menyebarkan, dan memublikasikan konten yang dihasilkan AI, harus dengan jernih menyadari bahwa kecerdasan buatan tidaklah benar-benar dapat diandalkan, dan tidak boleh menggantikan pemeriksaan oleh manusia serta verifikasi fakta. Pengguna konten, pihak yang memublikasikan, serta badan pengelola terkait semuanya memikul tanggung jawab subjek yang tidak dapat dihindari dan kewajiban verifikasi yang ditetapkan oleh hukum. Tidak boleh menggunakan alasan “konten dihasilkan oleh AI” sebagai pembenaran untuk menghindari tanggung jawab pemeriksaan yang saksama terhadap keaslian informasi, keabsahan, dan kepatuhan/kesesuaian. Terlepas dari bentuk kontennya berupa teks, gambar, audio-video, atau jenis lainnya, sebelum dipublikasikan, diunggah ulang, atau digunakan, konten harus diverifikasi untuk memastikan kebenaran fakta, keabsahan sumber, dan untuk memastikan konten tidak melanggar hak reputasi, hak privasi, hak cipta, dan hak serta kepentingan sah lainnya milik orang lain.

Profil Hakim

Hakim  Wu Jiao

Wu Jiao adalah hakim di Pengadilan Internet Beijing, divisi persidangan komprehensif tingkat kedua. Banyak kasus yang ditulisnya meraih penghargaan untuk analisis kasus teladan di seluruh sistem pengadilan di Tiongkok, dan masuk dalam “Kasus Tahunan Pengadilan Tiongkok”. Ia juga menerbitkan banyak artikel di berbagai media seperti “People’s Court Daily”.