xAI menggugat pengguna Grok yang menghasilkan gambar yang melibatkan anak di bawah umur, dan tidak mau memodifikasi sistem perlindungan model

Musk旗下 xAI untuk pertama kalinya menggugat pengguna: pria di Carolina Selatan bernama Harwood memanfaatkan Grok untuk menghasilkan gambar yang bersifat seksual yang melibatkan anak di bawah umur. xAI meminta agar pengguna menanggung seluruh tanggung jawab, bukan melakukan perancangan ulang model untuk mencegah pembuatan konten tersebut. Di balik gugatan ini adalah pertarungan soal batas tanggung jawab.
(Tinjauan sebelumnya: Musk mengancam akan menggugat Apple: peringkat App Store diduga ada praktik monopoli, menekan Grok secara berbahaya)
(Tambahan latar: Departemen Kehakiman AS membantu xAI menghadang gugatan pencemaran: menutup pusat data Colossus 2 akan mengancam kemampuan tempur AI militer AS)

Daftar Isi

Toggle

• Gugatan pertama: xAI memilih kasus yang bisa “bercerita”
• Satu minggu lalu, gugatan lain justru menceritakan kisah yang sepenuhnya berlawanan
• Melemparkan tanggung jawab ke pengguna, lebih mudah daripada merancang ulang Grok

xAI, perusahaan di bawah Musk, selama ini berkali-kali menyangkal bahwa Grok mampu menghasilkan gambar eksploitasi seksual anak. Namun kini di pengadilan perusahaan justru mematahkan perkataannya sendiri: xAI memilih menggugat seorang pengguna, alih-alih meninjau ulang mekanisme perlindungan dalam modelnya.

Pada 14 Juli, xAI mengajukan gugatan di Pengadilan Federal Texas terhadap pria Carolina Selatan, Teri Wayne Harwood, dan ini adalah pertama kalinya sejak xAI berdiri yang menuduh pengguna memanfaatkan Grok untuk membuat konten ilegal. Pengamat Dòngqi berkata bahwa pilihan ini sendiri mengungkap satu hal: menyerahkan tanggung jawab secara tepat kepada pengguna, jauh lebih mudah dan jauh lebih menguntungkan daripada merancang ulang produk sehingga keluaran seperti itu menjadi tidak mungkin terjadi. Ini dokumen hukum, bukan pembaruan produk.

Gugatan pertama: xAI memilih kasus yang bisa “bercerita”

Berdasarkan gugatan, xAI menyatakan bahwa setelah menemukan Harwood menggunakan dua akun xAI dan menghabiskan waktu berbulan-bulan untuk mengubah foto-foto yang semula tidak berbahaya dari beberapa korban menjadi gambar bernuansa seksual, perusahaan justru tampil membantu memfasilitasi penangkapannya. Salah satu korban tampak berusia hanya 10 tahun.

Kejaksaan Carolina Selatan mengonfirmasi dalam pengumuman bahwa Harwood telah ditangkap pada bulan Februari tahun ini karena kepemilikan dan penyebaran gambar eksploitasi seksual anak. Ia merupakan salah satu dari beberapa orang yang ditangkap dalam rangkaian kasus serupa di wilayah tersebut. Bagi xAI, ini adalah salah satu dari sedikit contoh keberhasilan yang bisa dibawa ke ranah publik.

Dalam gugatannya, xAI menggambarkan Harwood sebagai pengguna yang dengan sengaja mengakali perlindungan bawaan dalam sistem, meminta pengadilan menjatuhkan ganti rugi dengan jumlah yang tidak ditentukan, serta melarang permanen dia menggunakan produk apa pun dari xAI. Gugatan ini dipandang sebagai salah satu dari kasus pertama ketika perusahaan AI secara aktif menggugat terkait gambar yang melibatkan anak. Artinya, pelaku AI yang selama ini hanya pasif menerima kritik, dibungkus ulang menjadi pihak yang proaktif menyerang dan membantu penegakan hukum.

Logika narasi dalam gugatan tersebut sangat jelas: masalahnya ada pada pengguna yang buruk secara individual, bukan pada Grok itu sendiri, bukan pada desain mekanisme perlindungan, bahkan tidak perlu menelaah siapa yang membuat perlindungan ini begitu mudah untuk dilewati.

xAI juga membeberkan serangkaian angka untuk membuktikan rekam jejak perlindungannya: sejak tahun 2026, perusahaan telah membekukan 52.222 akun, mengirimkan 73.604 laporan ke National Center for Missing & Exploited Children, serta memfasilitasi sedikitnya 244 penangkapan.

Sederhananya, xAI ingin meyakinkan publik bahwa mereka terus berada di pihak penegakan hukum; yang bermasalah hanya segelintir pengguna yang dengan sengaja mengakali perlindungan. Modelnya tidak salah, dan mekanisme perlindungannya berfungsi dengan baik.

Satu minggu lalu, gugatan lain justru menceritakan kisah yang sepenuhnya berlawanan

Masalahnya, sekitar satu minggu sebelum xAI menggugat Harwood, seorang gadis lain baru saja bergabung dalam gugatan kelompok yang diajukan terkait Grok. Namun ceritanya berlawanan total. Ia menuduh ayah tiri menggunakan Grok untuk menghasilkan 7.000 gambar yang memuat konten seksual tentang dirinya, lalu menyebarkannya ke dark web. Setelah kejadian, ayah tirinya memilih bunuh diri.

Dalam kasus ini, xAI bukan pihak yang membantu menangkap orang, melainkan pihak yang dituduh di kursi tergugat.

Dalam gugatan kelompok ini, para penggugat berpendapat bahwa xAI menolak membantu polisi mengidentifikasi pengguna yang mengunggah foto-foto tersebut. Kuasa hukum penggugat mengutip laporan NCMEC tahun 2026 yang menyatakan bahwa xAI melakukan pelaporan hingga 90% tetapi menolak menyertakan informasi pengguna yang memungkinkan aparat penegak hukum melacak dan mengidentifikasi pelaku, sehingga tidak bisa ditindaklanjuti.

90%, hampir sama dengan “hampir semua pelaporan tidak berguna”, sehingga bahkan jika aparat penegak hukum menerima laporan, mereka tetap tidak bisa menemukan orangnya. Dalam satu contoh kasus yang bahkan lebih ekstrem, pelaporan wajib yang diajukan xAI kepada NCMEC hanya berisi foto asli korban yang tidak bersifat seksual, menghilangkan semua gambar yang dihasilkan oleh AI, serta tidak menyertakan alamat IP apa pun yang bisa ditelusuri, sehingga membuat seluruh laporan menjadi dokumen yang tidak lengkap dan tidak bisa dijadikan dasar untuk pelacakan.

Gugatan kelompok ini saat ini menambahkan Stability AI sebagai tergugat bersama. Perang litigasi sedang meluas, daftar tergugat tidak lagi hanya xAI.

Melemparkan tanggung jawab ke pengguna, lebih mudah daripada merancang ulang Grok

Musk sendiri terus menegaskan bahwa ia tidak pernah melihat contoh apa pun dari Grok yang menghasilkan gambar seksual yang melibatkan anak. Ia tidak mengambil langkah untuk membatasi keluaran Grok guna mencegah pembuatan seperti itu, melainkan memilih untuk memperingatkan pengguna agar menanggung tanggung jawab sendiri. Pada 3 Januari 2026, ia menulis di X: “Siapa pun yang membuat konten ilegal dengan Grok akan menanggung konsekuensi yang sama seperti saat mengunggah konten ilegal.” Kalimat itu, dalam beberapa hal, telah mengantisipasi gugatan terhadap Harwood berikutnya, sekaligus mengantisipasi sikap konsisten xAI menghadapi kejadian semacam itu.

Dalam gugatan terhadap Harwood, kalimat tersebut pada dasarnya diwujudkan menjadi tindakan hukum yang konkret: menurunkan tanggung jawab secara tepat kepada pengguna individual, alih-alih mengakui adanya celah dalam model yang perlu diperbaiki. Ini menjadi sinyal bagi batas akuntabilitas seluruh industri AI: selama bisa menemukan pengguna yang dengan sengaja mengakali perlindungan untuk digugat, perusahaan dapat tampil di depan kamera sebagai mitra penegakan hukum, sekaligus menghindari pertanyaan yang lebih mendasar—mengapa mekanisme perlindungan bisa dilewati—dan sekaligus menghindari pertanyaan lain yang lebih merepotkan: apakah mereka benar-benar bersikap adil dalam kerja sama dengan penegakan hukum, atau hanya menyerang kasus yang menguntungkan citra mereka.