Tiga remaja menggugat xAI di Amerika Serikat, menuduh Grok menghasilkan gambar eksploitasi seksual anak

Deep Tide TechFlow berita, pada 18 Maret, menurut International Business Times melaporkan bahwa tiga remaja perempuan menggugat perusahaan kecerdasan buatan xAI di pengadilan federal California, AS, menuduh chatbot Grok mereka menghasilkan gambar eksploitasi seksual anak tanpa persetujuan mereka. Gugatan meminta kompensasi dalam jumlah yang tidak ditentukan dan mengajukan perintah larangan segera untuk menghentikan Grok dari menghasilkan konten serupa. Ketiga penggugat memilih untuk tetap anonim, dan dua di antaranya masih di bawah umur.

Dalam gugatan disebutkan bahwa pengguna terkait memanfaatkan fitur pengolahan gambar Grok untuk mengubah foto penggugat menjadi gambar telanjang atau kekerasan seksual, lalu menyebarkannya di server Discord pribadi. Korban setidaknya melibatkan 18 anak di bawah umur. Salah satu penggugat menemukan bahwa foto kelulusan SMA-nya telah diubah menjadi gambar dengan sugesti seksual setelah menerima pesan pribadi anonim di Instagram.

Pengacara penggugat menyatakan bahwa xAI mengetahui bahwa fitur “Grok Imagine” (termasuk opsi “berpakaian”) dari Grok dapat menghasilkan konten seperti itu, namun tetap memilih untuk mempublikasikannya, dengan tujuan mendorong pertumbuhan pengguna Grok dan platform sosial X. Menurut laporan dari “Pusat Melawan Kebencian Digital,” dalam dua minggu setelah peluncuran, fitur ini telah menghasilkan lebih dari 20.000 gambar seksualisasi anak di bawah umur.