Diduga Menghasilkan Konten Deepfake Pornografi Anak, xAI Dituntut oleh Kota Baltimore Amerika Serikat

Berita Teknologi Phoenix Wang, 25 Maret, menurut laporan Reuters, Kota Baltimore di Amerika Serikat secara resmi mengajukan gugatan terhadap perusahaan kecerdasan buatan xAI milik Elon Musk, menuduh bahwa chatbot AI mereka, Grok, secara ilegal menghasilkan gambar pornografi vulgar tanpa izin dan konten eksploitasi anak-anak. Sebagai kota terbesar sejauh ini yang menggugat xAI karena masalah “deepfake”, Baltimore dengan populasi sekitar 568.000 jiwa dalam dokumen pengadilan menyatakan bahwa xAI secara eksternal memasarkan Grok sebagai asisten AI umum yang aman, namun kenyataannya operasinya diduga melanggar undang-undang perlindungan konsumen.

Dokumen pengadilan mengungkapkan data besar terkait konten yang dihasilkan alat ini. Berdasarkan perkiraan dari Pusat Anti-Kebencian Digital yang menganalisis 20.000 sampel, dalam 11 hari awal tahun ini, sekitar 3 juta gambar seksual realistis dibuat di platform media sosial X, termasuk lebih dari 23.000 gambar yang melanggar terkait anak-anak. Walikota Baltimore, Brandon Scott, mengeluarkan pernyataan menuduh perusahaan teknologi memfasilitasi eksploitasi seksual anak dan menegaskan bahwa pihak terkait harus bertanggung jawab secara hukum. Selain itu, gugatan juga menyertakan sebuah gambar selfie yang dibuat oleh Grok pada 31 Desember 2025, menampilkan Elon Musk mengenakan bikini biru, sebagai bukti yang menuduh bahwa ini adalah bentuk dukungan terbuka terhadap kemampuan alat AI tersebut dalam menghasilkan gambar orang nyata yang terbuka.

S