Remaja menuntut xAI milik Musk mengklaim pembuat gambar membuat gambar eksplisit secara seksual dari mereka saat masih anak-anak

NASHVILLE, Tenn. (AP) — Tiga remaja di Tennessee menggugat xAI karya Elon Musk minggu ini, mengklaim bahwa alat pembuatan gambar perusahaan tersebut digunakan untuk mengubah foto nyata mereka menjadi gambar seksual secara eksplisit.

Para siswa SMA ini, yang meminta menggunakan nama samaran, mengajukan gugatan di California, tempat kantor pusat xAI — perusahaan kecerdasan buatan milik Musk — berada. Mereka mengupayakan status gugatan class-action agar dapat mewakili ribuan korban seperti mereka yang masih di bawah umur atau pernah di bawah umur saat gambar seksual eksplisit dibuat.

Menurut gugatan, Jane Doe 1 diberitahu secara anonim pada bulan Desember bahwa seseorang menyebarkan gambar seksual eksplisit tentang dirinya di sebuah situs media sosial.

“Setidaknya lima file ini, satu video dan empat gambar, menampilkan wajah dan tubuh aslinya dalam setting yang familiar baginya, tetapi diubah menjadi pose seksual eksplisit,” kata gugatan tersebut. Gugatan ini mengklaim bahwa orang yang menyebarkan gambar tersebut mengetahui identitas Doe dan menggunakan alat pembuatan gambar xAI untuk mengubah foto nyata dirinya menjadi gambar yang menyiksa secara seksual. Salah satu gambar diambil dari foto prom night. Yang lain dari buku tahunan sekolah menengah.

Orang yang menyebarkan gambar juga membuat gambar eksplisit dari setidaknya 18 gadis lain, dua di antaranya adalah penggugat bersama dalam gugatan ini. Pada akhir Desember, polisi setempat menangkap pelaku dan menyita ponselnya. Mereka menemukan bahwa dia mengunggah gambar-gambar tersebut ke beberapa platform di mana dia memperdagangkannya dengan gambar eksplisit dari minor lain.

Dua mantan agen FBI mengatakan dalam gugatan bahwa mereka dipecat karena peran mereka dalam penyelidikan pemilihan Trump.

Tiga menit baca

Dua puluh negara bagian dan 10 kota menggugat EPA terkait pencabutan temuan ‘bahaya’ yang menjadi pusat perjuangan iklim.

Tiga menit baca

Selain itu, perusahaan AI lain melarang generator gambar mereka untuk menghasilkan konten seksual eksplisit, bahkan dari orang dewasa. Musk melihat ini sebagai peluang bisnis dan mempromosikan kemampuan chatbot Grok dari xAI untuk membuat konten “pedas,” klaim gugatan. Namun saat ini tidak ada cara untuk mencegah pembuatan gambar eksplisit dari orang dewasa sekaligus sepenuhnya memblokir gambar anak-anak, klaim gugatan. Gugatan ini juga menyatakan bahwa xAI mengetahui bahwa Grok bisa menghasilkan gambar seksual eksplisit dari anak-anak tetapi tetap merilisnya.

Gugatan menyebutkan bahwa orang yang menyebarkan gambar para penggugat menggunakan aplikasi yang berlisensi dari teknologi xAI atau “membeli akses ke Grok, dan digunakan sebagai perantara atau perantara.”

xAI tidak menanggapi email dari Associated Press yang meminta komentar. Tetapi sebuah postingan pada 14 Januari tentang kontroversi di platform media sosial X menyatakan: “Kami tetap berkomitmen menjadikan X platform yang aman untuk semua dan tidak mentolerir bentuk eksploitasi seksual anak, ketelanjangan tanpa izin, dan konten seksual yang tidak diinginkan.

“Kami mengambil tindakan untuk menghapus konten pelanggaran prioritas tinggi, termasuk Materi Kekerasan Seksual Anak (CSAM) dan ketelanjangan tanpa izin, serta mengambil tindakan terhadap akun yang melanggar Aturan X kami. Kami juga melaporkan akun yang mencari Materi Eksploitasi Seksual Anak kepada aparat penegak hukum sesuai kebutuhan.”

Sementara itu, para siswa dalam gugatan mengatakan mereka khawatir gambar yang dibuat tentang mereka akan tetap ada di internet selamanya. Mereka takut diintai karena nama depan dan nama sekolah mereka terlampir pada file tersebut. Mereka khawatir teman dan teman sekelas mereka telah melihat foto dan video tersebut, yang tampak nyata, dan mereka khawatir siapa yang akan melihatnya di masa depan.

Jane Doe 1 mengatakan dia mengalami kecemasan, depresi, dan stres. “Dia kesulitan makan dan tidur serta mengalami mimpi buruk berulang,” kata gugatan tersebut. Jane Doe 2 “mulai mengisolasi diri dan menghindari berada di kampus sekolah, bahkan takut menghadiri wisudanya sendiri.” Jane Doe 3 mengalami ketakutan dan kecemasan konstan bahwa seseorang akan melihat gambar yang dibuat oleh AI dan mengenali wajahnya, menurut gugatan.