Baru-baru ini terjadi sesuatu yang cukup mengkhawatirkan di media sosial yang patut dipahami. Deepfake seksual Taylor Swift beredar secara masif di platform seperti X, Instagram, dan Threads, menciptakan krisis konten palsu yang belum pernah dilihat platform manapun dalam skala sebesar ini.

Skala penyebarannya sangat mengesankan: satu gambar yang dibagikan di X mencapai 47 juta tampilan sebelum akun tersebut ditangguhkan. Ini memberi gambaran tentang bagaimana konten semacam ini menyebar ketika tidak ada yang menghentikannya tepat waktu. X memutuskan untuk lebih agresif dan langsung memblokir pencarian 'Taylor Swift' dan 'IA', menampilkan pesan 'Ada yang tidak beres' saat seseorang mencoba mencarinya. Kepala bisnis X mengakui bahwa langkah ini bersifat sementara dan difokuskan pada 'memprioritaskan keamanan'.

Instagram dan Threads mengambil pendekatan berbeda. Mereka memungkinkan pencarian nama artis tersebut, tetapi jika mencari 'Taylor Swift IA' muncul peringatan: 'Apakah Anda yakin ingin melanjutkan? Istilah yang Anda cari terkadang dikaitkan dengan aktivitas organisasi dan individu berbahaya.' Masalahnya adalah filter ini cukup mudah diakali dengan mengubah urutan kata.

Yang menarik adalah bahwa ini bukan masalah baru, hanya saja sekarang menjadi lebih terlihat. Microsoft dan Google meluncurkan alat gratis yang memungkinkan pembuatan gambar realistis melalui teks menggunakan AI generatif. Satya Nadella, CEO Microsoft, menyebut deepfakes sebagai 'mengkhawatirkan dan mengerikan', mendesak industri untuk segera bertindak dalam membangun penghalang keamanan. Serikat aktor Amerika (SAG-AFTRA) secara langsung menilai gambar palsu Taylor Swift sebagai 'mengganggu, merugikan, dan sangat mengkhawatirkan', menuntut agar distribusi konten ini tanpa izin dipidanakan.

Faktanya, deepfakes secara tidak proporsional mempengaruhi perempuan. Kelompok Reality Defender melacak lebih dari dua puluh gambar unik yang dibuat oleh AI dari Taylor Swift, banyak di antaranya berisi konten kekerasan atau seksual. Sejak 2019, studi menunjukkan bahwa sebagian besar korban deepfakes eksplisit adalah aktris Hollywood dan penyanyi K-pop. Teknologi ini menjadi begitu mudah diakses sehingga siapa saja dapat membuat konten ini dengan alat dasar.

Swift sedang mempertimbangkan tindakan hukum terhadap situs yang mempublikasikan gambar-gambar ini. Sementara itu, Gedung Putih meminta Kongres untuk membuat legislasi khusus. Apa yang terjadi dengan Taylor Swift hanyalah puncak gunung es: MrBeast, Tom Hanks, dan selebritas lain juga menjadi korban. Perdebatan sebenarnya adalah bagaimana cara menghentikan deepfakes tanpa menyensor teknologi yang sah.