Perdebatan tentang deepfake semakin memanas. Public Citizen, sebuah lembaga pengawas advokasi konsumen, mendesak OpenAI untuk menarik generator video AI mereka, Sora, dari pasar—dengan alasan kekhawatiran serius tentang potensi penyalahgunaan teknologi ini.

Argumen mereka? Kemampuan Sora untuk membuat video palsu yang sangat realistis dapat digunakan sebagai senjata untuk menyebarkan informasi yang menyesatkan dalam skala besar yang belum pernah kita lihat sebelumnya. Bayangkan campur tangan dalam pemilihan, penipuan identitas, atau kampanye disinformasi terkoordinasi yang mengaburkan batas antara kenyataan dan rekayasa.

Yang membedakan ini dari kontroversi AI sebelumnya adalah waktunya. Kita memasuki era di mana alat media sintetis menjadi lebih mudah diakses oleh pengguna biasa—bukan hanya elit teknologi atau aktor negara. Hambatan untuk membuat konten palsu yang meyakinkan sedang dengan cepat runtuh.

OpenAI belum menarik produk ini dari pasar, tetapi tekanan semakin meningkat. Beberapa suara industri berpendapat bahwa inovasi tidak seharusnya dibatasi oleh risiko hipotetis, sementara yang lain menunjukkan kurangnya perlindungan yang kokoh dalam alat ini sebelum dirilis.

Gambaran besarnya adalah: saat AI generatif melaju pesat, kerangka regulasi tertinggal. Baik itu sintesis video, kloning suara, maupun pembuatan teks, pertanyaannya bukan hanya apa yang bisa dilakukan alat ini—tetapi apakah masyarakat siap menghadapi konsekuensinya saat digunakan secara massal.

Kontroversi Sora mungkin menjadi gambaran dari pertempuran yang akan datang. Bagaimana kita menyeimbangkan kemajuan teknologi dengan keselamatan publik? Dan siapa yang berhak memutuskan kapan sebuah alat terlalu berbahaya untuk dirilis?