Hanya dalam 3 detik, AI bisa menyalin suara Anda; FBI mengonfirmasi penipuan berbasis AI meningkat pesat: kesalahan ada pada lembaga, bukan pada nenek

Kloning suara AI hanya butuh rekaman 3 detik untuk menghasilkan sesuatu yang sulit dibedakan dari aslinya. Untuk pertama kalinya, FBI mengategorikan penipuan berbasis AI secara terpisah sebagai jenis kejahatan. Dalam setahun, kerugiannya mendekati 900 juta dolar AS, dan lebih dari sepertiga korban adalah lanjut usia berusia di atas 60 tahun.
(Pengantar: xAI milik Musk meluncurkan “Custom Voices” milik “Extreme Voice Cloning” yang katanya bisa membuat suara Grok versi personal dalam waktu 1 menit dengan cara berbicara alami)
(Tambahan latar: contoh penipuan AI dari Tiongkok—ganti wajah, ubah suara untuk menelepon video call, dalam 10 menit berhasil menguras uang senilai 20 juta dolar Taiwan)

Daftar isi

Toggle

• Tiga detik, satu tanda centang
• Jangan lagi mengajari nenek meragukan suara cucunya
• Bikin lembaga merasakan sakit, barulah tembok dibangun

Saat tangisan putri terdengar dari seberang telepon, seorang nenek pensiunan di Dover, Florida, Sharon Brightwell, sudah kehilangan semua kewaspadaan. Pada musim panas 2025, ia mendengar putrinya April berbicara dengan nada histeris, mengatakan bahwa ia mengalami kecelakaan mobil, ditahan oleh polisi; lalu “pengacara” masuk ke panggilan, langsung meminta uang jaminan 15.000 dolar AS dan memperingatkan agar ia tidak memberi tahu bank tentang kegunaannya.

Ia menuruti. Sampai ia berhasil menghubungi putrinya yang sedang bekerja dan ternyata sama sekali tidak mengalami kecelakaan mobil, barulah ia sadar: tangisan, intonasi, dan irama napas di telepon semuanya berasal dari sebuah mesin—dan menyalin semuanya hanya perlu rekaman 3 detik.

Pada bulan April tahun ini, IC3 di bawah FBI merilis laporan tahunan 2025. Dalam 26 tahun, untuk pertama kalinya “penipuan terkait AI” dimasukkan sebagai kategori tersendiri: lebih dari 22.000 pengaduan, dengan kerugian yang telah disesuaikan lebih dari 893 juta dolar AS. Di antaranya, 352 juta dolar AS korbannya berasal dari kelompok usia di atas 60 tahun. Di seluruh AS, kerugian akibat kejahatan siber dalam setahun meningkat 26%. Usia di atas 60 tahun menyumbang 77 miliar dolar AS, naik hampir 60% per tahun.

FBI sendiri mengakui ini baru “harga lantai”, karena mayoritas korban bahkan tidak tahu bahwa orang yang baru saja berbicara dengan mereka sebenarnya adalah algoritme. Statistik Interpol bahkan lebih mengejutkan: kerugian penipuan keuangan berbasis global pada 2025 mencapai 442 miliar dolar AS, setara dengan PDB Denmark dalam satu tahun penuh. Penipuan yang ditingkatkan dengan AI menghasilkan keuntungan 4,5 kali lebih besar dibanding metode tradisional.

Tiga detik, satu tanda centang

Ambang teknologinya begitu rendah hingga hampir nol. Cukup sepotong rekaman pesan voicemail, satu video ulang tahun, atau satu postingan TikTok—semuanya sudah cukup untuk memberi makan model kloning suara.

Consumer Reports pada tahun lalu menguji Descript, ElevenLabs, Lovo, PlayHT, Resemble AI, dan Speechify, dan menemukan bahwa sebagian besar kurang memiliki mekanisme pencegahan penyalahgunaan yang bermakna. Dari enam layanan itu, empat di antaranya mengizinkan pengguna hanya dengan mencentang klaim “saya punya hak untuk mengkloning suara cuplikan ini” agar bisa menghasilkan suara, tanpa verifikasi. ElevenLabs relatif lebih ketat: ada classifier, catatan yang bisa ditelusuri, perlindungan berlapis seperti memblokir suara orang tertentu. Namun, mekanisme-mekanisme ini hampir semuanya bekerja sebagai penelusuran setelah kejadian—ketika suara sudah disalin dan telepon sudah dibuat, barulah perlindungan mulai bekerja.

Yang lebih buruk, bahkan pakar manusia yang khusus mengenali suara sintetis pun tak mampu mengimbanginya. Profesor Hany Farid dari University of California, Berkeley—diakui sebagai otoritas forensik deepfake terkuat di dunia—mengaku dalam wawancara dengan The New York Times bulan Juni tahun ini bahwa ia bahkan tak bisa melewati ujiannya sendiri: “Saya merasa saya hampir buta.”

Jangan lagi mengajari nenek meragukan suara cucunya

Yang menjadi sasaran adalah orang tua, bukan karena mereka bodoh, melainkan karena mereka adalah target paling efisien: saldo tabungan tinggi, terbiasa menganggap telepon sebagai perpanjangan dunia nyata, hampir tidak tahu apa pun tentang teknologi kloning suara, dan—yang paling penting—rasa cinta pada keluarga adalah satu-satunya kelemahan yang ingin dimanfaatkan penipuan ini.

Amit Gupta dari perusahaan keamanan suara Pindrop mengatakannya terus terang: “Targetnya bukan meniru suara dengan sempurna, melainkan menciptakan cukup ketidakpastian emosi dan urgensi sehingga korban bertindak lebih dulu sebelum sempat memverifikasi.” Pengacara Gary Schildhorn sendiri juga terkena; setelahnya ia berkata, “Sampai saya mati, saya akan bersumpah itu suara kamu.” Bahkan pengacara yang sudah dilatih dan memang bertugas menyoal bukti pun tertipu, apalagi seorang nenek yang mendengar cucunya menangis “diculik”—Liz Benz dari Buffalo menggambarkannya sebagai “ketakutan yang berlangsung tepat selama dua puluh menit”.

Laporan FTC pada bulan Desember tahun lalu menyebut bahwa kerugian penipuan yang dilaporkan oleh kelompok usia di atas 60 tahun meningkat hampir 4 kali dari 2020 hingga 2024 menjadi sekitar 240 juta dolar AS. Sebanyak 68% berasal dari kerugian satu kali di atas 100 ribu dolar AS. Jika memasukkan angka gelap yang tidak berani dilaporkan, FTC sendiri memperkirakan kerugian tahunan sebenarnya bisa mencapai 815 miliar dolar AS.

Saran yang paling umum di industri saat ini adalah keluarga menetapkan kode sandi keamanan yang disepakati bersama. Jika tidak bisa menjawab di telepon, panggilan langsung diakhiri—niatnya baik, tapi ini sama saja melempar tanggung jawab untuk menghentikan keseluruhan rantai industri penipuan terindustrialisasi kepada seorang lansia yang sedang berada di ambang kehancuran.

Bikin lembaga merasakan sakit, barulah tembok dibangun

Inilah inti dari sifat asimetrisnya. CEO Adaptive Security, Bu, merangkum dengan tepat: “Satu orang di dalam sebuah ruangan mengetik di keyboard bisa menciptakan tak terhingga banyak penyerang.” Sistem otomatis hampir nol biaya untuk memproduksi massal telepon penipuan, sedangkan pihak yang bertahan hanya punya satu orang tua yang sedang terkejut, ditambah waktu sepanjang satu panggilan telepon.

Satu-satunya yang terbukti efektif adalah dari sisi bank. Mulai Oktober 2024, otoritas pengawas sistem pembayaran Inggris (PSR) mewajibkan bank memberi kompensasi penuh kepada korban untuk penipuan pembayaran yang diotorisasi, dengan skema bank pengirim dan bank penerima masing-masing menanggung setengah, dengan batas maksimal 85 ribu poundsterling. Setelah kebijakan itu berjalan, tingkat kompensasi dari nominal yang terjaring penipuan yang sebelumnya 65% naik terus sampai 89%. Logikanya sederhana: begitu bank harus menanggung tagihan penipuan, mereka punya insentif untuk mencegah penarikan tunai bernilai besar, menerapkan masa tenang untuk nasabah lama, dan meminta petugas bank menelepon sekali lagi untuk konfirmasi.

Kewajiban terkait RUU AI Uni Eropa mulai diberlakukan bertahap pada 2025 hingga 2026. Sementara itu, RUU ELVIS di Tennessee, AS juga mensyaratkan bahwa kloning suara harus mendapat persetujuan tertulis. Regulasi selalu berjalan lebih lambat dibanding teknologi. Membuat lembaga bertanggung jawab atas apa yang mereka tangani adalah satu-satunya solusi yang benar-benar bisa diuji.