Bantah teori serangan siber mengerikan berbasis AI! Penelitian: peretas paling suka gambar wanita telanjang AI, mengapa tidak suka Vibe Coding?

Penelitian menunjukkan bahwa AI generatif tidak melahirkan hacker super, kebanyakan hanya digunakan untuk penipuan SEO atau pembuatan foto bugil dan kejahatan tingkat rendah lainnya. Hacker khawatir keterampilan mereka menurun dan menolak ketergantungan berlebihan pada AI, sementara tenaga teknologi yang kehilangan pekerjaan masuk ke pasar gelap adalah kekhawatiran keamanan siber yang sebenarnya.

Membantah teori serangan siber mengerikan berbasis AI, makalah menyatakan bahwa AI generatif tidak melahirkan hacker super

Dalam beberapa tahun terakhir, perusahaan keamanan siber, lembaga pemerintah, dan raksasa teknologi AI terus memperingatkan bahwa AI generatif akan membawa generasi baru hacker super yang lebih kuat, tetapi sebuah makalah baru-baru ini menantang pernyataan tersebut.

Makalah berjudul 《Stand-Alone Complex or Vibercrime?》yang ditulis bersama oleh peneliti dari Universitas Cambridge, Universitas Edinburgh, dan Universitas Strathclyde membahas dampak nyata AI generatif terhadap kejahatan siber, secara langsung menantang asumsi bahwa AI akan memicu serangan destruktif.

Tim peneliti menganalisis data dari forum hacker selama lebih dari 15 tahun, menemukan bahwa ancaman siber saat ini masih sangat biasa. Dalam banyak kasus, AI terutama digunakan untuk mengoptimalkan penipuan otomatis yang sudah ada, penipuan SEO, dan menangani pekerjaan administratif tingkat rendah.

Hampir 90% diskusi di forum hacker tidak terkait kejahatan berbasis AI

Untuk memahami gambaran nyata dari dunia kejahatan siber bawah tanah, tim peneliti mengekstrak dan menganalisis 97.895 artikel dari database Pusat Kejahatan Siber Universitas Cambridge sejak peluncuran ChatGPT pada November 2022.

Mereka menggunakan model topik untuk analisis dan membaca secara manual lebih dari 3.200 artikel. Hasilnya menunjukkan bahwa AI generatif saat ini belum secara substansial menurunkan tingkat keahlian yang dibutuhkan untuk masuk ke dunia kejahatan siber.

Data menunjukkan bahwa hingga 97,3% dari artikel dalam sampel diklasifikasikan sebagai kategori lain, yang berarti konten yang dibahas sama sekali tidak terkait kejahatan berbasis AI, dan hanya 1,9% membahas penggunaan alat Vibe Coding.

Sumber gambar: Penelitian makalah Penemuan menunjukkan bahwa lebih dari 90% diskusi di forum hacker tidak terkait kejahatan AI

“Chatbot AI Gelap” Lebih Banyak Sebagai Alat Pemasaran

Mengenang tahun 2023, chatbot AI seperti WormGPT dan FraudGPT yang mengklaim memiliki kemampuan serangan jahat pernah mendominasi media utama.

Namun, para peneliti menemukan dari data forum bahwa, sebagian besar posting tentang produk AI gelap adalah permintaan pengguna untuk akses gratis, atau keluhan bahwa alat tersebut sama sekali tidak berfungsi.

Seorang pengembang layanan AI gelap terkenal bahkan mengakui kepada anggota forum bahwa produk tersebut hanyalah strategi pemasaran, pada dasarnya hanyalah ChatGPT tanpa batasan.

Penelitian menunjukkan bahwa menjelang akhir 2024, metode jailbreak untuk model utama menjadi seperti alat sekali pakai, yang biasanya gagal dalam waktu kurang dari seminggu. Model sumber terbuka meskipun dapat dijailbreak tanpa batas waktu, tetapi sangat menguras sumber daya dan kurang pembaruan, menunjukkan bahwa mekanisme perlindungan keamanan AI saat ini memang efektif.

Hacker tidak suka Vibe Coding, khawatir keterampilan mereka menurun

Makalah juga secara langsung menanggapi laporan dari Anthropic yang diterbitkan pada Agustus 2025, yang mengklaim bahwa Claude Code pernah digunakan untuk melakukan ransomware terhadap 17 organisasi, tetapi dalam forum yang diteliti, tidak ditemukan pola tersebut di dunia bawah tanah.

Dalam forum yang disurvei, penggunaan utama asisten pemrograman AI adalah sebagai alat otomatisasi bagi programmer berpengalaman, sementara pelaku serangan tingkat rendah tetap lebih suka menggunakan skrip yang sudah jadi dan efektif.

Seorang pengguna forum memperingatkan bahwa bantuan AI dalam menulis kode dapat memperbesar risiko kode yang tidak aman; dan seorang hacker bahkan secara langsung menyatakan bahwa ketergantungan berlebihan pada Vibe Coding justru akan menyebabkan “keterampilan hacker” cepat menurun.

Penggunaan AI dalam kejahatan siber nyata: konten spam dan penipuan pornografi

Dari makalah ini, bidang di mana AI benar-benar membantu pelaku kejahatan sebagian besar berada di tingkat paling bawah dari rantai makanan.

Misalnya, penipu SEO menggunakan model AI untuk memproduksi artikel sampah secara massal; penipuan romantis dan pelaku bisnis pornografi online mulai menggabungkan teknologi penggandaan suara AI; dan para spekulan yang ingin cepat kaya memproduksi buku elektronik AI dalam jumlah besar, dijual seharga 20 dolar per buku.

Temuan yang paling mengkhawatirkan adalah pasar yang melibatkan layanan pembuatan foto bugil. Beberapa pelaku mengklaim dapat menggunakan AI untuk membuat gadis apa pun telanjang, dengan tarif mulai dari 1 dolar per foto, 8 dolar untuk 10 foto, 40 dolar untuk 50 foto, dan 75 dolar untuk 90 foto.

Para peneliti menegaskan bahwa cara utama AI mengubah ekosistem kejahatan siber adalah melalui para pengembang yang di-PHK dari industri teknologi legal, yang beralih ke dunia bawah tanah untuk mencari peluang. Resesi ekonomi dan pasar kerja yang lesu adalah faktor utama yang mendorong pengembang yang memiliki keahlian tinggi untuk masuk ke komunitas penipuan dan kejahatan siber.

Baca lebih lanjut:
CEO AI Microsoft: AI akan otomatisasi pekerjaan kantor dalam 18 bulan, tetapi juga berpotensi menyebabkan insiden keamanan siber besar