Kejahatan siber Mungkin Menjadi Satu-satunya Pekerjaan yang Tidak Diambil oleh AI, Tinjauan Menunjukkan

Singkatnya

• Peneliti dari Cambridge, Edinburgh, dan Strathclyde menganalisis 97.895 utas forum kejahatan siber yang diposting setelah peluncuran ChatGPT.
• Alat “Dark AI” seperti WormGPT menciptakan sensasi budaya tetapi hampir tidak menghasilkan malware yang berfungsi, sementara chatbot yang dibajak semakin sulit dipertahankan agar tetap berjalan selama lebih dari beberapa hari.
• Kejahatan yang paling terukur yang didorong oleh AI bukanlah peretasan. Melainkan spam SEO massal, penipuan asmara, dan nude yang dihasilkan AI yang dijual seharga satu dolar setiapnya.

Selama tiga tahun, perusahaan keamanan siber, pemerintah, dan lab AI telah memperingatkan bahwa AI generatif akan melepaskan generasi baru peretas supercharged. Menurut sebuah makalah akademik baru yang benar-benar melakukan penelitian, para peretas supercharged ini sebagian besar menggunakan ChatGPT untuk menulis spam dan menghasilkan nude untuk bersenang-senang. Studi berjudul Stand-Alone Complex or Vibercrime?, diterbitkan di arXiv oleh peneliti dari Cambridge dan universitas lain dan bertujuan memahami bagaimana dunia kejahatan siber underground sebenarnya mengadopsi AI, bukan bagaimana vendor keamanan siber mengatakannya. “Kami menyajikan salah satu upaya pertama studi empiris metode campuran tentang pola awal adopsi GenAI di dunia kejahatan siber underground,” tulis para peneliti.

Tim menganalisis 97.895 utas forum yang diposting setelah peluncuran ChatGPT pada November 2022, diambil dari dataset CrimeBB dari Cambridge Cybercrime Centre yang berisi forum underground dan dark web. Mereka menjalankan model topik, membaca secara manual lebih dari 3.200 utas, dan secara etnografis menyelami scene tersebut.  Kesimpulannya tidak memihak bagi komunitas AI doom: 97,3% dari utas dalam sampel diklasifikasikan sebagai “lainnya,” artinya tidak benar-benar tentang menggunakan AI untuk kejahatan sama sekali. Hanya 1,9% yang melibatkan seseorang yang menggunakan alat pengkodean vibe. ‘Tidak lebih dari ChatGPT tanpa batas’ Ingat WormGPT, FraudGPT, dan gelombang chatbot yang diklaim berbahaya yang membanjiri headline di 2023? Data forum menunjukkan cerita yang berbeda.

Kebanyakan posting tentang produk “Dark AI,” menurut para peneliti, adalah orang yang memohon akses gratis, spekulasi tidak produktif, dan keluhan bahwa alat tersebut sebenarnya tidak berfungsi. Seorang pengembang layanan Dark AI populer akhirnya mengakui kepada anggota forum bahwa produk tersebut hanyalah latihan pemasaran. “Pada akhirnya, [CybercrimeAI] tidak lebih dari ChatGPT tanpa batas,” tulis pengembang tersebut, sebelum proyek tersebut ditutup. “Siapa pun di Internet dapat menggunakan teknik jailbreak terkenal dan mencapai hasil yang sama, jika tidak lebih baik.” Pada akhir 2024, para peneliti mengatakan, jailbreak untuk model arus utama telah menjadi sekali pakai. Sebagian besar berhenti bekerja dalam seminggu atau kurang. Model sumber terbuka dapat dibajak tanpa batas, tetapi mereka lambat, memakan sumber daya, dan beku dalam waktu. “Pengaman untuk sistem AI terbukti berguna dan efektif,” simpul penulis, dalam temuan yang mereka sendiri sebut sebagai temuan yang kontraintuitif untuk sebuah makalah kritis. Vibe coding itu nyata. Vibe hacking, sebagian besar, tidak Makalah ini secara langsung membahas laporan luas Anthropic bulan Agustus 2025 yang mengklaim Claude Code telah digunakan untuk menjalankan kampanye pemerasan “vibe hacking” terhadap 17 organisasi. Data dari tim Cambridge tidak menunjukkan pola tersebut di dunia underground yang lebih luas. Dalam forum yang mereka pelajari, asisten pengkodean AI digunakan sama seperti pengembang arus utama menggunakannya: sebagai autocomplete dan pengganti Stack Overflow untuk pengembang yang sudah terampil. Aktor dengan skill rendah tetap menggunakan skrip yang sudah jadi, karena skrip yang sudah jadi bekerja. Para peneliti menemukan bahwa bahkan peretas pun tidak percaya pada alat hacking vibe yang mereka buat. “Pengkodean berbantuan AI adalah pedang bermata dua. Ini akan mempercepat pengembangan tetapi juga memperbesar risiko seperti kode yang tidak aman dan kerentanan rantai pasokan,” kata seorang pengguna di forum yang dipantau para peneliti. Seorang lainnya memperingatkan tentang kehilangan keterampilan jangka panjang: "Sekarang sudah jelas bahwa menggunakan AI untuk kode menyebabkan degradasi keterampilan yang sangat cepat,” tulis seorang hacker di forum, “Jika tujuanmu hanya untuk menghasilkan penipuan SaaS dan kamu tidak peduli tentang kualitas/kode/keamanan/kinerja, vibe code bisa jadi solusi. (Juga tampaknya cocok untuk phishing).”

Ini sangat kontras dengan ramalan alarmis dari Europol, yang memperingatkan pada 2025 bahwa AI otonom sepenuhnya suatu hari nanti bisa mengendalikan jaringan kriminal. Di mana AI benar-benar membantu penjahat Gangguan, saat muncul, terjadi di tingkat paling bawah. Penipu SEO menggunakan LLM untuk memproduksi spam blog massal demi mengejar pendapatan iklan yang menurun. Penipu asmara dan operator eWoring menambahkan cloning suara dan generasi gambar. Pelaku cepat kaya mengeluarkan eBook yang ditulis AI untuk dijual seharga $20 per buku. Pasar yang paling mengkhawatirkan yang ditemukan para peneliti melibatkan layanan pembuatan gambar nude. Seorang operator mengiklankan: “Saya bisa membuat gadis apa pun menjadi nude dengan AI… 1 Gambar = $1, 10 Gambar = $8, 50 Gambar = $40, 90 Gambar = $75.” Tidak ada dari ini yang merupakan kejahatan siber yang canggih. Ini adalah hustle volume tinggi dengan margin rendah yang sama yang mendukung industri spam selama dua dekade, sekarang berjalan dengan alat yang sedikit lebih baik. Pengamatan penutup dari para peneliti adalah yang paling tajam. Cara terbesar AI akhirnya mengganggu ekosistem kejahatan siber, mereka usulkan, mungkin bukan dengan membuat penjahat lebih mampu. Melainkan dengan mendorong pengembang yang di-PHK dari teknologi yang sah ke dunia underground mencari pekerjaan