Data poisoning sedang menyebar luas》Laporan keamanan siber halaman 44 dari Ernst & Young terungkap: dari 27 kutipan, 16 di antaranya adalah rekayasa AI

AI Deteksi Perusahaan GPTZero Bongkar Empat Firma Akuntansi Besar Ernst & Young (EY) Cabang Kanada Sebuah laporan keamanan siber 44 halaman, yang mengutip 27 poin, 16 di antaranya adalah ilusi (reka-reka atau gagal), seluruh laporan sekitar 72% adalah teks yang dihasilkan AI.
（Latar belakang: Missouri secara resmi menuntut CoinFlip: ATM kripto sebagai alat penipuan pencucian uang, klaim ganti rugi maksimal 1,826 juta dolar AS）
（Tambahan latar belakang: Kanada usulkan legislasi larang ATM kripto: 4.000 mesin, kasus pertama G7, FINTRAC menetapkan kebijakan berdasarkan data）

Daftar Isi Artikel

Toggle

• Dua Kesalahan Besar 2 Triliun
• Ketika Model Bahasa Besar Menggantikan Google Scholar
• Racun Data: Risiko Sistemik Baru dari Alat Pencarian AI

Perusahaan pemantau AI GPTZero mengumumkan penyelidikan pada pertengahan Mei, menemukan bahwa EY Kanada (EY Canada) dalam laporan berjudul "Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems" yang dirilis akhir 2025, sebuah white paper 44 halaman tentang keamanan sistem poin loyalitas, memiliki cacat besar.

GPTZero memeriksa satu per satu 27 kutipan, menemukan 16 di antaranya adalah ilusi, lebih dari 70%. Laporan ini sendiri tidak memiliki catatan kaki akademik, melainkan menggunakan penanda dalam teks, dan pada halaman 41 sampai 43 dilampirkan sebuah "daftar sumber", mencantumkan judul sumber, deskripsi, URL, sebagian juga mencantumkan penerbit dan tanggal.

Masalahnya terletak pada tabel ini: hampir semua URL tidak aktif atau sama sekali tidak ada, lebih dari separuh judul sumber tidak cocok dengan sumber nyata apa pun. Seluruh laporan diperkirakan sekitar 72% teksnya adalah hasil AI.

Dua Kesalahan Besar 2 Triliun

Masalah paling langsung dari laporan ini adalah angka-angka yang bertentangan sedemikian rupa sehingga hampir tidak mungkin ditulis oleh orang yang sama.

Ringkasan eksekutif menyatakan "pasar poin loyalitas global mencapai 2 triliun dolar AS", sekaligus menunjukkan 30 sampai 50% poin tidak pernah digunakan. Pada halaman 10 laporan, disebutkan bahwa "2 triliun dolar" adalah nilai total "poin tidak ditukar". Jika 50% poin tidak ditukar dan nilainya sudah setara 2 triliun, maka pasar global minimal harus 4 triliun, angka dari kedua halaman ini bertentangan.

Lebih penting lagi, kedua angka ini masing-masing dilengkapi kutipan: satu dari Forbes palsu, satu dari McKinsey palsu.

GPTZero menelusuri "McKinsey & Company: Loyalty Economics Report (2022)", dokumen ini sebenarnya tidak ada. Sebelumnya, mereka menemukan kalimat yang hampir identik di sebuah blog Financial IT, yang juga mencantumkan laporan McKinsey palsu sebagai sumber.

Dengan kata lain, seseorang pertama kali menciptakan kutipan akademik palsu di blog dengan lalu lintas rendah, lalu laporan EY kemudian "membersihkan" kutipan tersebut agar tampak seperti karya dari firma akuntansi besar. Ini disebut sebagai pencemaran rantai kutipan.

Ketika Model Bahasa Besar Menggantikan Google Scholar

GPTZero menciptakan istilah untuk fenomena ini: vibe citing. Singkatnya, peneliti atau konsultan malas memeriksa sumber asli, melainkan membiarkan AI menghasilkan referensi, yang hasilnya berupa entri yang tampak seperti kutipan, tetapi isinya adalah rekayasa semata.

Ini adalah gelombang pertama dari penyelidikan GPTZero. Mereka selama beberapa bulan membangun pipeline otomatis, secara sistematis memindai laporan terbuka dari perusahaan konsultan besar, dan hasil awal menunjukkan bahwa vibe citing sudah menjadi epidemi, bahkan perusahaan terkemuka pun terkena.

Racun Data: Risiko Sistemik Baru dari Alat Pencarian AI

GPTZero menyebut bahaya terbesar dari laporan ini sebagai "racun data".

Secara sederhana, ini berarti mengunggah file berisi informasi palsu ke internet, yang sama dengan menyuntikkan racun ke dalam kolam pengetahuan bersama, menyesatkan peneliti dan pengambil keputusan di masa depan. EY Kanada setiap tahun menyediakan jasa audit dan konsultasi bernilai jutaan dolar kepada pemerintah Kanada, dan jika laporan ini berasal dari institusi sebesar itu dan disebarkan di situs web bertrafik tinggi, penyebaran racun akan lebih cepat dan kepercayaan akan sangat sulit dipulihkan.

Laporan ini telah memicu gelombang di media Australia: sebuah artikel yang mengutip laporan ini di "The Canberra Times" kemudian di-reprint ke lebih dari 60 surat kabar di Australia.

GPTZero melakukan pengujian dan menunjukkan bahwa Claude, ChatGPT, Perplexity saat ditanya tentang "waktu deteksi rata-rata penipuan program loyalitas" pernah merujuk ke laporan EY yang penuh ilusi ini. Alat riset mendalam AI memilih sumber dengan sinyal berbeda dari manusia, sangat bergantung pada citra merek, dan karena itu lebih rentan terhadap racun data semacam ini.

Alat deteksi ilusi GPTZero saat ini sudah digunakan oleh konferensi akademik terkemuka seperti IJCAI, ICLR, ICSE untuk menyaring pengajuan makalah. Sebelumnya, GPTZero juga memeriksa dokumen pemerintah, dua laporan dari KPMG, serta makalah dari konferensi NeurIPS dan ICLR.

Setelah penyelidikan ini, EY Kanada telah menghapus white paper dari situs resmi mereka dan mengumumkan: "EY Kanada memandang serius keakuratan semua konten yang kami terbitkan, dan berkomitmen secara organisasi untuk penggunaan AI yang bertanggung jawab. Kami sedang meninjau mengapa laporan ini diterbitkan."

Sebuah firma akuntansi global terkemuka yang dikenal karena ketelitian, justru menyerahkan reputasi mereknya ke sebuah model bahasa yang malas memeriksa kutipan, dan baru menyadari masalah serius setelah diserang oleh tim kecil yang terdiri dari tiga orang.

Ini bukan hanya kasus, melainkan fenomena yang sedang terjadi di seluruh industri: ketika "hasil AI" menggantikan "penilaian profesional", maka pengakuan merek sendiri menjadi risiko terbesar dari kutipan tersebut.