CCTV 3.15 Gala | Exposing AI Data Poisoning Has Become an Industry Chain

Berita tanggal 15 Maret menyebutkan bahwa meracuni AI telah menjadi sebuah rantai industri. Berdasarkan bocoran dari para profesional di bidangnya, wartawan melakukan pencarian di berbagai platform daring dan dengan cepat menemukan sebuah layanan bernama GEO. Di platform-platform tersebut, penyedia layanan yang menjalankan bisnis ini mengklaim bahwa pengguna hanya perlu membayar biaya tertentu, maka produk mereka akan masuk ke dalam daftar teratas di berbagai model AI besar yang utama; iklan produk mereka akan menjadi “jawaban standar” yang diberikan oleh model AI. Apakah benar teknologi GEO dapat membuat AI “menyisipkan barang pribadi”, bahkan menyebarkan informasi palsu?

Berdasarkan informasi di internet, wartawan menghubungi salah satu penyedia layanan GEO yang terkenal di industri. Kepala perusahaan, Bapak Wang, mengatakan kepada wartawan bahwa keunggulan perusahaan mereka adalah mampu membantu klien agar saat konsumen mencari di model AI besar, posisi produk mereka berada di urutan teratas. “Ini seperti menulis artikel promosi secara halus, lalu membiarkan platform AI melakukan pengulangan, input, dan pengambilan data,” katanya. Selain itu, Bapak Wang juga mengungkapkan bahwa algoritma model AI besar saat ini sering diperbarui, sehingga untuk mempertahankan rekomendasi berkelanjutan dari model AI tersebut, diperlukan terus-menerus memberi makan dan mempromosikan artikel yang terkait dengan klien secara besar-besaran. Dari para penyedia layanan GEO lainnya, cara mengendalikan AI, membuat AI “patuh”, dan “mencuci otak” AI hampir menjadi topik utama dalam promosi bisnis mereka.

Para profesional di bidang ini mengatakan bahwa GEO, sebagai sebuah perangkat lunak yang digunakan untuk mengoptimalkan distribusi informasi dan meningkatkan efisiensi promosi, di mata beberapa perusahaan komersial justru ditemukan memiliki fungsi lain. Seorang profesional di bidang ini membeli secara acak sebuah perangkat lunak bernama “Sistem Optimisasi GEO LiQing” di platform e-commerce. Kemudian, mereka menciptakan sebuah produk fiktif berupa gelang pintar dan memasukkan informasi produk palsu tersebut ke dalam sistem perangkat lunak, serta memilih instruksi pembuatan artikel. Tak lama kemudian, sistem GEO LiQing otomatis menghasilkan lebih dari sepuluh artikel promosi tentang gelang pintar tersebut. Profesional tersebut memilih lebih dari sepuluh artikel fiktif tersebut dan mempublikasikannya di internet melalui sistem GEO LiQing. Selanjutnya, mereka melakukan pencarian di platform model AI besar dengan kata kunci “rekomendasi gelang kesehatan pintar”, dan dua model AI besar merekomendasikan gelang palsu tersebut, bahkan menempatkannya di posisi teratas.

Wartawan menghubungi kepala operasional sistem GEO LiQing, Bapak Li. Ia mengatakan bahwa alasan utama mengapa bisnis GEO sangat diminati adalah karena mampu membantu klien memberi makan dan meracuni model AI besar, demi mencapai tujuan bisnis mereka. Bapak Li menyatakan bahwa kunci untuk mengendalikan bisnis GEO dan memanipulasi model AI besar adalah dengan “mengirimkan artikel” di berbagai akun internet. “Misalnya, merek ponsel, ada lima sampai sepuluh posisi. Bagaimana caranya mengelola banyak merek ponsel sekaligus? Dengan menghabiskan ratusan juta hingga miliaran rupiah untuk iklan setiap tahun, lalu mengeluarkan beberapa juta untuk menyebarkan racun, itu sudah cukup,” katanya.

Ia menambahkan bahwa ledakan bisnis GEO telah melahirkan banyak perusahaan dan platform yang khusus menjalankan bisnis pengiriman artikel. Mereka secara jangka panjang mengerjakan berbagai tugas pengiriman artikel agar model AI besar dapat mengutip dan mengambil data, sehingga menjadi bagian penting dalam perburuan model AI dan “meracun” data.