Laporan: Masalah keamanan menjadi hambatan utama dalam penerapan AI secara skala besar, harus 'melawan AI dengan AI'

Pada tanggal 23 Juni, di Pameran Rantai Pasokan Internasional China ke-4, Li Rui, mitra bisnis konsultasi manajemen PwC China, merilis laporan "Dari Keracunan Data hingga Pelarian Model: Membangun Kembali Sistem Keamanan untuk Melawan Risiko AI Baru" (selanjutnya disebut "laporan"), yang mengkaji secara mendalam risiko keamanan baru seperti kontaminasi data, pembajakan prompt, dan pelarian model dalam konteks penerapan AI skala besar.

"Sejak tahun 2021, jumlah insiden dan bahaya AI telah meningkat secara eksponensial," kata Li Rui tegas. Masalah keamanan dan risiko telah menjadi hambatan utama bagi penerapan skala besar AI agen. Hampir 2/3 responden menganggap keamanan dan risiko sebagai hambatan utama untuk memperluas penerapan AI agen secara penuh, proporsi ini secara signifikan lebih tinggi daripada ketidakpastian regulasi atau keterbatasan teknis, menunjukkan bahwa kendala yang dihadapi organisasi lebih terletak pada kepercayaan terhadap kemampuan mereka untuk menyebarkan sistem otonom secara aman dalam skala besar.

Laporan menunjukkan bahwa berdasarkan analisis insiden risiko AI sebelumnya, lebih dari separuh insiden risiko AI berasal dari perilaku jahat manusia yang disengaja, sementara masalah keamanan dan kegagalan sistem AI sendiri hanya mencakup 21%, dan proporsinya terus menurun dalam beberapa tahun terakhir. Dalam data tahun 2025, proporsi insiden yang melibatkan pelaku jahat melonjak dari 37,9% menjadi 57%, menunjukkan bahwa AI semakin cepat dipersenjatai.

Laporan tersebut mendaftarkan risiko AI saat ini: 1. Peretasan AI yang ditingkatkan, eksploitasi kerentanan cerdas, penyebaran kode berbahaya secara otomatis; 2. Serangan canggih yang didorong AI secara presisi, ransomware yang lebih terarah; 3. Meluasnya konten deepfake, seringnya serangan social engineering tingkat lanjut; 4. Pelarian model memicu output yang melanggar, tekanan ganda pada reputasi dan kepatuhan; 5. Keracunan rantai pasokan AI, kerentanan tersembunyi menyebabkan kegagalan bisnis; 6. Bias algoritma, diskriminasi sistemik, dan ketidakadilan sosial; 7. Sumber data pelatihan AI tidak jelas, menyebabkan pelanggaran hak cipta; 8. Kesalahan eksekusi kecerdasan embodied, menyebabkan cedera fisik dan pribadi; 9. Rantai tugas agen di luar kendali, keputusan berjenjang menyebabkan konsekuensi yang tidak dapat diubah; 10. Regulasi AI yang dipaksakan dan terfragmentasi, kesulitan kepatuhan lintas domain.

Di hampir semua jenis risiko, responden menyatakan bahwa ada kesenjangan yang jelas antara risiko yang mereka anggap penting dan risiko yang sebenarnya telah mengambil langkah mitigasi. Kesenjangan ini sangat jelas dalam pelanggaran kekayaan intelektual dan privasi pribadi, menunjukkan bahwa kecepatan peningkatan kesadaran risiko telah melampaui kecepatan implementasi langkah-langkah pengendalian, proses, dan alat yang sesuai, sehingga sulit untuk melakukan manajemen risiko secara tepat waktu dan efektif.

Li Rui menunjukkan bahwa pertarungan tingkat mesin menyebabkan "asimetri serangan-pertahanan" yang serius, serangan sudah dalam kecepatan cerdas, tetapi pertahanan masih bergantung pada pemblokiran manual, pengendalian tradisional tidak efektif. Kita harus "melawan AI dengan AI", melakukan pencegahan risiko dari kedua ujung masukan dan keluaran. Ujung masukan harus menilai apakah ada sinyal berbahaya, ujung keluaran harus menilai apakah ada konten yang melanggar. "Terapkan deteksi dan respons ancaman yang didorong AI, isolasi jaringan dan kontrol lalu lintas, deteksi kode berbahaya dan analisis sandbox, serta manajemen kerentanan dan perbaikan waktu nyata."

Data menunjukkan bahwa pada April 2026, lebih dari 75 negara/kawasan di seluruh dunia telah mengeluarkan strategi, kebijakan, dan peraturan terkait AI. Etika teknologi, transparansi dan akuntabilitas, kepatuhan data, dan perlindungan privasi masih menjadi fokus utama regulasi global.

(Editor: Wen Jing)

Kata Kunci: