Aset Kepatuhan AI Kuantum Sedang "Menilai Ulang"

作者：张烽

Saat ini, kecerdasan buatan (AI) tengah menyatu dengan kedalaman yang belum pernah terjadi sebelumnya ke dalam produksi dan kehidupan sosial, dan sistem keamanan serta tata kelolanya menjadi fondasi bagi era digital. Namun, sebuah revolusi daya komputasi yang berasal dari prinsip-prinsip fisika—komputasi kuantum—sedang mendekat secara diam-diam. Kekuatan potensial yang dapat mengguncang secara fundamental ini membuat pertahanan keamanan yang ada dan kerangka tata kelola menghadapi pertanyaan yang sangat serius. Akankah komputasi kuantum mengguncang dan membalik tatanan keamanan serta tata kelola AI yang ada? Ini bukan hanya persoalan teknis, melainkan juga tantangan skala menyeluruh yang berkaitan dengan ketertiban masyarakat digital di masa depan.Ketika lompatan daya komputasi bertemu keterlambatan regulasi, bagaimana kita mempersiapkan diri untuk “Q-Day”?

I. Bagaimana komputasi kuantum mengancam algoritmaenkripsi asimetris yang banyak digunakan saat ini?

Keamanan sistem AI saat ini, mulai dari pengiriman model, penyimpanan data hingga autentikasi identitas, sangat bergantung pada algoritma enkripsi asimetris yang diwakili oleh RSA dan ECC (enkripsi kurva elips). Keamanan algoritma-algoritma ini dibangun di atas “kompleksitas komputasi” dari masalah matematika yang sulit seperti “pemfaktoran bilangan besar” atau “logaritma diskrit”, yang tidak dapat dipecahkan oleh komputer klasik dalam waktu yang dapat diterima.

Namun, komputasi kuantum menghadirkan perubahan paradigma yang mendasar. Algoritma kuantum yang diwakili oleh Shor, secara teori mampu menurunkan waktu penyelesaian persoalan-persoalan tersebut dari tingkat eksponensial menjadi polinomial. Sebuah makalah menilai bahwa, termasuk algoritma kuantum terbaru seperti Regev dan perluasannya, terus dioptimalkan untuk efisiensi pemecahan enkripsi asimetris. Ini berarti bahwa, begitu komputer kuantum umum ber-skala cukup (biasanya mengacu pada jutaan qubit stabil), “kunci” yang melindungi komunikasi internet, tanda tangan digital, dan data terenkripsi saat ini berpotensi dibuka dalam sekejap.

Ancaman ini tidak jauh dari kenyataan. Peringatan riset komunitas Zhiyuan menyatakan ini adalah ancaman “sedang terjadi”: penyerang dapat mulai sekarang mencegat dan menyimpan data komunikasi terenkripsi (termasuk data pelatihan AI, parameter model, dan lain-lain), lalu menunggu hingga komputer kuantum matang di masa depan untuk didekripsi. Strategi “cegat dulu, dekripsi kemudian” ini membuat semua informasi bernilai tinggi yang perlu dirahasiakan dalam jangka panjang, termasuk rahasia negara, paten bisnis, dan data privasi pribadi, berada dalam risiko di masa depan. Oleh karena itu, ancaman komputasi kuantum terhadap enkripsi asimetris bersifat mendasar dan sistematis, secara langsung menggoyahkan akar keamanan AI saat ini dan bahkan seluruh sistem keamanan dunia digital.

II. Menghadapi komputasi kuantum, tantangan baru apa yang dihadapimodelAI dan perlindungan privasi data?

Perkembangan AI bergantung pada pemberian makan data dalam jumlah besar dan pelatihan model yang kompleks; proses ini sendiri penuh tantangan privasi dan keamanan. Masuknya komputasi kuantum membuat tantangan-tantangan tersebut menjadi semakin tajam dan kompleks.

Pertama, ketidakberhasilan kerahasiaan jangka panjang siklus hidup data. Seperti disebutkan sebelumnya, kumpulan data pelatihan AI yang dienkripsi dan disimpan di cloud atau saat transmisi, mungkin akhirnya terungkap sepenuhnya karena dekripsi kuantum di masa depan. Diterangkan dengan tegas dalam white paper strategi migrasi anti-kuantum global dari Universitas Xi’an Jiaotong-Liverpool, bahwa lawan di seluruh dunia secara terorganisasi sedang menerapkan strategi “panen data”, dengan sabar menunggu datangnya “Q-Day” (saat komputasi kuantum menjadi praktis). Hal ini menjadi ancaman yang bersifat hulu bagi model AI yang bergantung pada data sensitif (seperti catatan medis, informasi keuangan, dan data biometrik).

Kedua, teknologi komputasi privat seperti federated learning menghadapi ujian baru. Federated learning melindungi data mentah dengan melatih model secara lokal dan hanya melakukan pertukaran pembaruan parameter model. Namun, informasi pembaruan gradien atau parameter dalam interaksi tersebut juga merupakan transmisi terenkripsi. Jika enkripsi lapisan bawah berhasil ditembus oleh komputasi kuantum, penyerang dapat menurunkan secara terbalik karakteristik data mentah pihak-pihak yang terlibat, sehingga mekanisme perlindungan privasi berubah menjadi sekadar formalitas.

Terakhir, kesulitan meningkat tajam pada pencurian model dan perlindungan hak kekayaan intelektual. Model AI yang sudah matang adalah aset inti perusahaan. Saat ini, bobot model dan arsitekturnya umumnya didistribusikan dan dideploy melalui enkripsi. Komputasi kuantum dapat membuat perlindungan tersebut menjadi tidak efektif, sehingga model dapat dengan mudah disalin, di-reverse engineer, atau dimanipulasi, memicu pelanggaran hak kekayaan intelektual dan celah keamanan yang serius. Lembaga Penelitian Terkait Komunikasi dan Informasi Tionghoa di dalam 《Buku Biru Tata Kelola Kecerdasan Buatan》 menekankan bahwa tata kelola AI perlu menghadapi risiko seperti penyalahgunaan teknologi dan keamanan data, dan komputasi kuantum jelas memperbesar daya rusaknya atas risiko-risiko tersebut.

III. Bagaimana perkembangan machine learning kuantum akan memengaruhi****keamanan AI dan kerangka telaah etik?

Kombinasi komputasi kuantum dengan AI—machine learning kuantum (QML)—mengisyaratkan terobosan efektivitas putaran baru. Namun, bersamaan dengan itu, ia juga membawa masalah keamanan dan etika baru yang belum pernah ada sebelumnya, yang mengguncang kerangka peninjauan yang ada.

Dari sisi keamanan, QML dapat melahirkan alat serangan yang lebih kuat. Misalnya, algoritma kuantum mungkin sangat mempercepat pembuatan sampel adversarial, menghasilkan serangan yang lebih terselubung dan berdaya rusak lebih besar, sehingga sistem pertahanan keamanan AI berbasis komputasi klasik saat ini (seperti adversarial training dan deteksi anomali) menjadi cepat usang. Sebuah analisis menyebut “kuantum + AI” sebagai medan perang hidup-mati berikutnya dalam keamanan siber, dan menunjukkan bahwa kerangka regulasi terkait harus disempurnakan secara proaktif.

Dari sisi etika, sifat “black box” QML mungkin lebih mendalam daripada AI klasik. Proses keputusannya didasarkan pada superposisi kuantum dan keadaan belitan, sehingga mungkin semakin sulit untuk dijelaskan, diaudit, dan dipertanggungjawabkan. Perdebatan etika dan risiko yang ditimbulkan oleh QML—seperti keadilan algoritmik, penentuan tanggung jawab, serta kendali teknis—sudah banyak dibahas. Bagaimana prinsip etika AI yang ada (misalnya transparan, adil, dan dapat dipertanggungjawabkan) diterapkan pada skala kuantum? Bagaimana lembaga pengawas meninjau model keputusan yang berbasis rangkaian kuantum dan mungkin berada dalam tumpang tindih berbagai keadaan? Semua ini merupakan masalah yang belum disiapkan dengan baik oleh kerangka telaah etik yang ada. Model tata kelola perlu bergeser dari sekadar kepatuhan teknis, menuju pemahaman yang lebih mendalam tentang sifat dasar kuantum dan dampaknya terhadap masyarakat.

IV. Dapatkah regulasi tata kelola AI yang ada (seperti GDPR) menghadapi perubahan keamanan yang dibawa oleh komputasi kuantum?

Regulasi tata kelola AI dan data yang berlaku saat ini yang diwakili oleh Peraturan Perlindungan Data Umum Uni Eropa (GDPR), dengan prinsip intinya seperti “perlindungan sejak desain dan perlindungan default”, “minimisasi data”, “pembatasan penyimpanan” serta “integritas dan kerahasiaan”, pada tingkat konsep masih memiliki nilai panduan. Namun, pada implementasi teknis yang spesifik dan persyaratan kepatuhan, semuanya justru menghadapi “kesenjangan kepatuhan” yang disebabkan oleh komputasi kuantum.

GDPR mengharuskan pengendali data mengambil langkah teknis dan organisasi yang tepat untuk memastikan keamanan data. Tetapi dalam konteks ancaman kuantum, apa yang dimaksud dengan “langkah enkripsi” yang tepat? Terus menggunakan algoritma yang terbukti tidak aman terhadap kuantum kemungkinan besar pada masa depan akan dinilai gagal memenuhi kewajiban jaminan keamanan. Dalam kasus serangan tingkat lanjut yang memanfaatkan komputasi kuantum dan mungkin dapat diselesaikan secara instan tanpa meninggalkan jejak, bagaimana ketentuan tenggat pemberitahuan kebocoran data dalam regulasi dapat dilaksanakan secara efektif?

Para pembuat undang-undang di seluruh dunia telah menyadari perlunya perubahan. 《Laporan Tata Kelola Kecerdasan Buatan Global Tahun 2025》 menunjukkan bahwa berbagai negara mempercepat penyusunan undang-undang tata kelola AI khusus, serta membentuk lembaga koordinasi tingkat tinggi. Tiongkok dalam 《Laporan Pengembangan “Tiongkok Digital” (2024)》 menekankan untuk “mempercepat penyempurnaan sistem dasar data”, serta secara berkelanjutan mendorong aksi “AI+”. Perkembangan ini menandakan bahwa sistem tata kelola sedang menyesuaikan diri secara aktif. Namun, regulasi yang secara khusus menargetkan bidang persilangan “komputasi kuantum + AI” saat ini hampir masih kosong. Regulasi yang ada kurang memiliki ketentuan terkait masalah-masalah spesifik seperti jadwal migrasi kriptografi pasca-kuantum, standar audit model QML, serta klasifikasi tingkat keamanan data di era kuantum, sehingga sulit untuk menghadapi perubahan keamanan yang akan segera datang secara efektif.

V. Prospek penerapan dan tantangan implementasi kriptografi pasca-kuantum dalam sistemAIapa saja?

Solusi teknis paling langsung untuk menghadapi ancaman kuantum adalah kriptografi pasca-kuantum (PQC). PQC mengacu pada algoritma kriptografi yang mampu menahan serangan dari komputer kuantum; ia bukan didasarkan pada prinsip kuantum, melainkan pada masalah matematika baru yang diyakini bahkan bagi komputer kuantum pun sulit dipecahkan dengan cepat (seperti lattice, code, multivariat, dan lain-lain).

Prospek penerapannya dalam sistem AI luas dan mendesak. PQC dapat digunakan untuk melindungi setiap tahap alur kerja AI: mengenkripsi data pelatihan dan file model dengan algoritma PQC; menggunakan tanda tangan digital PQC untuk memverifikasi integritas dan keaslian sumber model; serta membangun kanal komunikasi aman PQC di antara node-node komputasi AI terdistribusi. Fortinet menyatakan bahwa PQC bukan konsep yang jauh di masa depan, melainkan solusi praktis yang sangat dibutuhkan untuk melindungi sistem digital dari ancaman kuantum yang mungkin terjadi.

Namun, penerapan PQC secara menyeluruh menghadapi tantangan signifikan:

Tantangan kinerja dan kompatibilitas: banyak algoritma PQC yang ukuran kunci, panjang tanda tangan, atau biaya komputasinya jauh lebih besar daripada algoritma yang ada saat ini. Ketika diintegrasikan ke dalam proses pelatihan dan inferensi AI yang sensitif terhadap efisiensi komputasi dan latensi, hal ini dapat menimbulkan hambatan kinerja. Selain itu, perlu melakukan peningkatan pada seluruh perangkat keras, perangkat lunak, dan tumpukan protokol terkait agar kompatibel.

Kompleksitas standar dan migrasi: meskipun lembaga seperti NIST di Amerika Serikat sedang mendorong proses standarisasi PQC, penetapan standar akhir dan penyatuan secara global masih memerlukan waktu. Menurut pembaruan tren “frontier” komersial-militer yang dirilis oleh otoritas pengelola rahasia dagang Beijing, industri sedang secara aktif membuka sumber implementasi algoritma kandidat NIST untuk membantu berbagai sektor menghadapi ancaman. Proses migrasi secara keseluruhan adalah proyek sistem yang besar dan rumit, yang mencakup penilaian risiko, pemilihan algoritma, deploy hibrida, pengujian, dan penggantian menyeluruh; hal ini terutama sulit untuk ekosistem AI yang strukturnya kompleks.

Risiko keamanan baru: algoritma PQC sendiri merupakan bidang penelitian yang relatif baru, dan keamanan jangka panjangnya belum diuji melalui analisis sandi berbasis praktik seperti RSA yang telah bertahan puluhan tahun. Penyebaran PQC yang dikerjakan secara tergesa-gesa dalam sistem AI yang mungkin memiliki celah yang belum diketahui, juga merupakan sebuah risiko.

VI. Menghadapi perubahan ini, menunggu secara pasif “Q-Day” itu berbahaya

Dampak disruptif komputasi kuantum terhadap sistem keamanan dan tata kelola AI yang ada adalah nyata dan sudah dekat. Ia tidak sepenuhnya menumbangkan sistem yang ada, tetapi dengan meruntuhkan fondasi kriptografinya, meningkatkan risiko data, memperumit persoalan etika, serta menonjolkan keterlambatan regulasinya, memaksa seluruh sistem untuk menjalani peningkatan yang mendalam dan berwawasan ke depan.

Menghadapi perubahan ini, menunggu secara pasif “Q-Day” adalah berbahaya. Kami menyarankan agar mengambil jalur aksi yang dapat dieksekusi berikut:

Memulai penilaian risiko keamanan kuantum dan penyusunan inventaris: segera lakukan penilaian ancaman kuantum terhadap aset AI inti (terutama model dan data yang melibatkan data sensitif jangka panjang), identifikasi bagian yang paling rentan, dan susun daftar prioritas migrasi.

Menyusun dan menerapkan peta jalan migrasi PQC: perhatikan kemajuan dari lembaga standar seperti NIST, dan mulai merencanakan integrasi PQC dalam pengembangan serta operasional sistem AI. Utamakan penerapan desain “keliaran enkripsi” pada sistem baru dan sistem kritis agar nantinya dapat mengganti algoritma kriptografi secara mulus. Dapat dipertimbangkan untuk menggunakan mode enkripsi hibrida “klasik + PQC” sebagai langkah transisi.

Mendorong pembaruan adaptif kerangka tata kelola: organisasi industri, lembaga standar, dan pihak regulator hendaknya berkolaborasi untuk meneliti dan memasukkan persyaratan ketahanan terhadap kuantum ke dalam standar keamanan AI, regulasi perlindungan data, dan sistem sertifikasi produk. Untuk peninjauan etika QML, bangun lebih dulu kerangka penelitian dan pedoman.

Memperkuat pelatihan dan riset talenta lintas bidang: kembangkan talenta yang memahami AI sekaligus komputasi kuantum dan kriptografi, dorong agar model ancaman kuantum dimasukkan ke dalam riset keamanan AI, serta danai pengembangan teknologi keamanan AI yang tahan terhadap kuantum.

Tantangan yang dibawa komputasi kuantum sangat besar, tetapi ia juga memberi kita kesempatan untuk meninjau kembali dan menguatkan fondasi dunia digital. Melalui perencanaan proaktif, inovasi kolaboratif, dan tata kelola yang gesit, kita sepenuhnya mungkin membangun masa depan AI yang lebih tangguh—yang dapat merangkul keuntungan daya komputasi kuantum sekaligus mampu menahan risiko keamanannya.