Perang AI antara AS dan Tiongkok semakin memanas, tetapi para sarjana dari kedua negara sepakat: jangan biarkan AI mengalami "momen Chernobyl".

WIRED langsung menghadiri konferensi AI tahunan di Zhongguancun, Beijing, dan kesimpulan terbesarnya setelah mewawancarai para cendekiawan terkemuka AS dan Tiongkok adalah: risiko keamanan siber AI mutakhir sudah terlalu besar untuk ditanggung sendiri oleh pihak mana pun, dan batas kemampuan model sumber terbuka semakin mendekati titik kritis berbahaya.
(Pengaturan sebelumnya: Anthropic 'diblokir' oleh pemerintah AS untuk menarik model Fable, media asing menyebut tiga kekhawatiran utama: berpotensi membantu sumber terbuka Tiongkok)
(Latar belakang tambahan: Nvidia meluncurkan model sumber terbuka terkuat Nemotron 3 Ultra! Fokus pada tugas agen AI)

Daftar Isi

Toggle

• Perlombaan senjata AI, namun melahirkan pencegahan nuklir
• Batas model sumber terbuka, semakin mendekati titik kritis berbahaya
• Tiongkok juga diam-diam menutup pintu

Wartawan WIRED Will Knight pergi ke konferensi yang diselenggarakan oleh Beijing Academy of Artificial Intelligence (BAAI) secara langsung. Acara tersebut menghadirkan topik-topik mulai dari perbaikan diri rekursif, robot mirip manusia, hingga keamanan kuantum. Peserta termasuk salah satu penemu bersama kriptografi kunci publik, Whitfield Diffie, dan Andrew Barto, yang memenangkan Penghargaan Turing atas penelitian dasar pembelajaran penguatan.

Knight menulis dalam artikelnya bahwa setelah meninggalkan konferensi, ia hanya memiliki satu pikiran: AS dan Tiongkok harus melepaskan ketegangan dalam persaingan AI. Alasannya bukan karena diplomasi, melainkan realitas teknis: risiko keamanan siber AI mutakhir berkembang dengan kecepatan yang melebihi kemampuan kebijakan negara mana pun untuk mengejarnya.

Perlombaan senjata AI, namun melahirkan pencegahan nuklir

Kerangka kerja standar Washington menganggap kemajuan AI Tiongkok sebagai ancaman ekonomi dan keamanan nasional. Pembatasan ekspor terus diperketat, membatasi aliran chip canggih dan peralatan manufaktur ke Tiongkok; pada bulan Juni tahun ini, pemerintah AS melangkah lebih jauh dengan alasan keamanan nasional, meminta Anthropic untuk menghentikan akses asing ke dua model terkuatnya, Mythos 5 dan Fable 5.

Anthropic kemudian menutup kedua model ini untuk semua orang, salah satu alasannya adalah karena pihak berwenang khawatir mekanisme perlindungan Fable 5 akan diretas, sehingga membuka kemampuan serangan siber Mythos.

Namun konferensi Beijing ini mengirimkan sinyal yang sangat berbeda: AI yang dikembangkan terlalu cepat dan tanpa kendali merupakan risiko bagi AS dan Tiongkok, bukan keuntungan sepihak.

Ilmuwan komputer MIT Stephen Casper berbicara di konferensi melalui video. Ia mengutip sebuah penelitian yang menunjukkan bahwa manfaat kerja sama internasional dalam risiko AI jauh lebih besar daripada risiko keamanan yang ditimbulkan oleh kerja sama itu sendiri. Casper membuat perumpamaan kepada Knight: "Hampir semua orang dapat setuju pada satu hal di bidang AI, yaitu AI tidak membutuhkan momen Chernobyl."

Ia menunjukkan bahwa ini persis seperti logika paradoks senjata nuklir antara AS dan Uni Soviet selama Perang Dingin, di mana kedua belah pihak terus memperluas persenjataan mereka, namun pada saat yang sama harus membangun mekanisme pengendalian krisis nuklir. Yang paling mengkhawatirkan mereka adalah AI agen yang semakin kuat. Begitu kemampuan terus meningkat, sedikit saja kehilangan kendali dapat menyebabkan kerusakan besar.

Batas model sumber terbuka, semakin mendekati titik kritis berbahaya

Jika risiko keamanan siber adalah peringatan teoretis, maka perluasan kemampuan model sumber terbuka adalah ranjau yang terlihat di depan mata.

Dalam beberapa tahun terakhir, perusahaan Tiongkok memimpin di bidang model bobot terbuka: Kimi dari Moonshot AI, Qwen dari Alibaba, GLM dari Z.ai, semuanya memiliki basis pengguna yang besar di komunitas riset AS. Tanggapan AS adalah Nemotron dari Nvidia, yang mencoba membangun kembali daya saing sumber terbuka.

Namun analisis para ahli terhadap GLM 5.2 menunjukkan bahwa model generasi terbaru Z.ai telah memiliki kemampuan agen dan penulisan kode tingkat mutakhir. Model sumber terbuka generasi berikutnya mungkin akan setara dengan Fable atau Mythos.

Profesor Universitas Shanghai Jiao Tong, Lin Yun, yang telah lama meneliti persimpangan AI dan keamanan informasi, menunjukkan kepada Knight bahwa dalam jangka pendek, peretas memang memiliki keunggulan, tetapi metode pertahanan baru, termasuk aplikasi balasan AI itu sendiri, harusnya dapat membalikkan situasi dalam jangka menengah dan panjang. Masalah yang lebih inti terletak pada standar: "Jika pemahaman tentang risiko di berbagai negara serupa, akan lebih mudah untuk membangun prinsip keamanan dan standar teknis bersama," kata Yun. "Kuncinya adalah menemukan area bersama yang dapat mengurangi risiko sistemik tanpa mengekspos detail operasi yang sensitif."

Lin Yun juga mengajukan pertanyaan terbuka yang rumit: Bagaimana industri dapat memastikan bahwa model sumber terbuka terus diperbarui, tidak memiliki kerentanan pintu belakang, dan memenuhi standar keamanan? Pertanyaan ini saat ini belum terjawab.

Tiongkok juga diam-diam menutup pintu

Detail yang tidak boleh diabaikan datang dari sumber anonim yang diwawancarai oleh Will Knight: seorang orang dalam dari perusahaan AI terkemuka Tiongkok, yang meminta anonimitas karena tidak diizinkan berbicara kepada media. Ia mengungkapkan bahwa kekhawatiran keamanan adalah salah satu alasan mengapa beberapa model canggih tidak lagi bersumber terbuka.

Ini adalah sinyal yang patut dicermati. Perusahaan AI Tiongkok selama ini menggunakan sikap sumber terbuka untuk mendapatkan pengaruh global, tetapi jika pemain utama Tiongkok sendiri mulai membatasi beberapa model, maka batas antara sumber terbuka dan tertutup sedang didefinisikan ulang. Bagaimanapun juga, kontrol ekspor mengatur aliran daya komputasi, tetapi penyebaran kemampuan model bersifat lunak dan tanpa batas negara. Ketika komunitas sumber terbuka dapat mereproduksi 90% kemampuan model tertutup, dan ketika model terbuka itu sendiri dapat menjadi senjata siber, maka setiap kontrol sepihak hanyalah penundaan, bukan pencegahan.

AS dan Tiongkok adalah sumber utama model paling canggih saat ini, dan karenanya merupakan pihak yang paling bertanggung jawab dalam risiko ini. Casper berkata terus terang: "AI adalah teknologi global, ia membawa manfaat global, juga membawa kerugian global, dan kemampuan baru pada akhirnya akan menyebar ke seluruh dunia, itu adalah kecenderungannya yang konsisten." Tidak peduli berapa lama perebutan kontrol ekspor antara Beijing dan Washington berlangsung, logika ini tidak akan hilang.