Kepala DeepMind mengusulkan agar model AI canggih diperiksa sebelum perilisan - ForkLog

# Kepala DeepMind mengusulkan agar model AI paling canggih diperiksa sebelum rilis

Kepala Google DeepMind, Demis Hassabis, mengusulkan pembentukan badan standar di AS untuk menguji model AI paling kuat sebelum dirilis. Menurut penilaiannya, kecerdasan umum buatan (AGI) dapat muncul “dalam beberapa tahun”, dan dampaknya akan setara dengan penemuan listrik atau api.

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) 14 Juli 2026

Dalam AGI, Hassabis memandang sistem yang memiliki seluruh kemampuan kognitif otak manusia. Menurutnya, teknologi seperti itu tidak bisa disamakan bahkan dengan internet atau koneksi seluler.

“Ketika kita menoleh ke masa waktu ini pada dekade-dekade yang akan datang, saya kira kita akan menyadari bahwa kita berdiri di kaki sing ularitas—tidak lain adalah awal era baru bagi umat manusia,” tulis Hassabis.

Kepala DeepMind itu berpendapat bahwa AGI akan mempercepat pengembangan obat, sumber energi bersih baru, dan material-material mutakhir. Pada saat yang sama, kemampuan AI berkembang lebih cepat daripada pemahaman terhadap risiko yang terkait, katanya.

Model-model canggih saat ini sudah menimbulkan ancaman dalam bidang keamanan siber. Seiring meningkatnya kemampuannya, risiko biologis, nuklir, dan risiko lain bisa ikut menguat. Hassabis juga memperingatkan munculnya sistem yang lebih otonom, yang mampu melakukan rangkaian tindakan kompleks serta melakukan penyempurnaan secara rekursif. Untuk mempertahankan kontrol atas sistem tersebut, diperlukan langkah-langkah perlindungan teknis tambahan.

Badan baru akan menetapkan model canggih yang lolos uji

Hassabis mengusulkan pembentukan Frontier AI Standards Body meniru FINRA. Struktur baru itu dapat beroperasi sebagai kemitraan pemerintah-swasta atau organisasi swakelola dengan pengawasan federal. Pendanaannya terutama harus berasal dari industri AI.

Dalam kepemimpinan, diusulkan untuk melibatkan pakar teknis independen serta perwakilan dari komunitas open-source. Badan ini akan menyusun protokol penilaian bersama dengan lembaga pemerintah federal dan laboratorium nasional AS.

Tes khusus harus menentukan apakah sebuah model masuk ke kelas canggih. Pengujian mencakup keamanan siber, ancaman biologis, dan bidang-bidang lain berisiko tinggi. Pemeriksaan terpisah akan mendeteksi upaya model untuk mengakali batasan perlindungan, menyesatkan pengguna, atau menyembunyikan tindakannya.

Pemeriksaan bisa dibuat wajib

Pada tahap pertama, perusahaan akan secara sukarela menyerahkan model-model canggih untuk diperiksa paling lambat 30 hari sebelum rilis.

Setelah sistem dinilai efektif, prosedurnya bisa ditetapkan secara legal. Dengan demikian, model AI canggih harus berhasil menjalani penilaian sebelum rilis di pasar AS. Hassabis juga mengusulkan pembentukan pasar untuk auditor independen dan penggunaan sistem AS sebagai dasar standar internasional di masa depan.

Pada Juni, Presiden AS Donald Trump menandatangani perintah eksekutif tentang pemeriksaan sukarela kemampuan siber model AI canggih. Perusahaan dapat memberi otoritas akses selama hingga 30 hari sebelum menyerahkannya ke mitra eksternal tepercaya. Dokumen tersebut secara tegas melarang mekanisme ini dipahami sebagai perizinan wajib atau memperoleh persetujuan awal untuk peluncuran model.

Dalam esainya sendiri, Hassabis mengakui bahwa perkembangan lebih lanjut teknologi masih belum pasti dan bahkan para spesialis berbeda pendapat.

Sebelumnya media melaporkan bahwa administrasi Trump meminta OpenAI agar tidak merilis GPT-5.6 secara langsung untuk akses luas karena kekhawatiran terkait keamanan. Perusahaan milik Sam Altman mula-mula memberikan model itu kepada sejumlah klien terbatas.

Pada Juli, Sekretaris Jenderal PBB António Guterres menyerukan agar aturan umum diterapkan untuk sistem AI canggih, melindungi anak dari risiko chatbot, melarang sistem senjata otonom mematikan, serta memperluas akses negara berkembang terhadap sumber daya komputasi.

Sebagai pengingat, pada Juli peserta longmarch di San Francisco menuntut OpenAI, Anthropic, dan Google DeepMind untuk menghentikan pelatihan model yang lebih kuat secara terkoordinasi. Sumber daya yang terbebas, mereka usulkan untuk diarahkan pada keselamatan.

Pada bulan yang sama, mantan peneliti OpenAI Daniel Kokotajlo mengusulkan agar perlombaan AI diperlambat hingga tahun 2040.