CEO DeepMind berpendapat bahwa model AI mutakhir harus “ditinjau” oleh lembaga pengawas internasional sebelum model tersebut diluncurkan, dan harus lolos uji terlebih dahulu sebelum dipasarkan

Google DeepMind 執行長 Demis Hassabis 本週發表提案，主張仿照 Badan Pengawas Industri Keuangan Amerika (FINRA) 的模式，成立 sebuah lembaga pengawasan internasional yang dipimpin oleh para ahli independen, dengan mewajibkan model AI mutakhir menjalani pemeriksaan ketat hingga 30 hari sebelum dirilis.
（前情提要：如果你也怕 AI 會毀滅人類，必須讀這份報告《AI 2040：Plan A》）
（背景補充：安全派再少一人：OpenAI 首席未來學家離職，使命對齊團隊也已解散）

Daftar Isi

Toggle

• Sebuah sinyal peringatan, agar proposal segera dibawa ke meja
• Menyalin PR pekerjaan ala Wall Street: independen, dibiayai industri, bisa ditingkatkan
• Industri sudah mengangguk, yang sulit adalah pemerintah juga mengangguk

Eksekutif Google DeepMind minggu ini mempublikasikan sebuah pernyataan di Substack pribadinya berjudul《A Framework for Frontier AI and the Dawning of a New Age》, yang mengusulkan pembentukan lembaga pengawasan internasional yang berdiri di luar pemerintah dan perusahaan. Hassabis mengusulkan modelnya meniru Badan Pengawas Industri Keuangan Amerika (FINRA), untuk melakukan pemeriksaan pra-luncur bagi model AI paling mutakhir.

“Model frontier” yang dimaksudnya, secara sederhana, adalah sistem AI generasi terbaru dengan kemampuan komputasi paling kuat saat ini, namun batas risiko belum sepenuhnya dipahami. Menurut proposalnya, model frontier yang memenuhi ambang batas di masa depan—tidak peduli modelnya open source atau closed source, tidak peduli negara pengembang maupun negara penelitian—harus terlebih dahulu menjalani peninjauan, dengan durasi peninjauan paling lama 30 hari. Kursi mayoritas di dewan direksi akan disediakan untuk pakar teknis kelas penghargaan Turing.

CEO OpenAI Sam Altman menyebut gagasan itu “sangat matang”, sementara Musk juga mengatakan ini “titik awal yang baik untuk diskusi”. Dua pesaing yang biasanya saling tidak akur, kali ini untuk pertama kalinya berdiri di kubu yang sama.

Sebuah sinyal peringatan, agar proposal segera dibawa ke meja

Kerangka yang dirancang Hassabis sudah disiapkan selama berbulan-bulan. Namun, pemicu yang benar-benar membuatnya memutuskan untuk mengumumkan lebih cepat adalah model Mythos yang dirilis terbatas oleh Anthropic. Setelah model ini hadir pada bulan April tahun ini, model tersebut menunjukkan kemampuan pertahanan dan serangan keamanan siber yang jauh melampaui ekspektasi, sehingga menimbulkan kekhawatiran di industri dan lingkaran kebijakan tentang “era baru kejahatan siber yang digerakkan oleh AI”. Hassabis menyebutnya langsung sebagai sebuah “sinyal peringatan”, mengingatkan bahwa penundaan tidak lagi bisa menunggu lembaga pengawas perlahan mengikuti langkah. Ia juga menargetkan terbang langsung ke Washington minggu depan untuk membahas kerangka ini tatap muka dengan pembuat kebijakan AS—jelas bukan sekadar ingin mempublikasikan artikel lalu selesai.

Selain risiko keamanan siber saat ini, Hassabis saat diwawancarai juga menyinggung kekhawatiran lain yang lebih jangka panjang: risiko keamanan biologis. Secara sederhana, yakni kemampuan model AI untuk membantu merancang patogen, senjata biologis, dan hal lain yang dapat membahayakan kesehatan masyarakat. Ia mengakui, “Saat ini model masih belum kuat sampai tingkat itu, tetapi jika mengekstrapolasi perkembangan sekarang, dalam beberapa tahun mungkin akan muncul.”

Pada saat yang sama, sikap pemerintah AS terhadap peninjauan model baru juga membuat seluruh industri tegang. Baik Anthropic maupun OpenAI pernah menunda rilis skala besar produk terbaru di bawah tekanan pemerintahan Trump. Langkah itu membuat negara-negara lain yang bergantung pada teknologi AS jadi ketinggalan, sekaligus mendorong pembicaraan antara Uni Eropa dan pemerintah AS mengenai hak akses model. Di tengah momen pertemuan puncak G7 di Prancis, para CEO perusahaan AI juga langsung bertemu para pemimpin berbagai negara untuk membahas rencana tersebut.

Menyalin PR pekerjaan ala Wall Street: independen, dibiayai industri, bisa ditingkatkan

Acuan yang dipilih Hassabis adalah Badan Pengawas Industri Keuangan Amerika (FINRA). Secara sederhana, ini adalah lembaga swadaya yang dibiayai sendiri oleh sekuritas Wall Street, beroperasi secara independen, namun menerima pengawasan dari Komisi Sekuritas dan Bursa Amerika (SEC). Lembaga ini bertugas mengaudit apakah lembaga keuangan mematuhi aturan; ketika terjadi masalah, lembaga tersebut juga bisa menjatuhkan denda dan mencabut hak. Ia ingin memindahkan logika yang sama ke AI: dibiayai oleh industri, tetapi kekuasaan pengambilan keputusan diberikan kepada orang-orang yang tidak terikat pada perusahaan mana pun.

Dalam rancangan konkretnya, dewan lembaga baru ini akan didominasi oleh para ahli teknis independen. Anggotanya mencakup figur-figur kelas berat seperti pemenang penghargaan Turing. Selain itu, disediakan kursi untuk perwakilan industri, pemerintah, dan komunitas open source; seluruh dananya berasal dari laboratorium AI papan atas yang bersifat nirlaba. Pihak yang akan diperiksa adalah semua model yang memenuhi ambang frontier. Tidak peduli di mana kantor pusat perusahaan berada, maupun model tersebut open source atau closed source, semuanya diperlakukan setara. Peninjauan berlangsung paling lama 30 hari, dan ambang batas itu sendiri juga akan diperbarui secara berkala seiring kemampuan model berkembang.

Hassabis menekankan bahwa kekuatan mekanisme ini bisa dinaikkan sesuai tingkat keseriusan situasi. Dalam kondisi paling ekstrem, mekanisme itu bahkan bisa mengoordinasikan berbagai laboratorium besar untuk memperlambat laju riset bersama-sama. Jadwal yang ia bayangkan adalah agar lembaga ini paling cepat bisa mulai beroperasi sebelum akhir tahun ini.

Industri sudah mengangguk, yang sulit adalah pemerintah juga mengangguk

Sebelum dipublikasikan secara terbuka, Hassabis sudah diam-diam menunjukkan drafnya kepada hampir semua laboratorium AI utama. Di antaranya adalah “teman-teman” yang ia sebut, termasuk CEO Anthropic Dario Amodei.

Amodei baru saja menyarankan agar AS membentuk lembaga khusus yang mirip Otoritas Penerbangan Federal (FAA) untuk mengawasi AI. Altman juga pernah mengemukakan gagasan serupa tentang inisiatif pengawasan internasional. Saat diwawancarai oleh Bloomberg, Hassabis berkata, “Kami sudah banyak berdiskusi. Saya rasa ini sangat selaras dengan ide yang terus diajukan Dario dan Sam selama ini, hanya saja kami memerlukan rencana yang konkret, bukan sekadar konsep abstrak.”

Sebagai peraih Nobel dan telah mencurahkan waktu untuk riset AI lebih lama daripada kebanyakan rekan seindustri, Hassabis memang lebih sedikit menimbulkan musuh dibanding Musk atau Altman, serta lebih mudah membangun konsensus di dalam industri. Namun, seorang pemimpin industri AI yang tidak disebutkan namanya mengingatkan bahwa konsensus industri saja belum cukup; persoalan sesungguhnya ada pada politik. Hingga kini, Kongres AS belum meloloskan undang-undang federal AI yang bermakna. Sikap pemerintah Trump terhadap AI juga berayun di antara sikap permisif dan campur tangan. Jalur regulasi AS, Uni Eropa, dan China pun kerap berjalan sendiri-sendiri. Hassabis optimistis bahwa momentum saat ini mungkin cukup untuk mendorong hal ini benar-benar sampai garis finis, tetapi ia juga paham: “Yang perlu dilakukan selanjutnya adalah memastikan benar-benar terlaksana, bukan hanya mempublikasikan artikel blog.”