CEO Anthropic: Pemerintah harus memiliki hak untuk veto AI berisiko tinggi, pengujian wajib sebelum peluncuran, tiga klaim utama bertentangan dengan kebijakan pelonggaran Trump

Anthropic CEO Dario Amodei mengeluarkan pernyataan panjang, menyerukan pemerintah untuk membuat undang-undang yang mewajibkan pengujian pihak ketiga terhadap model AI yang kuat, dan membandingkan AI dengan penerbangan komersial yang harus diatur oleh FAA. Tiga usulan utama mencakup ambang batas deployment, keamanan jaringan, dan penggantian tenaga kerja.
（Latar belakang: Claude 80% kode ditulis sendiri, Anthropic serukan "mekanisme rem desain global" benar-benar akan dilakukan?）
（Konteks tambahan: CEO Anthropic Dario Amodei: Dalam 6-12 bulan, model AI open-source China akan mengejar Mythos）

Daftar isi artikel

Toggle

• Tiga usulan utama: ambang batas, senjata, penggantian
• Mengapa sekarang, logika dan batasan analogi FAA
• Konfrontasi dengan pola pelonggaran Trump

Baru sehari setelah merilis model umum terkuat mereka, keesokan harinya mereka berbalik mengatakan AI terlalu berbahaya dan pemerintah harus membuat undang-undang pengaturan. Ini adalah sinyal yang diberikan CEO Anthropic Dario Amodei kepada komunitas kebijakan teknologi global hari ini (11). Dalam artikel panjang 〈Policy on the AI Exponential〉, Amodei secara terbuka menyerukan intervensi pemerintah sebagai kepala perusahaan, untuk menetapkan regulasi yang memiliki kekuatan hukum terhadap peluncuran “model AI terdepan”.

Dia menggunakan analogi penerbangan komersial: pesawat harus melewati pemeriksaan keselamatan FAA (Administrasi Penerbangan Federal AS), begitu juga model AI. Amodei mengatakan di X:

「Anthropic telah lama mendukung persyaratan transparansi untuk AI terdepan, karena risiko-risiko sebelumnya belum cukup jelas untuk diatur secara tepat. Tapi itu sudah tidak cukup lagi.」

Anthropic has long advocated for transparency requirements for frontier AI, because the risks weren't yet clear enough to regulate precisely. That is no longer sufficient.

— Dario Amodei (@DarioAmodei) 10 Juni 2026

Tiga usulan utama: ambang batas, senjata, penggantian

Kerangka kerja AI tingkat lanjut mengusulkan poin utama pertama: menetapkan ambang batas pengujian pihak ketiga yang wajib dipenuhi: pelatihan dengan kekuatan komputasi lebih dari 10^25 FLOPs (jumlah operasi floating point, secara sederhana adalah jumlah komputasi yang digunakan untuk melatih model), atau perusahaan dengan pendapatan AI tahunan lebih dari 500 juta dolar, dan pengeluaran R&D AI lebih dari 1 miliar dolar, harus melalui audit independen sebelum peluncuran.

Pengujian difokuskan pada empat bidang risiko: keamanan jaringan, senjata biologis, kehilangan kendali sistem AI, dan otomatisasi pengembangan yang dapat mempercepat risiko tersebut. Kata Amodei: “Model AI terdepan seperti pesawat, harus diminta melewati pengujian teknis dan audit; jika tidak memenuhi standar keamanan tinggi, peluncurannya harus dianggap sebagai ancaman keselamatan publik dan diblokir atau ditarik kembali.” Pemerintah dalam kerangka ini akan diberikan kekuasaan hukum untuk memblokir, menunda, atau menolak deployment.

Poin kedua menempatkan AI sebagai masalah infrastruktur keamanan jaringan yang penting. Amodei langsung mengutip model Claude Mythos Preview dari Anthropic sendiri sebagai contoh, yang sudah mampu menemukan celah serius di sistem operasi utama, menandakan kemampuan serangan dan pertahanan yang meningkat secara bersamaan. Kerangka ini menuntut pengembang terdepan melindungi “berat model” (secara sederhana, parameter inti yang disimpan setelah pelatihan, yang jika dicuri sama saja menyalin seluruh model), dan membangun saluran pelaporan resmi untuk “serangan distilasi model”.

Poin ketiga adalah yang paling sensitif secara politik: pengakuan langsung terhadap penggantian struktural tenaga kerja. Kerangka ekonomi secara eksplisit menyatakan bahwa jika AI mencapai tingkat kemampuan prediksi tertentu, maka AI akan menjadi “pengganti tenaga kerja secara menyeluruh”, bukan sekadar alat bantu produktivitas. Kerangka ini mensimulasikan skenario pengangguran 5%, 10%, bahkan lebih ekstrem, dan mengusulkan mekanisme seperti asuransi gaji, pendapatan dasar universal (UBI), dan model kekayaan berdaulat.

Untuk mendukung usulan ini, Anthropic mengumumkan investasi sebesar 350 juta dolar: 200 juta dolar untuk “Dana Riset Masa Depan Ekonomi”, yang akan digunakan untuk uji coba kebijakan publik; dan 150 juta dolar untuk program beasiswa nasional. Amodei menutup dengan: “Tantangan utama bukanlah mendorong pertumbuhan, melainkan menemukan cara agar setiap orang dapat berbagi manfaatnya.”

Mengapa sekarang, logika dan batasan analogi FAA

Peluncuran kerangka ini di saat ini didasarkan pada dua latar belakang utama.

Latar pertama adalah ritme teknologi. Argumen Amodei adalah: sebelumnya, karena risiko-risiko belum cukup jelas, waktu yang tepat untuk regulasi tidak tiba; sekarang, Claude Mythos Preview sudah mampu secara aktif menemukan celah sistem, artinya alasan “tidak cukup jelas” tidak lagi berlaku. Mereka menggunakan tingkat bahaya model mereka sebagai dasar legislasi, dan logika ini cukup meyakinkan, tetapi juga berarti bahwa semakin kuat model yang dirilis, semakin mendesak kebutuhan regulasi.

Latar kedua adalah batasan analogi FAA. Regulasi penerbangan komersial jelas: pesawat yang rusak memiliki rantai sebab-akibat fisik yang pasti, standar pengujian dapat diukur, dan tanggung jawab kecelakaan dapat ditetapkan. Bahaya model AI saat ini sangat bergantung pada penilaian evaluator, definisi “terdepan” yang bergeser setiap beberapa bulan, dan kepercayaan serta independensi lembaga pengujian pihak ketiga yang belum terbentuk. Analogi FAA memang menarik, tetapi menerapkan kerangka pengawasan industri matang ke bidang teknologi yang terus bergerak dan tidak pasti ini memiliki tantangan tersendiri.

Amodei juga mengakui bahwa kerangka ini adalah titik awal, bukan akhir.

Konfrontasi dengan pola pelonggaran Trump

Saat ini, kebijakan AS cenderung melonggarkan regulasi: pemerintahan Trump mendukung pertumbuhan AI “secara liar”, untuk mengalahkan China melalui kompetisi terbuka, bahkan secara aktif menurunkan hambatan regulasi di tingkat negara bagian.

Amodei menyerukan penguatan pengaturan, yang berlawanan arah. Di akhir artikel, dia berusaha mencari bahasa lintas partai: “Ide-ide kebijakan ini memiliki daya tarik bipartisan secara umum, dan semakin cepat kita bertindak, semakin cepat semua orang dapat berbagi manfaat AI.” Tapi apakah “daya tarik umum” ini bisa berubah menjadi kekuatan legislatif, dalam ekosistem politik Washington saat ini, masih menjadi pertanyaan yang harus diamati.