Apa yang terjadi di Gedung Putih 24 jam sebelum Fable5 dipaksa offline?

Judul asli: Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic

Penulis asli: Sophia Cai dan Cheyenne Haslett, Politico

Terjemahan oleh: Peggy

Catatan editor: Anthropic baru saja merilis model Fable 5 beberapa hari yang lalu, tiba-tiba harus diturunkan dari layanan. Penyebabnya adalah pemerintah Trump yang menganggapnya sebagai ancaman keamanan nasional, meminta pembatasan akses warga asing ke dua model AI canggih milik Anthropic, Fable 5 dan Mythos 5; karena sulit membedakan identitas pengguna dan hak akses secara tepat, Anthropic akhirnya memutuskan menonaktifkan model terkait untuk semua pelanggan.

Di balik penarikan mendadak ini, terjadi sebuah permainan tekanan tinggi antara Gedung Putih dan Anthropic dalam waktu 24 jam. Seputar apakah pengamanan Fable 5 bisa dilompati, CEO Anthropic Dario Amodei melakukan beberapa panggilan tegang dengan pejabat tinggi pemerintah termasuk Menteri Keuangan Scott Bessent, Kepala Keamanan Siber Gedung Putih Sean Cairncross, dan pejabat lain dari Departemen Perdagangan dan Kantor Keamanan Siber Gedung Putih. Pemerintah berpendapat model tersebut berpotensi digunakan untuk mengidentifikasi celah perangkat lunak, yang menimbulkan risiko keamanan nasional; sementara Anthropic menegaskan bahwa masalah tersebut bukanlah "jailbreak umum", dan mengkritik tindakan pemerintah yang kurang transparan, tidak jelas, serta tidak didasarkan pada fakta teknis yang sah.

Inti dari kejadian ini bukan sekadar model yang diturunkan, bukan pula komunikasi yang gagal antara Gedung Putih dan sebuah perusahaan AI, melainkan AI canggih sedang didefinisikan ulang sebagai aset potensial keamanan nasional. Ketika kemampuan model masuk ke bidang keamanan siber, eksplorasi celah, analisis intelijen dan skenario sensitif lainnya, pemerintah tidak lagi puas dengan penilaian dan pengawasan sukarela dari perusahaan, melainkan mulai menggunakan alat kebijakan yang lebih keras seperti pengendalian ekspor, langsung mengintervensi ritme peluncuran model.

Lebih ironis lagi, Anthropic selama ini dikenal sebagai salah satu perusahaan yang paling aktif mendorong regulasi di industri AI, namun kini justru menjadi sasaran kekuatan regulasi tersebut. Pemerintah menganggap respons mereka terhadap celah keamanan tidak cukup serius, sementara Anthropic menilai Gedung Putih bereaksi berlebihan. Di balik perdebatan ini, muncul pertanyaan baru yang harus dihadapi industri AI ke depan: siapa yang berhak menilai apakah sebuah model cukup aman? Apakah perusahaan mampu membuktikan keamanan secara mandiri? Bagaimana intervensi cepat atas nama keamanan nasional akan mengubah biaya kepatuhan, ritme peluncuran, dan posisi kompetitif global perusahaan AI?

Peristiwa Anthropic ini bisa menjadi titik balik dalam pengawasan AI canggih. Ke depan, peluncuran model-model terdepan tidak lagi sekadar peluncuran produk, melainkan sebuah operasi berisiko tinggi yang melibatkan keamanan nasional, geopolitik, pasar modal, dan tatanan industri.

Berikut adalah teks asli:

Sebelum pemerintah Trump memberlakukan pengendalian ekspor secara menyeluruh terhadap Anthropic, pejabat tinggi Gedung Putih pernah melakukan mediasi darurat selama 24 jam, berusaha meyakinkan perusahaan AI ini untuk secara sukarela menurunkan model baru yang baru saja dirilis. Beberapa pejabat pemerintah berpendapat model tersebut berpotensi menimbulkan risiko keamanan nasional.

Menurut dua pejabat pemerintah dan satu pejabat senior Gedung Putih yang tidak disebutkan namanya, dalam gelombang ketegangan ini, CEO Anthropic Dario Amodei melakukan beberapa panggilan telepon dengan pejabat tinggi pemerintah yang penuh ketegangan, termasuk Menteri Keuangan AS Scott Bessent dan Kepala Keamanan Siber Gedung Putih Sean Cairncross. Karena diskusi ini tidak diizinkan untuk dipublikasikan, semua pihak meminta anonimitas.

Peristiwa ini juga menyoroti sebuah masalah yang semakin mendesak: dalam menghadapi model AI canggih yang berkembang pesat dan kemampuan yang terus meluas, bagaimana seharusnya Gedung Putih membatasi inovasi dan keamanan secara bersamaan?

Rincian panggilan ini sebelumnya belum pernah dilaporkan.

Malam sebelum model diturunkan: Kontroversi keamanan

Setelah pemerintah memberlakukan pengendalian ekspor, Anthropic terpaksa menurunkan model barunya, Fable. Model ini dirilis ke publik hanya beberapa hari sebelumnya. Anthropic sebelumnya menjamin bahwa model tersebut aman dan terkendali, tetapi tak lama setelah peluncuran, pejabat pemerintah mulai meninjau kembali apakah pengamanan model tersebut benar-benar sekuat yang diklaim perusahaan.

Dua pejabat pemerintah dan satu pejabat senior Gedung Putih menyatakan bahwa hari Kamis, dua hari setelah peluncuran Fable, CEO Amazon Andy Jassy menyampaikan kekhawatiran kepada Gedung Putih, menyatakan bahwa pengamanan model tersebut berpotensi dilompati.

Seorang sumber yang mengetahui komunikasi Amazon menyebutkan bahwa mereka merespons permintaan pemerintah dengan memberikan umpan balik terkait risiko yang mungkin terjadi.

Hingga Jumat pagi, masalah ini sudah mencapai tingkat tertinggi di Gedung Putih.

Menurut pejabat pemerintah dan pejabat senior Gedung Putih, Bessent, Cairncross, Kepala Staf Gedung Putih Susie Wiles, dan pejabat tinggi lainnya mengadakan rapat untuk membahas model tersebut dan langkah yang harus diambil. Salah satu sumber mengatakan bahwa Bessent saat itu sedang dalam perjalanan ke Houston untuk menghadiri acara resmi, sehingga mengikuti rapat secara jarak jauh.

Setelah rapat, pemerintah berusaha menghubungi Amodei, tetapi diberitahu bahwa dia sedang mengikuti kegiatan kesehatan dan tidak bisa dihubungi. Seorang pejabat pemerintah dan pejabat senior Gedung Putih menyatakan hal ini.

Juru bicara Anthropic membantahnya, menyatakan: "Ini sama sekali tidak benar."

Seseorang yang dekat dengan Anthropic menyatakan bahwa sekitar tengah hari, pemerintah pertama kali meminta untuk menghubungi Amodei, dan dalam waktu 1 jam 15 menit, Amodei sudah melakukan tiga panggilan telepon dengan pejabat tinggi. Ia juga menyebutkan bahwa selama Amodei tidak bisa dihubungi, Anthropic menawarkan agar komunikasi dilakukan oleh eksekutif lain.

Setelah berhasil menghubungi Amodei, dia mengikuti tiga panggilan lagi. Pejabat tinggi Gedung Putih dan pejabat pemerintah menyebutkan bahwa sekitar setengah lusin pejabat tinggi terlibat, termasuk Cairncross, Bessent, dan Menteri Perdagangan Howard Lutnick.

Pejabat senior Gedung Putih menyatakan bahwa pejabat lain dari Gedung Putih dan pemerintah juga ikut dalam beberapa panggilan, termasuk Wakil Menteri Perindustrian dan Keamanan Jeffrey Kessler, Sekretaris Gedung Putih Will Scharf, Wakil Kepala Staf Gedung Putih Richard Walters, dan Asisten Kebijakan Presiden Walker Barrett.

Dalam panggilan tersebut, Amodei berusaha menjernihkan kesalahpahaman yang ada. Ia membantah kekhawatiran pemerintah tentang keamanan, membela mekanisme perlindungan Anthropic, dan menegaskan bahwa cara-cara yang dilaporkan untuk melewati pengamanan tersebut hanya berlaku dalam skenario tertentu, dan tidak sama dengan "jailbreak" secara umum—yaitu, membuat model lepas dari batasan pengamanan yang diterapkan Anthropic.

Dalam sebuah blog pasca pengendalian ekspor, Anthropic menyatakan: "Saat ini, belum ada penguji yang mampu menemukan metode jailbreak umum—yaitu, cara untuk secara luas melewati langkah-langkah keamanan model dan membuka kemampuan jaringan secara besar-besaran." Perusahaan juga menyatakan bahwa menutup semua upaya jailbreak secara total saat ini tidak realistis bagi Anthropic maupun perusahaan AI lain.

Anthropic juga membela sistem keamanannya, menyebutkan bahwa mekanisme perlindungannya "sangat kuat sehingga banyak pengguna mengeluh bahwa mereka terlalu luas."

Namun Cairncross dan Bessent tidak terpuaskan oleh penjelasan Amodei. Seorang pejabat Gedung Putih menyatakan bahwa temuan Amazon telah diserahkan ke NSA untuk ditinjau, dan pihak tersebut menganggap bahan tersebut cukup sebagai "bukti".

Menurut pejabat senior Gedung Putih dan dua pejabat pemerintah, pemerintah mendesak Anthropic untuk secara sukarela menurunkan model dan berkoordinasi memperbaiki celah tersebut. Amodei meminta lebih banyak waktu dan informasi, tetapi tidak berjanji untuk menurunkan model. Pejabat senior Gedung Putih menyatakan bahwa dalam salah satu panggilan, Bessent secara langsung memberi tahu Amodei bahwa dia sedang membuat "keputusan yang buruk."

Kekuatan regulasi: Fable 5 dan Mythos 5 terkena pembatasan

Tak lama setelah panggilan tersebut, pemerintah Trump memberlakukan pengendalian ekspor terhadap model Fable 5 dan Mythos 5. Anthropic menyatakan bahwa pemerintah mengutip alasan keamanan nasional, melarang warga asing menggunakan model tersebut. Perusahaan menyebut bahwa perintah tersebut secara "praktis" memaksa mereka untuk "menonaktifkan secara mendadak" akses semua pelanggan ke model terkait demi memastikan kepatuhan.

Seorang pejabat senior Gedung Putih menyatakan: "Kami memohon mereka bekerja sama selama beberapa jam, pengendalian ekspor adalah langkah terakhir. Ini bukan yang kami inginkan, tapi kami tidak punya pilihan."

Setelah laporan ini dirilis, seorang sumber dekat Anthropic membantah bahwa perusahaan diberi pilihan "sukarela" untuk bekerja sama.

Sumber tersebut menyatakan: "Gedung Putih hanya memberi waktu 90 menit untuk menurunkan model, tanpa rincian tentang ancaman nyata. Tidak ada permintaan, tidak ada permohonan kerja sama, hanya tenggat waktu 90 menit yang diumumkan."

Seorang pejabat senior Gedung Putih menyatakan bahwa pejabat mereka pernah mendengar Amodei membandingkan bahaya teknologi Anthropic dengan bom nuklir. Oleh karena itu, ketika CEO yang selalu mendukung regulasi keamanan AI ini menyatakan enggan menurunkan sistem untuk memperbaiki celah keamanan yang diketahui, pejabat pemerintah merasa sulit memahaminya.

Anthropic selama ini dikenal sebagai salah satu perusahaan yang paling aktif mendorong regulasi di industri AI. Mereka berkali-kali menyatakan bahwa regulasi harus diatur untuk mengatasi risiko keamanan global dan dampak pekerjaan yang cepat berkembang.

Tiga orang yang mengetahui pandangan pemerintah menyatakan bahwa Amazon bukan satu-satunya perusahaan yang menyampaikan kekhawatiran kepada pemerintah.

Seorang mengatakan: "Inti masalahnya adalah, Anthropic tidak cukup serius terhadap hal ini. Jika mereka sungguh-sungguh dan tidak menganggapnya sebagai kejadian terisolasi, serta secara aktif memperbaiki atau menangguhkan akses, masalah ini tidak akan berkembang sejauh ini."

Orang lain yang dekat dengan Anthropic membantah bahwa "jailbreak" berarti sistem keamanan Fable 5 gagal, dan menyebutkan bahwa perusahaan telah berkomunikasi dengan pemerintah sebelum peluncuran Fable. Mereka menyatakan bahwa selama beberapa kali komunikasi, pemerintah tidak menentang peluncuran Fable.

Setelah pengendalian ekspor diberlakukan, Anthropic menyatakan akan mematuhi perintah pemerintah, tetapi juga menganggap langkah tersebut berlebihan.

Anthropic menyatakan: "Seperti yang telah kami sampaikan sebelumnya, kami percaya pemerintah berhak menghentikan peluncuran yang tidak aman, tetapi harus melalui prosedur hukum yang transparan, adil, dan didasarkan pada fakta teknis. Tindakan ini tidak memenuhi prinsip-prinsip tersebut."

Seorang pejabat Gedung Putih yang diberi izin anonim menyatakan bahwa inovasi tetap menjadi prioritas utama Gedung Putih, tetapi keselamatan juga harus diprioritaskan.

Dalam sebuah pernyataan, Amazon menolak mengungkapkan rincian komunikasi mereka dengan pemerintah. Seorang juru bicara Amazon menyatakan: "Pemerintah sering meminta pendapat kami terkait risiko keamanan potensial. Saat hal ini terjadi, kami tidak akan mengungkapkan rincian diskusi tersebut."

Pada awal April tahun ini, Anthropic mengumumkan bahwa model terkuat mereka, Mythos, hanya akan dibuka untuk beberapa perusahaan teknologi dan perusahaan keamanan siber tertentu, untuk membantu pengujian celah perangkat lunak. Mereka menyatakan bahwa karena kemampuan model terlalu kuat, jika jatuh ke tangan pengguna yang tidak bertanggung jawab, dapat menimbulkan konsekuensi serius, sehingga perlu dibatasi.

Peluncuran Mythos memicu serangkaian pertemuan antara Amodei dan pejabat senior Gedung Putih. Kedua belah pihak menyebut pertemuan tersebut produktif. Setelah itu, mereka melakukan diskusi berulang tentang regulasi model AI canggih, dan akhirnya menyusun sebuah perintah eksekutif: perusahaan harus secara sukarela menyerahkan model untuk ditinjau pemerintah sebelum digunakan secara luas.

Model Fable 5 yang dirilis minggu ini oleh Anthropic digambarkan sebagai "model setara Mythos", tetapi dilengkapi langkah-langkah keamanan tambahan agar dapat diakses pengguna umum. Model ini pernah diperiksa oleh pemerintah AS dan lembaga riset keamanan AI Inggris.

Namun, setelah ditemukan adanya "cacat keamanan" yang disebutkan, beberapa pejabat pemerintah berpendapat bahwa model tersebut harus segera ditarik dari layanan.

Sabtu pagi, mantan Kepala AI Gedung Putih, David Sacks, yang dikenal keras menentang regulasi, memposting di X mendukung langkah pemerintah memberlakukan pengendalian ekspor terhadap Anthropic.

Sacks menyatakan bahwa dia tidak menganggap "jailbreak" ini sepele atau tidak penting, dan tidak percaya bahwa pengendalian ekspor adalah upaya pemerintah untuk mengendalikan industri AI secara lebih luas. Dia menulis: "Pemerintah sekarang ingin Anthropic memperbaiki masalah keamanan, lalu mencabut pengendalian ekspor, dan mengembalikan Fable ke status publik. Mereka ingin semuanya cepat terjadi. Sejujurnya, yang membingungkan adalah, sebelumnya Anthropic selalu menyatakan bahwa keamanan adalah prioritas utama mereka, tetapi sekarang mereka tidak mau bekerja sama."

Sacks dan pejabat lain di pemerintahan sebelumnya beberapa kali mengkritik Anthropic, menuduh perusahaan memiliki bias politik sayap kiri, dan karena mendorong regulasi industri yang lebih ketat serta memperingatkan dampak besar terhadap pekerjaan, mereka menuduh perusahaan ini menimbulkan kepanikan.

Awal tahun ini, Menteri Pertahanan Pete Hegseth dan Pentagon meningkatkan ketegangan dengan Anthropic ke tingkat yang belum pernah terjadi sebelumnya. Pada 3 Maret, karena Anthropic menolak memperbolehkan penggunaan AI mereka untuk pengawasan domestik massal dan sistem senjata otonom, Pentagon memasukkan perusahaan ini ke dalam daftar risiko rantai pasokan.

Sabtu, Sacks menyatakan bahwa perselisihan antara pemerintah dan Anthropic sebelumnya tidak terkait langsung dengan keputusan pengendalian ekspor ini. Dia menulis: "Pemerintah menghargai kemampuan teknologi Anthropic dan menganggap masalah ini serius, tetapi seharusnya mudah diselesaikan. Sekarang, giliran mereka."