Sebuah perintah larangan, tiga panggilan telepon, sebuah narasi yang tak terkendali: 24 jam tergelap Anthropic

Pada 13 Juni, dua model terdepan dari Anthropic dihentikan oleh pemerintah AS.

Salah satunya adalah Fable 5, dan yang lainnya Mythos 5. Yang pertama baru saja dirilis secara publik, sedangkan yang kedua ditujukan untuk klien keamanan siber yang lebih terbatas. Larangan tersebut berasal dari Departemen Perdagangan AS, mencakup klien di luar Amerika Serikat, serta warga negara asing di dalam negeri. Pilihan terakhir Anthropic sangat sederhana, yaitu menonaktifkan semuanya.

Setelah meninjau semua detail tentang kejadian ini, kami menyusun garis waktu selama 24 jam tersebut.

Pada Kamis, 11 Juni, dua hari setelah peluncuran Fable 5 secara publik, CEO Amazon Andy Jassy mengajukan risiko kepada Gedung Putih. Ia khawatir bahwa pagar keamanan Fable 5 dapat dilanggar. Peneliti Amazon dikatakan telah menggunakan serangkaian petunjuk agar Fable 5 memberikan informasi yang seharusnya dibatasi, yang bisa digunakan untuk serangan siber.

Pada pagi hari, 12 Juni, masalah ini sudah masuk ke pertemuan tingkat tertinggi Gedung Putih. Menteri Keuangan Scott Bessent, Kepala Keamanan Siber Gedung Putih Sean Cairncross, Kepala Staf Gedung Putih Susie Wiles, dan pejabat tinggi lainnya mengikuti diskusi tersebut. Bessent saat itu sedang dalam perjalanan ke Houston dan mengakses pertemuan secara jarak jauh.

Kemudian terjadi tiga panggilan telepon.

Ketika CEO Anthropic Dario Amodei masuk ke panggilan, sekitar setengah lusin pejabat tinggi sudah duduk di seberang. Selain Bessent dan Cairncross, ada Menteri Perdagangan Howard Lutnick. Peserta lain termasuk Wakil Menteri Perdagangan Jeffrey Kessler yang bertanggung jawab atas industri dan keamanan, Sekretaris Staf Gedung Putih Will Scharf, Wakil Kepala Staf Gedung Putih Richard Walters, dan Asisten Kebijakan Presiden Walker Barrett.

Amodei berusaha menjelaskan kejadian ini sebagai sebuah kesalahpahaman. Ia berpendapat bahwa yang ditemukan Amazon adalah metode bypass tertentu, bukan petunjuk umum yang dapat secara luas membobol pagar keamanan model. Anthropic juga secara terbuka menyatakan bahwa penguji mereka belum menemukan cara untuk melewati sistem keamanan model secara massal.

Namun, Gedung Putih tidak terpengaruh.

Penemuan CEO Amazon dikirim ke Badan Keamanan Nasional untuk dievaluasi, dan pihak Gedung Putih merasa telah mendapatkan cukup bukti. Pemerintah meminta Anthropic secara sukarela menonaktifkan model dan bekerja sama dengan pemerintah untuk memperbaiki celah tersebut. Amodei menginginkan lebih banyak waktu dan informasi, tetapi tidak berjanji untuk menarik model tersebut. Bessent secara langsung mengatakan dalam panggilan bahwa dia telah membuat "keputusan yang salah."

Setelah itu, pengendalian ekspor diberlakukan.

Di sisi Anthropic, mereka menyajikan narasi lain. Mereka mengatakan bahwa Gedung Putih hanya memberi waktu 90 menit untuk menonaktifkan model, tanpa menjelaskan detail ancaman nyata. Sedangkan Gedung Putih menyatakan bahwa pengendalian ekspor adalah langkah terakhir setelah upaya selama beberapa jam untuk meminta kerjasama tanpa hasil.

Salah satu poin kunci lain dari kejadian ini adalah posisi Amazon dalam masalah ini sangat rumit.

Pada akhir 2024, Amazon menambah investasi sebesar 4 miliar dolar AS ke Anthropic, menjadikan total investasi mencapai 8 miliar dolar AS. Pada saat yang sama, Anthropic menjadikan AWS sebagai mitra utama pelatihan, dan model-model di masa depan akan menggunakan chip AWS. Claude juga tetap menjadi salah satu model terpenting di Amazon Bedrock.

Aliansi antara Microsoft dan OpenAI sudah terbuka, dan Amazon menaruh taruhan besar pada Anthropic, yang sebenarnya merupakan cara untuk menghindar.

Microsoft memiliki OpenAI. Google memiliki Gemini, dan juga berinvestasi di Anthropic. Amazon tidak memiliki model canggih yang dikembangkan sendiri, sehingga hanya bisa mengandalkan kekuatan komputasi AWS, chip Trainium, dan platform Bedrock yang terhubung ke perusahaan model eksternal.

Namun, satu setengah tahun kemudian, Amazon dan OpenAI juga terhubung.

Tahun ini, Amazon pernah mengadakan pembicaraan untuk berinvestasi hingga 50 miliar dolar AS di OpenAI. Saat itu, OpenAI mencari pendanaan baru hingga 100 miliar dolar AS, dan kemungkinan transaksi termasuk pengadaan chip AI dari Amazon. Axios juga menyebutkan bahwa pendapatan tahunan OpenAI pada 2025 diperkirakan melebihi 20 miliar dolar AS, tetapi komitmen pengeluarannya mencapai 1,4 triliun dolar AS.

Amazon membutuhkan perusahaan model canggih untuk menghabiskan kekuatan komputasi AWS, menguji chip buatan sendiri, mengisi pusat data, dan juga menempatkan model-model terkuat mereka di platform cloud perusahaan sendiri. Ini sudah bukan lagi sekadar investasi finansial.

Oleh karena itu, mereka berinvestasi di Anthropic sekaligus mendekati OpenAI. Mereka menjadi sponsor model dan juga pemasok model. Mereka membantu menjual model dan juga menjelaskan kepada pemerintah seberapa berbahayanya model-model ini.

Dari hasilnya, Amazon awalnya berdiri berseberangan dengan Anthropic. Dalam pandangan Anthropic, mitra yang memberi uang, cloud, chip, dan saluran distribusi, memberi sinyal keamanan yang cukup untuk memicu larangan dari pemerintah. Tentu saja, pernyataan resmi Amazon adalah, "Gedung Putih menanyakan saya, saya hanya menjawab pertanyaan mereka."

Dalam dua tahun terakhir, perusahaan AI suka membungkus diri mereka sebagai aset nasional. Semakin kuat kemampuan mereka, semakin tinggi valuasinya, semakin mudah mereka mendapatkan pendanaan, dan semakin besar daya tarik pengadaan pemerintah. Anthropic sangat mahir dalam narasi ini. Mereka menggunakan bahasa keamanan yang lebih hati-hati untuk membedakan diri dari OpenAI, dan menggunakan istilah "risiko terdepan" untuk membuktikan kepada regulator bahwa mereka harus diperlakukan secara serius.

Sekarang, pemerintah AS benar-benar menganggap model sebagai aset keamanan nasional.

Kebingungan pejabat Gedung Putih juga berasal dari sini. Politico melaporkan bahwa mereka mendengar Amodei membandingkan bahaya teknologi Anthropic dengan bom nuklir. Ketika dia menolak menonaktifkan model karena adanya celah keamanan yang diketahui, pejabat pemerintah tidak menganggap ini sebagai perbedaan teknologi, melainkan masalah sikap.

Ini bukan kali pertama terjadi konflik. Pada 3 Maret, Pentagon pernah memasukkan Anthropic ke dalam daftar risiko rantai pasokan, karena Anthropic menolak menggunakan AI mereka untuk pengawasan domestik skala besar dan senjata otonom.

Anthropic dan pihak resmi AS sebelumnya sudah memiliki ketegangan.

Dan kali ini, Anthropic menyatakan bahwa instruksi pemerintah tidak menjelaskan kekhawatiran keamanan nasional secara spesifik, dan mengkritik bahwa tindakan ini kurang transparan, tidak jelas, dan tidak berdasarkan proses hukum yang berbasis fakta teknologi. Mereka berpendapat bahwa masalah ini lebih mirip metode bypass yang sempit, yang tidak cukup untuk mendukung larangan yang begitu luas.

Namun dari sudut pandang pemerintah, keamanan model tidak lagi sebatas dokumen putih perusahaan, pengujian red team internal, atau sistem yang dirilis sendiri. Siapa yang bisa mengakses model, siapa yang bisa melatih model, apakah karyawan asing boleh melihat bobot model, semuanya masuk dalam bahasa pengendalian ekspor.

Ketika Anthropic mengumumkan pada April bahwa Mythos hanya terbuka untuk perusahaan teknologi dan keamanan siber terbatas, mereka sudah melakukan beberapa pertemuan dengan Gedung Putih. Sebelum peluncuran Fable 5, model tersebut juga telah melalui peninjauan oleh pemerintah AS dan lembaga keamanan AI Inggris. Pihak Anthropic berpendapat bahwa pemerintah tidak mengajukan keberatan sebelum model dirilis.

Ini membuat konflik menjadi semakin tidak sedap dipandang.

Sebelum peluncuran model, adalah kerjasama keamanan. Setelah peluncuran, menjadi urusan keamanan nasional.

OpenAI menyaksikan kejadian ini dari samping.

Karena Anthropic dipaksa menonaktifkan model terkuatnya, posisi relatif OpenAI menjadi lebih nyaman. Semakin banyak masalah regulasi yang menjerat Anthropic, semakin mudah bagi OpenAI untuk menjadi opsi "yang bisa diajak kerjasama." Jika Amazon benar-benar terus mendekati OpenAI, mereka juga akan memiliki lapisan perlindungan tambahan.

Tentu saja, tidak ada bukti terbuka bahwa Amazon melakukannya untuk membantu OpenAI melawan Anthropic.

Fakta yang lebih tajam adalah, saat model canggih memasuki siklus pengeluaran kapital bernilai triliunan dolar, hubungan kemitraan sudah tidak lagi bersih. Penyedia cloud berinvestasi di perusahaan model, perusahaan model membeli kekuatan komputasi cloud, pemerintah menanyakan risiko keamanan ke penyedia cloud, dan pesaing saling melakukan red team di dalam kerangka regulasi yang sama.

Sponsor, pemasok, distributor, pengawas, semuanya mulai dimainkan oleh perusahaan yang sama.

Ini jauh lebih penting daripada sekadar petunjuk bypass.

Malam saat Fable 5 dan Mythos 5 dihentikan, yang hilang dari Anthropic bukan hanya akses ke dua model tersebut. Mereka kehilangan sedikit kendali atas narasi mereka sendiri.

Amazon masih memegang kendali di konsol AWS. Pendanaan OpenAI belum selesai. Pemerintah AS sudah duduk di barisan depan peluncuran model ini.