Tiga Momen Anthropic: Kebocoran Kode, Ketegangan Pemerintah, dan Weaponisasi

Penulis: Ben Thompson

Terjemahan: Deep潮 TechFlow

Deep潮 Pengantar: Model baru Anthropic, Fable, dirilis hanya dua bulan lalu dan segera dihentikan secara darurat oleh pemerintah AS, tampaknya karena "kebocoran keamanan", tetapi sebenarnya mengungkapkan perang ganda antara laboratorium AI dengan pemerintah dan industri perangkat lunak. Perusahaan yang mengandalkan "keamanan" sebagai poin jualnya ini, sedang mengubah narasi keamanan menjadi parit perlindungan bisnis, sementara yang sebenarnya mereka kejar adalah data pengguna yang dimiliki Microsoft dan lainnya.

Saya memahami posisi para pengkritik yang selalu menganggap pernyataan terbuka Anthropic—terutama saat peluncuran model—adalah untuk pemasaran dan menyebarkan ketakutan. Dua bulan lalu, Anthropic mengumumkan Mythos Preview, mengklaim model ini terlalu berbahaya untuk dipublikasikan, terutama karena kemampuan keamanannya yang kuat di jaringan. Kemudian dua bulan setelahnya, perusahaan merilis Fable, yaitu versi Mythos yang dilengkapi berbagai pengaman.

Dari pengalaman terbatas saya, Fable memang model yang sangat luar biasa. Sekarang, selain performa pemrograman, sudah sulit untuk menilai model secara objektif, tetapi secara subjektif saya merasakan bahwa interaksi dengan Fable sangat mengesankan; ia membuat model lain, termasuk GPT 5.5 dan Opus 4.8, tampak kecil dan bodoh. Saya hanya merasakan hal ini dua kali sebelumnya—satu saat dengan GPT-4 dan satu lagi dengan Grok 4, keduanya mewakili generasi baru dari skala dan kompleksitas model dasar; saya merasa Fable berasal dari pra-pelatihan baru dan merupakan yang pertama dari generasi baru tersebut.

Oleh karena itu, saya sepenuhnya menerima bahwa Fable/Mythos memang lebih unggul dalam mengenali dan memanfaatkan masalah keamanan, dan peluncuran hati-hati oleh Anthropic adalah langkah yang masuk akal. Tetapi masalah merilis model secara terbuka adalah, pengaman bisa dijebol, dan jelas, hal ini terjadi tidak lama setelah peluncuran.

Anthropic Kembali Berhadapan dengan Pemerintah AS

Peristiwa berikutnya agak tidak jelas. Dalam sebuah posting blog, Anthropic menulis:

Pemerintah AS mengutip kekuasaan keamanan nasional dan mengeluarkan perintah pengendalian ekspor, menghentikan semua akses warga asing ke Fable 5 dan Mythos 5, baik di dalam maupun di luar AS, termasuk karyawan asing Anthropic. Perintah ini secara praktis memaksa kami untuk secara mendadak menonaktifkan Fable 5 dan Mythos 5 untuk semua klien demi memastikan kepatuhan. Akses ke model lain dari Anthropic tidak terpengaruh.

Kami menerima instruksi ini pada pukul 17:21 waktu Timur AS hari ini. Tidak ada rincian spesifik tentang kekhawatiran keamanan nasional yang disampaikan. Kami memahami bahwa pemerintah menganggap telah ditemukan cara untuk melewati atau "menjebak" Fable 5. Kami telah meninjau demonstrasi yang menggunakan teknik tertentu ini untuk mengidentifikasi beberapa celah kecil yang diketahui. Celah-celah ini tampaknya cukup sederhana, dan kami menemukan bahwa model lain yang tersedia secara publik juga mampu menemukannya tanpa harus melewati.

Anthropic kemudian berargumen bahwa jebakan non-umum dan terbatas dalam cakupan ini tidak dapat dihindari dan tidak luas, dan tidak ada bukti bahwa jebakan umum ada; sementara jebakan yang ditemukan tampaknya dilaporkan oleh Amazon, yang patut dicatat karena Amazon adalah investor Anthropic dan juga penyedia utama layanan inferensi perusahaan. Saat saya menulis ini, eksekutif Anthropic sedang berada di Washington, mencoba menyelesaikan masalah yang mereka tegaskan sebagai kesalahpahaman, sementara pejabat Gedung Putih menyiratkan bahwa ini adalah ketidakpedulian manajemen perusahaan terhadap kekhawatiran keamanan nasional yang sah.

Karena banyak fakta yang diperdebatkan, saya tidak punya banyak hal untuk ditambahkan tentang konflik ini saat ini; tetapi saya tidak terkejut bahwa konflik ini terjadi: saya sudah menjelaskan dalam artikel "Anthropic dan Alignment" bahwa konflik antara pemerintah AS dan Anthropic tidak bisa dihindari. Dalam hal ini, mereka yang berpikir Mythos belum cukup kuat untuk menarik tindakan keras dari pemerintah melewatkan poin utama: jika saat ini belum cukup kuat, maka yang berikutnya akan, atau yang selanjutnya lagi, terutama karena model semakin berguna dalam menciptakan penerusnya.

Namun, ini menimbulkan pertanyaan lain—yang tampaknya mengonfirmasi pandangan para pengkritik: jika Mythos begitu berbahaya, mengapa awalnya merilis Fable, mengapa berkonfrontasi dengan pemerintah dan melakukan apa yang mereka klaim ingin lakukan? Sebenarnya, saya rasa tindakan Anthropic sepenuhnya dapat dipahami; keunikan perusahaan terletak pada bagaimana mereka membela tindakan tersebut, dan justru pembelaan ini yang memberi bahan bakar bagi para pengkritik sekaligus kekuatan magis bagi Anthropic.

Kebutuhan Ekonomi

Pada tahun-tahun awal AI, nilai ekonomi terbesar mengalir ke komputasi, alasannya jelas: pasokan tidak cukup untuk memenuhi permintaan, sehingga harga melonjak; penerima manfaat terbesar adalah Nvidia, TSMC, dan produsen memori (SK Hynix, Samsung, dan Micron). Sementara itu, Anthropic dan OpenAI secara gabungan merugi ratusan miliar dolar untuk membangun model terdepan, dan model-model ini setelah dirilis, didistilasi dan dikomersialisasi melalui model open-source, terutama dari China.

Ini mencerminkan kondisi pesimis laboratorium—mereka mungkin tidak pernah menutupi biaya karena diferensiasi mereka bersifat sementara, dan pengganti gratis menjadi "cukup baik"—saya rasa ini masuk akal. Dalam dunia di mana model bisa saling menggantikan, model menjadi komoditas, dan sebagian besar nilai mengalir ke tempat lain. Saat ini ke komputasi, tetapi seiring waktu, ketika kita memiliki cukup daya komputasi, posisi paling berharga dalam rantai nilai akan tetap sama: memiliki titik kontak pengguna.

Oleh karena itu, laboratorium terdepan secara ekonomi pasti harus lebih dekat ke pengguna, ini sudah sangat jelas bagi saya. Jika Anda memiliki titik kontak pengguna, maka Anda memiliki penguncian yang berarti, dan cara terbaik untuk memilikinya adalah menjadi kanvas bagi semua hal yang mereka butuhkan. Ini secara implisit berarti laboratorium terdepan akan berkonflik dengan perusahaan perangkat lunak: perangkat lunak memiliki titik kontak pengguna, sementara kepentingan jangka panjang laboratorium bukan sekadar menjadi input model perangkat lunak, tetapi menggantikan perangkat lunak secara langsung.

Sementara itu, perusahaan perangkat lunak berusaha melakukan hal sebaliknya. Satya Nadella dalam sebuah artikel di X menguraikan visi tentang bagaimana perusahaan harus membangun model:

Setiap perusahaan harus membangun modal manusia dan token. Modal manusia mencakup pengetahuan, penilaian, hubungan, orisinalitas, dan pengenalan pola karyawannya, sementara token adalah kemampuan AI yang dibangun dan dimiliki perusahaan. Yang penting, seiring pertumbuhan token, modal manusia tidak akan menjadi kurang berharga. Ia justru akan menjadi lebih berharga! Saya percaya inisiatif manusia akan menjadi pendorong pertumbuhan token. Manusia akan menetapkan tujuan ambisius, menghubungkan titik lintas bidang, membangun hubungan, dan mengenali pola terpenting. Tanpa panduan manusia, daya komputasi Anda hanya akan berjalan sia-sia.

Ini berarti peluang nyata bukanlah memilih model terbaik, tetapi membangun siklus belajar di atas model, agar modal manusia dan token dapat berkembang secara kompaun. Anda bisa mengalihdayakan satu tugas, bahkan satu pekerjaan, tetapi Anda tidak pernah bisa mengalihdayakan pembelajaran Anda. Masa depan perusahaan adalah mampu membuat proses belajar ini berkembang secara kompaun antara manusia dan AI. Ini membutuhkan arsitektur baru yang memungkinkan setiap perusahaan membangun sistem agen cerdas yang dapat diperbaiki dari waktu ke waktu, sambil tetap mengendalikan hak kekayaan intelektualnya. Perusahaan harus mampu mengganti "model umum" tanpa kehilangan keahlian "veteran perusahaan" yang tertanam dalam sistem belajar mereka. Ini adalah "pengujian" utama dari kendali dan kedaulahan di masa depan.

Nadella membuka visi ini dengan peringatan:

Apa yang tidak kita inginkan adalah dunia di mana setiap perusahaan di setiap industri menyerahkan nilainya kepada beberapa model yang menelan segalanya. Jika semua nilai hanya dikuasai oleh beberapa model, politik dan ekonomi tidak akan mentolerirnya. Untuk masa depan AI yang menggerogoti seluruh industri, masyarakat tidak akan memberi izin.

Bayangkan apa yang terjadi pada fase pertama globalisasi, seluruh ekonomi industri dioutsourcing dan terkuras habis. Secara kasat mata, angka PDB terlihat baik, tetapi pengangguran dan ketidakadilan nyata, dan konsekuensinya masih terasa sampai hari ini. Mari kita hindari membawa dinamika ini ke era AI, di mana beberapa sistem AI menguasai semua imbal hasil ekonomi, sementara seluruh industri menyadari bahwa pengetahuan mereka sedang dikomersialisasi di bawah mata mereka.

Masalah dari analogi ini adalah: globalisasi memang terjadi, dan ekonomi industri memang terkuras habis. Ini bisa jadi bukan hanya peringatan, tetapi ramalan; tidak heran Nadella mengingatkan, karena Microsoft mungkin salah satu korban. Demikian pula, kebutuhan ekonomi dari pembuat model adalah untuk mewujudkan hal ini.

Kebutuhan Data

Model-model ini—bahkan Mythos—belum sampai ke tahap itu. Mereka membutuhkan, selain daya komputasi yang lebih besar, data yang lebih banyak dan lebih baik. Peningkatan model semakin banyak berasal dari reinforcement learning; beberapa bisa disintesis dan dihasilkan, tetapi kekuatan terbesar bagi laboratorium terdepan adalah penggunaan di dunia nyata.

Saya rasa ini adalah alasan utama mengapa OpenAI dan Anthropic menawarkan langganan yang sangat subsidiar, dengan estimasi SemiAnalysis bahwa langganan $200 memberi nilai token Claude sebesar $8.000 dan token Codex sebesar $14.000. Tentu keduanya bersaing merebut perhatian pengguna dan pengembang, tetapi mereka juga bersaing untuk mendapatkan akses data nyata yang digunakan untuk memperbaiki model.

Anthropic meningkatkan investasi di Fable, mengumumkan bahwa mereka akan menyimpan semua data penggunaan selama 30 hari, bahkan untuk perusahaan yang sebelumnya berjanji tidak menyimpan data. Mereka menyatakan tidak akan menggunakan data ini untuk pelatihan, tetapi tidak ada jaminan bahwa di masa depan mereka tidak akan melakukannya (misalnya menyimpan data di pihak ketiga). Jika kebijakan ini berubah (ketika Fable kembali aktif) dan tidak menyebabkan banyak pelanggan pergi, saya curiga mereka akan mulai menggunakan data tersebut—karena bagi mereka, ini sangat berharga.

Perhatikan juga siklus positif dari berpindah ke titik kontak pengguna: semakin banyak pekerjaan yang diselesaikan langsung dengan Claude atau Codex, semakin banyak data yang bisa mereka gunakan untuk pelatihan kembali, membuat produk mereka semakin kuat dan berguna, memperluas jumlah alur kerja yang bisa mereka layani, dan meningkatkan akses mereka ke data.

Nadella menekankan pentingnya data ini dalam artikelnya, tetapi secara alami berpendapat bahwa data harus berdiri sendiri dari model:

Perusahaan perlu mengubah alur kerja, pengetahuan domain, dan penilaian yang terkumpul menjadi sistem AI yang terus berkembang dari setiap penggunaan. Penilaian internal harus menangkap apakah model benar-benar meningkatkan hasil penting bisnis (bukan hanya benchmark eksternal!). Lingkungan reinforcement learning internal harus membuat model menjadi lebih kuat dalam jalur nyata organisasi. Basis pengetahuannya membuat memori organisasi dapat dicari, dan penggunaan token lebih efisien.

Siklus ini menjadi kekayaan intelektual baru perusahaan. Saya menganggapnya sebagai mesin pendaki gunung. Berbeda dengan aset lain, ini adalah pertumbuhan majemuk. Setiap peningkatan alur kerja menghasilkan sinyal pelatihan yang lebih baik, mempercepat akumulasi pengetahuan tersembunyi unik perusahaan. Perusahaan yang membangun ini sejak dini akan memiliki keunggulan yang sulit ditiru, apapun kemampuan model di masa depan.

Siklus ini menjadi IP baru perusahaan. Saya anggap ini sebagai mesin pendaki gunung. Berbeda dengan aset lain, ini bisa berkembang secara majemuk. Setiap peningkatan alur kerja menghasilkan sinyal pelatihan yang lebih baik, mempercepat akumulasi pengetahuan tersembunyi perusahaan. Perusahaan yang membangun ini sejak awal akan memiliki keunggulan yang sulit ditiru, apapun peningkatan kemampuan model di masa depan.

Namun, bagaimana jika perusahaan yang mematuhi kebijakan data Anthropic saat ini sudah mendapatkan hasil yang lebih baik? Atau jika perusahaan yang ada menolak, meninggalkan peluang bagi perusahaan baru—atau pembuat model sendiri—untuk mengalahkan mereka di pasar? Anthropic benar-benar menguji tekad Nadella yang disuarakan.

Klaim Kekuasaan

Lebih dari kebijakan penyimpanan data Fable/Mythos yang kontroversial, yang paling kontroversial adalah pernyataan Anthropic saat peluncuran bahwa jika Fable digunakan untuk pengembangan LLM, performanya akan secara diam-diam dikurangi; dalam catatan sistem disebutkan:

Kami juga menambahkan langkah-langkah perlindungan terkait pengembangan LLM terdepan. Seperti yang dibahas dalam laporan risiko Februari 2026 bagian 6.1, kami khawatir akan risiko mempercepat perkembangan AI secara keseluruhan, meskipun tingkat keparahan risiko ini masih belum pasti. Secara khusus, kekhawatiran kami—seperti yang tertulis saat itu—adalah bahwa "mempercepat pengembangan AI lain yang membangun sistem dengan risiko serupa dengan sistem kami—tanpa langkah perlindungan yang memadai."

Mengingat model saat ini memiliki kemampuan untuk mempercepat pengembangan dirinya sendiri, kami menerapkan langkah-langkah intervensi baru yang membatasi efektivitas Claude dalam permintaan pengembangan LLM terdepan (misalnya, membangun pipeline pra-pelatihan, infrastruktur pelatihan terdistribusi, atau desain akselerator ML). Menggunakan Claude untuk mengembangkan model kompetitor sudah melanggar ketentuan layanan kami, tetapi dengan menerapkan langkah perlindungan ini, kami dapat mencegah percepatan oleh mereka yang paling cenderung melanggar ketentuan tersebut.

Berbeda dengan intervensi kami di keamanan siber, biokimia, dan distilasi, langkah-langkah perlindungan ini tidak terlihat oleh pengguna. Fable 5 tidak akan kembali ke model lain. Sebaliknya, perlindungan ini akan membatasi efektivitas melalui modifikasi prompt, vektor panduan, atau fine-tuning parameter (PEFT). Intervensi ini tidak akan mempengaruhi sebagian besar pekerjaan pemrograman. Kami memperkirakan bahwa mereka akan mempengaruhi sekitar 0,03% lalu lintas, terkonsentrasi di kurang dari 0,1% organisasi. Ketika langkah ini berlaku, kami memperkirakan selain membatasi pengembangan LLM terdepan, dampaknya terhadap perilaku model sangat minimal. Claude tetap akan memberikan respons yang membantu terhadap permintaan pengguna. Kami akan terus meningkatkan akurasi deteksi ini setelah model dirilis.

Anthropic membatalkan perubahan ini—Fable akan mengalihkan permintaan terkait LLM ke Opus 4.8 dan menginformasikan pengguna tentang pengalihan ini—tetapi saya rasa kebijakan awal sangat mengandung pelajaran. Di satu sisi, saya tidak menyalahkan Anthropic karena tidak ingin membantu pesaing; di sisi lain, sangat jelas bahwa Anthropic berpendapat bahwa selain mereka, tidak ada yang seharusnya membuat LLM terdepan.

Kebijakan ini menjadi lebih menarik karena dirilis hanya dua bulan setelah konflik dengan Departemen Pertahanan: yang ingin menggunakan Claude untuk semua penggunaan yang sah, sementara yang lain ingin memberlakukan kontrol lebih ketat terhadap pengawasan dan senjata otonom. Langkah penurunan ini tidak hanya menunjukkan kemampuan Anthropic untuk diam-diam mengubah model mereka agar sesuai kebijakan, tetapi juga menunjukkan niat mereka. Dengan kata lain, Anthropic secara aktif mengonfirmasi kekhawatiran beberapa kritikus bahwa mereka adalah risiko dalam rantai pasokan.

Kesimpulan yang lebih luas dari insiden ini adalah bahwa Anthropic menganggap mereka harus memiliki kendali akhir atas penggunaan AI mereka; mengingat mereka percaya bahwa hanya mereka yang harus mengembangkan AI terdepan, maka mereka juga percaya bahwa hanya mereka yang harus memiliki kendali akhir atas AI secara keseluruhan. Jika digabungkan dengan pernyataan mereka bahwa AI mampu melakukan semua aktivitas ekonomi, maka akan terlihat bahwa pimpinan Anthropic sebenarnya ingin memiliki kekuasaan atas segala hal dan semua orang.

Narasi Keamanan

Tentu saja, Anthropic tidak akan pernah mengungkapkan secara langsung; sebaliknya, cerita mereka tentang keamanan adalah:

Saya memperkirakan Anthropic akan semakin banyak membuka kemampuan model kepada pengguna akhir melalui endpoint yang lebih disesuaikan untuk berbagai alur kerja, meskipun mereka mulai membatasi API. Penggantian perangkat lunak dan pembatasan akses ini akan dilakukan atas nama keamanan, meskipun Anthropic sedang memenuhi tuntutan ekonomi mereka untuk mendekati pengguna akhir.

Penjelasan tentang perubahan besar kebijakan penyimpanan data mereka adalah alasan keamanan. Secara spesifik, perusahaan mengklaim bahwa menyimpan semua data pengguna selama 30 hari diperlukan untuk mencegah kekhawatiran pemerintah AS tentang jebakan. Saya tentu bisa membayangkan masa depan di mana faktor keamanan memaksa mereka juga menggunakan data ini untuk pelatihan guna mencegah penyalahgunaan yang berbahaya.

Seluruh kisah asal-usul Anthropic berakar pada keyakinan pendirinya bahwa OpenAI tidak cukup serius dalam mengurus keamanan; perusahaan percaya bahwa hanya mereka yang mampu mengendalikan AI, dan karena mereka secara unik peduli terhadap keamanan, mereka berhak mengendalikan semua orang lain, termasuk pemerintah AS.

Terkait alasan keamanan ini, masalahnya adalah: saya rasa alasan tersebut efektif karena bagi Anthropic, itu bukan alasan. Perusahaan benar-benar percaya bahwa mereka adalah satu-satunya yang percaya pada superintelligence, dan satu-satunya yang cukup peduli terhadap bahaya tersebut. Ini menjadi pembenaran untuk satu keputusan, satu kebijakan, dan satu perlawanan demi perlawanan berikutnya, yang bagi pihak luar tampak sebagai kombinasi sinisme dan naivitas yang aneh.

Berbeda jauh dari OpenAI: saya rasa salah satu cara memahami mengapa OpenAI kehilangan posisi terdepan adalah bahwa setelah peluncuran ChatGPT, selama beberapa tahun perusahaan ini berada dalam konflik internal, dan laboratorium riset yang dulu pernah ada tiba-tiba dipaksa menjadi perusahaan teknologi konsumsi yang tak terduga; dalam proses menyelesaikan konflik ini, OpenAI kehilangan banyak talenta ke perusahaan seperti Anthropic.

Di sisi lain, Anthropic memiliki konsistensi sempurna antara talenta, misi, dan bisnis. Perusahaan ini bisa menawarkan kepada peneliti visi menciptakan "dewa mesin", dengan aura peduli bahaya dan cukup cerdas untuk mewakili manusia dalam menghadapi bahaya tersebut; dan setiap perubahan kebijakan yang dihasilkan secara kebetulan menguntungkan bisnis mereka, yang merupakan keajaiban dunia yang paling indah.

Saya menghormati konsistensi ini, tetapi juga takut akan hal itu. Saya hormati karena terbukti sangat efektif; analogi terdekat mungkin Apple, yang selalu berpura-pura bahwa mereka melakukan hal yang benar untuk pengguna sebagai kedok dari setiap tindakan egois—dan mereka sering melakukannya. Demikian pula, Anthropic juga demikian. Tetapi, saya takut bahwa membiarkan orang yang yakin mereka paling tahu tentang manusia membangun ponsel pintar yang bisa saya terima atau tolak adalah satu hal; membiarkan mereka membangun kecerdasan super yang berpotensi menyaingi atau melampaui kekuasaan negara bangsa, atau sekadar perusahaan besar, jauh lebih menakutkan. Sejarah orang-orang pintar yang yakin tahu apa yang manusia butuhkan ini penuh kotoran, karena mereka meyakinkan diri bahwa niat mereka baik, dan memberi alasan untuk tindakan yang sebenarnya tidak demikian.