Sejarah AI Pertama Kali: Model Diluncurkan Tiga Hari Kemudian Dipaksa Dicabut oleh Pemerintah, Siapa yang Mengikat Tangan Sendiri?

Jika suatu hari proyekmu juga ditekan tombol “Jeda”, apa yang akan kamu lakukan?

Jangan dulu merasa ini tidak ada hubungannya denganmu.

Pada 9 Juni waktu setempat, Anthropic baru saja merilis dua model flagship Claude Fable 5 dan Mythos 5, yang mengklaim memimpin industri secara menyeluruh, dipandang sebagai produk kunci untuk persiapan IPO.

Hasilnya, kurang dari 72 jam, Departemen Perdagangan AS dengan alasan keamanan nasional, memasukkan kedua model tersebut ke dalam pengendalian ekspor, membatasi akses secara paksa.

Lebih parah lagi: tidak hanya melarang semua individu dan lembaga di luar AS mengakses, bahkan warga asing di dalam AS, termasuk karyawan asing Anthropic sendiri, juga dimasukkan ke dalam daftar larangan.

Ini adalah pertama kalinya dalam sejarah AI, sebuah model besar komersial yang sudah didistribusikan ke ratusan juta orang dipanggil kembali secara paksa oleh pemerintah AS.

Namun, ini bukan bagian yang paling ironis.

Pertama, sebuah perusahaan yang setiap hari mengumumkan “keamanan nomor satu”, justru diserang balik oleh citra keamanan sendiri

Mungkin kamu tidak tahu, bahwa selama ini Anthropic paling suka menakut-nakuti pemerintah tentang risiko ekstrem AI—berulang kali menekankan “kemampuan AI tingkat atas langsung berkaitan dengan keamanan nasional”, dan secara aktif menyerukan pengawasan ketat.

Hasilnya, api ini malah menyambar ke dirinya sendiri.

Menurut laporan Wall Street Journal, pemicu utamanya adalah CEO Amazon Andy Jassy yang melaporkan ke tingkat atas Gedung Putih: Peneliti Amazon menemukan bahwa Fable 5 dapat dipancing untuk memberikan informasi sensitif yang dapat digunakan untuk serangan siber.

Kemudian, kepala urusan AI dan kripto Gedung Putih David Sacks mengungkap di X: Setelah pemerintah AS menemukan celah jailbreak, mereka meminta Anthropic memperbaiki, jika tidak, akan dicabut. CEO Anthropic Dario Amodei menolak memperbaiki, dan dalam pernyataan resmi mengatakan celah tersebut “tidak serius”, dan “model dari perusahaan lain juga punya”.

Sacks mengkritik keras: “Anthropic selalu menekankan keamanan prioritas, tapi kali ini malah lebih memprioritaskan menjaga layanan model konsumen.”

Ironis, bukan? Sebuah perusahaan yang setiap hari menyerukan orang lain “keamanan prioritas”, saat menghadapi masalah justru bilang “celah tidak serius”.

Ini mengingatkan saya pada kata-kata Li Xiaolai yang sering dikutip—meskipun konteksnya berbeda, intinya sama: beberapa orang menyuruhmu mengikuti aturan, agar mereka tidak terhalang jalannya.

Kedua, pertanyaan yang lebih penting: pengawasan seharusnya dipasang di pintu masuk, atau dipelihara setelah kejadian?

Peristiwa ini membuka dua jalur di Silicon Valley.

Jalur Gedung Putih (David Sacks): Larangan sebelum kejadian. Jika risiko ditemukan, harus diperbaiki atau hilang. Kalau tidak mau bekerja sama, aku tidak akan membiarkanmu masuk.

Jalur Silicon Valley (a16z Marc Andreessen): Akuntabilitas setelah kejadian. Andreessen secara terbuka menentang pengawasan AI yang berfokus pada “prinsip pencegahan”—dia berpendapat bahwa membiarkan orang yang tidak paham teknologi membuat aturan rumit, dengan proses persetujuan dan biaya kepatuhan yang membebani inovasi, akhirnya hanya memperkuat posisi perusahaan besar dan menghalangi pendatang baru.

Namun, dia juga menegaskan bahwa dia tidak menentang semua pengawasan. Dia mendukung aturan yang membangun kepercayaan pasar dan menjamin keamanan publik—misalnya mencegah AI memalsukan suara untuk penipuan keuangan, mencegah deepfake mengganggu pemilu, dan memastikan konsumen serta perusahaan dapat menggunakan teknologi baru dengan aman.

Dia memberi analogi yang mudah dipahami insinyur: pengawasan yang wajar seperti pagar jalan tol, rem mobil—tidak akan membuat mobil melambat, malah memberi orang keberanian untuk “mengemudi cepat”. Mobil tanpa rem, tidak ada yang berani menekan gas.

Yang mana yang lebih mendukung inovasi?

Ketiga, saya langsung ke poin: kedua jalur tidak sempurna, tapi larangan sebelum kejadian menyembunyikan “jebakan panen”

Pertama, masalah jalur Gedung Putih: “standar penegakan hukum yang tidak transparan dan tidak terduga”, itu sendiri adalah pembunuh terbesar inovasi. Anthropic sendiri sudah memperingatkan: jika standar “menarik kembali seluruh model setiap kali menemukan celah kecil” ini berlaku untuk seluruh industri, semua penyedia model terdepan tidak akan bisa merilis model baru.

Lebih nyata lagi: perusahaan besar dengan sumber daya melimpah lebih mudah lolos, perusahaan kecil bahkan tidak bisa menggapai ambang batas—mekanisme ini akhirnya akan berkembang menjadi sistem “penjaga gerbang” yang melindungi kepentingan yang sudah ada.

Banyak orang bilang inovasi di Eropa tertinggal, salah satu penyebabnya adalah pengawasan berlebihan. Andreessen mengatakan secara lugas, budaya pengawasan berlebihan membuat inovasi di Eropa relatif tertinggal dalam beberapa tahun terakhir, dan pengawasan seharusnya tidak menjadi benteng yang menaikkan ambang masuk bagi yang sudah ada.

Lalu, akuntabilitas setelah kejadian? Juga tidak bisa. Lihat saja surat panggilan dari jaksa agung beberapa negara bagian kepada OpenAI: iklan, aktivitas pengguna, pengelolaan data konsumen dan kesehatan, layanan untuk anak dan lansia, model pembelajaran mendalam… semuanya dalam lingkup penyelidikan. Kalau menunggu sampai “kejadian terjadi baru bertindak”, kerusakan dan kerugian sudah tidak bisa diperbaiki lagi.

Jujur saja, saya lebih suka akuntabilitas setelah kejadian—karena memberi inovator ruang untuk “coba-coba dan diuji”. Tapi, jangan sampai batasnya di tepi jurang tanpa pagar.

Jadi, pendapat saya: inovasi tidak butuh “tanpa pengawasan”, tapi “aturan dengan ambang rendah dan akuntabilitas tinggi”—masuk tidak masalah, tapi kalau terjadi masalah, langsung bayar mahal.

Keempat, apa hubungannya denganmu?

Kalau kamu adalah pengusaha atau investor di bidang Web3, kamu sudah merasakan—

Setelah gelombang pengawasan ini, pasar kripto langsung bereaksi. Bittensor (TAO) naik 23,9%, Venice Token naik 18%, ICP naik 9,8%, trader hampir refleks mengalihkan dana ke sektor infrastruktur AI yang terdesentralisasi dan anti-sensor.

Logikanya sederhana: AI terpusat bisa dihentikan kapan saja→nggak mau beli “infrastruktur AI desentralisasi dan anti-sensor” sekarang?

Pendapat saya: larangan sebelum kejadian berarti “kemungkinan dihentikan kapan saja”, dan dalam proyek Web3 yang melibatkan API terpusat atau bergantung pada satu penyedia AI, risiko serupa juga ada. Kalau kamu bangun DApp di atas API OpenAI, suatu hari pemerintah minta OpenAI berhenti melayani pengguna asing tertentu, bisnis kamu bisa berhenti total.

Arah pengawasan ini akan terus diperebutkan dalam waktu lama. Jangan anggap diri aman karena berdiri di “cahaya”—bayangan yang jatuh ke orang lain, hanya satu langkah dari kamu.

“Inovasi bukan tanpa pengawasan, tapi orang yang mengawasi benar-benar paham apa yang kamu lakukan.”

Terlepas dari pilihan akhir pemerintah AS, kita harus sadar: setiap “pengendalian sementara” adalah pisau tumpul yang melukai startup dan proyek jangka panjang.

Dan hal paling sederhana yang bisa kita lakukan adalah membuat struktur bisnis sebisa mungkin terdesentralisasi, menyediakan banyak penyedia, dan mengurangi risiko “terhambat” oleh satu titik pengawasan tunggal. Bukan karena kamu legal, orang lain akan membiarkanmu legal dengan tenang.