Pemerintah Amerika Serikat melarang model Anthropic, sama sekali bukan karena apa yang disebut sebagai "jailbreaking"

Penulis: Zack Whittaker

Terjemahan: Deep Tide TechFlow

Deep Tide Panduan: Jumat lalu, surat dari Departemen Perdagangan AS memaksa Anthropic menutup dua model terkuat mereka, Fable 5 dan Mythos 5. Alasan pemerintah adalah keamanan nasional, sementara pihak luar mengira ini karena model tersebut melewati batas pengaman. Tapi semakin banyak detail mengarah ke penjelasan lain: ini lebih mirip balasan dari pemerintahan Trump setelah hubungan mereka dengan Anthropic memburuk. Sebuah perusahaan teknologi diperintahkan pemerintah untuk menutup produk mereka tanpa persetujuan pengadilan, ini adalah sinyal bagi seluruh industri teknologi AS.

Surat penegakan hukum dari pemerintah AS kepada Anthropic, menjelang akhir pekan, memaksa perusahaan menutup semua model AI terbaru mereka. Setiap perusahaan teknologi AS harus menganggap ini sebagai alarm, bukan hanya laboratorium AI.

Mari kita rangkum garis besar berita beberapa hari terakhir. Jumat sore, Departemen Perdagangan AS mengirim surat kepada Anthropic, mengutip sebuah peraturan pengendalian ekspor yang sangat jarang digunakan, melarang non-Amerika (termasuk karyawan Anthropic sendiri) mengakses Fable 5 dan Mythos 5, dengan alasan kekhawatiran keamanan nasional yang tidak dijelaskan secara rinci. Anthropic menyatakan mereka menilai surat tersebut terkait dengan pelanggaran batas pengaman model, tetapi juga tidak yakin karena surat tersebut tidak memberikan detail spesifik. Surat ini sampai saat ini belum dipublikasikan.

Respons Anthropic adalah menutup semua model utama mereka untuk semua pelanggan, demi memastikan kepatuhan. Hasilnya, pemerintah AS dengan tindakan cepat, sepihak, dan tampaknya tanpa perlu persetujuan pengadilan, berhasil memaksa sebuah perusahaan teknologi menutup model-modelnya.

Intervensi pemerintahan Trump ini menunjukkan bahwa industri AI tidak bisa kebal terhadap campur tangan pemerintah. Untuk industri teknologi yang lebih luas, ini juga menjadi peringatan: patuhi atau kami bisa menutup Anda dan produk Anda sekaligus.

Axios mengutip sumber yang menyatakan bahwa ketegangan antara dua pemain besar selama akhir pekan ini disebabkan oleh ketidakcocokan kepribadian antara Anthropic dan pemerintahan Trump, bukan karena masalah teknis pada produk AI itu sendiri.

Detail baru yang muncul akhir pekan ini semakin menggoyahkan alasan pemerintah yang sudah tidak berdasar.

Veteran keamanan siber, peneliti, dan pendiri Luta Security, Katie Moussouris, dalam sebuah blog mengatakan bahwa Anthropic secara diam-diam menunjukkan sebuah makalah kepada dirinya, yang ditulis oleh beberapa peneliti keamanan, yang menggambarkan pelanggaran batas pengaman di Fable 5. (Menurut laporan Wall Street Journal, penulis makalah adalah peneliti keamanan dari Amazon.) Moussouris menyatakan bahwa Anthropic menghubunginya untuk mendapatkan pandangannya tentang makalah tersebut.

Dalam blog-nya, Moussouris menjelaskan bagaimana peneliti memicu pelanggaran batas pengaman ini, tetapi dia mengatakan bahwa pelanggaran tersebut sendiri "sebenarnya tidak seharusnya memicu pengendalian ekspor." Perbedaannya cukup kecil: membuat AI "memeriksa masalah keamanan dalam kode" dan "memperbaiki kode tersebut," hanya berbeda dalam cara bertanya, tetapi hasil akhirnya hampir sama.

"Perilaku yang dideskripsikan dalam makalah ini tidak bisa benar-benar diperbaiki, setiap usaha hanya akan melemahkan kemampuan model dalam pertahanan," kata Moussouris. Dia mengkritik perintah pengendalian ekspor ini sebagai tindakan ceroboh, kasar, dan salah penilaian.

Setelah itu, Moussouris bersama puluhan peneliti keamanan dan pakar terkemuka lainnya menyerukan agar pemerintahan Trump mencabut perintah pengendalian ekspor ini, karena menarik kemampuan keamanan siber canggih dari tangan pertahanan siber AS adalah "bahaya."

Setiap pemerintahan sebelumnya pernah membuat keputusan serba satu ukuran di bidang pengetahuan yang minim. Misalnya, saat pemerintah AS merevisi undang-undang ekspor di tahun 2010-an, mereka berusaha mengendalikan alat keamanan siber yang bisa digunakan untuk pertahanan maupun serangan, tetapi kata-katanya terlalu umum, secara tidak sengaja hampir menjadikan penelitian keamanan dan kerentanan yang sah sebagai ilegal.

Namun, perintah Trump ini tampaknya sebagai bentuk balas dendam.

Editor Tech Policy Press, Justin Hendrix, mengatakan bahwa langkah Trump ini "kemungkinan besar akan memberi peringatan kepada pemerintah asing tentang keandalan AI AS dalam skenario penting." Pesan yang disampaikan adalah: perusahaan AI AS tidak bisa beroperasi tanpa campur tangan pemerintah AS.

Pemerintah Trump belum mengonfirmasi alasan mereka menggunakan perintah pengendalian ekspor ini. Apakah pejabat salah membaca laporan tersebut lalu panik? Apakah CEO Amazon, Andy Jassy, karena kehati-hatian atau dendam pribadi, mengatakan sesuatu kepada pejabat tinggi pemerintah yang memicu reaksi ini? Apakah ada kesalahan terjemahan, atau ini memang cara untuk memberi tekanan kepada Anthropic—mengingat hubungan kedua pihak sudah sangat tegang? Bisa juga, Gedung Putih sama sekali tidak menyadari bahwa surat tersebut akan memicu reaksi berantai sebesar ini, dan pejabat saat ini sedang panik memperbaiki kekacauan yang mereka buat.

Menurut Hendrix, "Suasana saat ini penuh kecurigaan, pejabat tinggi tampaknya memilih target berdasarkan faktor pribadi dan politik." Akibatnya, pemerintah telah "membuat preseden berbahaya tentang seberapa besar kendali yang mereka inginkan atas perangkat lunak yang diproduksi di AS."

Perusahaan yang menjadi sasaran kali ini adalah Anthropic, tapi besok bisa saja perusahaan lain.