Ahli keamanan siber: Model AI yang sama berbahayanya dengan Claude Mythos sama sekali tidak bisa dihentikan, dalam 24 bulan akan tersebar di mana-mana

Kebijakan pemerintah Trump minggu lalu dengan alasan keamanan nasional, memaksa Anthropic untuk menarik dua model terkuat mereka, Claude Fable 5 dan Mythos 5. Alasan utamanya adalah "dapat melakukan jailbreak". Namun, para ahli keamanan siber meremehkan, menyatakan bahwa pengendalian ini hanyalah sebuah perusahaan, satu kelompok model; dalam 6 hingga 24 bulan, kemampuan serupa akan menyebar secara luas dari berbagai sumber.
（Latar belakang: Menghabiskan uang untuk pertumbuhan! Dokumen bocoran OpenAI mengungkapkan "kerugian operasional sebesar 209 miliar dolar AS", diperkirakan baru akan menguntungkan pada tahun 2030）
（Tambahan latar belakang: CZ memuji Hyperliquid sebagai penemuan yang luar biasa! Tapi bercanda bahwa tanpa KYC terlalu berbahaya: Saya pernah mengalami, mereka sebaiknya punya pengacara yang sangat kuat）

Pada akhir pekan lalu, pemerintah Trump dengan alasan risiko keamanan nasional, memaksa pencabutan dua model terbaru dari Anthropic: Claude Fable 5 dan Mythos 5. Logika Gedung Putih adalah: Fable 5 terbuka untuk publik, tetapi pagar pelindungnya (secara sederhana adalah mekanisme keamanan yang mencegah model merespons pertanyaan berbahaya) dapat dihapus, yang dianggap sebagai risiko keamanan nasional.

Anthropic masih berunding dengan Gedung Putih mengenai syarat peluncuran kembali, dan saat ini belum jelas kapan akan kembali online.

Pedang bermata dua ini, Anthropic sendiri juga menyadarinya

Mythos 5 bukanlah model bahasa biasa. Sejak Anthropic merilisnya pertama kali dengan nama "Mythos Preview" pada bulan April, perusahaan sudah memperingatkan risiko yang terkait. Secara sederhana, di tangan peneliti keamanan siber, model ini adalah alat pertahanan; di tangan pelaku jahat, bisa menjadi senjata serangan.

Karena alasan ini, Mythos 5 awalnya hanya dirilis secara tertutup kepada kelompok kerja Project Glasswing; sementara Fable 5 meskipun terbuka untuk umum, memiliki blokir tertentu terkait masalah biologi dan keamanan siber.

6 bulan vs 24 bulan

Meskipun pemerintah Trump memerintahkan penutupan, kepala tim merah terdepan Anthropic, Logan Graham, sudah sejak bulan April saat Mythos Preview dirilis, dengan jelas mengatakan kepada WIRED:

"Pesan utama adalah, ini bukan tentang model ini atau Anthropic. Kita harus bersiap untuk dunia ini sekarang, dalam 6, 12, 24 bulan, kemampuan ini akan tersedia secara luas."

Konsultan keamanan siber TPO Group, Tarah Wheeler, mengatakan lebih langsung:

"Menganggap tidak ada pesaing lain yang akan mengembangkan kemampuan serupa Mythos, atau bahkan menganggap mereka belum melakukannya, adalah pandangan yang sangat sempit. Ada perusahaan lain yang mengikuti ketat Anthropic, kemungkinan besar juga memiliki kemampuan ini, hanya saja menunggu dan mengamati bagaimana Anthropic akan diperlakukan dalam lingkungan regulasi saat ini."

Peneliti dari Harvard, Bruce Schneier, juga mengatakan kepada WIRED: "Ini adalah tren teknologi secara keseluruhan. Model yang lebih kecil, lebih murah, dan open source, kadang sendiri, kadang saling bekerja sama, dapat dengan lebih canggih menyaingi performa Mythos dengan prompt yang lebih canggih. Kita harus mengharapkan model lain dalam beberapa bulan mampu menyaingi kreativitas dan ketahanan Mythos/Fable, dan model open source sedikit lebih lama lagi."