Anthropic mengungkap model keamanan siber Mythos beberapa minggu setelah bocornya kode Claude yang mengungkapkan celah keamanan

Anthropic pada Selasa mengungkap Claude Mythos Preview, model AI baru yang dibangun untuk pekerjaan keamanan siber, dan meluncurkan Project Glasswing, program mitra yang memberikan akses awal kepada sekelompok kecil organisasi teknologi dan infrastruktur besar ke sistem tersebut untuk tugas keamanan defensif.

Anthropic mengatakan bahwa model yang belum dirilis itu sudah menemukan ribuan kerentanan berkeparahan tinggi di berbagai sistem operasi utama dan peramban web, serta menggambarkan upaya tersebut sebagai dorongan mendesak untuk menempatkan kemampuan siber tingkat lanjut di tangan para pembela sebelum penyerang memperoleh alat serupa.

Project Glasswing mencakup AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia, dan Palo Alto Networks, dengan lebih dari 40 organisasi tambahan lainnya juga mendapatkan akses. Anthropic mengatakan pihaknya akan mengalokasikan hingga $100 juta dalam kredit penggunaan dan $4 juta dalam donasi kepada kelompok keamanan sumber terbuka sebagai bagian dari program tersebut.

Anthropic mengatakan model tersebut dapat mengidentifikasi kerentanan dan mengembangkan eksploit terkait dengan sedikit atau tanpa arahan manusia, serta menyoroti contoh termasuk celah OpenBSD yang berusia 27 tahun, bug FFmpeg yang berusia 16 tahun, dan kerentanan berantai pada kernel Linux yang dapat meningkatkan akses pengguna biasa menjadi kendali penuh atas mesin. Pengumuman Anthropic mengatakan bahwa bug yang relevan telah ditambal.

Peluncuran Mythos terjadi hampir sepekan setelah Anthropic menciptakan kekacauan keamanan sendiri karena secara tidak sengaja mengekspos berkas sumber kode Claude melalui kesalahan pengemasan pada versi 2.1.88 dari perangkat lunaknya. Kesalahan itu mengekspos hampir 2.000 berkas dan lebih dari 500.000 baris kode, lalu merembet lebih jauh ketika upaya penghentian (takedown) Anthropic secara tidak sengaja mengenai sekitar 8.100 repositori GitHub sebelum perusahaan membalik sebagian besar pemberitahuan.

Anthropic kini mempresentasikan Mythos sebagai model yang sedemikian mampu dan berpotensi berbahaya sehingga tidak akan dirilis secara luas untuk saat ini. Dalam materi Project Glasswing, perusahaan mengatakan pihaknya tidak berencana membuat Mythos Preview tersedia secara umum dan sebagai gantinya ingin mengembangkan langkah pengaman terlebih dahulu agar model kelas Mythos pada akhirnya dapat diterapkan dengan lebih aman dalam skala besar.

Sebuah dokumen internal yang bocor menggambarkan Mythos sebagai model paling mumpuni milik perusahaan hingga saat ini dan sebagai perubahan langkah yang berarti dalam penalaran, pengkodean, dan keamanan siber. Anthropic juga sedang mendiskusikan implikasi siber ofensif dan defensif model tersebut dengan pejabat pemerintah AS.

                    **Pengungkapan:** Artikel ini diedit oleh Estefano Gomez. Untuk informasi lebih lanjut tentang cara kami membuat dan meninjau konten, lihat Kebijakan Editorial kami.