Anthropic meluncurkan $100M dorongan keamanan siber dengan model AI terbatas Claude Mythos

Anthropic mengumumkan Project Glasswing pada Selasa, sebuah inisiatif keamanan siber yang berkomitmen hingga $100 juta dalam kredit penggunaan untuk Claude Mythos Preview, sebuah model frontier yang belum dirilis yang menurut perusahaan dapat secara otonom menemukan dan mengeksploitasi celah kerentanan perangkat lunak pada tingkat yang melampaui semua kecuali para peneliti keamanan manusia yang paling terampil.

Alih-alih rilis publik, Anthropic membatasi Claude Mythos Preview untuk 12 mitra peluncuran — di antaranya Amazon $AMZN +0.46% Web Services, Apple $AAPL -2.07%, Broadcom $AVGO +6.21%, Cisco $CSCO +0.30%, CrowdStrike $CRWD +6.18%, Google $GOOGL +1.82%, JPMorganChase, Linux Foundation, Microsoft $MSFT -0.16%, Nvidia $NVDA +0.26%, dan Palo Alto Networks $PANW +4.89% — semuanya akan menerapkannya secara eksklusif untuk tujuan keamanan defensif. Lebih dari 40 organisasi tambahan yang membangun atau memelihara infrastruktur perangkat lunak kritis juga akan menerima akses.

Konten Terkait

Alibaba meluncurkan klaster AI 10.000 chip menggunakan chip miliknya

WomenofGenAI founder Aakriti Srikanth tentang bagaimana menonjol saat industri teknologi berkembang

Dalam beberapa minggu terakhir, Anthropic menggunakan Mythos Preview untuk mengidentifikasi ribuan kerentanan zero-day di setiap sistem operasi dan peramban web utama, kata perusahaan. Temuan spesifik termasuk sebuah celah yang berasal dari 27 tahun lalu di OpenBSD dan kerentanan terpisah di pustaka pemrosesan video FFmpeg – yang tidak terdeteksi selama lima juta kali pengujian oleh alat uji otomatis meskipun usianya sekitar 16 tahun. Model tersebut juga merangkai beberapa kerentanan kernel Linux untuk mencapai kontrol penuh atas sebuah mesin dari akun pengguna biasa.

Tidak ada pelatihan khusus keamanan siber yang digunakan dalam membangun Mythos Preview, catat Anthropic — kemampuan model untuk menguji perangkat lunak terhadap kelemahan adalah turunan dari kemajuan umum dalam pengodean dan penalaran yang menentukannya di bidang-bidang lain, yang berarti atribut yang membantunya memperbaiki celah tidak terpisahkan dari atribut yang dapat diarahkan untuk mengeksploitasinya.

Anthropic memberikan $4 juta dalam donasi langsung di samping kredit penggunaan, termasuk $2.5 juta untuk Alpha-Omega dan Open Source Security Foundation melalui Linux Foundation, serta $1.5 juta untuk Apache Software Foundation. Mitra yang menghabiskan kumpulan kredit penggunaan akan membayar $25 per juta token masukan dan $125 per juta token keluaran. Model ini dapat diakses melalui Claude API, Amazon Bedrock, Google Cloud Vertex AI, dan Microsoft Foundry.

“Bahaya jika salah menanganinya sudah jelas, tetapi jika kita berhasil melakukannya dengan benar, ada peluang nyata untuk menciptakan internet dan dunia yang secara mendasar lebih aman daripada yang kita miliki sebelum hadirnya kemampuan siber berbasis AI,” kata CEO Dario Amodei dalam sebuah posting di X $TWTR 0.00%, menurut CNBC.

Dalam pernyataan tertulis yang dirilis bersamaan dengan pengumuman Anthropic, CTO CrowdStrike Elia Zaitsev memberikan peringatan yang tegas: model itu “menunjukkan apa yang sekarang dimungkinkan bagi para pembela dalam skala besar, dan para penyerang pada akhirnya akan berupaya mengeksploitasi kapabilitas yang sama,” dan tugas yang sebelumnya menuntut berbulan-bulan pekerjaan “sekarang terjadi dalam hitungan menit dengan AI,” menurut The New York Times.

Anthropic mengatakan telah menjalani diskusi berkelanjutan dengan pejabat pemerintah AS, termasuk Cybersecurity and Infrastructure Security Agency, mengenai kapabilitas model tersebut. Dalam 90 hari, perusahaan itu mengatakan rencananya menerbitkan laporan publik tentang kerentanan yang ditemukan dan diperbaiki, serta rekomendasi tentang bagaimana praktik keamanan harus berkembang.

Keberadaan model tersebut sebelumnya telah muncul ke publik setelah draf internal ditemukan di lokasi yang tidak diamankan di server Anthropic; perusahaan melacak paparan tersebut ke kesalahan konfigurasi pada alat manajemen konten pihak ketiga. Model tersebut disebutkan dalam dokumen-dokumen itu dengan nama kode “Capybara.”

📬 Daftar untuk Daily Brief

Briefing gratis, cepat, dan menyenangkan kami tentang ekonomi global, dikirim setiap pagi pada hari kerja.

Daftarkan saya