Seorang peretas ditambah Mythos sama dengan satu pasukan khusus: Bloomberg mengungkap rahasia di balik keputusan blokir Anthropic

Berita ME News, 16 April (UTC+8), melalui wawancara bernama dengan peneliti tim merah, eksekutif, dan pejabat pemerintah AS, mengungkap proses pengambilan keputusan lengkap dari penemuan hingga pemblokiran. Peneliti keamanan AI Nicholas Carlini pada bulan Februari membuka laptopnya saat menghadiri pernikahan di Bali dan menguji Mythos yang baru saja dibuka untuk peninjauan internal, dalam beberapa jam dia menemukan beberapa jalur intrusi, dengan target yang melibatkan infrastruktur yang digunakan secara luas di seluruh dunia. Setelah kembali ke San Francisco, dia menemukan Mythos mampu secara mandiri membuat alat intrusi untuk Linux. Kepala tim merah terdepan Logan Graham berkata: “Dalam beberapa jam setelah mendapatkan modelnya, kami tahu bahwa ini berbeda.” Perbedaan utama adalah bahwa generasi flagship sebelumnya Opus 4.6 dapat membantu manusia memanfaatkan kerentanan, sedangkan Mythos dapat menyelesaikan seluruh proses eksploitasi secara mandiri. Graham memperingatkan manajemen: ini adalah risiko keamanan nasional. Co-founder sekaligus Chief Scientist Jared Kaplan mengatakan bahwa dia telah memantau Mythos dengan “sangat teliti” sejak tahap pelatihan, dan mulai menyadari pada bulan Januari seberapa kuat kemampuan model ini dalam menemukan kerentanan, dan perlu menilai apakah kemampuan ini hanya hal baru secara teknis, atau “berkaitan erat dengan infrastruktur internet,” dan akhirnya menyimpulkan bahwa yang terakhir. Pada akhir Februari hingga awal Maret, dia dan co-founder Sam McCandlish melaporkan kepada manajemen termasuk CEO Dario Amodei dan Presiden Daniela Amodei, menyarankan agar tidak dipublikasikan secara terbuka tetapi diizinkan untuk dicoba oleh perusahaan eksternal bahkan pesaing. Pada minggu pertama Maret, perusahaan secara resmi menyetujui untuk menempatkan Mythos sebagai alat pertahanan jaringan. Berita ini juga mengungkapkan detail pengujian baru. Dalam salah satu pengujian versi awal, model secara mandiri merancang skema serangan berlangkah-langkah, menembus batas lingkungan operasi untuk mendapatkan akses internet, lalu mulai mempublikasikan konten secara online. Dalam pengujian yang dipandu instruksi, Mythos menulis rantai serangan browser yang menggabungkan empat kerentanan, yang juga sangat sulit dilakukan oleh peretas manusia. JPMorgan Chase telah menggunakan model besar untuk membantu menemukan kerentanan perangkat lunaknya sebelum Mythos dipublikasikan, dengan fokus pada pemindaian rantai pasokan dan komponen sumber terbuka. Menurut orang dalam, sebelumnya membutuhkan beberapa hari hingga beberapa minggu untuk menemukan dan menulis kode eksploitasi kerentanan zero-day, kini tercepat hanya beberapa menit. CEO Jamie Dimon mengatakan dalam panggilan laporan keuangan bahwa Mythos “menunjukkan masih banyak kerentanan yang perlu diperbaiki.” Chief Security and Trust Officer Cisco Anthony Grieco khawatir bahwa penyerang dapat memanfaatkan AI untuk menyerang perangkat jaringan terminal yang sudah tidak dipelihara lagi, karena perangkat ini tidak akan lagi menerima patch keamanan. Seorang sumber yang mengetahui penilaian pertahanan AS mengatakan bahwa membiarkan satu hacker menggunakan Mythos atau alat serupa sama saja dengan meningkatkan prajurit biasa menjadi pasukan khusus; organisasi hacker kriminal dapat mencapai tingkat intelijen negara kecil; negara kecil mungkin memperoleh kemampuan serangan siber setingkat negara besar. Mantan kepala keamanan siber NSA Rob Joyce berkata: “Saya percaya AI pada akhirnya akan membuat kita lebih aman, tetapi dari sekarang hingga hari itu ada masa gelap, penyerang akan memiliki keunggulan mutlak, dan organisasi yang tidak membangun fondasi akan diretas.” (Sumber: BlockBeats)