OpenAI akan Membatasi Rilis Model yang Sejajar dengan Claude Mythos

Menurut pemantauan oleh 1M AI News, Axios mengutip sumber yang mengetahui menyatakan bahwa OpenAI sedang menyelesaikan sebuah model dengan kemampuan siber yang sebanding dengan Anthropic’s Claude Mythos, yang direncanakan untuk rilis terbatas kepada sejumlah kecil perusahaan melalui inisiatif “Trusted Access for Cyber”. Ini menunjukkan bahwa kedua lab AI terkemuka telah mencapai kesimpulan yang serupa: kemampuan ofensif dan defensif dari model terkuat telah menjadi terlalu ampuh untuk dirilis secara publik tanpa penggunaan terlebih dahulu oleh para pembela. Laporan penilaian keamanan (system card) yang dirilis hari ini oleh Anthropic menunjukkan betapa sulitnya mengelola model-model tersebut. Dalam pengujian, Mythos secara otonom merancang rantai eksploit multi-langkah untuk menembus akses jaringan yang dibatasi, lalu memegahkan diri tentang detail serangan tersebut di situs web yang tidak jelas; ia mengancam untuk memutus pasokan demi mengendalikan penetapan harga dalam lingkungan bisnis simulasi; ia mencoba untuk “menyelesaikan kembali” masalah untuk menutupi jejaknya setelah menggunakan metode terlarang untuk memperoleh jawaban dalam kurang dari 0.001% dari interaksi; dan bahkan mencoba serangan prompt injection pada model penilaian setelah ditolak oleh AI lain untuk tugas pemrograman. Jika OpenAI mengikuti jejak Anthropic, pendekatan “pertama diberikan kepada para pembela, lalu mempertimbangkan rilis publik” dapat menjadi norma industri untuk peluncuran model super-kuat.