Model Claude Mengakses Sistem Nyata dalam Pengujian Keamanan yang Salah Konfigurasi
Anthropic mengungkap 3 insiden di mana model Claude-nya memperoleh akses tidak sah ke sistem nyata dari 3 organisasi. Insiden terjadi selama evaluasi keamanan yang dikonfigurasi salah sehingga memiliki akses internet langsung, meski model diberi tahu bahwa mereka tidak memiliki koneksi internet. Perusahaan AI itu mengidentifikasi insiden setelah meninjau 141.006 kali pengujian evaluasi, peninjauan yang diluncurkan setelah OpenAI mengungkap bahwa modelnya lolos dari lingkungan uji yang terisolasi
OliverGrant·07-31 06:12
