Anthropic Merilis Langkah Keamanan untuk Model Fable 5 dan Kerangka Penilaian Perilaku Jailbreak AI

robot
Pembuatan abstrak sedang berlangsung
Pada 3 Juli, Anthropic mengumumkan kerangka kerja yang diusulkan untuk menilai tingkat keparahan perilaku 'jailbreak' kecerdasan buatan dan merinci langkah-langkah keamanan siber yang diterapkan dalam model Claude Fable 5 yang diluncurkan secara global. Perusahaan mengkategorikan kasus penggunaan terkait keamanan siber ke dalam empat jenis, mulai dari 'penggunaan terlarang' hingga 'penggunaan tidak berbahaya.' Penggunaan terlarang mencakup aktivitas seperti pengembangan ransomware, pembuatan malware, dan serangan terhadap infrastruktur siber-fisik. Aktivitas berisiko tinggi dengan karakteristik 'penggunaan ganda', seperti pengujian penetrasi, akan dicegat hingga mekanisme kontrol yang lebih kuat ditetapkan. Sistem peringkat Keparahan Jailbreak Siber yang diusulkan oleh Anthropic berkisar dari CJS-0 hingga CJS-4, dibagi menjadi lima tingkat dan dinilai dalam empat dimensi. Anthropic juga meluncurkan proyek HackerOne, mengundang peneliti keamanan untuk menyerahkan potensi kasus jailbreak model. (Sina Finance)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan