Anthropic meluncurkan mekanisme keamanan identitas agen untuk menutup celah kebocoran AI.

robot
Pembuatan abstrak sedang berlangsung
Berita dari Bikeworld, Anthropic meluncurkan mekanisme keamanan identitas agen untuk produk kolaborasi tim Claude Tag, yang bertujuan untuk menutup celah kebocoran AI sepenuhnya. Mekanisme ini membekali setiap saluran dengan paket izin independen, memberikan akun khusus langsung kepada AI untuk mencegah celah akses berlebihan dalam kolaborasi multipihak. Arsitektur keamanan baru menggantikan model kredensial pribadi pinjaman tradisional dengan file konfigurasi kebijakan dinamis, sehingga AI dapat berperan sebagai identitas independen tingkat tim. Pakar sandbox keamanan Kenton Varda mengkritik model ini, dengan alasan bahwa memberikan akun khusus langsung kepada AI tidak dapat mengakomodasi skala tugas yang besar dan akan merusak mekanisme akuntabilitas manusia. Ia menunjukkan bahwa agen tidak dapat menjadi subjek tanggung jawab secara hukum dan administratif, dan semua izin operasi harus berasal dari manusia yang konkret. Varda menganjurkan penggunaan model keamanan berbasis kemampuan untuk memastikan tindakan AI dapat dilacak ke inisiator spesifik.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 4
  • 1
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
OrderCancellerAfterTheRain
· 2jam yang lalu
Strategi dinamis jauh lebih baik daripada meminjam sertifikat, tetapi bagaimana cara mengatasi ledakan izin dalam skala besar?
Lihat AsliBalas0
BorrowedHalo
· 3jam yang lalu
Singkatnya, ini masalah kepercayaan: percaya pada kode atau orang? Kedua sisi tidak memiliki jawaban sempurna.
Lihat AsliBalas0
Low-PolyEarth
· 3jam yang lalu
Mekanisme keamanan identitas +1, tetapi berapa lama log audit akun khusus AI harus disimpan? Biaya kepatuhan tidak rendah.
Lihat AsliBalas0
StopLossSparrow
· 3jam yang lalu
Paket izin Claude ini cukup detail, tetapi masalah pelacakan yang disebutkan Kenton sungguh menyayat hati, apakah AI yang disalahkan atau manusia yang disalahkan?
Lihat AsliBalas0
  • Disematkan