Memori jangka panjang AI ternyata bisa disusupi serangan, menganggap kebiasaan sebagai otorisasi terlalu berbahaya, harus ditambahkan konfirmasi saat ini dan verifikasi kedua

Lihat Asli
MeNews
Eksposur Risiko Keamanan Agen AI: Penyerang dapat memanfaatkan "kontaminasi memori" untuk menipu operasi dana
GoPlus Security tiết lộ rằng trong AgentGuard AI, thông qua cuộc tấn công "Tiêm nhớ lâu dài", lợi dụng trí nhớ dài hạn để khiến AI xem sở thích như là quyền được phép, từ đó dẫn đến thực hiện các thao tác nhạy cảm như hoàn tiền, chuyển khoản. Các điểm phòng thủ bao gồm: xác nhận các thao tác liên quan ngay tại thời điểm thực hiện, xem "thói quen/đi theo cũ" là rủi ro cao, ghi nhớ dài hạn có thể truy xuất nguồn gốc, mờ nhạt lệnh kích hoạt xác thực hai yếu tố, trí nhớ dài hạn không thể thay thế quyền xác nhận theo thời gian thực. Hệ thống trí nhớ của AI cần được xem là một mặt tấn công tiềm năng và cần được kiểm tra bằng khung an ninh.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar