Trí nhớ dài hạn của AI thậm chí có thể bị tấn công bằng cách tiêm nhiễm, coi thói quen như quyền ủy quyền quá nguy hiểm, cần thêm xác nhận hiện tại và xác thực hai lần

Xem bản gốc
MeNews
Rủi ro an toàn của AI Agent bị phơi bày: Kẻ tấn công có thể lợi dụng "ô nhiễm bộ nhớ" để gây ra các thao tác sai lệch về tài chính
GoPlus Security tiết lộ rằng trong AgentGuard AI, thông qua cuộc tấn công "Tiêm nhớ lâu dài", kẻ tấn công lợi dụng trí nhớ dài hạn để khiến AI xem sở thích như là quyền được phép, từ đó dụ dỗ thực hiện các thao tác nhạy cảm như hoàn tiền, chuyển khoản. Các điểm phòng thủ bao gồm: xác nhận các thao tác liên quan tại thời điểm hiện tại, xem "thói quen/đi theo cũ" là rủi ro cao, ghi nhớ dài hạn có thể truy xuất nguồn gốc, mờ các lệnh kích hoạt xác thực hai yếu tố, trí nhớ dài hạn không thể thay thế quyền xác nhận theo thời gian thực. Cần xem hệ thống trí nhớ của AI như một mặt tấn công tiềm năng và sử dụng khung an ninh để kiểm tra, đánh giá.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim