Việc ghi nhớ thói quen và sở thích vào bộ nhớ dài hạn là dấu hiệu nguy hiểm, AgentGuard cần nâng cao ngưỡng kích hoạt của bộ nhớ lịch sử, đừng để các lệnh mơ hồ lợi dụng khe hở.

Xem bản gốc
MeNews
GoPlus:“Ủy quyền ghi nhớ lịch sử” tấn công có thể dẫn dụ AI đại lý thực hiện các thao tác tài chính
ME News đưa tin, GoPlus AgentGuard tiết lộ cuộc tấn công ẩn: kẻ tấn công dụ AI ghi nhớ sở thích (như thiên về hoàn tiền hơn), rồi dùng các lệnh mơ hồ như “xử lý như thường lệ” để kích hoạt thao tác tài chính. Đối với các hành vi có rủi ro cao liên quan đến quyền truy cập ghi nhớ lịch sử, cần xác nhận rõ ràng trong phiên hiện tại về hoàn tiền, chuyển khoản, v.v.; việc ghi nhớ liên quan đến thói quen, sở thích, quy tắc cũ được xem là chỉnh sửa có rủi ro cao, ghi nhớ dài hạn phải có khả năng truy xuất nguồn gốc, và các lệnh như vậy nên được nâng cao mức độ rủi ro, không để ghi nhớ dài hạn thay thế quyền xác nhận hiện tại.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim