GoPlus:“歷史記憶授權”攻擊可誘導AI代理執行資金操作

robot
摘要生成中
ME News 消息,5 月 15 日(UTC+8),據GoPlus披露,其AgentGuard團隊發現一種隱蔽的攻擊方式:攻擊者先誘導AI代理記住"更傾向於主動退款"等偏好,隨後通過"按老規矩處理""照常處理"等模糊表述觸發資金操作。對於這類"歷史記憶授權"的高危行為,務必注意:退款、轉帳、刪除、發信、同步敏感配置,必須要求當前會話明確確認;涉及"習慣""偏好""老規矩"的記憶寫入,要被視為高風險狀態修改;長期記憶必須可追溯:誰寫的、什麼時候寫的、是否經確認;"照常處理""按以前那樣來"這類模糊表述,要默認提高風險等級;不能讓長期記憶取代當前授權。(來源:PANews)
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 7
  • 3
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
MEV茶水间
· 2小時前
必須當前會話二次確認,這個補丁思路對
查看原文回復0
借贷池旁观者
· 2小時前
長期記憶成後門了屬於是
查看原文回復0
复古收音机浮彩
· 2小時前
老規矩變陷阱,這誰防得住
查看原文回復0
玻璃瓶里的鲸
· 2小時前
可追溯審計+實時授權升級,雙重保障才安心
查看原文回復0
小狗看TVL
· 2小時前
攻擊者心理學滿分:讓人機建立信任再收割
查看原文回復0
Latency Lullaby
· 2小時前
偏好寫入=高風險修改,這條紅線劃得清楚
查看原文回復0
DustyAlpha
· 2小時前
這攻擊鏈設計得挺陰險的,先養習慣再模糊觸發,AI安全確實不能只看單次指令
查看原文回復0