GoPlus:「歴史記憶認証」攻撃はAIエージェントに資金操作を誘導させることができる

robot
概要作成中
ME News ニュース、2023年5月15日(UTC+8)、GoPlusが明らかにしたところによると、そのAgentGuardチームは隠された攻撃方法を発見しました:攻撃者はまずAIエージェントに「より積極的に返金を行う」などの好みを記憶させ、その後、「従来通り処理する」「通常通り処理する」などの曖昧な表現を用いて資金操作を誘発します。この種の「履歴記憶の権限付与」に関わる高リスク行為については、以下に注意してください:返金、送金、削除、送信、敏感な設定の同期は、必ず現在のセッションで明示的に確認を求めること;「習慣」「好み」「従来通り」などの記憶書き込みは高リスクな状態変更とみなすこと;長期記憶は追跡可能でなければならない:誰が書き込んだのか、いつ書き込んだのか、確認済みかどうか;「従来通り処理」「以前と同じように処理」などの曖昧な表現はリスクレベルを自動的に引き上げること;長期記憶が現在の権限付与を代替してはいけないこと。(出典:PANews)
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 7
  • 3
  • 共有
コメント
コメントを追加
コメントを追加
MevBreakRoom
· 10時間前
現在のセッションで二次確認が必要です。このパッチのアイデアは正しいです。
原文表示返信0
LendingPoolObserver
· 10時間前
長期記憶がバックドアになったということですね
原文表示返信0
RetroRadioIridescence
· 10時間前
いつものルールが罠に変わる、これを誰が防げるのか
原文表示返信0
WhaleInAGlassBottle
· 10時間前
追跡可能な監査+リアルタイム認証のアップグレード、二重の保険で安心
原文表示返信0
PuppyLooksAtTvl
· 10時間前
攻撃者心理学満点:人と機械の信頼を築いてから収穫する
原文表示返信0
LatencyLullaby
· 10時間前
好感度の書き込み=高リスクの修正、この線ははっきりと引かれている
原文表示返信0
DustyAlpha
· 10時間前
この攻撃チェーンはかなり陰険に設計されている。まず習慣を養い、その後曖昧にトリガーする。AIの安全性は確かに一度の指示だけを見ることではない。
原文表示返信0
  • ピン留め