Звички та переваги, записані у довготривалу пам’ять, є сигналом небезпеки, AgentGuard має підвищити поріг активації історичної пам’яті, щоб не дозволити нечітким інструкціям використовувати лазівки.

Переглянути оригінал
MeNews
GoPlus: «Атака на авторизацію «Історична пам’ять» може спонукати AI-агента виконувати фінансові операції»
Медійне повідомлення ME News, GoPlus AgentGuard повідомляє про приховану атаку: зловмисники спонукають ШІ запам’ятовувати переваги (наприклад, схильність до активного повернення коштів), а потім використовують нечіткі команди, такі як «обробляти як зазвичай», для запуску операцій з коштами. Для високоризикових дій, що пов’язані з авторизацією історичної пам’яті, необхідно чітко підтверджувати повернення коштів, перекази тощо у поточній сесії; запис пам’яті, що стосується звичок, переваг, старих правил, вважається високоризиковою модифікацією, довгострокова пам’ять має бути прослідковуваною, а подібні команди слід підвищувати до рівня ризику, не дозволяючи довгостроковій пам’яті замінювати поточне авторизаційне рішення.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено