Медійне повідомлення ME News, GoPlus AgentGuard повідомляє про приховану атаку: зловмисники спонукають ШІ запам’ятовувати переваги (наприклад, більш схильні до активного повернення коштів), а потім використовують нечіткі команди, такі як «обробляти як зазвичай», для запуску операцій з коштами. Для високоризикових дій, що пов’язані з авторизацією історичної пам’яті, необхідно чітко підтверджувати повернення коштів, перекази тощо у поточній сесії; запис пам’яті, що стосується звичок, переваг, старих правил, вважається високоризиковим зміною, довгострокова пам’ять має бути прослідковуваною, а подібні команди слід підвищувати до рівня ризику, не дозволяючи довгостроковій пам’яті замінювати поточну авторизацію.

MeNews

2026-05-23 15:06:07

Генерація анотацій у процесі

ME News Новини, 15 травня (UTC+8), згідно з розкриттям GoPlus, команда AgentGuard виявила прихований спосіб атаки: зловмисники спочатку спонукають AI-агента запам’ятати переваги, такі як "більш схильний до активного повернення коштів", а потім за допомогою нечітких формулювань, таких як "обробляти за старими правилами" або "обробляти як зазвичай", викликають операції з коштами. Щодо таких високоризикових дій, пов’язаних із "дозволом на історичну пам’ять", обов’язково слід звернути увагу: повернення коштів, перекази, видалення, надсилання повідомлень, синхронізація чутливих налаштувань — повинні явно підтверджуватися поточною сесією; запис пам’яті, що стосується "звичок", "переваг" або "старих правил", слід вважати високоризиковим зміненням стану; довгострокова пам’ять має бути відстежуваною: хто її записав, коли, чи підтверджено; нечіткі формулювання, такі як "обробляти як зазвичай" або "як раніше", слід автоматично підвищувати рівень ризику; довгострокова пам’ять не повинна замінювати поточне дозвіл. (Джерело: PANews)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

12 лайків

Нагородити
12
7
3
Поділіться

Прокоментувати

Додати коментар

MevBreakRoom

· 10год тому

Потрібно двічі підтвердити поточну сесію, цей підхід до патчу правильний