Привычки и предпочтения, записанные в долгосрочную память, являются опасным сигналом, AgentGuard должен повысить порог срабатывания исторической памяти, чтобы не допустить, чтобы расплывчатые инструкции использовали лазейки.

ME News сообщает, что GoPlus AgentGuard выявил скрытую атаку: злоумышленники побуждают ИИ запомнить предпочтения (например, склонность к возвратам средств), а затем используют расплывчатые команды вроде «обработать как обычно» для инициирования операций с финансами. Для высокорискованных действий, связанных с авторизацией исторической памяти, необходимо явно подтверждать возвраты, переводы и т.д. в текущей сессии; запись памяти, связанной с привычками, предпочтениями и старым порядком, считается высокорисковой модификацией, долгосрочная память должна быть прослеживаемой, а такие команды должны повышать уровень риска, не позволяя долгосрочной памяти заменять текущие авторизации.