Долговременная память ИИ действительно может быть уязвима к внедренным атакам, превращая привычки в авторизацию — слишком опасно, нужно добавить текущую проверку и двухфакторную аутентификацию

GoPlus Security раскрыла, что в AgentGuard AI осуществляется атака с помощью «внедрения исторической памяти», использующая долгосрочную память для того, чтобы заставить ИИ считать предпочтения за авторизацию, что ведет к индукции выполнения чувствительных операций, таких как возвраты средств и переводы. Основные меры защиты включают: необходимость подтверждения соответствующих операций в текущий момент, рассматривать «привычки/по-старому» как высокий риск, делать запись долгосрочной памяти с возможностью отслеживания, использовать неясные инструкции для вызова повторной проверки, а также не допускать замену долгосрочной памяти на оперативное авторизование. Следует рассматривать систему памяти ИИ как потенциальную точку атаки и проводить аудит с помощью системы безопасности.