La memoria a largo plazo de la IA puede ser vulnerada mediante ataques, confiar en los hábitos como autorización es demasiado peligroso, hay que añadir confirmación en tiempo real y verificación secundaria

GoPlus Security revela que en AgentGuard AI, mediante un ataque de "inyección de memoria histórica", se utiliza la memoria a largo plazo para hacer que la IA vea las preferencias como autorizaciones, induciendo la ejecución de operaciones sensibles como reembolsos y transferencias. Los puntos clave de protección incluyen: confirmar las operaciones relevantes en el momento actual, considerar "hábitos/lo de siempre" como de alto riesgo, hacer que la escritura en memoria a largo plazo sea trazable, activar una segunda verificación mediante instrucciones difusas, y que la memoria a largo plazo no reemplace la autorización en tiempo real. La sistema de memoria de la IA debe considerarse como una posible superficie de ataque y ser auditada con un marco de seguridad.