Habitual preferences written into long-term memory are a warning sign; AgentGuard must raise the trigger threshold of historical memories to prevent vague instructions from exploiting loopholes.

Ver original
MeNews
GoPlus: "Ataque de autorização de memória histórica" pode induzir o agente de IA a executar operações financeiras
Relatório da ME News, o GoPlus AgentGuard revelou um ataque oculto: os atacantes induzem a IA a lembrar preferências (como uma maior propensão a reembolsar ativamente), e depois usam comandos ambíguos como "tratar normalmente" para acionar operações financeiras. Para comportamentos de alta risco relacionados à autorização de memórias históricas, é obrigatório confirmar explicitamente na sessão atual reembolsos, transferências e similares; a escrita de memórias envolvendo hábitos, preferências e regras antigas é considerada uma modificação de alto risco, memórias de longo prazo devem ser rastreáveis, e esse tipo de comando deve elevar o nível de risco, não permitindo que memórias de longo prazo substituam a autorização atual.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado