Os investigadores da Tracebit desenvolvem uma defesa contra o “context bombing” para agentes de hacking por IA
Os investigadores da Tracebit anunciaram na segunda-feira uma técnica defensiva de cibersegurança chamada context bombing, que utiliza prompt injections para proteger contra agentes de hacking com IA. A técnica coloca comandos maliciosos junto a palavras-passe e chaves criptográficas guardadas na AWS para acionar mecanismos de recusa nos modelos de linguagem grandes em ataque, fazendo com que se desliguem. As prompt injections, tradicionalmente usadas por atacantes para manipular LLMs a exfiltra
CryptoFrontier·07-13 15:17
