A equipa técnica do ByteDance analisa os riscos de segurança do OpenClaw e propõe a solução de proteção em tempo de execução Jeddak AgentArmor

Notícias da ME: a mensagem de 1 de abril (UTC+8). Recentemente, a equipa técnica da ByteDance apresentou uma solução de proteção em tempo de execução para o Jeddak AgentArmor, devido aos novos riscos de segurança que a OpenClaw, a aplicação de agente, enfrenta. O artigo indica que os principais desafios de segurança da OpenClaw decorrem das características da sua arquitetura em tempo de execução, incluindo confiança excessiva em fontes externas de informação, decisões probabilísticas do LLM, funcionamento com permissões demasiado elevadas e falta de controlo nas comunicações externas. Com base no “modelo de interação em três camadas” construído, a equipa identificou três tipos de riscos fundamentais: desvio de intenções, sequestro do fluxo de trabalho e fuga do fluxo de dados do programa. A solução Jeddak AgentArmor tem como objetivo estabelecer, através de um sistema unificado de proteção em tempo de execução de “mecanismo de verificação central + capacitação por modelos grandes dedicados + suporte por encapsulamento periférico”, três mecanismos essenciais: verificação de consistência de intenções, garantia da integridade do fluxo de controlo e gestão da confidencialidade do fluxo de dados, para construir, para a OpenClaw, âncoras dinâmicas de confiança, bloqueando, a partir da raiz, os riscos de ataques furtivos. (Fonte: InFoQ)