A Cisco (CSCO.US) lançou um serviço de segurança de IA voltado para os riscos de segurança de superagentes como o OpenClaw

A APP de notícias financeiras de Zhitong informa que a Cisco (CSCO.US) lançou serviços de segurança com o objetivo de proteger o mundo contra agentes de inteligência artificial e outras partes. Ao estabelecer identidades confiáveis, implementar controles de acesso rigorosos de zero confiança, reforçar os agentes antes da implantação, aplicar proteções de segurança em tempo de execução e fornecer ferramentas para equipes de Centros de Operações de Segurança (SOC) que bloqueiam ameaças em velocidade de máquina, a Cisco está construindo a segurança na base da economia emergente de inteligência artificial.

Por exemplo, o recentemente popular OpenClaw é uma plataforma de agentes de IA amplamente utilizada e muito procurada na comunidade tecnológica. Desenvolvido por Peter Steinberger, que posteriormente se juntou à OpenAI, o OpenClaw permite aos usuários configurar seus próprios agentes de IA, que podem rodar em computadores e executar tarefas variadas, desde verificar e responder a e-mails até gerenciar arquivos do sistema.

Embora essas funcionalidades sejam impressionantes, também podem representar riscos de segurança. Isso porque os usuários concedem aos modelos de IA controle sobre seus computadores. Embora isso seja ótimo na automação avançada — superautomatização — também pode levar a problemas graves, como excluir permanentemente e-mails importantes ou apagar programas inteiros do sistema.

Para empresas testando o OpenClaw em seus dispositivos, isso se torna um problema ainda maior. Por isso, muitas organizações estão lançando novos produtos de segurança com o objetivo de controlar o OpenClaw, prevenindo que seus agentes de IA causem mais mal do que bem.

Na semana passada, a Nvidia (NVDA.US) lançou sua própria plataforma, NemoClaw, na GTC em San Jose, Califórnia, enquanto a Cisco apresentou seus avanços na segunda-feira.

“OpenClaw é o que o ChatGPT representa para os atendentes de suporte ao cliente; na verdade, é um catalisador que facilita a implementação de assistentes de suporte em locais de trabalho e em casa por usuários tecnicamente proficientes”, explicou Jeetu Patel, presidente e diretor de produtos da Cisco.

Patel acrescentou: “O lado negativo, e o desafio, são os riscos de confiança e segurança desses agentes. Porque esses agentes… eles são um pouco como adolescentes. São extremamente confiantes, inexperientes, não percebem totalmente as consequências e não sabem onde estão as regras.”

Para resolver essas preocupações, a Cisco afirma estar adotando uma abordagem multifacetada para proteger o mundo contra agentes de IA maliciosos, defendendo os agentes de IA de ameaças externas e usando IA para detectar ameaças potenciais de atores mal-intencionados e hackers.

Chamar isso de “defender o mundo contra ameaças de IA” pode parecer exagero, mas Patel acredita que não. Assim como qualquer outro software, a IA pode ser usada para atacar infraestruturas ou roubar dados sensíveis.

Patel afirmou: “Os riscos desses assistentes de IA são muito maiores do que os de chatbots. No pior cenário, um chatbot pode dar uma resposta incorreta. Mas, no pior cenário de um assistente de suporte, um atendente pode tomar uma ação errada, que pode ter consequências catastróficas, como esvaziar sua conta bancária ou excluir seus e-mails, e essas ações não podem ser desfeitas.”

A Cisco, assim como outras empresas, acredita que a melhor abordagem é tratar os agentes de IA como se fossem funcionários humanos, atribuindo-lhes identidades verificáveis, gerenciando-os adequadamente e garantindo que tenham acesso às sistemas e serviços corretos.

Ao mesmo tempo, proteger os agentes de IA contra interferências externas visa impedir hackers de invadir a IA e forçá-la a executar tarefas que normalmente não realizaria.

A Cisco afirma que, para alcançar esse objetivo, está lançando um serviço que permitirá aos clientes testar o desempenho de seus agentes de IA sob ataques simulados, para entender onde eles se destacam e onde precisam de melhorias.

Por fim, a empresa disse que está usando agentes de IA para lidar com outras ameaças, garantindo que os clientes possam responder a diferentes situações na mesma velocidade que os atacantes.

O OpenClaw é apenas uma das últimas inovações no crescimento explosivo da IA e provavelmente impulsionará mais mudanças em breve. Afinal, ele foi lançado em novembro do ano passado e já começou a influenciar as decisões comerciais de grandes empresas. Claro, isso exigirá mais tipos de tecnologias e métodos de cibersegurança para ajudar os defensores a acompanharem os atacantes.