Como manter a linha de segurança sob a febre da criação de lagostas?

“Recentemente, no escritório, metade das pessoas fala sobre ‘criar lagostas’ e a outra metade aprende como ‘criar lagostas’.” Em 13 de março, Li Yao, gerente de produto de uma empresa de internet em Pequim, contou ao repórter que a discussão dos colegas sobre “criar lagostas” não se refere à aquicultura real, mas à personalização do framework de inteligência artificial de código aberto OpenClaw, lançado recentemente, para treino e implantação.

Como o ícone é uma lagosta vermelha, o OpenClaw é chamado de “lagosta” por todos. Diferente de IA comum, ele consegue integrar chamadas a softwares de comunicação e grandes modelos de linguagem, executando autonomamente tarefas complexas como gerenciamento de arquivos, envio de e-mails e processamento de dados no computador do usuário.

Por que essa “lagosta” está causando uma febre nacional? Quais riscos de segurança ela apresenta? O repórter do Diário dos Trabalhadores investigou e entrevistou sobre o assunto.

Diversas regiões lançam políticas de apoio relacionadas à “lagosta”

Como o primeiro grande destaque de IA que chamou atenção nacional neste início de ano, o que torna a “lagosta” tão especial?

“O núcleo da IA comum é de diálogo, onde o usuário faz uma pergunta e recebe uma resposta ou instruções. A ‘lagosta’ é um típico ‘agente de ação’. Basta definir o objetivo da tarefa, e ela pode operar várias ferramentas para completar todo o processo.” exemplificou o blogueiro de tecnologia “Seguindo com Aliang aprendendo IA”, que trabalhou em grandes empresas de internet. “Se pedir para organizar e-mails importantes, ela abrirá automaticamente a caixa de entrada, filtrará o conteúdo e redigirá uma resposta preliminar, tudo sem intervenção do usuário.”

Yu Jingwen, engenheira de IA do Laboratório de Criatividade Digital AIIT da Universidade de Pequim, afirmou: “Diferente do ChatGPT e outros grandes modelos de linguagem, o OpenClaw não é apenas um chatbot, mas um ‘funcionário digital’ que pode obter permissões do sistema operacional local, chamar várias ferramentas, planejar etapas com comandos em linguagem natural e executar tarefas complexas automaticamente.”

“Modelos de IA tradicionais, por mais avançados que sejam, sempre ficam limitados ao seu domínio específico, sem conseguir colaborar entre áreas. A vantagem da ‘lagosta’ é que ela rompe essas barreiras, ativando funções e valores de diferentes grandes modelos.” explicou Yu Jingwen. “Portanto, pode-se dizer que o OpenClaw é uma inovação disruptiva, com caráter de ponte e conexão na indústria de IA.”

Em meio à febre, várias regiões responderam positivamente. Segundo dados não completos, até 12 de março, Shenzhen Longgang, Wuxi High-tech Zone, Hefei High-tech Zone, Changshu em Suzhou, Qixia em Nanjing, e Xiaoshan em Hangzhou, lançaram políticas de apoio à “lagosta”, além de alguns governos locais oferecerem serviços gratuitos de implantação de “pequenas lagostas” ao público.

A “lagosta” esconde múltiplos riscos de segurança

Apesar do entusiasmo popular em “criar lagostas”, as primeiras experiências nem sempre foram positivas.

“De modo geral, não é tão incrível quanto a propaganda na internet.” admitiu Li Yao, que afirmou que usar bem o “lagosta” requer controle de permissões de várias aplicações no computador. Por cautela, ele não concedeu muitas permissões, achando que o efeito era limitado.

Yu Jingwen analisou que a capacidade central do OpenClaw está na operação e controle de aplicações e ferramentas. Para isso, o usuário precisa conceder muitas autorizações, incluindo e-mail, softwares de escritório e plataformas backend. “É como pedir a alguém que limpe sua casa: você precisa entregar as chaves de todos os cômodos.” ela comparou. Essa autorização total pode trazer riscos de vazamento de dados para indivíduos e empresas que implantam a “lagosta”.

Em 10 de março, o Centro Nacional de Resposta a Emergências de Internet publicou o “Aviso de Risco de Segurança do OpenClaw” (doravante, “Aviso”), que aponta que, para alcançar a capacidade de “executar tarefas autonomamente”, o aplicativo recebe permissões elevadas do sistema. Contudo, sua configuração padrão de segurança é extremamente vulnerável, e um invasor que descubra uma brecha pode obter controle total do sistema facilmente.

O “Aviso” mostra que, até o momento, várias vulnerabilidades críticas foram expostas no OpenClaw. Se exploradas por atacantes maliciosos, podem levar ao controle do sistema, vazamento de informações pessoais e dados sensíveis. “Para usuários individuais, pode resultar na exposição de dados confidenciais como fotos, documentos, registros de conversas e contas de pagamento; para empresas, pode causar vazamento de dados essenciais e segredos comerciais, levando a perdas incalculáveis.” explicou Yu Jingwen.

O advogado Zhou Zichuan, da firma HanDing em Pequim, afirmou que, para cumprir as instruções do usuário, o “lagosta” pode coletar dados em toda a internet sem controle, e a quantidade, o nível de acesso e a sensibilidade desses dados muitas vezes ultrapassam o controle do usuário, podendo configurar crimes de obtenção ilegal de dados de sistemas de informação ou violação de privacidade.

“Além disso, muitos usuários, buscando conveniência, contratam terceiros para implantar a ‘lagosta’ mediante pagamento, mas esses terceiros podem não ter condições de garantir segurança, expondo os dispositivos a riscos de vazamento de dados, controle remoto por códigos maliciosos e roubo de informações sensíveis.” completou Zhou Zichuan.

Na febre, é preciso manter a linha de segurança

O relatório de trabalho do governo deste ano destacou a ampliação do “AI +”, promovendo a rápida adoção de novas gerações de terminais inteligentes e agentes inteligentes, além de impulsionar a aplicação comercial em setores-chave, cultivando novos modelos de negócios nativos de IA.

“A ‘lagosta’ oferece uma nova via para a implementação prática de agentes de IA. Se usada de forma regulada, pode aproveitar bem as capacidades existentes, aumentando significativamente a eficiência de indivíduos e empresas.” afirmou Yu Jingwen. Para ela, o desenvolvimento saudável da “lagosta” depende de equilibrar conveniência e segurança.

“Novas tecnologias como a ‘lagosta’ tornam as questões legais relacionadas à IA ainda mais complexas.” exemplificou Zhou Zichuan. Por exemplo, a questão da ‘atribuição de responsabilidades’, quando um agente de IA como a ‘lagosta’ causa danos ou violações ao executar comandos, ainda não está claramente definida na lei. Como responsabilizar desenvolvedores, implantadores e usuários nesses casos, é uma questão que a legislação precisa esclarecer.

Para desenvolvedores e provedores de produtos de IA, Zhou Zichuan recomenda que, de um lado, cumpram as obrigações de proteção de dados pessoais, como manter registros de processamento de dados e garantir rastreabilidade. De outro, reforcem a conscientização legal, fortalecendo a gestão de permissões de IA e a revisão de comandos, para reduzir riscos de segurança.

O “Aviso” do Centro Nacional de Resposta a Emergências de Internet também oferece recomendações específicas: ao implantar e usar o OpenClaw, as organizações e usuários devem isolar o ambiente de execução, usar tecnologias como containers para limitar permissões elevadas, além de gerenciar rigorosamente as fontes de plugins, acompanhar atualizações e patches de segurança.

“Antes de ‘criar lagostas’, os usuários devem avaliar cuidadosamente os benefícios e riscos, decidir se realmente precisam dela para resolver problemas, e só então proceder à implantação.” alertou Yu Jingwen. Durante o uso, é fundamental fazer partições de dados e proteger a privacidade, evitando seguir modismos e expondo seus dados e privacidade a riscos desnecessários.