Cenários financeiros cuidam de "lagostas", associação de finança digital alerta sobre quatro riscos centrais

Como os agentes de IA e inteligência artificial podem superar a barreira da interpretabilidade para servir o setor financeiro?

Recentemente, a popularidade do agente de IA de código aberto OpenClaw (comumente conhecido como “Lagosta”) tem aumentado continuamente, sendo que este agente possui permissões elevadas por padrão, podendo controlar diretamente o computador através de comandos em linguagem natural. Recentemente, a Plataforma de Compartilhamento de Informações sobre Ameaças e Vulnerabilidades de Segurança Cibernética do Ministério da Indústria e Tecnologia da Informação (NVDB) e o Centro Nacional de Resposta a Emergências de Internet (CNCERT) emitiram alertas de risco de segurança relacionados.

Em 15 de março, a Associação de Finanças da Internet da China publicou o aviso de risco “Sobre a segurança na aplicação do OpenClaw na indústria de finanças na internet” (doravante referido como “Aviso de Risco”), afirmando que atualmente o setor financeiro na internet é altamente digitalizado e online, lidando diretamente com fundos, ativos, contas e dados pessoais sensíveis dos clientes. Embora o OpenClaw possa aumentar a eficiência do trabalho, suas permissões elevadas por padrão e configurações de segurança fracas podem ser facilmente exploradas por atacantes, tornando-se uma brecha para roubo de dados sensíveis ou controle ilegal de transações, trazendo riscos severos ao setor.

O principal analista da Broadcom, Wang Pengbo, afirmou à primeira财经 que a recente onda de agentes de código aberto, liderada pelo OpenClaw, está crescendo, mas quando essa tendência chega ao setor financeiro, enfrenta desafios sérios de compatibilidade e viabilidade. Em um setor altamente regulado, de alto risco e com grande responsabilidade, as instituições financeiras devem agir com extrema cautela e evitar seguir cegamente as tendências tecnológicas.

Dados e transações também apresentam riscos ocultos

“Os negócios centrais do setor financeiro, incluindo concessão de crédito, transações, gestão de risco e pagamentos, estão diretamente relacionados à segurança dos fundos, direitos dos usuários e estabilidade do sistema. Qualquer aplicação tecnológica deve priorizar conformidade e segurança. Atualmente, os agentes de código aberto enfatizam a automação ponta a ponta, mas sua lógica operacional entra em conflito fundamental com os requisitos de regulamentos financeiros de interpretabilidade, rastreabilidade e intervenção humana”, afirmou Wang Pengbo.

A Associação de Finanças na Internet identificou quatro riscos principais do OpenClaw na indústria financeira online. Primeiro, o risco de perda de fundos. O aviso de risco indica que o OpenClaw já revelou várias vulnerabilidades de risco médio a alto, que podem ser exploradas por atacantes para obter controle do dispositivo por meio de injeção de palavras-chave ou outras vulnerabilidades. Além disso, seus plugins (Skills) carecem de mecanismos eficazes de revisão de segurança comunitária, tendo ocorrido múltiplos incidentes de plugins maliciosos. Em cenários financeiros, esses riscos podem ser utilizados para roubar senhas de internet banking, chaves de pagamento, credenciais de API de negociação de valores mobiliários, entre outros dados sensíveis, permitindo o acesso a contas bancárias online, sistemas de negociação de ações e iniciando operações financeiras que resultam em perdas diretas para os clientes.

Segundo, o risco de responsabilidade nas transações. A associação afirma que o agente de IA possui capacidade de executar múltiplas etapas de forma autônoma, sendo utilizado por alguns usuários para monitoramento de ações e testes de estratégias de investimento em cenários financeiros. Processos automatizados podem levar a erros na transferência de fundos ou na compra de produtos de investimento, causando perdas reais. Como a tecnologia de IA ainda não oferece total interpretabilidade, a responsabilidade por transações financeiras automatizadas é difícil de determinar, gerando grande incerteza legal.

Terceiro, o risco de conformidade de dados. O agente OpenClaw possui memória persistente, armazenando continuamente dados gerados durante a operação em registros de sessão e arquivos de memória local. Quando utiliza APIs de grandes modelos ou realiza outras operações, esses dados podem ser transmitidos a terceiros.

A associação afirma que cenários de finanças na internet envolvem dados altamente sensíveis, como informações de crédito, documentos de aprovação de empréstimos e registros de transações. Quando esses dados entram na cadeia de processamento de IA, seu alcance de acesso e período de retenção podem exceder os propósitos originais de negócio, gerando riscos de conformidade na gestão de dados financeiros.

Além disso, há riscos de novos tipos de fraudes. A associação alerta que criminosos podem usar frases como “investir em ações com IA”, “ganhar dinheiro garantido” para aplicar golpes de investimento, além de criar informações falsas em massa usando a popularidade da “Lagosta” para enganar o público a baixar aplicativos falsificados ou transferir fundos para contas específicas. Outros golpes incluem o uso de “instalação remota” ou “ajuste remoto” para obter controle dos dispositivos dos consumidores, implantando malware ou roubando informações financeiras sensíveis. Relatórios indicam que os casos de fraudes financeiras envolvendo IA estão crescendo rapidamente, e a capacidade do público de identificar esses novos métodos de fraude ainda é limitada.

Instalação cautelosa e atenção às fraudes

Em resposta a esses riscos, a Associação de Finanças na Internet da China recomenda quatro medidas preventivas.

Primeiro, aconselha os consumidores financeiros a serem extremamente cautelosos ao instalar o OpenClaw em terminais de operações bancárias online, negociações de valores mobiliários ou pagamentos pessoais. Se for realmente necessário, recomenda-se não conceder permissões de operação ao sistema de serviços financeiros, acompanhar de perto as correções de vulnerabilidades do OpenClaw, limitar a instalação de plugins e evitar inserir informações sensíveis como número de identidade, número de cartão bancário ou senha de pagamento durante o uso. Além disso, como esses aplicativos podem gerar custos elevados de tokens ao chamar APIs de grandes modelos, os usuários devem monitorar esses custos de perto.

Segundo, recomenda-se que os consumidores fiquem atentos a fraudes financeiras sob o pretexto de “gestão de ações com IA”, “investimento garantido” ou “lucro certo”, e que operações de transferência ou investimento sejam feitas apenas por canais oficiais, evitando confiar em terceiros que ofereçam “instalação remota” ou “ajuste remoto” para acessar seus dispositivos.

Terceiro, sugere-se que as instituições não instalem o OpenClaw em terminais que lidem com informações de clientes, operações financeiras, avaliações de risco ou execução de transações, nem insiram dados sensíveis como informações financeiras, dados de transações ou documentos de aprovação de crédito na IA ou em sua cadeia de processamento.

Por fim, recomenda-se que as organizações incluam a gestão de segurança do uso de agentes como o OpenClaw em seu escopo de segurança da informação, promovendo treinamentos específicos para funcionários, a fim de melhorar a capacidade de identificar e prevenir riscos de segurança associados a esses agentes.

Wang Pengbo acredita que, embora os agentes de código aberto não sejam totalmente sem valor para o setor financeiro, sua maior vantagem reside na redução de custos e aumento de eficiência, automatizando tarefas auxiliares repetitivas e bem definidas. Para que esses agentes realmente entrem em cenários financeiros essenciais, é necessário superar várias barreiras-chave, incluindo a implementação de algoritmos interpretáveis e rastreáveis, a criação de mecanismos claros de responsabilidade, o estabelecimento de sistemas de conformidade de dados e privacidade compatíveis com padrões financeiros, além de manter permissões de intervenção humana e mecanismos de interrupção para evitar riscos irreversíveis.

(Este artigo é uma reprodução do First Financial)