CEO da Anthropic alerta para um ‘momento de perigo’ cibernético à medida que a IA expõe milhares de vulnerabilidades

Dario Amodei, CEO e cofundador da Anthropic, saiu, e Jamie Dimon, CEO do JPMorgan Chase.

Denis Balibouse | Reuters | Samuel Corum | Bloomberg | Getty Images

O CEO da Anthropic, Dario Amodei, alertou na terça-feira que a inteligência artificial criou uma janela estreita para que as empresas de tecnologia, governos e bancos do mundo corrijam dezenas de milhares de vulnerabilidades de software encontradas pelo modelo mais recente de sua empresa.

Aquele modelo de IA, Mythos, foi apresentado no mês passado juntamente com a divulgação de que havia descoberto vulnerabilidades de décadas atrás em softwares cruciais.

Desde que os modelos de IA do adversário geopolítico China estão “talvez de seis a 12 meses” atrás do produto da Anthropic, há “aproximadamente esse período de tempo” para corrigir esses problemas, disse Amodei.

Os comentários foram feitos durante um evento da Anthropic no qual Amodei compartilhou o palco com o CEO do JPMorgan Chase, Jamie Dimon, e revelou uma nova suíte de agentes destinada a automatizar tarefas financeiras.

“O perigo é apenas um aumento enorme na quantidade de vulnerabilidades, na quantidade de violações, no dano financeiro causado por ransomware em escolas, hospitais, sem falar dos bancos”, disse Amodei.

A Anthropic limitou Mythos a algumas empresas parceiras devido a preocupações sobre o que criminosos ou nações adversárias poderiam fazer com ele. As últimas atualizações do modelo da empresa reverberaram nos mercados, mas Mythos causou maior preocupação tanto por corporações quanto por formuladores de políticas.

A escala de possíveis exploits cibernéticos aumentou com cada geração de Claude, disse Amodei. Um modelo anterior da Anthropic encontrou aproximadamente 20 vulnerabilidades no navegador Firefox. Mythos encontrou quase 300, e o total de vulnerabilidades em todo o software agora chega às dezenas de milhares, afirmou.

A maioria das vulnerabilidades encontradas pelo Mythos não foi divulgada publicamente porque ainda não foram corrigidas, e “os maus atores irão explorá-las” se forem identificadas, disse Amodei.

‘Um mundo melhor’

Apesar do alarme, tanto Amodei quanto Dimon também adotaram um tom de otimismo condicional.

“Este é um momento de perigo onde, se respondermos corretamente, e acho que começamos a dar os primeiros passos, podemos ter um mundo melhor do outro lado”, disse Amodei. “Existem apenas alguns bugs para encontrar.”

Dimon também afirmou que, embora os temores cibernéticos fossem justificáveis, os riscos de cibersegurança criados pela IA são um “período transitório”.

Sobre a questão da regulamentação, Amodei disse que a supervisão da IA deve assemelhar-se ao que é feito na indústria automotiva, buscando um equilíbrio entre a segurança do consumidor e permitir que a indústria concorra.

“Você não pode simplesmente abrir uma empresa de carros sem perguntar ‘Tem freios neste negócio?’” disse ele. “Precisamos encontrar um caminho que permita à indústria operar de forma rápida, seja justa, mas que coloque limites nas questões mais sérias.”

O evento da empresa, e seu cenário com Dimon, o porta-voz mais conhecido da indústria financeira, pareceram demonstrar a liderança da Anthropic sobre a OpenAI no mercado de IA empresarial, enquanto ambas as empresas se preparam para possíveis IPOs.

A Anthropic anunciou na terça-feira uma expansão de sua plataforma de serviços financeiros, incluindo 10 novos agentes de IA para bancos de investimento e trabalho de back-office, bem como integração com os diversos programas Office da Microsoft. A empresa também afirmou que seu modelo mais recente amplamente disponível — Claude Opus 4.7 — lidera benchmarks para tarefas de análise financeira.

assista agora

VIDEO1:5101:51

A Anthropic anuncia nova suíte de ferramentas de IA projetadas para instituições financeiras

Money Movers

Escolha a CNBC como sua fonte preferida no Google e nunca perca um momento do nome mais confiável em notícias de negócios.