A Google perturba hackers que usam IA para explorar uma fraqueza desconhecida na defesa digital de uma empresa

O Google anunciou na segunda-feira que interrompeu uma tentativa de um grupo criminoso de usar inteligência artificial para explorar uma vulnerabilidade digital previamente desconhecida de outra empresa, aumentando as preocupações crescentes em todo o governo e setor privado sobre os riscos da IA para a cibersegurança.

O Google compartilhou informações limitadas sobre os atacantes e o alvo, mas John Hultquist, chefe de análise do braço de inteligência de ameaças do gigante tecnológico, afirmou que isso representa um momento que os especialistas em cibersegurança têm alertado há anos: hackers maliciosos armando-se com IA para potencializar sua capacidade de invadir os computadores do mundo.

“Está aqui,” disse Hultquist. “A era da vulnerabilidade e exploração impulsionada por IA já chegou.”

Isso ocorre num momento de avanços nas habilidades da IA para encontrar vulnerabilidades, incluindo o modelo Mythos anunciado há um mês pela Anthropic. Entre aqueles tentando fortalecer suas defesas está a Casa Branca do presidente Donald Trump, que mudou sua abordagem sobre como planeja avaliar os modelos de IA mais poderosos antes de seu lançamento público.

Depois de cumprir uma promessa de campanha de revogar as restrições do presidente democrata Joe Biden em relação à tecnologia em rápido desenvolvimento, a administração republicana e seus aliados estão agora enviando sinais mistos sobre o papel maior do governo na supervisão da IA.

A seguir, uma tradução linha por linha do restante do texto:

A Google diz ter encontrado evidências de IA ajudando em ataque cibernético

A Google afirmou ter observado um grupo de “atores de ameaça” proeminentes planejando uma grande operação baseada em uma falha que eles haviam descoberto. A vulnerabilidade permitia que eles burlassem a autenticação de dois fatores para acessar uma ferramenta de administração de sistemas online popular, que a Google se recusou a nomear.

A empresa chamou isso de uma exploração de zero-day, um ataque cibernético que aproveita uma vulnerabilidade de segurança previamente desconhecida. “Zero-day” refere-se ao fato de que os engenheiros de segurança tiveram zero dias para desenvolver uma correção para a vulnerabilidade.

A Google afirmou que notificou a empresa afetada e as autoridades policiais, e conseguiu interromper a operação antes que causasse qualquer dano. Mas, ao rastrear os passos dos hackers, encontrou evidências de que eles usaram um modelo de linguagem grande de IA — a mesma tecnologia que alimenta chatbots populares — para descobrir a vulnerabilidade.

A Google não revelou qual modelo de IA foi usado no ataque cibernético, apenas que provavelmente não foi o Gemini da Google ou o Claude Mythos da Anthropic. A Google também não revelou qual grupo suspeita estar por trás do ataque, mas afirmou que não há evidências de ligação com um governo adversário, embora tenha mencionado que grupos ligados à China e Coreia do Norte têm explorado técnicas semelhantes.

Hultquist afirmou que, em comparação com espiões governamentais que geralmente trabalham lentamente e de forma discreta, hackers criminosos têm muito a ganhar com a “capacidade tremenda de velocidade” da IA para encontrar e usar vulnerabilidades de segurança.

“Há uma corrida entre você e eles para impedi-los antes que possam obter basicamente os dados que precisam para extorquir você ou lançar ransomware,” disse ele em uma entrevista. “A IA será uma grande vantagem porque eles podem agir muito mais rápido.”

Mythos da Anthropic gerou pânico e pedido de regulamentação

O Departamento de Comércio de Trump anunciou na semana passada que assinou novos acordos com Google, Microsoft e xAI de Elon Musk para avaliar seus modelos de IA mais poderosos antes do lançamento público, baseando-se em acordos anteriores feitos pela administração Biden com a Anthropic e a OpenAI, criadora do ChatGPT. Mas o anúncio posteriormente desapareceu do site do Departamento de Comércio.

Foi o último exemplo de sinais confusos da administração Trump no mês desde que a Anthropic anunciou um novo modelo chamado Mythos, que afirmou ser tão “notavelmente capaz” em tarefas de hacking e cibersegurança que só poderia ser lançado para um pequeno grupo de organizações confiáveis.

A Anthropic criou uma iniciativa chamada Projeto Glasswing, reunindo gigantes da tecnologia como Amazon, Apple, Google e Microsoft, junto com outras empresas como JPMorgan Chase, na esperança de proteger o software crítico do mundo de uma “gravidade” potencial que o novo modelo poderia representar para a segurança pública, segurança nacional e economia. Mas sua relação com o governo dos EUA foi complicada por uma disputa pública e legal com o Pentágono e o próprio Trump sobre o uso militar de sua tecnologia de IA.

Seu principal rival, a OpenAI, desde então lançou um modelo semelhante. A empresa afirmou na sexta-feira que está lançando uma versão especializada de ChatGPT voltada para cibersegurança, que estará disponível apenas para “defensores responsáveis por proteger infraestruturas críticas” para ajudá-los a encontrar e corrigir vulnerabilidades em seu código.

Ball disse que está otimista de que, a longo prazo, ferramentas de IA cada vez melhores em codificação nos tornarão mais seguros contra ataques cibernéticos rotineiros que afetam hospitais, escolas e outras organizações. No entanto, ele afirmou que há “trilhões de linhas de código de software” apoiando os sistemas de computação do mundo que estão em risco se as ferramentas de IA forem usadas para explorar todas as suas falhas.

Pode levar anos para fortalecer todo esse software — um processo que Ball acredita que seria facilitado por uma coordenação do governo dos EUA.

Enquanto isso, Ball prevê um “período de transição” em que os riscos de cibersegurança aumentam significativamente e “o mundo pode realmente ficar mais perigoso.”