Anthropic une-se a 12 gigantes para lançar o plano "Asa de Vidro", usando o modelo Mythos, ainda não divulgado, para corrigir vulnerabilidades globais de software

O Project Glasswing é um passo crucial para permitir que os defensores construam uma vantagem duradoura na iminente era da cibersegurança impulsionada por IA.

Autor: Anthropic

Tradução: Deep Tide TechFlow

**Guia Deep Tide: ** A Anthropic lançou um modelo de ponta Claude Mythos Preview que ainda não está disponível ao público, cujas capacidades de auditoria de código já excedem a vasta maioria dos especialistas humanos em segurança, sendo capaz de identificar de forma autónoma vulnerabilidades zero-day que persistem há dezenas de anos.

Com base nesta capacidade, a Anthropic, em conjunto com 12 gigantes da tecnologia como a AWS, a Apple, a Google, a Microsoft, a Nvidia e outras, iniciou o plano Project Glasswing, com um volume de 1 milhão de dólares em limite de crédito, com o objetivo de colmatar as vulnerabilidades do software crítico a nível mundial antes que os atacantes obtenham capacidades equivalentes.

Introdução

Hoje anunciamos o Project Glasswing (plano de “Glasswing”), uma nova iniciativa que reúne a Amazon Web Services (AWS), a Anthropic, a Apple, a Broadcom, a Cisco, a CrowdStrike, a Google, o JPMorgan Chase, a Linux Foundation, a Microsoft, a Nvidia e a Palo Alto Networks, com o objetivo de proteger a segurança do software mais crítico a nível mundial.

Lançámos o Project Glasswing porque um novo modelo de ponta treinado pela Anthropic demonstrou capacidades que acreditamos poderem redefinir o panorama da cibersegurança. O Claude Mythos Preview é um modelo de ponta de propósito geral, ainda não disponibilizado ao público, que revela uma realidade dura: as capacidades de codificação dos modelos de IA já atingiram um nível em que — na descoberta e exploração de vulnerabilidades de software — conseguem ultrapassar todos, exceto os especialistas mais excecionais.

O Mythos Preview já descobriu milhares de vulnerabilidades de alto risco, abrangendo todos os sistemas operativos mainstream e todos os browsers mainstream. De acordo com o ritmo de avanço da IA, esta capacidade irá provavelmente difundir-se num futuro próximo, podendo cair nas mãos de utilizadores irresponsáveis. O impacto potencial na economia, na segurança pública e na segurança nacional pode ser muito grave. O Project Glasswing é uma tentativa urgente para garantir que estas capacidades sejam prioritariamente usadas para defesa.

Como parte do Project Glasswing, os parceiros acima irão utilizar o Mythos Preview no seu trabalho de segurança defensiva; a Anthropic partilhará as lições aprendidas para beneficiar toda a indústria. Também alargámos o acesso a mais de 40 organizações que constroem ou mantêm infraestruturas críticas de software, permitindo-lhes fazer varrimento e reforçar os seus próprios sistemas e sistemas open source. A Anthropic compromete-se a investir até 100M de dólares em额度 de utilização do Mythos Preview e 4 milhões de dólares em donativos diretos para organizações de segurança open source.

O Project Glasswing é apenas o ponto de partida. Nenhuma instituição consegue resolver sozinho o problema da cibersegurança: os programadores de IA de vanguarda, outras empresas de software, investigadores de segurança, mantenedores de open source e governos de todo o mundo têm papéis insubstituíveis. Proteger a infraestrutura global de redes pode exigir vários anos; e as capacidades de IA de vanguarda podem dar um salto substancial em apenas alguns meses. Para os defensores de redes ganharem vantagem, é necessário agir agora.

Cibersegurança na era da IA

O software de que dependemos todos os dias — para executar sistemas bancários, armazenar registos médicos, ligar redes logísticas e manter a rede elétrica em funcionamento — sempre teve bugs. A maioria é irrelevante, mas alguns são falhas de segurança graves que, uma vez descobertas, permitem aos atacantes sequestrar sistemas, paralisar operações ou roubar dados.

As consequências destrutivas dos ataques de rede sobre redes empresariais, sistemas de saúde, infraestruturas energéticas, hubs de transporte e agências governamentais de vários países são bem conhecidas. A nível global, ataques ao nível do Estado provenientes da China, do Irão, da Coreia do Norte e da Rússia ameaçaram a infraestrutura que sustenta a vida civil e a preparação militar. Mesmo ataques de pequena escala contra um único hospital ou escola podem causar grandes perdas económicas, expor dados sensíveis e até pôr vidas em risco. Embora as perdas económicas anuais do crime cibernético global sejam difíceis de estimar com precisão, podem situar-se em torno de 500 mil milhões de dólares.

No passado, muitas falhas de software demoravam anos a ser detetadas porque encontrar e explorar essas falhas exigia conhecimentos especializados que apenas uma minoria de peritos de segurança possuía. Porém, com o surgimento dos mais recentes modelos de IA de ponta, os custos, o esforço e o limiar de especialização necessários para detetar e explorar vulnerabilidades de software diminuíram drasticamente. No ano passado, os modelos de IA ficaram cada vez melhores na leitura e no raciocínio de código, especialmente ao detetar vulnerabilidades e construir métodos de exploração de forma impressionante. O Claude Mythos Preview alcançou um avanço significativo nessas competências de cibersegurança — algumas das vulnerabilidades que detetou ainda “sobreviveram” após décadas de revisão humana, bem como após milhões de testes de segurança automatizados, e o código de exploração que desenvolveu tornou-se cada vez mais sofisticado.

Dez anos após a primeira edição do desafio grande de redes da DARPA, os modelos de IA de vanguarda aproximam-se ou igualam as capacidades mais avançadas de humanos na descoberta e exploração de vulnerabilidades. Na ausência de medidas de segurança necessárias, estas capacidades de rede poderosas poderão ser usadas para explorar as inúmeras falhas existentes no software mais importante à escala global. Os ataques de rede tornar-se-ão mais frequentes e mais destrutivos, e darão poder aos adversários dos Estados Unidos e dos seus aliados. Esta é uma prioridade de segurança que as democracias têm de levar a sério.

A boa notícia é que as capacidades que tornam os modelos de IA perigosos nas mãos erradas também os tornam extremamente valiosos na descoberta e correção de falhas importantes — ajudando igualmente a produzir software novo com menos bugs de segurança. O Project Glasswing é um passo essencial para permitir que os defensores construam uma vantagem duradoura na próxima era de cibersegurança impulsionada por IA.

Capacidades do Claude Mythos Preview para detetar vulnerabilidades e métodos de exploração

Nas últimas semanas, usamos o Claude Mythos Preview para descobrir milhares de vulnerabilidades zero-day (isto é, falhas que os programadores do software não conheciam anteriormente) em cada sistema operativo mainstream, em cada browser mainstream e numa série de outros softwares importantes, muitas delas de nível crítico.

No blog do Frontier Red Team, divulgámos alguns dos detalhes técnicos das vulnerabilidades que já foram corrigidas, bem como os métodos de exploração encontrados pelo Mythos Preview. Quase todas as descobertas (e também muitas das explorações relacionadas) foram realizadas completamente de forma autónoma pelo modelo, sem qualquer orientação humana. Seguem-se três exemplos:

• O Mythos Preview descobriu uma vulnerabilidade com 27 anos no OpenBSD. O OpenBSD é conhecido por níveis extremamente elevados de reforço de segurança e é amplamente utilizado em firewalls e noutras infraestruturas críticas. A vulnerabilidade permite que um atacante provoque remotamente o colapso do sistema-alvo apenas ligando-se à máquina.
• Também detetou uma vulnerabilidade com 16 anos no FFmpeg. O FFmpeg é utilizado por incontáveis softwares para codificação e descodificação de vídeo. O problema estava numa única linha de código, e as ferramentas de teste automatizado já tinham atingido essa linha 5 milhões de vezes, sem nunca detetar o problema.
• O modelo detetou autonomamente e encadeou várias vulnerabilidades no kernel do Linux (o kernel do Linux executa a maior parte dos servidores a nível mundial), concretizando um ataque de elevação de privilégios que vai de permissões de utilizador comuns até ao controlo total da máquina.

Todas as vulnerabilidades acima foram reportadas aos respetivos mantenedores de software e já foram corrigidas. Para muitas outras vulnerabilidades, hoje disponibilizamos detalhes de hashes de cifra (ver o blog do Red Team); as informações específicas serão divulgadas apenas após a conclusão das correções.

Os benchmarks de avaliação, como o CyberGym, também validaram uma diferença significativa entre o Mythos Preview e o nosso segundo modelo mais forte, o Claude Opus 4.6:

Reprodução de vulnerabilidades de cibersegurança - CyberGym

Além do nosso próprio trabalho, muitos parceiros já utilizaram o Claude Mythos Preview há várias semanas. Seguem os seus comentários:

" As capacidades de IA ultrapassaram um limiar, alterando fundamentalmente a urgência necessária para proteger infraestruturas críticas contra ameaças cibernéticas — e isso é irreversível. O nosso trabalho base com estes modelos demonstra que é possível identificar e corrigir vulnerabilidades de hardware e software a uma velocidade e escala sem precedentes. Esta é uma mudança profunda e um sinal claro: as antigas abordagens de reforço de sistemas já não chegam. Os fornecedores de tecnologia precisam de adotar ativamente novos métodos já; e os clientes precisam de preparar-se para a implementação. É por isso que a Cisco se juntou ao Project Glasswing — esta tarefa é demasiado importante e demasiado urgente para ser feita em paralelo e sozinha. "

— Anthony Grieco, vice-presidente sénior e Chief Security & Trust Officer da Cisco

" Na AWS, construímos defesas antes de as ameaças aparecerem — desde chips personalizados até ao stack tecnológico completo. Segurança não é uma questão de uma fase; é contínua e integrada em tudo o que fazemos. A nossa equipa analisa mais de 400 biliões de vezes de tráfego de rede todos os dias para detetar ameaças, e a IA é o núcleo das nossas capacidades defensivas à escala. Temos testado o Claude Mythos Preview na nossa própria operação de segurança todos os dias, aplicando-o a bases de código críticas; isso já nos está a ajudar a reforçar o código. Estamos a injetar um profundo conhecimento em segurança na colaboração com a Anthropic e a ajudar a fortalecer o Claude Mythos Preview, para que mais organizações consigam avançar os respetivos trabalhos com o mais elevado padrão de segurança. "

— Amy Herzog, vice-presidente da Amazon Web Services e Chief Information Security Officer

" Quando a cibersegurança deixa de estar limitada a capacidades puramente humanas, a oportunidade de usar a IA de forma responsável para melhorar a segurança à escala e reduzir riscos é sem precedentes. Juntar o Project Glasswing e obter acesso ao Claude Mythos Preview permite-nos identificar e mitigar riscos mais cedo, reforçando as nossas soluções de segurança e de desenvolvimento para melhor proteger os clientes e a Microsoft. Ao testar os modelos no nosso benchmark open source de segurança CTI-REALM, o Claude Mythos Preview mostrou melhorias substanciais face ao que existia antes. Esperamos colaborar com a Anthropic e com a indústria mais alargada para melhorar os resultados de segurança para todos. "

— Igor Tsyganskiy, vice-presidente executivo de Segurança Cibernética na Microsoft e Vice-President Executive da Microsoft Research

" A janela entre a descoberta de uma vulnerabilidade e a sua exploração por um atacante entrou em colapso — o que antes demorava meses, agora é feito em minutos com IA. O Claude Mythos Preview mostra a possibilidade de uma ação defensiva em larga escala, enquanto os adversários procurarão inevitavelmente explorar as mesmas capacidades. Isto não é motivo para abrandar o ritmo; é motivo para acelerar em conjunto. Para implementar IA, é necessário garantir segurança. É por isso que a CrowdStrike está envolvida desde o primeiro dia. "

— Elia Zaitsev, Chief Technology Officer da CrowdStrike

" No passado, o conhecimento especializado em segurança era um luxo que apenas organizações com equipas de segurança muito grandes podiam usufruir. Os mantenedores de software open source — cujo software sustenta grande parte da infraestrutura crítica global — têm historicamente de resolver os problemas de segurança por conta própria. O software open source constitui a maior parte do código nos sistemas modernos, incluindo o próprio sistema usado por agentes de IA para escrever novo software. Ao dar aos mantenedores destes repositórios open source críticos acesso a uma nova geração de modelos de IA — capazes de identificar e corrigir vulnerabilidades proativamente e à escala — o Project Glasswing fornece um caminho prático para mudar esta situação. É assim que a segurança melhorada por IA deixa de ser uma ferramenta exclusiva de grandes equipas e se torna um assistente fiável para cada mantenedor. "

— Jim Zemlin, CEO da Linux Foundation

" Promover a cibersegurança e a resiliência do sistema financeiro é central para a missão do JPMorgan Chase, e acreditamos que a indústria é mais forte quando as principais instituições colaboram e desafiam o status quo em conjunto. O Project Glasswing oferece uma oportunidade única e antecipada, permitindo-nos avaliar — pelos nossos próprios padrões — a capacidade das próximas ferramentas de IA para cibersegurança defensiva em infraestruturas críticas, ao mesmo tempo que trabalhamos lado a lado com líderes técnicos respeitados. Vamos adotar uma abordagem rigorosa e independente para determinar como avançar e como ajudar. A iniciativa da Anthropic reflete a postura mais prospetiva e colaborativa necessária para este momento. "

—— Pat Opet, Chief Information Security Officer do JPMorgan Chase

" A Google está entusiasmada por ver esta iniciativa de cibersegurança intersetorial ganhar forma e, através do Vertex AI, fornecer aos participantes o Mythos Preview. A colaboração da indústria em questões emergentes de segurança é sempre crucial — quer se trate de criptografia pós-quântica, divulgação responsável de vulnerabilidades zero-day, segurança de software open source, ou a defesa de ataques baseados em IA. Continuamos a acreditar que a IA traz tanto novos desafios como novas oportunidades na defesa de redes — e é por isso que construímos ferramentas orientadas por IA como Big Sleep e CodeMender para descobrir e corrigir falhas críticas de software. Continuaremos a investir em plataformas líderes de cibersegurança e numa cultura que tem como núcleo proteger utilizadores, clientes, ecossistemas e a segurança nacional. "

—— Heather Adkins, vice-presidente sénior de engenharia de segurança na Google

" Nas últimas semanas, temos usado os modelos Claude Mythos Preview para identificar vulnerabilidades complexas que os modelos da geração anterior tinham completamente omitido. Isso não só muda o “jogo” da deteção de falhas ocultas, como também significa que atacantes conseguem, muito rapidamente, descobrir mais vulnerabilidades zero-day e desenvolver código de exploração de forma mais rápida do que antes. Está claro que estes modelos precisam de chegar às mãos dos proprietários de projetos open source e de todos os defensores, para que as vulnerabilidades sejam detetadas e corrigidas antes de os atacantes obterem acesso. E talvez ainda mais importante: todos precisam de se preparar para ataques assistidos por IA. Os ataques serão mais numerosos, mais rápidos e mais complexos. Agora é altura de atualizar por completo o ecossistema de cibersegurança. Valorizamos a colaboração da Anthropic com a indústria para garantir que estas capacidades poderosas são priorizadas para a defesa. "

—— Lee Klarich, Chief Product and Technology Officer da Palo Alto Networks

As poderosas capacidades de cibersegurança do Claude Mythos Preview resultam das suas excecionais competências de codificação e raciocínio de agentes. Os resultados de avaliação abaixo mostram que o modelo obteve as pontuações mais altas de todos os modelos conhecidos em várias tarefas de codificação de software.

Codificação de agentes

Raciocínio

Pesquisa e utilização de agentes com computador

Notas:

• SWE-bench Verified, Pro e Multilingual: a marcação por varredura de memorização assinala parte das questões. Após excluir as questões que podem estar sujeitas a memorização, a vantagem do Mythos Preview em relação ao Opus 4.6 mantém-se inalterada.
• SWE-bench Multimodal: utiliza implementações internas; a pontuação não é comparável diretamente com o ranking público.
• Terminal-Bench 2.0: usa o framework Terminus-2, com o modo de pensamento de maior esforço e um orçamento total de 100M de tokens por tarefa, alocação de recursos de 1x garantido / limite máximo de 3x, e 5 tentativas por tarefa para obter a média. Após aumentar o limite de timeout para 4 horas e atualizar para Terminal-Bench 2.1, o Mythos Preview obteve uma pontuação de 92,1%.
• BrowseComp: o Claude Mythos Preview obteve pontuação superior ao Opus 4.6, enquanto o consumo de tokens foi apenas de 1/4,9 do do último.
• Humanity’s Last Exam: o Mythos continua a ter bom desempenho no modo de baixo esforço, podendo existir algum nível de memorização.

Para mais informações sobre as capacidades do modelo, atributos de segurança e características base, consulte o system card do Claude Mythos Preview.

Não temos intenção de disponibilizar o Claude Mythos Preview ao público, mas o objetivo final é permitir que os utilizadores implementem em larga escala modelos ao nível do Mythos com segurança — não apenas para cibersegurança, mas também para muitos outros valores que este tipo de modelos de alta capacidade pode trazer. Para tal, precisamos de avançar no desenvolvimento de medidas de segurança para cibersegurança (e outras), capazes de detetar e bloquear as saídas mais perigosas do modelo. Planeamos publicar novas medidas de segurança no próximo modelo Claude Opus, para que possamos melhorar e refinar essas medidas com um modelo que não tenha um nível de risco equivalente ao do Mythos Preview.

Próximos passos do Project Glasswing

O lançamento de hoje é o início de um esforço de longo prazo. Para ter sucesso, é necessária uma participação ampla de toda a indústria tecnológica, tanto dentro como fora dela.

Os parceiros do Project Glasswing terão acesso ao Claude Mythos Preview para detetar e corrigir vulnerabilidades e fragilidades nos seus sistemas base — que representam uma grande proporção da superfície de ataque de rede partilhada global. Prevê-se que as áreas de foco do trabalho incluam deteção local de vulnerabilidades, testes de caixa-preta binários, reforço de endpoints e testes de penetração de sistemas.

O limite de 8B de dólares de utilização do modelo prometido pela Anthropic para o Project Glasswing e para outros participantes cobrirá uma grande parte do uso durante a fase de pré-visualização de investigação. Após isso, o Claude Mythos Preview será disponibilizado aos participantes ao preço de 25 dólares / 125 dólares por cada milhão de tokens de entrada / saída (os participantes podem aceder ao modelo via Claude API, Amazon Bedrock, Google Cloud Vertex AI e Microsoft Foundry).

Além do limite de utilização do modelo, também, via Linux Foundation, doámos 2,5 milhões de dólares à Alpha-Omega e ao OpenSSF, e 1,5 milhões de dólares à Apache Software Foundation, para ajudar os mantenedores de software open source a lidar com esta mudança no panorama (os mantenedores interessados podem solicitar acesso através do plano Claude for Open Source).

Pretendemos que este trabalho continue a expandir em âmbito, ao longo de vários meses, e partilhar o máximo de experiências possível para que outras organizações possam aplicar essas experiências à sua própria segurança. Dentro do que as condições permitirem, os parceiros partilharão informações e boas práticas entre si; dentro de 90 dias, a Anthropic publicará um relatório com as nossas descobertas, bem como as vulnerabilidades corrigidas e as medidas de melhoria que possam ser divulgadas. Também trabalharemos com organizações de segurança líderes para formular um conjunto de recomendações práticas sobre a evolução das práticas de segurança na era da IA, que poderá abranger: processos de divulgação de vulnerabilidades, processos de atualização de software, segurança de open source e de cadeias de fornecimento, ciclo de vida de desenvolvimento de software e práticas de design de segurança, padrões de setores regulamentados, expansão de triagem e automatização, bem como automatização de patches.

A Anthropic também tem discutido continuamente com responsáveis do governo dos EUA as capacidades ofensivas e defensivas de cibersegurança do Claude Mythos Preview. A proteção de infraestruturas críticas é uma prioridade máxima de segurança nacional para Estados democráticos — o surgimento destas capacidades de cibersegurança volta a sublinhar que os EUA e os seus aliados devem manter uma liderança decisiva em tecnologia de IA. O governo tem um papel indispensável em ajudar a manter esta liderança, avaliar e mitigar os riscos de segurança nacional associados aos modelos de IA. Estamos dispostos a colaborar com representantes de governos a todos os níveis para ajudar a concluir estas tarefas.

Esperamos que o Project Glasswing dê origem a um esforço maior, à escala que abranja o setor privado e o setor público, para enfrentar em conjunto o maior problema das repercussões de modelos poderosos na segurança. Convidamos outros membros da indústria de IA a juntarem-se para ajudar a definir padrões da indústria. A médio prazo, uma instituição independente de terceiro lado — capaz de reunir organizações dos setores privado e público — poderá ser a plataforma ideal para suportar a continuação destes grandes projetos de cibersegurança.

Notas finais

1. O projeto tem o nome de borboleta de asa de vidro (Greta oto). Esta metáfora tem dois significados: as asas transparentes da borboleta permitem que ela se esconda da vista, tal como as vulnerabilidades escondidas no código discutidas neste artigo; as asas transparentes também a ajudam a evitar danos, tal como a abordagem de transparência que defendemos.
2. A palavra Mythos tem origem no grego antigo, significando “narrativa” ou “história”: o sistema de histórias que uma civilização usa para compreender o mundo.
3. Os profissionais de segurança cuja atividade legal seja afetada por estas medidas de segurança podem solicitar o próximo Cyber Verification Program (Programa de Verificação de Cibersegurança).