Anthropic lança $100M a iniciativa de cibersegurança com o modelo de IA restrito Claude Mythos

A Anthropic anunciou o Project Glasswing na terça-feira, uma iniciativa de cibersegurança que se compromete a disponibilizar até 100 milhões de dólares em créditos de utilização para o Claude Mythos Preview, um modelo de fronteira ainda não lançado que, segundo a empresa, consegue encontrar e explorar autonomamente vulnerabilidades de software a um nível que ultrapassa todos, exceto os mais experientes investigadores humanos de segurança.

Em vez de um lançamento público, a Anthropic restringiu o Claude Mythos Preview a 12 parceiros de lançamento — entre eles Amazon $AMZN +0.46% Web Services, Apple $AAPL -2.07%, Broadcom $AVGO +6.21%, Cisco $CSCO +0.30%, CrowdStrike $CRWD +6.18%, Google $GOOGL +1.82%, JPMorganChase, a Linux Foundation, Microsoft $MSFT -0.16%, Nvidia $NVDA +0.26% e Palo Alto Networks $PANW +4.89% — todos os quais o irão implementar exclusivamente para fins de segurança defensiva. Mais de 40 organizações adicionais que constroem ou mantêm infraestruturas de software críticas também receberão acesso.

Conteúdo relacionado

A Alibaba lançou um cluster de IA de 10.000 chips usando os seus próprios chips

A fundadora da WomenofGenAI, Aakriti Srikanth, sobre destacar-se à medida que a indústria tecnológica evolui

Nas últimas semanas, a Anthropic usou o Mythos Preview para identificar milhares de vulnerabilidades de dia zero em todos os principais sistemas operativos e navegadores web, disse a empresa. As descobertas específicas incluíram uma falha que remonta a 27 anos no OpenBSD e uma vulnerabilidade separada na biblioteca de processamento de vídeo FFmpeg – uma que tinha passado despercebida em cinco milhões de execuções por ferramentas de testes automatizados, apesar de ter aproximadamente 16 anos. O modelo também encadeou várias vulnerabilidades do kernel do Linux para conseguir controlo total de uma máquina a partir de uma conta de utilizador comum.

Nenhuma formação especializada em cibersegurança foi aplicada na construção do Mythos Preview, referiu a Anthropic — a capacidade do modelo de analisar software para detetar fragilidades é um subproduto dos mesmos avanços gerais em codificação e raciocínio que o definem em outros domínios, o que significa que os atributos que o ajudam a corrigir falhas são inseparáveis daqueles que poderiam ser virados para as explorar.

A Anthropic está a contribuir com 4 milhões de dólares em doações diretas, além dos créditos de utilização, incluindo 2.5 milhões para a Alpha-Omega e para a Open Source Security Foundation através da Linux Foundation, e 1.5 milhões para a Apache Software Foundation. Os parceiros que esgotarem a reserva de créditos de utilização pagarão 25 dólares por cada milhão de tokens de entrada e 125 dólares por cada milhão de tokens de saída. O modelo está disponível através da Claude API, Amazon Bedrock, Google Cloud Vertex AI e Microsoft Foundry.

“As perigos de não acertar são óbvios, mas se conseguirmos, existe uma oportunidade real de criar uma internet e um mundo fundamentalmente mais seguros do que tínhamos antes do advento das capacidades de cibersegurança baseadas em IA”, disse o CEO Dario Amodei num post no X $TWTR 0.00%, segundo a CNBC.

Em declarações por escrito divulgadas em conjunto com o anúncio da Anthropic, o CTO da CrowdStrike, Elia Zaitsev, deixou um aviso direto: o modelo “demonstra aquilo que já é possível para os defensores à escala, e os adversários inevitavelmente vão tentar explorar as mesmas capacidades”, e tarefas que antes exigiam meses de trabalho “agora acontecem em minutos com IA”, segundo o The New York Times.

A Anthropic disse que tem estado em discussões contínuas com responsáveis do governo dos EUA, incluindo a Cybersecurity and Infrastructure Security Agency, sobre as capacidades do modelo. Dentro de 90 dias, a empresa disse que planeia publicar um relatório público sobre as vulnerabilidades encontradas e corrigidas, bem como recomendações sobre como as práticas de segurança deverão evoluir.

A existência do modelo já tinha vindo a público depois de materiais internos em rascunho terem sido encontrados numa localização não segura nos servidores da Anthropic; a empresa associou a exposição a uma configuração incorreta numa ferramenta de gestão de conteúdos de terceiros. O modelo foi referido nesses documentos pelo nome de código “Capybara.”

📬 Subscreva o Daily Brief

O nosso briefing gratuito, rápido e divertido sobre a economia global, entregue todas as manhãs de dias úteis.

Inscreva-me