Uma ordem proibitiva, três ligações, uma narrativa fora de controle: as 24 horas mais sombrias da Anthropic

Em 13 de junho, os dois modelos mais avançados da Anthropic foram colocados em pausa pelo governo dos Estados Unidos.

Um é o Fable 5, que acabou de ser lançado publicamente, e o outro é o Mythos 5, voltado para clientes de segurança cibernética mais restritos. A proibição veio do Departamento de Comércio dos EUA, abrangendo clientes fora do país e também cidadãos estrangeiros dentro dos EUA. A última decisão da Anthropic foi simples: retirar tudo do ar.

Após revisar todos os detalhes sobre o ocorrido, elaboramos uma linha do tempo das últimas 24 horas.

Na quinta-feira, 11 de junho, dois dias após o lançamento do Fable 5, o CEO da Amazon, Andy Jassy, alertou o governo. Ele expressou preocupação de que as barreiras de segurança do Fable 5 poderiam ser contornadas. Pesquisadores da Amazon alegaram ter utilizado uma série de dicas para fazer o Fable 5 fornecer informações que deveriam estar restritas, potencialmente usadas em ataques cibernéticos.

Na manhã de sexta-feira, 12 de junho, o problema já tinha chegado às reuniões de alto nível do governo. Participaram o secretário do Tesouro, Scott Bessent, o chefe de segurança de rede da Casa Branca, Sean Cairncross, a chefe de gabinete da Casa Branca, Susie Wiles, e outros altos funcionários. Bessent estava a caminho de Houston, participando remotamente da reunião.

Depois, ocorreram três chamadas telefônicas.

Ao entrar na ligação, o CEO da Anthropic, Dario Amodei, encontrou cerca de meia dúzia de altos funcionários do outro lado. Além de Bessent e Cairncross, estavam presentes o secretário de Comércio, Howard Lutnick. Outros participantes incluíam Jeffrey Kessler, vice-secretário de Comércio responsável por indústria e segurança, Will Scharf, secretário de gabinete da Casa Branca, Richard Walters, vice-chefe de gabinete da Casa Branca, e Walker Barrett, assessor de políticas presidenciais.

Amodei tentou explicar a situação como um mal-entendido. Ele acreditava que a Amazon havia descoberto uma forma específica de contornar as restrições, e não um método geral de jailbreak que pudesse desativar amplamente as barreiras de segurança do modelo. A Anthropic também declarou publicamente que os testadores ainda não haviam encontrado uma maneira de contornar o sistema de segurança do modelo em larga escala.

Porém, o governo não foi convencido.

A descoberta do CEO da Amazon foi encaminhada para avaliação pela Agência de Segurança Nacional dos EUA, e o governo acreditava ter evidências suficientes. O governo exigiu que a Anthropic retirasse voluntariamente o modelo do ar e trabalhasse junto para corrigir as vulnerabilidades. Amodei pediu mais tempo e informações, mas não prometeu retirar o modelo. Bessent afirmou na ligação que havia tomado uma “decisão errada”.

Depois disso, veio o controle de exportação.

Por outro lado, a Anthropic apresentou uma narrativa diferente. Disse que o governo deu apenas 90 minutos para retirar o modelo, sem detalhar as ameaças reais. O governo, por sua vez, afirmou que o controle de exportação foi uma medida de última instância, após horas de tentativas infrutíferas de cooperação.

Outro ponto importante é que a posição da Amazon na questão é bastante delicada.

No final de 2024, a Amazon investiu mais 4 bilhões de dólares na Anthropic, elevando o investimento total para 8 bilhões de dólares. A Anthropic também estabeleceu a AWS como seu principal parceiro de treinamento, com futuros treinamentos e implantações de modelos usando chips da AWS. O Claude também continua sendo um dos modelos mais importantes na plataforma Amazon Bedrock.

A aliança entre Microsoft e OpenAI já é pública, e o investimento da Amazon na Anthropic era uma forma de contornar essa dependência.

A Microsoft possui a OpenAI. O Google tem o Gemini, e também investe na Anthropic. A Amazon, por sua vez, não possui um modelo de ponta suficiente para competir na pesquisa, e só consegue usar a capacidade de processamento da AWS, seus chips Trainium e a plataforma Bedrock, para apoiar empresas externas de modelos.

Mas, um ano e meio depois, a Amazon também se conectou à OpenAI.

Este ano, a Amazon negociou um investimento de até 50 bilhões de dólares na OpenAI. A OpenAI buscava até 100 bilhões de dólares em uma nova rodada de financiamento, potencialmente incluindo a compra de chips de IA da Amazon. Axios também mencionou que a receita anual da OpenAI deve ultrapassar 20 bilhões de dólares em 2025, enquanto seus gastos comprometidos atingem 1,4 trilhão de dólares.

A Amazon precisa que empresas de modelos de ponta consumam sua capacidade de processamento na AWS, validem seus próprios chips, preencham seus data centers e coloquem os modelos mais avançados em seu portfólio de nuvem corporativa. Isso deixou de ser apenas um investimento financeiro.

Por isso, ela investe na Anthropic e também se aproxima da OpenAI. É tanto financiadora quanto fornecedora de modelos. Ajuda a vender modelos e também explica ao governo o quão perigosos esses modelos podem ser.

No final, a Amazon acabou se posicionando contra a Anthropic. Para a Anthropic, um parceiro que fornece dinheiro, nuvem, chips e canais de distribuição, enviando sinais de segurança que podem levar a uma proibição, é uma ameaça. A versão oficial da Amazon é: “O que o White House perguntou, eu apenas respondi”.

Nos últimos dois anos, as empresas de IA têm se apresentado como ativos de nível nacional. Quanto mais capazes, maior a avaliação, mais fácil obter financiamento e mais possibilidades de contratos governamentais. A Anthropic é especialista nesse tipo de narrativa. Usa uma linguagem mais cautelosa sobre segurança para se diferenciar da OpenAI, e fala de “risco de ponta” para convencer reguladores de que merece atenção séria.

Agora, o governo dos EUA realmente passou a tratar os modelos como ativos de segurança nacional.

A confusão dos funcionários do governo também vem daí. Segundo a Politico, o governo ouviu de um lado que Amodei comparou o perigo da tecnologia da Anthropic a uma bomba nuclear. Quando ele se recusou a retirar o modelo por causa de uma vulnerabilidade conhecida, os funcionários não interpretaram isso como uma divergência técnica, mas como uma questão de postura.

Essa não foi a primeira disputa. Em 3 de março, o Pentágono listou a Anthropic como risco na cadeia de suprimentos, por recusar-se a permitir o uso de suas ferramentas de IA para monitoramento em larga escala ou armas autônomas.

Anthropic e o governo dos EUA já tiveram conflitos anteriores.

E, desta vez, a Anthropic afirmou que a ordem do governo não especificava quais eram as preocupações de segurança nacional, e criticou a falta de transparência, clareza e de um processo legal baseado em fatos técnicos na ação. A Anthropic acredita que o problema se resume a uma forma limitada de contorno, insuficiente para justificar uma proibição tão ampla.

Por outro lado, na visão do governo, a segurança dos modelos deixou de ser uma questão de white papers, testes internos de red team ou sistemas de lançamento próprios. Quem pode acessar o modelo, quem pode treiná-lo, se funcionários estrangeiros podem ver os pesos do modelo, tudo isso passou a fazer parte do controle de exportação.

Quando a Anthropic anunciou em abril que o Mythos seria acessível apenas para empresas de tecnologia e segurança cibernética restritas, já tinha realizado várias reuniões com o governo. Antes do lançamento do Fable 5, o modelo também passou por avaliações do governo dos EUA e do Instituto de Segurança de IA do Reino Unido. A Anthropic acredita que o governo não se opôs ao lançamento.

Isso tornou o conflito ainda mais delicado.

Antes do lançamento, era uma questão de cooperação em segurança. Após o lançamento, passou a ser uma questão de segurança nacional.

A OpenAI observava tudo isso de perto.

Ao ser forçada a retirar seu modelo mais potente, a posição da OpenAI ficou mais confortável. Quanto mais a Anthropic fosse pressionada por questões regulatórias, mais fácil seria para a OpenAI se apresentar como uma alternativa “que coopera”. Se a Amazon realmente se aproximar da OpenAI, também terá uma camada extra de proteção.

Claro que não há provas concretas de que a Amazon esteja ajudando a OpenAI a prejudicar a Anthropic.

O fato mais contundente é que, com os modelos de ponta entrando em um ciclo de gastos de trilhões de dólares, as parcerias deixaram de ser limpas. Cloud providers investem em empresas de modelos, essas compram capacidade de processamento, o governo questiona riscos de segurança, e concorrentes atuam na mesma arena regulatória, fazendo red team uns dos outros.

Financiadores, fornecedores, distribuidores e reguladores estão começando a ser desempenhados pelo mesmo grupo de empresas.

Isso é mais importante do que qualquer jailbreak de dicas.

Na noite em que o Fable 5 e o Mythos 5 foram desligados, a Anthropic perdeu não apenas o acesso a dois modelos. Perdeu também um pouco do controle sobre sua narrativa.

A mão da Amazon ainda está no console da AWS. As negociações de financiamento da OpenAI ainda não terminaram. E o governo dos EUA já está sentado na primeira fila do lançamento dos modelos.