Uma ordem proibitiva, três chamadas telefónicas, uma narrativa fora de controlo: as 24 horas mais sombrias da Anthropic

Em 13 de junho, dois dos modelos mais avançados da Anthropic foram colocados em pausa pelo governo dos Estados Unidos.

Um é o Fable 5, que acabou de ser lançado publicamente, e o outro é o Mythos 5, voltado para clientes de cibersegurança mais restritos. A proibição veio do Departamento de Comércio dos EUA, abrangendo clientes fora do país e também cidadãos estrangeiros dentro dos EUA. A última decisão da Anthropic foi simples: retirar tudo do ar.

Após revisar todos os detalhes sobre o ocorrido, elaboramos uma linha do tempo dos últimos 24 horas.

Na quinta-feira, 11 de junho, dois dias após o lançamento do Fable 5, o CEO da Amazon, Andy Jassy, alertou a Casa Branca sobre riscos. Ele temia que as barreiras de segurança do Fable 5 pudessem ser contornadas. Pesquisadores da Amazon alegaram ter utilizado uma série de dicas para fazer o Fable 5 fornecer informações que deveriam estar restritas, potencialmente usadas em ataques cibernéticos.

Na manhã de sexta-feira, 12 de junho, o problema já tinha chegado às mais altas esferas do governo. Participaram da reunião o secretário do Tesouro, Scott Bessent, o chefe de cibersegurança da Casa Branca, Sean Cairncross, a chefe de gabinete da Casa Branca, Susie Wiles, e outros altos funcionários. Bessent estava a caminho de Houston, participando remotamente.

Depois, ocorreram três chamadas telefônicas.

Ao entrar na ligação, o CEO da Anthropic, Dario Amodei, encontrou cerca de meia dúzia de altos funcionários do outro lado. Além de Bessent e Cairncross, estavam o secretário de Comércio, Howard Lutnick. Outros participantes incluíam Jeffrey Kessler, vice-secretário de Comércio responsável por indústria e segurança, Will Scharf, secretário de gabinete da Casa Branca, Richard Walters, vice-chefe de gabinete, e Walker Barrett, assessor de políticas presidenciais.

Amodei tentou explicar a situação como um mal-entendido. Acreditava que a Amazon tinha descoberto uma forma específica de contornar as restrições, e não um método geral de jailbreak que pudesse desativar amplamente as barreiras de segurança do modelo. A Anthropic também declarou publicamente que os testadores ainda não tinham encontrado uma maneira de contornar o sistema de segurança do modelo em larga escala.

Porém, o governo não foi convencido.

A descoberta do CEO da Amazon foi avaliada pela Agência de Segurança Nacional dos EUA, que considerou ter obtido provas suficientes. O governo exigiu que a Anthropic retirasse voluntariamente os modelos do ar e trabalhasse junto com as autoridades para corrigir as vulnerabilidades. Amodei pediu mais tempo e informações, mas não prometeu retirar os modelos. Bessent afirmou na ligação que tinha tomado uma “decisão errada”.

Depois disso, o controle de exportação foi acionado.

Por outro lado, a Anthropic apresentou uma narrativa diferente. Disse que a Casa Branca deu apenas 90 minutos para retirar os modelos, sem detalhar as ameaças reais. O governo afirmou que o controle de exportação foi uma medida de última instância, após horas sem sucesso na cooperação.

Outro ponto importante é a posição delicada da Amazon nesse episódio.

No final de 2024, a Amazon investiu mais 4 bilhões de dólares na Anthropic, elevando o investimento total para 8 bilhões. A Anthropic também estabeleceu a AWS como seu principal parceiro de treinamento, com futuros treinamentos e implantações de modelos usando chips AWS. O Claude sempre foi um dos modelos mais importantes na plataforma Amazon Bedrock.

A aliança entre Microsoft e OpenAI já era clara, e a aposta da Amazon na Anthropic era uma forma de contornar essa dependência.

A Microsoft possui a OpenAI. O Google tem o Gemini, e também investe na Anthropic. A Amazon não possui um modelo de ponta suficiente para pesquisa própria, tendo que usar a capacidade de computação, os chips Trainium e a plataforma Bedrock, de terceiros.

Mas, um ano e meio depois, a Amazon também se conectou à OpenAI.

Este ano, a Amazon negociou um investimento de até 50 bilhões de dólares na OpenAI. Na época, a OpenAI buscava até 100 bilhões de dólares em uma nova rodada de financiamento, potencialmente incluindo a compra de chips de IA da Amazon. Axios também mencionou que a OpenAI teria uma receita anual superior a 20 bilhões de dólares em 2025, mas com despesas comprometidas de 1,4 trilhão de dólares.

A Amazon precisa que empresas de ponta em modelos consumam sua capacidade de AWS, validem seus chips próprios, preencham seus data centers e coloquem os modelos mais avançados em seu portfólio de nuvem corporativa. Isso deixou de ser apenas um investimento financeiro.

Por isso, ela investe na Anthropic e também se aproxima da OpenAI. É tanto financiadora quanto fornecedora de modelos. Ajuda a vender modelos e também explica ao governo o quão perigosos esses modelos podem ser.

No final, a Amazon acabou se posicionando contra a Anthropic. Para a Anthropic, um parceiro que fornece dinheiro, nuvem, chips e canais de distribuição, enviando sinais de segurança capazes de disparar uma proibição, é uma ameaça. A versão oficial da Amazon é: “O que o Casa Branca perguntou, eu apenas respondi”.

Nos últimos dois anos, as empresas de IA têm se apresentado como ativos de nível nacional. Quanto mais capazes, maior a avaliação, mais fácil obter financiamento e mais possibilidades de contratos governamentais. A Anthropic é especialista nesse tipo de narrativa. Usa uma linguagem mais cautelosa sobre segurança para se diferenciar da OpenAI, e fala em “risco de ponta” para convencer reguladores de que deve ser levada a sério.

Agora, o governo dos EUA realmente passou a tratar os modelos como ativos de segurança nacional.

A confusão dos funcionários da Casa Branca também vem daí. Segundo a Politico, eles ouviram que Amodei comparou o perigo da tecnologia da Anthropic ao de uma bomba nuclear. Quando ele se recusou a retirar o modelo por uma vulnerabilidade conhecida, os oficiais não interpretaram isso como uma divergência técnica, mas como uma questão de postura.

Não é a primeira vez que há conflito entre as partes. Em 3 de março, o Pentágono listou a Anthropic como risco na cadeia de suprimentos, por recusar-se a permitir o uso de suas ferramentas de IA para monitoramento em larga escala ou armas autônomas.

Anthropic e o governo dos EUA já tiveram desentendimentos antes.

E, desta vez, a Anthropic afirmou que a ordem do governo não especificava preocupações de segurança nacional e criticou a falta de transparência, clareza e de um processo legal baseado em fatos técnicos na ação. A empresa argumenta que a questão se resume a uma forma de contorno limitada, insuficiente para justificar uma proibição tão ampla.

Por outro lado, na visão do governo, a segurança dos modelos deixou de ser uma questão interna de empresas que escrevem white papers, fazem testes de red team ou lançam sistemas. Quem pode acessar, treinar ou visualizar os pesos do modelo, especialmente estrangeiros, passa a fazer parte do controle de exportação.

Quando a Anthropic anunciou, em abril, que o Mythos seria acessível apenas a empresas de tecnologia e cibersegurança restritas, já tinha realizado várias reuniões com a Casa Branca. Antes do lançamento do Fable 5, o modelo também passou por avaliações do governo dos EUA e do Instituto de Segurança de IA do Reino Unido. A Anthropic acredita que o governo não se opôs antes do lançamento.

Isso tornou o conflito ainda mais delicado.

Antes do lançamento, era cooperação em segurança. Depois, virou uma questão de segurança nacional.

A OpenAI observava tudo isso de perto.

Ao ser forçada a retirar seus modelos mais poderosos, a posição da OpenAI se torna mais confortável. Quanto mais a Anthropic for pressionada por questões regulatórias, mais fácil será para a OpenAI se apresentar como uma alternativa “que pode colaborar”. Se a Amazon realmente continuar próxima da OpenAI, terá uma camada extra de proteção contra riscos.

Claro que não há provas públicas de que a Amazon esteja ajudando a OpenAI a prejudicar a Anthropic.

O fato mais contundente é que, com os modelos de ponta entrando em um ciclo de gastos de trilhões de dólares, as parcerias deixaram de ser limpas. Cloud providers investem em empresas de modelos, essas compram capacidade de nuvem, o governo questiona riscos de segurança, e concorrentes atuam na mesma arena regulatória, fazendo red team uns dos outros.

Financiadores, fornecedores, distribuidores e reguladores começam a ser desempenhados pelo mesmo grupo de empresas.

Isso é mais importante do que qualquer dica de jailbreak.

Na noite em que o Fable 5 e o Mythos 5 foram desligados, a Anthropic perdeu mais do que o acesso a dois modelos. Perdeu um pouco do controle sobre sua narrativa.

A mão da Amazon ainda está no console da AWS. O financiamento da OpenAI ainda não acabou. E o governo dos EUA já está sentado na primeira fila do lançamento dos modelos.