O que aconteceu na Casa Branca nas 24 horas antes do Fable5 ser forçado a encerrar?

Título original: Dentro do turbilhão de 24 horas que levou a Casa Branca a impor controles de exportação à Anthropic

Autor original: Sophia Cai e Cheyenne Haslett, Politico

Tradução: Peggy

Nota do editor: A Anthropic acabou de lançar há poucos dias o modelo Fable 5, mas foi subitamente forçada a retirá-lo do ar. A razão foi que o governo Trump, alegando questões de segurança nacional, solicitou a restrição de acesso de cidadãos estrangeiros aos dois avançados modelos de IA, Fable 5 e Mythos 5, pertencentes à Anthropic; devido à dificuldade de distinguir precisamente a identidade dos usuários e seus privilégios de acesso, a Anthropic optou por desativar esses modelos para todos os clientes.

Por trás dessa retirada repentina, está um jogo de alta pressão entre a Casa Branca e a Anthropic, que ocorreu em 24 horas. Sobre se as barreiras de segurança do Fable 5 podem ser contornadas, o CEO da Anthropic, Dario Amodei, teve várias ligações tensas com altos funcionários do governo, incluindo o Departamento do Tesouro, o Departamento de Comércio e o chefe de segurança cibernética da Casa Branca. O governo acredita que o modelo pode ser usado para identificar vulnerabilidades de software, representando um risco à segurança nacional; a Anthropic, por sua vez, enfatiza que o problema não se trata de uma "jailbreak" genérica, e critica a ação do governo por falta de transparência, clareza e procedimentos legais baseados em fatos técnicos.

O episódio não se resume a uma simples retirada de modelos, nem a uma falha de comunicação entre a Casa Branca e uma empresa de IA, mas sim a uma redefinição do que constitui um ativo potencial de segurança nacional no campo da IA avançada. Quando as capacidades do modelo entram em cenários sensíveis como cibersegurança, exploração de vulnerabilidades e análise de inteligência, o governo não se contenta mais com avaliações internas ou revisões voluntárias das empresas, mas passa a usar ferramentas mais duras, como controles de exportação, para intervir diretamente no ritmo de lançamento dos modelos.

De forma ainda mais irônica, a Anthropic sempre foi uma das empresas mais ativas na defesa de regulamentações na indústria de IA, e agora se torna alvo de uma intervenção regulatória severa. O governo considera que sua resposta às vulnerabilidades de segurança foi insuficiente, enquanto a Anthropic acredita que a Casa Branca reagiu de forma exagerada. Por trás dessa controvérsia, surge uma questão nova que a indústria de IA terá que enfrentar: quem tem autoridade para julgar se um modelo é suficientemente seguro? Empresas podem provar sua segurança por si mesmas? E como as intervenções rápidas sob o pretexto de segurança nacional podem alterar os custos de conformidade, o ritmo de lançamento e o cenário competitivo global das empresas de IA?

O incidente da Anthropic pode marcar uma virada na regulamentação de IA avançada. No futuro, o lançamento dos modelos mais avançados não será mais apenas uma implantação de produto, mas uma operação de alto risco envolvendo segurança nacional, geopolítica, mercados de capitais e ordem industrial.

A seguir, o texto original:

Antes da imposição de controles de exportação pela administração Trump à Anthropic, altos funcionários da Casa Branca tentaram, em uma negociação de 24 horas, convencer a empresa de IA a retirar voluntariamente um novo modelo recém-lançado. Vários oficiais do governo acreditam que esse modelo pode representar riscos à segurança nacional.

Segundo duas fontes do governo e um alto funcionário da Casa Branca, durante essa crise, o CEO da Anthropic, Dario Amodei, manteve várias ligações tensas com altos funcionários do governo, incluindo o Secretário do Tesouro, Scott Bessent, e o chefe de segurança cibernética da Casa Branca, Sean Cairncross. Como essas discussões não foram autorizadas a serem divulgadas, os envolvidos solicitaram anonimato.

O episódio também trouxe à tona uma questão cada vez mais urgente: diante da velocidade de evolução e do limite de capacidades de modelos de IA avançados, como a Casa Branca deve estabelecer limites entre inovação e segurança?

Esses detalhes das ligações nunca haviam sido reportados antes.

Noite anterior à retirada do modelo: controvérsia de segurança

Após a implementação dos controles de exportação, a Anthropic foi forçada a retirar seu novo modelo, Fable. O lançamento ao público ocorreu apenas alguns dias antes. A Anthropic havia garantido anteriormente que o modelo era seguro e controlado, mas logo após o lançamento, altos funcionários do governo começaram a reavaliar se as barreiras de segurança realmente eram tão sólidas quanto a empresa afirmava.

Duas fontes do governo e um alto funcionário da Casa Branca disseram que, na quinta-feira, dois dias após o lançamento do Fable, o CEO da Amazon, Andy Jassy, expressou preocupações ao governo, alegando que as barreiras de segurança do modelo poderiam ser contornadas.

Uma pessoa familiarizada com as comunicações da Amazon afirmou que a empresa respondeu às solicitações do governo, fornecendo feedback sobre os riscos potenciais.

Até sexta-feira de manhã, a questão havia chegado às mais altas instâncias do governo.

Segundo fontes do governo e altos funcionários da Casa Branca, Bessent, Cairncross, a chefe de gabinete da Casa Branca, Susie Wiles, e outros altos funcionários participaram de uma reunião para discutir o modelo e as respostas do governo. Uma fonte disse que Bessent estava a caminho de Houston para um compromisso público e participou remotamente.

Após a reunião, o governo tentou contatar Amodei, mas foi informado de que ele estava temporariamente indisponível devido a um retiro de saúde. Um oficial do governo e um alto funcionário da Casa Branca relataram isso.

Um porta-voz da Anthropic negou a informação, afirmando: "Isso é completamente falso."

Uma pessoa próxima à Anthropic afirmou que o governo entrou em contato com Amodei por volta do meio-dia, e ele conseguiu falar com altos funcionários em cerca de uma hora e quinze minutos. Essa pessoa acrescentou que, enquanto Amodei não podia atender, a Anthropic ofereceu outros executivos para se comunicarem.

Depois de conseguir contato, Amodei participou de três ligações. Um alto funcionário da Casa Branca e um oficial do governo disseram que cerca de meia dúzia de altos funcionários participaram dessas chamadas, incluindo Cairncross, Bessent e o Secretário de Comércio, Howard Lutnick.

Um alto funcionário da Casa Branca afirmou que outros membros do staff e funcionários do governo também participaram de algumas dessas ligações, incluindo o vice-secretário de Indústria e Segurança do Comércio, Jeffrey Kessler, o secretário de redação da Casa Branca, Will Scharf, o vice-chefe de gabinete, Richard Walters, e o assessor de políticas do presidente, Walker Barrett.

Durante as chamadas, Amodei tentou esclarecer possíveis mal-entendidos. Ele refutou as preocupações de segurança do governo, defendeu as proteções do sistema da Anthropic e afirmou que as formas de contorno identificadas eram específicas de certos cenários, não equivalendo a uma "jailbreak" geral — ou seja, uma forma de fazer o modelo escapar completamente das restrições de segurança da Anthropic.

Após a implementação dos controles de exportação, a Anthropic publicou um blog afirmando: "Até o momento, nenhum pesquisador conseguiu encontrar uma forma de jailbreak universal — ou seja, uma técnica que possa contornar amplamente as medidas de segurança do modelo e desbloquear capacidades de rede extensas." A empresa também afirmou que, para a Anthropic ou qualquer outra companhia de IA, eliminar completamente todas as tentativas de jailbreak atualmente não é viável.

A Anthropic também defendeu seu sistema de segurança, dizendo que suas proteções "são tão robustas que muitos usuários reclamam que são excessivamente amplas."

No entanto, Cairncross e Bessent não ficaram convencidos com as explicações de Amodei. Um funcionário do governo afirmou que as descobertas da Amazon foram enviadas à Agência de Segurança Nacional, que considerou os materiais suficientes para constituir "evidências".

Segundo fontes do governo e altos funcionários da Casa Branca, o governo pressionou a Anthropic a retirar o modelo voluntariamente e a colaborar na correção de vulnerabilidades. Amodei pediu mais tempo e informações, mas não prometeu retirar o modelo. Um alto funcionário da Casa Branca afirmou que, em uma das ligações, Bessent disse diretamente a Amodei que ele estava tomando uma "decisão ruim".

A intervenção regulatória: Fable 5 e Mythos 5 sob controle

Logo após as chamadas, o governo Trump impôs controles de exportação ao Fable 5 e ao Mythos 5. A Anthropic afirmou que o governo, invocando prerrogativas de segurança nacional, proibiu cidadãos estrangeiros de usar esses modelos. A empresa declarou que a ordem, na prática, obrigou a "desativar repentinamente" o acesso de todos os clientes aos modelos relacionados, para garantir conformidade.

Um alto funcionário da Casa Branca afirmou: "Solicitamos sua cooperação por várias horas, mas os controles de exportação foram uma medida de último recurso. Não queríamos fazer isso, mas não tivemos escolha."

Após a publicação da reportagem, uma fonte próxima à Anthropic contestou, dizendo que a empresa não foi dada a opção de uma "cooperação voluntária".

Essa fonte afirmou: "A Casa Branca deu apenas 90 minutos para retirar os modelos, sem fornecer detalhes sobre ameaças reais. Nunca houve uma solicitação formal ou um pedido de cooperação, apenas um prazo final anunciado de 90 minutos."

Outro alto funcionário da Casa Branca afirmou que os oficiais ouviram Amodei comparar o risco das tecnologias da Anthropic ao de uma bomba nuclear. Assim, quando o CEO, que sempre defendeu a regulamentação de segurança de IA, declarou que não queria retirar o sistema para corrigir vulnerabilidades conhecidas, os oficiais ficaram perplexos.

A Anthropic, há muito considerada uma das empresas mais ativas na defesa de regulamentações na indústria de IA, reiterou que defende uma estrutura regulatória para lidar com os riscos globais e impactos no emprego decorrentes do rápido avanço da tecnologia.

Três fontes familiarizadas com a postura do governo disseram que a Amazon não é a única a expressar preocupações ao governo.

Uma dessas fontes afirmou: "O problema central é que a Anthropic não leva a sério essa questão. Se a empresa a tratasse com a devida seriedade, não a minimizaria como um incidente isolado e tomaria medidas para corrigir ou suspender o acesso, isso nunca teria chegado a esse ponto."

Outra pessoa próxima à Anthropic rebateu, dizendo que a ideia de "jailbreak" não significa que o sistema de segurança do Fable 5 tenha falhado, e destacou que a empresa manteve diálogo com o governo antes do lançamento. Essa pessoa afirmou que, em várias rodadas de comunicação, o governo não se opôs ao lançamento do Fable.

Após a imposição dos controles de exportação, a Anthropic declarou em seu blog que cumpriria as ordens do governo, mas considerou a medida excessiva.

A Anthropic afirmou: "Como já dissemos publicamente, acreditamos que o governo tem o direito de impedir implantações inseguras, mas isso deve ocorrer por meio de um procedimento legal transparente, justo, claro e baseado em fatos técnicos. Essa ação não segue esses princípios."

Um funcionário do governo, que pediu anonimato, afirmou que a inovação continua sendo a prioridade da Casa Branca, mas que a segurança também deve vir em primeiro lugar.

A Amazon, em nota, recusou-se a divulgar detalhes específicos de suas comunicações com o governo. Um porta-voz da Amazon declarou: "Não é incomum que o governo consulte nossas opiniões sobre riscos potenciais de segurança. Quando isso acontece, não divulgamos detalhes dessas discussões."

Em abril, a Anthropic anunciou que seu mais recente e poderoso modelo, Mythos, seria disponibilizado apenas para algumas empresas de tecnologia e segurança cibernética, para ajudar na detecção de vulnerabilidades. A empresa afirmou que, devido ao potencial de uso indevido, o modelo tinha capacidades excessivas e, por isso, sua distribuição deveria ser limitada.

A apresentação do Mythos gerou uma série de reuniões entre Amodei e altos funcionários do governo. Ambos consideraram esses encontros produtivos. Depois, houve várias discussões sobre como regulamentar modelos de IA avançados, levando à emissão de uma ordem executiva recente, que exige que as empresas submetam voluntariamente seus modelos à revisão governamental antes de uma implantação ampla.

O Fable 5, lançado nesta semana, foi descrito pela Anthropic como um "modelo do nível Mythos", mas com medidas de segurança adicionais, permitindo sua disponibilização ao público geral. O modelo foi avaliado pelo governo dos EUA e pelo Instituto de Segurança de IA do Reino Unido.

No entanto, após a divulgação de supostas vulnerabilidades de segurança, vários oficiais do governo consideraram que o modelo deveria ser retirado imediatamente.

No sábado de manhã, David Sacks, ex-chefe de IA da Casa Branca e conhecido por sua oposição à regulamentação, publicou no X (antigo Twitter) apoiando a ação do governo contra a Anthropic.

Sacks afirmou que não considera a "jailbreak" uma questão trivial ou irrelevante, e que o controle de exportação não é uma tentativa do governo de ampliar sua influência sobre a indústria de IA. Ele escreveu: "O governo agora quer que a Anthropic corrija as vulnerabilidades de segurança, depois retire o controle de exportação e reabra o Fable ao público. Querem que tudo isso aconteça rapidamente. Honestamente, o que me surpreende é que a Anthropic, que sempre afirmou que a segurança era sua prioridade máxima, agora reluta em colaborar."

Sacks e outros oficiais do governo já criticaram a Anthropic várias vezes, acusando-a de viés político de esquerda e de promover uma regulamentação mais rígida, além de alertar para impactos no emprego, o que, segundo eles, estaria gerando pânico.

No início do ano, o Secretário de Defesa, Pete Hegseth, e o Pentágono elevaram ao máximo o conflito entre o governo e a Anthropic. Em 3 de março, por recusar o uso de suas ferramentas de IA em monitoramento doméstico em larga escala e sistemas autônomos de armas, o Pentágono colocou a empresa na lista de riscos na cadeia de suprimentos.

No sábado, Sacks afirmou que a disputa anterior entre o governo e a Anthropic não é a mesma que a decisão de controle de exportação. Ele escreveu: "O governo valoriza a capacidade tecnológica da Anthropic e acredita que o problema, embora sério, pode ser facilmente resolvido. Agora, a bola está com a Anthropic."