O que aconteceu na Casa Branca nas 24 horas antes do Fable5 ser forçado a encerrar suas operações?

Título original: Dentro das 24 horas turbulentas que levaram a Casa Branca a impor controles de exportação na Anthropic

Autor original: Sophia Cai e Cheyenne Haslett, Politico

Tradução por: Peggy

Nota do editor: A Anthropic acabou de lançar há poucos dias o modelo Fable 5, mas foi repentinamente forçada a tirá-lo do ar. A causa foi o governo Trump, que, alegando segurança nacional, exigiu limitar o acesso de cidadãos estrangeiros aos dois avançados modelos de IA Fable 5 e Mythos 5 da Anthropic; devido à dificuldade de distinguir precisamente a identidade dos usuários e seus privilégios de acesso, a Anthropic optou por desativar esses modelos para todos os clientes.

Por trás dessa retirada repentina, houve uma intensa disputa de alta pressão entre a Casa Branca e a Anthropic em 24 horas. Sobre se as barreiras de segurança do Fable 5 podem ser contornadas, o CEO da Anthropic, Dario Amodei, teve várias ligações tensas com altos funcionários do governo, incluindo o Departamento do Tesouro, o Departamento de Comércio e o chefe de segurança cibernética da Casa Branca. O governo acredita que o modelo pode ser usado para identificar vulnerabilidades de software, representando um risco à segurança nacional; a Anthropic, por sua vez, enfatiza que o problema não é uma "jailbreak" universal, e critica a ação do governo por falta de transparência, clareza e procedimentos legais baseados em fatos técnicos.

O episódio não se resume a uma simples retirada de modelos, nem a uma falha de comunicação entre a Casa Branca e uma empresa de IA, mas sim a uma redefinição do que significa um modelo de IA avançado como um ativo potencial de segurança nacional. Quando as capacidades do modelo entram em cenários sensíveis como segurança cibernética, exploração de vulnerabilidades e análise de inteligência, o governo não se contenta mais com avaliações internas e revisões voluntárias das empresas, mas começa a usar ferramentas mais duras, como controles de exportação, para intervir diretamente no ritmo de lançamento dos modelos.

De forma mais irônica, a Anthropic sempre foi uma das empresas mais ativas na defesa de regulamentações na indústria de IA, e agora se torna alvo de uma intervenção regulatória severa. O governo considera que sua resposta às vulnerabilidades de segurança não foi suficientemente séria, enquanto a Anthropic acredita que a Casa Branca reagiu de forma excessiva. Por trás dessa controvérsia, surge uma nova questão que a indústria de IA terá que enfrentar no futuro: quem tem o poder de julgar se um modelo é suficientemente seguro? Empresas podem provar sua segurança por conta própria? Como as intervenções rápidas sob o pretexto de segurança nacional podem alterar os custos de conformidade, o ritmo de lançamento e o cenário de competição global das empresas de IA?

O incidente da Anthropic pode marcar um divisor de águas na regulamentação de IA avançada. No futuro, o lançamento dos modelos mais avançados não será mais apenas uma implantação de produto, mas uma operação de alto risco envolvendo segurança nacional, geopolítica, mercados de capitais e ordem industrial.

A seguir, o texto original:

Antes da imposição de controles de exportação pela administração Trump na Anthropic, altos funcionários da Casa Branca tentaram, em uma negociação de 24 horas de urgência, convencer a empresa de IA a retirar voluntariamente um novo modelo recém-lançado. Vários funcionários do governo acreditam que esse modelo pode representar riscos à segurança nacional.

Segundo duas fontes do governo e um alto funcionário da Casa Branca, durante essa crise, o CEO da Anthropic, Dario Amodei, teve várias ligações tensas com altos funcionários do governo, incluindo o Secretário do Tesouro, Scott Bessent, e o chefe de segurança cibernética da Casa Branca, Sean Cairncross. Como a discussão não foi autorizada a ser divulgada, todos solicitaram anonimato.

Esse episódio também trouxe à tona uma questão cada vez mais urgente: diante da velocidade de iteração e do limite de capacidades que os modelos de IA avançados estão atingindo, como a Casa Branca deve definir a linha entre inovação e segurança?

Detalhes dessas ligações nunca haviam sido divulgados antes.

Noite anterior à retirada do modelo: controvérsia de segurança

Após a implementação do controle de exportação, a Anthropic foi forçada a retirar seu novo modelo Fable. O modelo foi lançado ao público há apenas alguns dias. A Anthropic havia garantido anteriormente que o modelo era seguro e controlado, mas logo após o lançamento, altos funcionários do governo começaram a reavaliar se as barreiras de segurança realmente eram tão sólidas quanto a empresa afirmava.

Duas fontes do governo e um alto funcionário da Casa Branca disseram que, na quinta-feira, dois dias após o lançamento do Fable, o CEO da Amazon, Andy Jassy, expressou preocupações ao governo, alegando que as barreiras de segurança do modelo poderiam ser contornadas.

Uma pessoa familiarizada com as comunicações da Amazon afirmou que a empresa respondeu às exigências do governo, fornecendo feedback sobre os riscos potenciais.

Até sexta-feira de manhã, a questão havia escalado para o mais alto nível do governo.

Segundo fontes do governo e altos funcionários da Casa Branca, Bessent, Cairncross, a chefe de gabinete da Casa Branca, Susie Wiles, e outros altos funcionários participaram de uma reunião para discutir o modelo e as respostas do governo. Uma fonte disse que Bessent estava a caminho de Houston para um evento público previamente agendado, participando remotamente.

Após a reunião, o governo tentou contatar Amodei, mas foi informado de que ele estava temporariamente indisponível devido a um retiro de saúde. Segundo um funcionário do governo e um alto funcionário da Casa Branca.

Um porta-voz da Anthropic negou essa versão, afirmando: "Isso é completamente falso."

Uma pessoa próxima à Anthropic afirmou que o governo entrou em contato com Amodei por volta do meio-dia, e ele conseguiu falar com altos funcionários em cerca de uma hora e quinze minutos. Essa pessoa disse que, enquanto Amodei não podia atender, a Anthropic ofereceu outros executivos para se comunicarem.

Depois que o governo conseguiu contato com Amodei, ele participou de três ligações. Um alto funcionário da Casa Branca e um funcionário do governo disseram que cerca de meia dúzia de altos funcionários participaram das chamadas, incluindo Cairncross, Bessent e o secretário de Comércio, Howard Lutnick.

Um alto funcionário da Casa Branca afirmou que outros assessores e funcionários também participaram de partes das ligações, incluindo o vice-secretário de Indústria e Segurança do Comércio, Jeffrey Kessler, o secretário de redação da Casa Branca, Will Scharf, o vice-chefe de gabinete da Casa Branca, Richard Walters, e o assessor de políticas do presidente, Walker Barrett.

Durante as chamadas, Amodei tentou esclarecer possíveis mal-entendidos. Ele refutou as preocupações de segurança do governo, defendeu os mecanismos de proteção da Anthropic e enfatizou que as formas de contorno que já foram encontradas são específicas de certos cenários, não equivalendo a uma "jailbreak" geral — ou seja, uma forma de fazer o modelo escapar completamente das restrições de segurança da Anthropic.

Em um artigo de blog publicado após a implementação do controle de exportação, a Anthropic afirmou: "Até o momento, nenhum testador conseguiu encontrar uma forma de jailbreak universal — ou seja, uma maneira de contornar amplamente as medidas de segurança do modelo e desbloquear capacidades extensas na web." A empresa também afirmou que, para a Anthropic ou qualquer outra empresa de IA, eliminar completamente todas as tentativas de jailbreaking atualmente não é viável.

A Anthropic também defendeu seus sistemas de segurança, dizendo que suas proteções "são tão robustas que muitos usuários reclamam que são excessivamente amplas."

No entanto, Cairncross e Bessent não foram convencidos pela explicação de Amodei. Uma fonte do governo afirmou que as descobertas da Amazon foram enviadas para a NSA, que considerou os materiais suficientes para constituir "evidências".

Segundo altos funcionários da Casa Branca e duas fontes do governo, o governo pressionou a Anthropic a retirar o modelo voluntariamente e a coordenar com eles para corrigir vulnerabilidades. Amodei pediu mais tempo e informações, mas não prometeu retirar o modelo. Um alto funcionário da Casa Branca afirmou que, em uma das ligações, Bessent disse diretamente a Amodei que ele estava tomando uma "decisão ruim".

A intervenção regulatória: Fable 5 e Mythos 5 sob controle

Logo após as chamadas, o governo Trump impôs controles de exportação ao Fable 5 e ao Mythos 5. A Anthropic afirmou que o governo, invocando prerrogativas de segurança nacional, proibiu cidadãos estrangeiros de usar esses modelos. A empresa declarou que a ordem, na prática, obrigou a "desativar repentinamente" o acesso de todos os clientes aos modelos relacionados para garantir conformidade.

Um alto funcionário da Casa Branca afirmou: "Solicitamos sua cooperação por várias horas, mas o controle de exportação foi uma medida de último recurso. Não queríamos fazer isso, mas não tivemos escolha."

Após a publicação da reportagem, uma fonte próxima à Anthropic contestou, dizendo que a empresa não foi dada a opção de uma "cooperação voluntária".

Essa fonte afirmou: "A Casa Branca deu apenas 90 minutos para retirar o modelo, sem fornecer detalhes sobre a ameaça real. Nunca houve uma solicitação formal ou pedido de cooperação, apenas um prazo final anunciado de 90 minutos."

Um alto funcionário da Casa Branca afirmou que os oficiais ouviram Amodei comparar o risco da tecnologia da Anthropic a uma bomba nuclear. Assim, quando o CEO, que sempre defendeu a regulamentação de segurança de IA, disse que não queria retirar o sistema para corrigir vulnerabilidades conhecidas, os funcionários do governo acharam difícil de entender.

A Anthropic, há muito considerada uma das empresas mais ativas na defesa de regulamentações na indústria de IA, reiterou que defende uma estrutura regulatória para lidar com os riscos globais e os impactos no emprego decorrentes do rápido avanço da IA.

Três fontes familiarizadas com a postura do governo disseram que a Amazon não é a única empresa a expressar preocupações ao governo.

Uma dessas fontes afirmou: "O problema central é que a Anthropic não leva a sério essa questão. Se a empresa a levasse a sério, não a trataria como um incidente isolado, e tomaria medidas para corrigir ou suspender o acesso, nada disso teria chegado a esse ponto."

Outra pessoa próxima à Anthropic rebateu, dizendo que a ideia de "jailbreak" não significa que o sistema de segurança do Fable 5 foi comprometido, e destacou que a empresa manteve contato com o governo antes do lançamento do Fable. Essa pessoa afirmou que, em várias rodadas de comunicação, o governo não se opôs ao lançamento do Fable.

Após a implementação do controle de exportação, a Anthropic declarou em seu blog que cumpriria as ordens do governo, mas também considerou a medida excessiva.

A Anthropic afirmou: "Como já dissemos publicamente, acreditamos que o governo tem o direito de impedir implantações inseguras, mas isso deve ocorrer por meio de um procedimento legal transparente, justo, claro e baseado em fatos técnicos. Essa ação não segue esses princípios."

Um funcionário anônimo da Casa Branca afirmou que a inovação continua sendo a prioridade principal, mas que a segurança também deve vir em primeiro lugar.

A Amazon se recusou a divulgar detalhes específicos de suas comunicações com o governo. Um porta-voz da Amazon declarou: "Não é incomum que o governo consulte nossas opiniões sobre riscos potenciais de segurança. Quando isso acontece, não divulgamos detalhes dessas discussões."

Em abril, a Anthropic anunciou que seu mais recente modelo poderoso, Mythos, seria disponibilizado apenas para algumas empresas de tecnologia e segurança cibernética, para ajudar na detecção de vulnerabilidades de software. A empresa afirmou que, devido ao potencial excessivo do modelo, se caísse em mãos erradas, poderia causar consequências graves, e por isso a distribuição foi limitada.

A estreia do Mythos gerou uma série de reuniões entre Amodei e altos funcionários do governo. Ambos consideraram essas reuniões produtivas. Depois, houve várias discussões sobre como regulamentar modelos de IA avançados, levando a uma ordem administrativa recente que exige que as empresas submetam seus modelos ao governo para revisão antes de uma implantação ampla.

O Fable 5, lançado nesta semana, foi descrito pela Anthropic como um "modelo do nível Mythos", mas equipado com medidas de segurança adicionais, permitindo sua disponibilização ao público comum. O modelo foi revisado pelo governo dos EUA e pelo Instituto de Segurança de IA do Reino Unido.

No entanto, após a divulgação de supostas falhas de segurança, vários funcionários do governo consideraram que o modelo deveria ser retirado imediatamente.

Na manhã de sábado, David Sacks, ex-chefe de IA da Casa Branca e conhecido por sua oposição à regulamentação, publicou no X (antigo Twitter) apoiando a ação do governo contra a Anthropic.

Sacks afirmou que não acha que essa "jailbreak" seja simples ou irrelevante, nem que a intervenção do controle de exportação seja uma tentativa do governo de controlar mais amplamente a indústria de IA. Ele escreveu: "O governo agora quer que a Anthropic corrija os problemas de segurança, depois remova o controle de exportação e coloque o Fable de volta ao mercado. Querem que tudo isso aconteça rapidamente. Honestamente, o que confunde o governo é que a Anthropic sempre afirmou que a segurança era sua prioridade máxima, mas agora não quer colaborar."

Sacks e outros funcionários do governo já criticaram a Anthropic várias vezes, acusando-a de viés político de esquerda e de promover uma regulamentação mais rígida, além de alertar sobre impactos no emprego, criando uma atmosfera de pânico.

No início do ano, o Secretário de Defesa, Pete Hegseth, e o Pentágono elevaram o conflito entre o governo e a Anthropic a um nível sem precedentes. Em 3 de março, por recusar o uso de suas ferramentas de IA em monitoramento doméstico em larga escala e sistemas autônomos de armas, o Pentágono colocou a empresa na lista de riscos na cadeia de suprimentos.

No sábado, Sacks afirmou que a disputa anterior entre o governo e a Anthropic não é a mesma que a decisão de controle de exportação. Ele escreveu: "O governo valoriza a capacidade tecnológica da Anthropic e acha que o problema, embora sério, é facilmente resolvível. Agora, a bola está com a Anthropic."