O governo dos Estados Unidos banir o modelo Anthropic, na verdade, não é por causa de uma «fuga»

Autor: Zack Whittaker

Tradução: Deep潮 TechFlow

Deep潮 Introdução: Na sexta-feira passada, uma carta do Departamento de Comércio dos EUA forçou a Anthropic a retirar do ar seus dois modelos mais avançados, Fable 5 e Mythos 5. O governo alegou motivos de segurança nacional, enquanto o público suspeitava que fosse uma tentativa de contornar as barreiras do modelo. Mas cada vez mais detalhes apontam para uma outra explicação: isso parece mais uma retaliação após o rompimento de relações entre o governo Trump e a Anthropic. Uma empresa de tecnologia foi obrigada por uma ordem governamental, sem necessidade de aprovação judicial, a encerrar seus produtos, o que envia um sinal para toda a indústria tecnológica dos EUA.

A carta de execução do governo dos EUA à Anthropic, na véspera do fim de semana, obrigou a empresa a retirar todos os seus modelos de IA mais recentes. Qualquer empresa de tecnologia americana deveria encarar isso como um alerta, não apenas os laboratórios de IA.

Vamos revisar as notícias dos últimos dias. Na sexta-feira à tarde, o Departamento de Comércio dos EUA enviou uma carta à Anthropic, citando uma regra de controle de exportação pouco conhecida, que proíbe não-americanos (incluindo funcionários da própria Anthropic) de acessarem Fable 5 e Mythos 5, alegando uma preocupação de segurança nacional não especificada. A Anthropic afirmou que acredita que a carta está relacionada à tentativa de contornar as barreiras do modelo, mas também não tem certeza, pois a carta não fornece detalhes específicos. Essa carta ainda não foi tornada pública.

A resposta da Anthropic foi desativar ambos os modelos principais para todos os clientes, garantindo conformidade. Como resultado, o governo dos EUA, com uma ação rápida, unilateral e aparentemente sem necessidade de aprovação judicial, conseguiu forçar uma empresa de tecnologia a retirar seus modelos do ar.

Essa intervenção do governo Trump demonstra que a indústria de IA não é imune às ações do governo. Para o setor de tecnologia mais amplo, é um aviso: ou você obedece, ou podemos fechar você e seus produtos juntos.

A Axios, citando fontes, descreveu a tensão entre esses dois grandes atores no fim de semana, afirmando que o verdadeiro motivo por trás dessa ordem de exportação foi uma incompatibilidade de personalidades entre a Anthropic e o governo Trump, e não uma questão técnica relacionada aos produtos de IA.

Novos detalhes surgidos no fim de semana continuam a minar a justificativa já fraca do governo.

Katie Moussouris, veterana em segurança cibernética, pesquisadora e fundadora da Luta Security, afirmou em um blog que a Anthropic recentemente lhe mostrou discretamente um artigo escrito por alguns pesquisadores de segurança, descrevendo uma forma de contornar as barreiras do Fable 5. (Segundo o The Wall Street Journal, os autores do artigo são pesquisadores de segurança da Amazon.) Moussouris disse que a Anthropic procurou sua opinião sobre o artigo.

No blog, Moussouris explicou como os pesquisadores ativaram essa contorno às barreiras, mas ela afirmou que essa forma de contornar não deveria ter acionado o controle de exportação. A diferença é sutil: fazer a IA "verificar problemas de segurança no código" ou "corrigir esse trecho de código" é uma questão de formulação, mas o resultado final é praticamente o mesmo.

"Esse tipo de comportamento descrito no artigo não pode ser realmente eliminado, qualquer tentativa só enfraquecerá a capacidade do modelo de se defender", disse Moussouris. Ela criticou a decisão do controle de exportação por ser precipitada, brutal e mal avaliada.

Depois, Moussouris e dezenas de outros principais pesquisadores e especialistas em segurança pediram ao governo Trump que revogasse essa ordem de controle de exportação, afirmando que retirar capacidades avançadas de segurança cibernética dos defensores de rede dos EUA é "perigoso".

Governos anteriores já tomaram decisões drásticas em áreas de conhecimento pouco compreendidas. Por exemplo, na década de 2010, ao revisar as leis de exportação, os EUA tentaram controlar ferramentas de segurança cibernética que podiam ser usadas tanto para defesa quanto para ataque, mas o uso de linguagem excessivamente ampla quase criminalizou pesquisas legítimas de segurança e vulnerabilidades.

Porém, essa ordem do governo Trump parece ser uma retaliação.

Justin Hendrix, editor do Tech Policy Press, afirmou que essa ação "provavelmente fará com que governos estrangeiros questionem a confiabilidade do uso de IA americana em cenários críticos". A mensagem transmitida é que: as empresas de IA dos EUA não podem operar sem interferência do governo americano.

O governo Trump não confirmou por que usou essa ordem de controle de exportação. Será que os oficiais interpretaram mal o relatório e entraram em pânico? Ou o CEO da Amazon, Andy Jassy, por cautela ou ressentimento, falou algo aos altos escalões do governo, provocando essa reação? Houve um erro de tradução, ou essa foi uma tática de pressão contra a Anthropic — afinal, as relações entre as duas partes já estavam tensas? Também é possível que a Casa Branca nem tenha percebido o impacto em cadeia que essa carta poderia causar, e os oficiais agora estejam tentando lidar com a confusão que criaram.

Segundo Hendrix, "o clima atual é de suspeitas, com altos funcionários aparentemente escolhendo alvos com base em fatores pessoais e políticos". Como consequência, o governo estabeleceu um perigoso precedente ao decidir quanto controle quer exercer sobre o software produzido nos EUA.

Desta vez, o alvo foi a Anthropic, mas amanhã pode ser qualquer outra empresa.