Os três momentos de Anthropic: vazamento de código, confronto com o governo e militarização

Autor: Ben Thompson

Tradução: Deep潮 TechFlow

Deep潮 Introdução: O novo modelo da Anthropic, Fable, foi lançado há apenas dois meses e foi rapidamente interrompido pelo governo dos Estados Unidos, sob a alegação de "vazamento de segurança", mas na verdade isso expõe uma guerra dupla entre laboratórios de IA e o governo, e entre esses laboratórios e a indústria de software. Essa empresa que se vende como "segura" está transformando a narrativa de segurança em uma barreira comercial, enquanto o verdadeiro objetivo é obter os dados dos usuários que Microsoft e outros detêm.

Entendo a posição daqueles que zombam: eles sempre acreditam que as declarações públicas da Anthropic — especialmente as palavras usadas ao lançar o modelo — são apenas estratégias de marketing para espalhar o medo. Dois meses atrás, a Anthropic anunciou o Mythos Preview, alegando que esse modelo era perigoso demais para ser divulgado, especialmente por sua forte capacidade de segurança cibernética. E, dois meses depois, a empresa lançou oficialmente o Fable, uma versão do Mythos com várias barreiras de segurança adicionais.

Na minha experiência limitada, Fable é realmente um modelo excepcional. Além do desempenho em programação, já é difícil avaliar objetivamente modelos, mas minha sensação subjetiva é que a interação com o Fable é extremamente satisfatória; ele faz outros modelos, incluindo GPT 5.5 e Opus 4.8, parecerem pequenos e burros. Eu tive essa sensação apenas duas vezes antes: uma com GPT-4 e outra com Grok 4, ambos representando uma nova geração de modelos baseados em escala e complexidade; acredito que o Fable vem de um novo pré-treinamento, sendo o primeiro de uma nova geração.

Portanto, posso aceitar que o Fable/Mythos seja realmente mais forte na identificação e exploração de vulnerabilidades de segurança. A cautela da Anthropic ao lançar esses modelos faz sentido. Mas o problema de lançar modelos publicamente é que as barreiras podem ser burladas, e claramente isso aconteceu pouco tempo após o lançamento.

Anthropic enfrenta novamente o governo dos EUA

O que aconteceu a seguir é um pouco obscuro. A Anthropic escreveu em seu blog:

O governo dos EUA, invocando poderes de segurança nacional, emitiu uma ordem de controle de exportação, suspendendo o acesso de todos os cidadãos estrangeiros ao Fable 5 e Mythos 5, tanto dentro quanto fora dos EUA, incluindo funcionários estrangeiros da Anthropic. Essa ordem exige que, de repente, desativemos o Fable 5 e Mythos 5 para todos os clientes, a fim de garantir conformidade. O acesso a todos os outros modelos da Anthropic não foi afetado.

Recebemos a ordem às 17h21 do horário da costa leste hoje. O documento não fornece detalhes específicos sobre as preocupações de segurança nacional. Entendemos que o governo acredita que já foram descobertas maneiras de contornar ou "quebrar" o Fable 5. Revisamos uma demonstração que usa essa técnica específica para identificar algumas vulnerabilidades menores conhecidas. Essas vulnerabilidades parecem relativamente simples, e descobrimos que outros modelos disponíveis publicamente também conseguem detectá-las sem precisar burlá-las.

A Anthropic argumenta que vulnerabilidades específicas de "quebras" não universais são inevitáveis e limitadas em escopo, sem evidências de que existam vulnerabilidades universais; além disso, as vulnerabilidades descobertas parecem ser reportadas pela Amazon, o que é notável, pois a Amazon é tanto investidora na Anthropic quanto fornecedora principal de seus serviços de raciocínio. Quando escrevo este artigo, executivos da Anthropic estão em Washington, tentando resolver uma questão que eles insistem ser um mal-entendido, enquanto funcionários do governo Biden sugerem que a liderança da empresa não se importa com preocupações legítimas de segurança nacional.

Dado que há muitas controvérsias, não tenho muito a acrescentar sobre o conflito atual; mas não me surpreende que esteja acontecendo: já expliquei na minha análise "Anthropic e o Alinhamento" que o conflito entre o governo dos EUA e a Anthropic é inevitável. Nesse sentido, quem pensa que Mythos ainda não é forte o suficiente para provocar ações governamentais está perdendo o ponto: se ainda não for forte o suficiente, o próximo passo será, ou será o próximo do próximo, especialmente agora que os modelos estão cada vez mais úteis na criação de sucessores.

Porém, isso levanta outra questão — uma que parece confirmar a visão dos zombadores: se Mythos é tão perigoso, por que lançar o Fable inicialmente? Por que desafiar o governo fazendo o que dizem querer? Na verdade, acho que a ação da Anthropic é completamente compreensível; a singularidade da empresa está na forma como ela defende essas ações, e são essas defesas que alimentam os críticos e também conferem à Anthropic seu poder.

Necessidade econômica

Nos primeiros anos da IA, o maior fluxo de valor econômico foi para o poder computacional, por razões óbvias: a oferta não atendia à demanda, fazendo os preços dispararem; os maiores beneficiários foram Nvidia, TSMC e fabricantes de memória (SK Hynix, Samsung e Micron). Ao mesmo tempo, Anthropic e OpenAI perderam bilhões de dólares construindo modelos de ponta, que, uma vez lançados, foram distilados e comercializados por modelos de código aberto, principalmente na China.

Isso representa uma visão pessimista para os laboratórios — eles nunca cobrirão os custos, pois sua diferenciação é temporária, e substitutos gratuitos se tornam "bons o suficiente" — e acho que isso é razoável. Em um mundo onde modelos são intercambiáveis, eles se tornam commodities, e a maior parte do valor vai para outros lugares. Agora é o poder computacional, mas com o tempo, quando tivermos poder suficiente, a posição mais valiosa na cadeia de valor será aquela que sempre foi: possuir pontos de contato com os usuários.

Por isso, laboratórios de ponta têm uma necessidade econômica de estar mais próximos dos usuários, o que sempre foi claro para mim. Se você possui pontos de contato com os usuários, tem um bloqueio significativo, e a melhor maneira de possuir esses pontos é ser a base de tudo que eles precisam fazer. Isso leva a um conflito com as empresas de software: o software possui os pontos de contato, enquanto o interesse de longo prazo dos laboratórios de ponta não é simplesmente se tornar um insumo de software, mas substituir o software.

Ao mesmo tempo, as empresas de software estão tentando fazer o oposto. Satya Nadella, em um artigo no X, descreveu sua visão de como as empresas devem construir sobre modelos:

Cada empresa deve construir o que chamo de capital humano e capital de tokens. O capital humano inclui o conhecimento, julgamento, relacionamentos, criatividade e reconhecimento de padrões de seus funcionários, enquanto o capital de tokens é a capacidade de IA que a empresa constrói e possui. O importante é que, à medida que o capital de tokens cresce, o capital humano não se torna menos valioso. Ele só fica mais valioso! Acredito que a iniciativa humana será o motor do crescimento do capital de tokens. Os humanos estabelecerão metas ambiciosas, conectarão pontos entre diferentes áreas, construirão relacionamentos e identificarão os padrões mais importantes. Sem orientação humana, seu poder computacional fica ocioso.

Isso significa que a verdadeira oportunidade não está em escolher o melhor modelo, mas em construir ciclos de aprendizado sobre eles, fazendo o capital humano e o de tokens crescerem exponencialmente. Você pode terceirizar uma tarefa ou trabalho, mas nunca pode terceirizar seu aprendizado. O futuro das empresas está em criar sistemas inteligentes que cresçam exponencialmente na interação entre humanos e IA. Isso exige uma nova arquitetura, permitindo que cada empresa construa agentes que melhorem com o tempo, mantendo o controle sobre sua propriedade intelectual. As empresas devem poder trocar de "modelo geral" sem perder o conhecimento especializado incorporado ao seu sistema de aprendizado. Essa é a verdadeira "prova" do controle e soberania no futuro.

Nadella inicia essa visão com um aviso:

O que não queremos ver é um mundo onde cada setor e cada empresa transfere seu valor para alguns poucos modelos que dominam tudo. Se todo valor for capturado por poucos modelos, a política e a economia simplesmente não tolerarão isso. Para um futuro de IA que esvazie toda a indústria, a sociedade não dará licença.

Pense na primeira fase da globalização: toda a economia industrial foi terceirizada e esvaziada. Os números do PIB parecem bons na superfície, mas a deslocalização foi real, e as consequências ainda são sentidas. Não devemos permitir que essa dinâmica se repita na era da IA, onde poucos sistemas capturam toda a recompensa econômica, enquanto toda a indústria descobre que seu conhecimento está sendo transformado em mercadoria diante de seus olhos.

A questão dessa analogia é: a globalização realmente aconteceu, a economia industrial foi realmente esvaziada. Pode não ser apenas um aviso, mas uma profecia; não é de surpreender que Nadella esteja soando o alarme, pois a Microsoft pode ser uma das vítimas. Da mesma forma, a necessidade econômica de modelos de IA é justamente realizar isso.

Necessidade de dados

Esses modelos — incluindo Mythos — ainda não atingiram esse estágio. Eles precisam de mais poder computacional, mas também de dados melhores e mais abundantes. Melhorias nos modelos vêm cada vez mais de aprendizado por reforço; alguns podem ser sintetizados, mas a alavanca mais poderosa para laboratórios de ponta é o uso no mundo real.

Acredito que essa seja a principal razão pela qual OpenAI e Anthropic oferecem planos de assinatura com subsídios significativos. A SemiAnalysis estimou recentemente que um plano de 200 dólares pode fornecer valor de 8.000 dólares em tokens Claude e 14.000 dólares em tokens Codex. Claro, ambos competem por atenção de usuários e desenvolvedores, mas também lutam pelo acesso a dados de uso real para melhorar seus modelos.

A Anthropic aumentou significativamente seus investimentos no Fable, anunciando que manterá todos os dados de uso por 30 dias, mesmo para planos empresariais que anteriormente prometiam não reter dados. A empresa afirma que não usará esses dados para treinar, mas não implementou garantias para garantir que isso não mudará no futuro (por exemplo, armazenando dados em terceiros). Se essa política mudar (quando o Fable for retomado) sem causar uma grande perda de clientes, suspeito que eles começarão a usar os dados em breve: para eles, o valor é grande demais.

Preste atenção também ao ciclo virtuoso de mover-se para pontos de contato com os usuários: quanto mais trabalhos feitos com Claude ou Codex, mais dados podem ser retornados ao treinamento, tornando seus produtos mais fortes e úteis, ampliando o número de fluxos de trabalho que podem atender, e aumentando o acesso a dados.

Nadella destacou a importância desses dados no artigo, mas acredita que eles devem ser independentes do modelo:

As empresas precisam transformar fluxos de trabalho, conhecimento de domínio e julgamento acumulado em sistemas de IA que melhorem com cada uso. Avaliações internas devem captar se o modelo realmente melhora resultados importantes para o negócio (não apenas benchmarks externos!). Ambientes internos de aprendizado por reforço devem tornar o modelo mais forte na trajetória real da organização. Seu repositório de conhecimento torna a memória da organização consultável, e o uso de tokens mais eficiente.

Esse ciclo se torna a nova propriedade intelectual da empresa. Vejo isso como uma máquina de escalar montanha. Diferente de outros ativos, ela cresce exponencialmente. Cada fluxo de trabalho aprimorado gera sinais de treinamento melhores, acelerando a acumulação de conhecimento tácito exclusivo da empresa. Empresas que construírem isso cedo terão uma vantagem difícil de copiar, independentemente de como as capacidades de modelos individuais evoluam.

Esse ciclo se torna a nova IP da empresa. Vejo isso como uma máquina de escalar montanha. Diferente de outros ativos, ela pode crescer exponencialmente. Cada fluxo de trabalho aprimorado gera sinais de treinamento melhores, acelerando a acumulação de conhecimento tácito exclusivo da empresa. Empresas que desenvolverem isso cedo terão uma vantagem difícil de copiar, independentemente de como as capacidades de modelos individuais evoluam.

Porém, e se empresas que seguem a política de dados da Anthropic já obtiverem melhores resultados? Ou se empresas existentes resistirem, deixando espaço para novas empresas — ou para os próprios fabricantes de modelos — superarem seus concorrentes? A Anthropic realmente está testando a determinação de Nadella.

Busca por poder

Sobre a política de retenção de dados do Fable/Mythos, ela nem é a parte mais controversa do lançamento. Pelo contrário, a Anthropic afirmou que, se o Fable for usado para desenvolver LLMs, seu desempenho será reduzido silenciosamente; na ficha do sistema, está escrito:

Também implementamos medidas de proteção relacionadas ao desenvolvimento de LLMs de ponta. Como discutido na seção 6.1 do nosso relatório de risco de fevereiro de 2026, estamos preocupados com os riscos de acelerar o ritmo geral do desenvolvimento de IA, embora a gravidade desses riscos ainda seja incerta. Especificamente, nossa preocupação — como escrevemos na época — é de "acelerar outros desenvolvedores de IA a construir sistemas de IA poderosos semelhantes aos nossos, com riscos similares, mas sem medidas de proteção correspondentes."

Dado que modelos recentes já têm a capacidade de acelerar seu próprio desenvolvimento, implementamos novas intervenções que limitam a eficácia do Claude ao fazer solicitações relacionadas ao desenvolvimento de LLMs de ponta (como construir pipelines de pré-treinamento, infraestrutura de treinamento distribuído ou projetar aceleradores de ML). Usar Claude para desenvolver modelos concorrentes viola nossos termos de serviço, mas, ao aplicar essas medidas de proteção, podemos evitar acelerar aqueles que estão mais dispostos a violar essas regras.

Diferentemente de nossas intervenções em segurança cibernética, bioquímica e tentativas de destilação, essas medidas de proteção são invisíveis ao usuário. O Fable 5 não será revertido para outro modelo. Em vez disso, as restrições serão aplicadas por meio de prompts, vetores de orientação ou ajuste fino eficiente (PEFT). Essas intervenções não afetarão a maior parte do trabalho de programação. Estimamos que afetarão cerca de 0,03% do tráfego, concentrado em menos de 0,1% das organizações. Quando essas intervenções entrarem em vigor, esperamos que, além de limitar a eficácia no desenvolvimento de LLMs de ponta, elas tenham impacto mínimo no comportamento do modelo. O Claude continuará respondendo de forma útil às solicitações dos usuários. Continuaremos aprimorando a precisão dessas detecções após o lançamento do modelo.

A Anthropic reverteu essa mudança — o Fable transferirá solicitações relacionadas a LLMs para o Opus 4.8, e informará os usuários dessa transferência — mas acredito que a política inicial foi bastante reveladora. Por um lado, não culpo a Anthropic por não querer ajudar concorrentes; por outro, é claro que eles acreditam que ninguém além deles deveria criar LLMs de ponta.

O aspecto mais interessante dessa política é que ela foi implementada apenas dois meses após a disputa com o Departamento de Defesa, que deseja usar Claude para qualquer finalidade legal, enquanto a Anthropic quer impor controles mais rígidos sobre monitoramento e armas autônomas. Essas medidas de downgrade representam a capacidade da Anthropic de alterar silenciosamente seus modelos para alinhar com suas preferências políticas, e também sua disposição de fazê-lo. Em outras palavras, a Anthropic está validando algumas das críticas de que é uma fonte de risco na cadeia de suprimentos de IA.

A conclusão mais ampla dessa disputa é que a Anthropic acredita que deve ter o controle final sobre o uso de seus modelos; e, como acredita que só ela deve desenvolver IA de ponta, também acha que só ela deve ter o controle final sobre toda a IA. Quando essa visão é combinada com a declaração de que a empresa pode fazer toda atividade econômica com IA, fica claro que a liderança da Anthropic deseja exercer poder sobre tudo e todos.

Narrativa de segurança

Claro, a Anthropic nunca diria isso de forma tão direta; ao contrário, a narrativa é sobre segurança:

Prevejo que a Anthropic cada vez mais abrirá seus modelos ao público por meio de endpoints altamente customizados para diferentes fluxos de trabalho, mesmo que comece a limitar o acesso via API. Essa substituição de software e restrição de acesso será feita sob o pretexto de segurança, mesmo que a Anthropic esteja atendendo a seus interesses econômicos de se aproximar do usuário final.

A justificativa da Anthropic para suas mudanças na política de retenção de dados é a segurança. Especificamente, a empresa afirma que reter todos os dados dos usuários por 30 dias é necessário para evitar que o governo dos EUA se preocupe com "quebras" de segurança. Posso imaginar um futuro onde fatores de segurança também levem a eles treinarem esses dados, para melhor prevenir usos maliciosos.

Toda a história de origem da Anthropic está enraizada na crença dos fundadores de que a OpenAI não leva a segurança a sério o suficiente; a empresa acredita que só ela pode controlar a IA, e, por ser única na preocupação com segurança, tem o direito de tentar controlar todos os outros, incluindo o governo dos EUA.

Sobre esses motivos de segurança, a questão é: acho que eles são válidos, porque, para a Anthropic, eles não são motivos. A empresa realmente acredita que é a única que acredita em superinteligência, e que é a única que realmente se preocupa com os perigos. Isso justifica uma série de decisões, políticas e confrontos, que parecem uma combinação de cinismo e ingenuidade para o mundo exterior.

Em comparação com a OpenAI, há uma grande diferença: uma das maneiras de entender por que a OpenAI perdeu sua liderança é que, após o lançamento do ChatGPT, a empresa passou anos em conflito interno, com o antigo laboratório de pesquisa sendo repentinamente encarado com a responsabilidade de se tornar uma empresa de tecnologia de consumo inesperada; na resolução desse conflito, a OpenAI perdeu muitos talentos para empresas como a Anthropic.

Por outro lado, a Anthropic mantém uma coerência perfeita entre talento, missão e negócios. A empresa consegue vender a visão de criar uma "divindade de máquinas", com o halo de preocupação com perigos e inteligência suficiente para proteger a humanidade; e cada mudança de política que ela faz acaba beneficiando seus negócios, uma coincidência das mais perfeitas.

Respeito essa coerência, mas também tenho medo dela. Respeito porque ela é claramente muito eficaz; a analogia mais próxima talvez seja a Apple, que sempre disfarça cada ação egoísta com a justificativa de fazer o que é melhor para o usuário — e, na maioria das vezes, realmente faz. A Anthropic faz o mesmo. Mas tenho medo de que deixar que os mais convencidos de que sabem o que é melhor para a humanidade construam um smartphone que posso aceitar ou rejeitar seja uma coisa; construir uma inteligência que possa rivalizar ou superar o poder de nações ou grandes corporações é algo muito mais preocupante. A história dos inteligentes que acham que sabem o que a humanidade precisa é suja, justamente porque eles se convencem de que suas ações são boas, dando justificativas para ações que nem sempre são assim.