Os três momentos de Anthropic: vazamento de código, confronto com o governo e militarização

Autor: Ben Thompson

Tradução: Deep潮 TechFlow

Deep潮 Introdução: O novo modelo da Anthropic, Fable, foi lançado há apenas dois meses e foi rapidamente interrompido pelo governo dos EUA, alegando "vazamento de segurança", mas na verdade expondo uma guerra dupla entre laboratórios de IA, governo e setor de software. Esta empresa, que vende "segurança" como diferencial, está transformando a narrativa de segurança em uma barreira comercial, enquanto na verdade busca os dados de usuários que os gigantes como Microsoft possuem.

Compreendo a posição daqueles que zombam; eles sempre acreditam que as declarações públicas da Anthropic — especialmente as palavras usadas ao lançar o modelo — são apenas estratégias de marketing para espalhar o pânico. Dois meses atrás, a Anthropic anunciou o Mythos Preview, alegando que esse modelo era perigoso demais para ser divulgado, especialmente por sua forte capacidade de segurança cibernética. E, dois meses depois, a empresa lançou oficialmente o Fable, uma versão do Mythos com várias barreiras de segurança adicionais.

Na minha experiência limitada, Fable é realmente um modelo excepcional. Além do desempenho em programação, já é difícil avaliar objetivamente modelos, mas minha sensação subjetiva é que a interação com Fable é extremamente satisfatória; ela faz outros modelos, incluindo GPT 5.5 e Opus 4.8, parecerem pequenos e burros. Tive essa sensação apenas duas vezes antes: uma com GPT-4 e outra com Grok 4, ambos representando uma nova geração em escala e complexidade de modelos básicos; acredito que Fable deriva de um novo pré-treinamento, sendo o primeiro dessa nova geração.

Portanto, posso aceitar que Fable/Mythos seja realmente mais forte na identificação e exploração de vulnerabilidades de segurança, e que a sua implementação cautelosa seja justificável. Mas o problema de lançar modelos publicamente é que as barreiras podem ser burladas, e claramente isso aconteceu pouco tempo após o lançamento.

Anthropic enfrenta novamente o governo dos EUA

O que aconteceu a seguir é um pouco confuso. A Anthropic escreveu em seu blog:

O governo dos EUA, invocando poderes de segurança nacional, emitiu uma ordem de controle de exportação, suspendendo o acesso de todos os cidadãos estrangeiros ao Fable 5 e Mythos 5, tanto dentro quanto fora dos EUA, incluindo funcionários estrangeiros da Anthropic. Essa ordem efetivamente obriga-nos a desativar repentinamente o acesso ao Fable 5 e Mythos 5 para todos os clientes, garantindo conformidade. O acesso a outros modelos da Anthropic não foi afetado.

Recebemos a ordem às 17h21 do horário da costa leste dos EUA. O documento não detalha as preocupações específicas de segurança nacional. Entendemos que o governo acredita que foi descoberto um método de contornar ou "quebrar" o Fable 5. Revisamos uma demonstração que usa essa técnica específica para identificar algumas vulnerabilidades menores conhecidas. Essas vulnerabilidades parecem relativamente simples, e descobrimos que outros modelos disponíveis publicamente também conseguem detectá-las sem precisar burlá-las.

A Anthropic argumenta que vulnerabilidades específicas de "quebras" não universais são inevitáveis e limitadas em escopo, sem evidências de vulnerabilidades universais; e que as vulnerabilidades descobertas parecem ser reportadas pela Amazon, o que é notável, pois a Amazon é tanto investidora na Anthropic quanto principal fornecedora de seus serviços de raciocínio. Quando escrevo este artigo, executivos da Anthropic estão em Washington, tentando resolver uma questão que eles insistem ser um mal-entendido, enquanto funcionários do governo federal sugerem que a liderança da empresa não se importa com preocupações legítimas de segurança nacional.

Dado que há muitas controvérsias, não tenho muito a acrescentar sobre o conflito atual; mas não me surpreende que esteja acontecendo: já expliquei na minha análise "Anthropic e o Alinhamento" que o conflito entre o governo dos EUA e a Anthropic é inevitável. Nesse sentido, quem pensa que Mythos ainda não é forte o suficiente para provocar ações governamentais está perdendo o ponto: se ainda não for forte o bastante, o próximo passo será, ou será o seguinte, especialmente agora que os modelos estão cada vez mais úteis na criação de sucessores.

Porém, isso levanta outra questão — uma que parece confirmar a visão dos zombadores: se Mythos é tão perigoso, por que lançar Fable inicialmente, por que desafiar o governo fazendo o que dizem querer? Na minha opinião, a conduta da Anthropic é completamente compreensível; a singularidade da empresa está na forma como ela defende essas ações, e essas defesas alimentam tanto os críticos quanto a própria magia da Anthropic.

Necessidade econômica

Nos primeiros anos da IA, o maior fluxo de valor econômico foi para o poder computacional, por razões óbvias: a oferta não atendia à demanda, fazendo os preços dispararem; os maiores beneficiados foram Nvidia, TSMC e fabricantes de memória (SK Hynix, Samsung e Micron). Ao mesmo tempo, a Anthropic e a OpenAI perderam bilhões de dólares construindo modelos de ponta, que ao serem lançados, foram distilados e comercializados por modelos de código aberto, principalmente na China.

Isso representa uma visão pessimista dos laboratórios — eles nunca conseguirão cobrir os custos, pois sua diferenciação é temporária, e substitutos gratuitos se tornam "bons o suficiente" — e acho essa avaliação razoável. Em um mundo onde modelos são intercambiáveis, eles se tornam commodities, e grande parte do valor se desloca para outros setores. Agora é o poder computacional, mas com o tempo, quando tivermos poder suficiente, a posição mais valiosa na cadeia de valor será aquela que sempre foi: possuir pontos de contato com os usuários.

Por isso, laboratórios de ponta têm uma necessidade econômica de estar mais próximos dos usuários, algo que sempre achei claro. Se você possui pontos de contato com os usuários, tem uma trava significativa; a melhor forma de possuir esses pontos é ser a base de tudo que eles precisam fazer. Isso leva a um conflito com empresas de software: o software possui pontos de contato com os usuários, enquanto o interesse de longo prazo dos laboratórios de ponta não é simplesmente se tornar uma entrada de produto de software, mas substituir o software.

Ao mesmo tempo, empresas de software estão tentando fazer o oposto. Satya Nadella, em um artigo no X, descreveu sua visão de como as empresas devem construir modelos:

Cada empresa deve estabelecer o que chamo de capital humano e capital de tokens. O capital humano inclui o conhecimento, julgamento, relacionamentos, criatividade e reconhecimento de padrões de seus funcionários, enquanto o capital de tokens é a capacidade de IA que a empresa constrói e possui. Importante: à medida que o capital de tokens cresce, o capital humano não se torna menos valioso. Ele só se torna mais valioso! Acredito que a iniciativa humana será o motor do crescimento do capital de tokens. Humanos estabelecerão metas ambiciosas, conectarão pontos entre diferentes áreas, construirão relacionamentos e identificarão os padrões mais importantes. Sem orientação humana, seu poder de processamento fica ocioso.

Isso significa que a verdadeira oportunidade não está em escolher o melhor modelo, mas em construir ciclos de aprendizado sobre ele, fazendo o capital humano e o de tokens crescerem exponencialmente. Você pode terceirizar uma tarefa ou trabalho, mas nunca pode terceirizar seu aprendizado. O futuro das empresas está em criar sistemas inteligentes que cresçam de forma exponencial entre humanos e IA. Isso exige uma nova arquitetura, permitindo que cada empresa construa agentes que melhorem ao longo do tempo, mantendo o controle sobre sua propriedade intelectual. Empresas devem poder trocar modelos "gerais" sem perder o conhecimento especializado incorporado em seus sistemas de aprendizado. Essa será a verdadeira prova do controle e soberania no futuro.

Nadella inicia essa visão com um alerta:

O que não queremos ver é um mundo onde cada setor e cada empresa transfere valor para alguns poucos modelos que dominam tudo. Se todo valor for capturado por poucos modelos, a política e a economia simplesmente não tolerarão. Para um futuro de IA que esvazie toda a indústria, a sociedade não dará licença.

Pense na primeira fase da globalização: toda a economia industrial foi terceirizada e esvaziada. Os números do PIB parecem bons na superfície, mas a deslocalização foi real, e as consequências ainda são sentidas. Não devemos levar esse mesmo padrão para a era da IA, onde poucos sistemas capturam toda a recompensa econômica, enquanto toda a indústria descobre que seu conhecimento está sendo transformado em commodities diante de seus olhos.

O problema dessa analogia é que a globalização realmente aconteceu, e a economia industrial foi esvaziada. Pode não ser apenas um aviso, mas uma profecia; não é de surpreender que Nadella esteja soando o alarme, pois a Microsoft pode ser uma das vítimas. Da mesma forma, a necessidade econômica de modelos de IA é justamente realizar isso.

Necessidade de dados

Esses modelos — incluindo Mythos — ainda não chegaram lá. Além de mais poder computacional, eles precisam de mais e melhores dados. Melhorias nos modelos vêm cada vez mais de aprendizado por reforço; alguns podem ser sintéticos, mas a alavanca mais poderosa para laboratórios de ponta é o uso no mundo real.

Acredito que essa seja a principal razão pela qual OpenAI e Anthropic oferecem planos de assinatura com subsídios significativos. A SemiAnalysis estimou recentemente que um plano de 200 dólares pode fornecer valor de 8.000 dólares em tokens Claude e 14.000 dólares em tokens Codex. Claro, ambos competem por atenção de usuários e desenvolvedores, mas também lutam pelo acesso a dados reais de uso para melhorar seus modelos.

A Anthropic aumentou significativamente seus investimentos no Fable, anunciando que manterá todos os dados utilizados por 30 dias, mesmo para planos empresariais que anteriormente prometiam não reter dados. A empresa afirma que não usará esses dados para treinar, mas não implementou garantias para evitar que isso aconteça no futuro (como armazenamento por terceiros). Se essa política mudar (quando o Fable for retomado) sem causar uma grande perda de clientes, suspeito que o uso de dados por eles será apenas uma questão de tempo: para seus objetivos finais, isso é demasiado valioso.

Preste atenção também ao ciclo virtuoso de mover-se para pontos de contato com o usuário: quanto mais trabalhos feitos com Claude ou Codex, mais dados podem ser retornados ao treinamento, tornando seus produtos mais fortes e úteis, ampliando o número de fluxos de trabalho que podem atender, e aumentando seu acesso a dados.

Nadella destacou a importância desses dados no artigo, mas acredita que eles devem ser independentes do modelo:

As empresas precisam transformar fluxos de trabalho, conhecimento de domínio e julgamento acumulado em sistemas de IA que melhorem a cada uso. Avaliações internas devem captar se o modelo realmente melhora resultados importantes para o negócio (não apenas benchmarks externos!). Ambientes de aprendizado por reforço internos devem tornar o modelo mais forte na trajetória real da organização. Sua base de conhecimento torna a memória da organização consultável, e o uso de tokens mais eficiente.

Esse ciclo se torna a nova propriedade intelectual da empresa. Vejo isso como uma máquina de escalar. Diferente de outros ativos, ela cresce de forma composta. Cada fluxo de trabalho aprimorado gera sinais de treinamento melhores, acelerando a acumulação de conhecimento tácito exclusivo da empresa. Empresas que construírem isso cedo terão uma vantagem difícil de replicar, independentemente de como as capacidades de modelos individuais evoluam.

Esse ciclo se torna a nova IP da empresa. Vejo isso como uma máquina de escalar. Diferente de outros ativos, ela cresce de forma composta. Cada fluxo de trabalho aprimorado gera sinais de treinamento melhores, acelerando a acumulação de conhecimento tácito exclusivo da empresa. Empresas que desenvolverem isso cedo terão uma vantagem difícil de copiar, independentemente do avanço de capacidades de modelos isolados.

Porém, e se empresas que seguem a política de dados da Anthropic já obtêm melhores resultados? Ou se empresas existentes resistirem, deixando espaço para novas empresas — ou para os próprios fabricantes de modelos — superarem seus concorrentes? A Anthropic realmente está testando a determinação de Nadella.

Busca por poder

Sobre a política de retenção de dados do Fable/Mythos, ela nem é a parte mais controversa do lançamento. Pelo contrário, a Anthropic afirmou que, se o Fable for usado para desenvolver LLMs, seu desempenho será reduzido silenciosamente; a ficha técnica diz:

Também implementamos medidas de proteção relacionadas ao desenvolvimento de LLMs de ponta. Como discutido na seção 6.1 do nosso relatório de risco de fevereiro de 2026, estamos preocupados com o risco de acelerar o desenvolvimento geral de IA, embora a gravidade desses riscos ainda seja incerta. Especificamente, nossa preocupação — como escrevemos na época — é de "acelerar outros desenvolvedores de IA a construir sistemas de IA poderosos semelhantes aos nossos, com riscos similares, mas sem as devidas proteções."

Dado que modelos recentes têm a capacidade de acelerar seu próprio desenvolvimento, implementamos novas intervenções que limitam a eficácia do Claude ao fazer solicitações relacionadas ao desenvolvimento de LLMs de ponta (como construir pipelines de pré-treinamento, infraestrutura de treinamento distribuído ou projetar aceleradores de ML). Usar Claude para desenvolver modelos concorrentes viola nossos termos de serviço, mas a aplicação dessas restrições por medidas de proteção evita acelerar aqueles mais propensos a violar esses termos.

Diferentemente de nossas intervenções em segurança cibernética, bioquímica e tentativas de destilação, essas medidas de proteção são invisíveis ao usuário. O Fable 5 não voltará a um outro modelo. Em vez disso, as restrições serão aplicadas por meio de ajustes em prompts, vetores de orientação ou técnicas de ajuste fino eficiente (PEFT). Essas intervenções não afetarão a maior parte do trabalho de programação. Estimamos que afetarão cerca de 0,03% do tráfego, concentrado em menos de 0,1% das organizações. Quando essas intervenções entrarem em vigor, esperamos que, além de limitar a eficácia no desenvolvimento de LLMs de ponta, tenham impacto mínimo no comportamento do modelo. O Claude continuará respondendo de forma útil às solicitações dos usuários. Continuaremos aprimorando a precisão dessas detecções após o lançamento do modelo.

A Anthropic reverteu essa mudança — o Fable transferirá solicitações relacionadas a LLMs para o Opus 4.8, e informará os usuários dessa transferência — mas acredito que a política inicial foi bastante reveladora. Por um lado, não culpo a Anthropic por não querer ajudar concorrentes; por outro, é claro que eles acreditam que ninguém além deles deveria criar LLMs de ponta.

Essa política é ainda mais notável por ter sido implementada apenas dois meses após uma disputa com o Departamento de Defesa: este quer usar Claude para qualquer finalidade legal, enquanto o primeiro deseja impor controles mais rígidos sobre monitoramento e armas autônomas. Essas medidas de downgrade representam a capacidade da Anthropic de ajustar seus modelos para alinhar com suas preferências políticas, e também sua disposição de fazê-lo. Em outras palavras, a Anthropic está ativamente validando algumas das críticas de que é uma fonte de risco na cadeia de suprimentos.

A conclusão mais ampla dessa disputa é que a Anthropic acredita que deve ter o controle final sobre o uso de seus modelos; e, dado que eles acreditam que só eles devem desenvolver IA de ponta, eles também acreditam que só eles devem ter o controle final sobre toda a IA. Quando essa visão é combinada com a declaração da empresa de que a IA pode realizar todas as atividades econômicas, fica claro que a liderança da Anthropic deseja exercer poder sobre tudo e todos.

Narrativa de segurança

Claro, a Anthropic nunca diria isso de forma tão direta; ao invés disso, a narrativa é sobre segurança:

Prevejo que a Anthropic cada vez mais disponibilizará suas capacidades de modelos por meio de endpoints altamente customizados para diferentes fluxos de trabalho, mesmo que comece a restringir o API. Essa substituição de software e limitação de acesso será feita sob o pretexto de segurança, mesmo que a Anthropic esteja atendendo a seus interesses econômicos de se aproximar do usuário final.

A justificativa da Anthropic para suas mudanças na política de retenção de dados é a segurança. Especificamente, eles alegam que reter todos os dados dos usuários por 30 dias é necessário para evitar as preocupações de vazamento de segurança nacional. Posso imaginar um futuro onde fatores de segurança também levem a eles a treinar esses dados, para melhor prevenir usos maliciosos.

Toda a origem da Anthropic está enraizada na crença de que a OpenAI não leva a segurança a sério o suficiente; a empresa acredita que só ela pode controlar a IA, e que, por sua preocupação única com segurança, tem o direito de tentar controlar todos os outros, incluindo o governo dos EUA.

Sobre essas justificativas de segurança, a questão é: acredito que elas são válidas, porque, para a Anthropic, elas não são. A empresa realmente acredita que é a única que leva a ameaça de superinteligência a sério, e que é a única que realmente se preocupa com os perigos. Isso serve de justificativa para uma série de decisões, políticas e confrontos, que parecem uma combinação de cinismo e ingenuidade aos olhos de fora.

Em comparação com a OpenAI, a diferença é enorme: uma das maneiras de entender por que a OpenAI perdeu sua liderança é que, após o lançamento do ChatGPT, a empresa entrou em conflito interno, e o antigo laboratório de pesquisa foi repentinamente encarado com a responsabilidade de se tornar uma empresa de tecnologia de consumo inesperada; na tentativa de resolver esse conflito, a OpenAI perdeu muitos talentos para empresas como a Anthropic.

Por outro lado, a Anthropic mantém uma coerência perfeita entre talento, missão e negócios. A empresa consegue vender a visão de criar uma divindade de máquinas, com o halo de preocupação com perigos e inteligência suficiente para proteger a humanidade; e cada mudança de política que ela faz acaba beneficiando seus negócios, uma coincidência das mais perfeitas.

Respeito essa coerência, mas também a temo. Respeito porque ela é claramente muito eficaz; a analogia mais próxima talvez seja a Apple, que sempre disfarça cada ação egoísta com a justificativa de fazer o que é melhor para o usuário — e muitas vezes faz mesmo. A Anthropic é assim também. Mas o que me assusta é que deixar que os mais convencidos de que sabem o que é melhor para a humanidade construam um smartphone que posso aceitar ou rejeitar é uma coisa; permitir que eles construam uma inteligência que possa rivalizar ou superar o poder de nações ou grandes corporações é algo muito mais preocupante. A história dos intelectuais que acreditam saber o que a humanidade precisa é suja, justamente porque eles se convencem de que suas intenções são boas, e assim justificam ações que nem sempre são.