Les trois moments d'Anthropic : fuite de code, confrontation avec le gouvernement et militarisation

Auteur : Ben Thompson

Traduction : Deep潮 TechFlow

Deep潮 introduction : Le nouveau modèle d'Anthropic, Fable, n'a été publié que deux mois avant d'être suspendu d'urgence par le gouvernement américain, apparemment pour "fuite de sécurité", mais en réalité cela expose une guerre à double face entre le laboratoire d'IA, le gouvernement et l'industrie logicielle. Cette entreprise qui mise sur la "sécurité" comme argument de vente, transforme la narration de la sécurité en un avantage commercial, tout en cherchant en réalité à s'emparer des données utilisateur détenues par Microsoft.

Je comprends la position de ceux qui se moquent : ils pensent que la déclaration publique d'Anthropic — en particulier les propos lors du lancement du modèle — est une stratégie marketing pour semer la panique. Il y a deux mois, Anthropic a annoncé la sortie de Mythos Preview, affirmant que ce modèle était trop dangereux pour être rendu public, notamment en raison de ses capacités avancées en cybersécurité. Deux mois plus tard, la société a publié Fable, une version de Mythos renforcée de diverses barrières de sécurité.

D'après mon expérience limitée, Fable est effectivement un modèle très performant. Au-delà de ses capacités en programmation, il devient difficile d’évaluer objectivement un modèle, mais mon ressenti subjectif est là : l’interaction avec Fable est exceptionnelle ; elle fait paraître tous les autres modèles, y compris GPT 5.5 et Opus 4.8, petits et stupides. Je n’ai eu cette impression que deux fois auparavant, une fois avec GPT-4, une autre avec Grok 4, tous deux représentant une nouvelle génération de modèles fondamentaux plus grands et plus complexes ; je pense que Fable provient d’un nouveau pré-entraînement, étant le premier de cette nouvelle génération.

Par conséquent, je peux tout à fait accepter que Fable/Mythos soit effectivement plus robuste dans la détection et l’exploitation des vulnérabilités de sécurité. La prudence d’Anthropic dans le lancement est compréhensible. Mais le problème de la publication ouverte du modèle réside dans le fait que les barrières de sécurité peuvent être contournées, ce qui s’est manifesté peu après la lancement.

Anthropic face à nouveau au gouvernement américain

Ce qui s’est passé ensuite est un peu flou. Anthropic a écrit dans un article de blog :

Le gouvernement américain a invoqué ses pouvoirs en matière de sécurité nationale pour publier une directive d’exportation, suspendant l’accès à Fable 5 et Mythos 5 pour tous les citoyens étrangers, que ce soit aux États-Unis ou à l’étranger, y compris les employés étrangers d’Anthropic. Cette directive implique que nous devons désactiver soudainement Fable 5 et Mythos 5 pour tous nos clients afin d’assurer la conformité. L’accès à tous les autres modèles d’Anthropic n’est pas affecté.

Nous avons reçu cette directive aujourd’hui à 17h21, heure de l’Est. Aucun détail précis sur les préoccupations de sécurité nationale n’a été fourni. Nous comprenons que le gouvernement pense avoir découvert des méthodes pour contourner ou "jailbreaker" Fable 5. Nous avons examiné une démonstration utilisant cette technique spécifique pour identifier quelques vulnérabilités mineures connues. Ces vulnérabilités semblent relativement simples, et nous avons constaté que d’autres modèles accessibles publiquement peuvent aussi les détecter sans besoin de contourner.

Anthropic argumente ensuite que le jailbreak non universel est inévitable et limité en portée, sans preuve qu’un jailbreak universel existe ; et que les jailbreaks découverts semblent rapportés par Amazon, ce qui est notable puisque Amazon est à la fois investisseur d’Anthropic et principal fournisseur de ses services de raisonnement. Au moment où j’écris, les dirigeants d’Anthropic sont à Washington, tentant de résoudre ce qu’ils affirment être un malentendu, alors que des officiels de la Maison Blanche laissent entendre que la direction de l’entreprise ne se soucie pas des préoccupations légitimes en matière de sécurité nationale.

Étant donné la controverse entourant ces faits, je n’ai pas grand-chose à ajouter sur le conflit actuel ; mais je ne suis pas surpris que cela se produise : j’ai déjà expliqué dans mon article "Anthropic et l’Alignement" que le conflit entre le gouvernement américain et Anthropic était inévitable. Ceux qui pensent que Mythos n’est pas encore assez puissant pour justifier une action gouvernementale ont manqué l’essentiel : si ce n’est pas encore assez puissant, le prochain le sera, ou celui d’après, surtout que les modèles deviennent de plus en plus utiles pour créer leurs successeurs.

Mais cela soulève une autre question — une qui semble confirmer la vision des sceptiques : si Mythos est si dangereux, pourquoi avoir publié Fable au départ, pourquoi s’opposer au gouvernement en faisant ce que vous prétendez vouloir faire ? En réalité, je pense que le comportement d’Anthropic est tout à fait compréhensible ; la particularité de l’entreprise réside dans la façon dont elle défend ces actions, et ce faisant, elle donne à ses détracteurs de la matière pour critiquer, tout en conférant à Anthropic un certain pouvoir.

L’impératif économique

Au cours des premières années de l’IA, la majorité de la valeur économique allait à la puissance de calcul, pour des raisons évidentes : l’offre ne suffisait pas à la demande, ce qui faisait grimper les prix ; les principaux bénéficiaires étaient Nvidia, TSMC et les fabricants de mémoire (SK Hynix, Samsung et Micron). Parallèlement, Anthropic et OpenAI ont perdu des centaines de milliards de dollars pour développer des modèles de pointe, qui, une fois publiés, sont distillés et commercialisés sous forme de modèles open source, principalement en provenance de Chine.

Cela reflète la situation pessimiste des laboratoires : ils ne pourront jamais couvrir leurs coûts, car leur différenciation est éphémère, et les alternatives gratuites deviennent "suffisamment bonnes" — ce qui me paraît raisonnable. Dans un monde où les modèles sont interchangeables, ils deviennent des commodities, et la majorité de la valeur se déplace ailleurs. Aujourd’hui, c’est la puissance de calcul, mais avec le temps, lorsque nous disposerons de suffisamment de puissance, la position la plus précieuse dans la chaîne de valeur sera celle qui a toujours été la plus précieuse : détenir le contact avec l’utilisateur.

Ainsi, il est économiquement inévitable que les laboratoires de pointe se rapprochent des utilisateurs, ce qui a toujours été évident pour moi. Si vous avez le contact avec l’utilisateur, vous avez un verrouillage significatif, et la meilleure façon de le faire est de devenir la toile sur laquelle ils construisent tout ce qu’ils doivent faire. Cela implique une confrontation avec les entreprises de logiciels : ce sont elles qui détiennent le contact avec l’utilisateur, et à long terme, l’intérêt des laboratoires n’est pas simplement de devenir une matière première pour le logiciel, mais de le remplacer directement.

En même temps, les entreprises de logiciels tentent de faire le contraire. Satya Nadella a exposé sa vision de la construction de modèles dans un article sur X :

Chaque entreprise doit bâtir ce que j’appelle le capital humain et le capital token. Le capital humain inclut la connaissance, le jugement, les relations, la créativité et la reconnaissance de motifs de ses employés, tandis que le capital token est la capacité d’IA que l’entreprise construit et possède. Il est crucial que, avec la croissance du capital token, la valeur du capital humain ne diminue pas. Elle ne fait que croître ! Je crois que l’initiative humaine sera le moteur de cette croissance du capital token. Les humains définiront des objectifs ambitieux, établiront des connexions interdomaines, construiront des relations et identifieront les motifs clés. Sans la direction humaine, votre puissance de calcul ne sert à rien.

Cela signifie que la véritable opportunité ne réside pas dans le choix du meilleur modèle, mais dans la construction d’un cycle d’apprentissage au-dessus du modèle, permettant à la fois au capital humain et au capital token de croître de façon exponentielle. Vous pouvez externaliser une tâche ou un travail, mais vous ne pouvez jamais externaliser votre apprentissage. L’avenir des entreprises repose sur leur capacité à faire croître cette boucle d’apprentissage entre humains et IA. Cela nécessite une nouvelle architecture permettant à chaque entreprise de construire des systèmes intelligents en constante amélioration, tout en conservant le contrôle de leur propriété intellectuelle. Les entreprises devraient pouvoir remplacer leurs modèles "généraux" sans perdre l’expertise "vétéran" intégrée à leur système d’apprentissage. C’est le test clé de leur contrôle et souveraineté dans le futur.

Nadella ouvre cette vision avec un avertissement :

Ce que nous ne voulons pas voir, c’est un monde où chaque secteur et chaque entreprise transfère toute sa valeur à quelques modèles dévorant tout. Si toute la valeur est capturée par quelques modèles, la société ne l’acceptera pas. Pour un avenir où l’IA vide tout un secteur, la société ne donnera pas son accord.

Souvenez-vous de la première phase de la mondialisation : toute l’économie industrielle a été délocalisée. En surface, le PIB semble bon, mais la désindustrialisation est réelle, et ses conséquences se font encore sentir. Ne reproduisons pas cette dynamique à l’ère de l’IA, où quelques systèmes captureraient toute la valeur économique, laissant tout un secteur voir ses connaissances devenir une marchandise sous leurs yeux.

Ce parallèle soulève une question : la mondialisation a bien eu lieu, l’économie industrielle a été délocalisée. Cela pourrait ne pas être un avertissement, mais une prophétie ; pas étonnant que Nadella tire la sonnette d’alarme, car Microsoft pourrait en être victime. De même, la nécessité économique des fabricants de modèles est précisément d’atteindre cet objectif.

La nécessité des données

Ces modèles — même Mythos — ne sont pas encore à ce stade. Ils ont besoin, en plus de plus de puissance de calcul, de données plus nombreuses et de meilleure qualité. L’amélioration des modèles provient de plus en plus de l’apprentissage par renforcement ; certains peuvent être synthétisés, mais la force la plus puissante pour les laboratoires de pointe reste l’utilisation dans le monde réel.

Je pense que c’est la principale raison pour laquelle OpenAI et Anthropic proposent des abonnements très subventionnés. SemiAnalysis estime récemment qu’un abonnement à 200 dollars peut vous donner une valeur de 8000 dollars en jetons Claude et 14 000 dollars en jetons Codex. Bien sûr, ils se disputent la part de marché des utilisateurs et des développeurs, mais ils cherchent aussi à accéder aux données d’utilisation réelle pour améliorer leurs modèles.

Anthropic a fortement augmenté ses investissements dans Fable, annonçant qu’ils conserveront toutes les données d’utilisation pendant 30 jours, même pour les plans d’entreprise qui avaient promis de ne pas stocker de données. La société affirme ne pas utiliser ces données pour entraîner ses modèles, mais n’a pas mis en place de garanties pour garantir qu’elle ne le fera pas à l’avenir (par exemple, en stockant les données chez un tiers). Si cette politique change (lorsque Fable sera relancé) sans entraîner une fuite massive de clients, je doute qu’ils ne commencent à utiliser ces données, car leur valeur finale est trop grande.

Il faut aussi noter la boucle vertueuse vers le contact utilisateur : plus une entreprise utilise Claude ou Codex pour ses workflows, plus elle fournit de données pour l’entraînement, rendant ses produits plus puissants et utiles, ce qui augmente le nombre de workflows qu’elle peut traiter et son accès aux données.

Nadella insiste dans son article sur l’importance de ces données, tout en estimant qu’elles doivent rester indépendantes du modèle :

Les entreprises doivent transformer leurs workflows, leur expertise sectorielle et leur jugement accumulé en systèmes d’IA qui s’améliorent à chaque utilisation. Les évaluations privées doivent mesurer si le modèle améliore réellement les résultats importants pour l’entreprise (pas seulement des benchmarks externes !). Les environnements d’apprentissage renforcé privés doivent permettre au modèle de devenir plus performant sur la trajectoire réelle de l’organisation. Leur base de connaissances doit rendre la mémoire de l’organisation consultable, et l’utilisation des jetons plus efficace.

Ce cycle devient la nouvelle propriété intellectuelle de l’entreprise. Je le vois comme une machine à escalader. Contrairement à la plupart des actifs, il croît de façon exponentielle. Chaque workflow amélioré génère un meilleur signal d’entraînement, accélérant l’accumulation de connaissances tacites propres à l’entreprise. Les entreprises qui construisent cette capacité tôt auront un avantage difficile à reproduire, peu importe la puissance future d’un seul modèle.

Ce cycle devient la nouvelle IP de l’entreprise. Je le vois comme une machine à escalader. Contrairement à la plupart des actifs, il peut croître de façon exponentielle. Chaque workflow amélioré produit un meilleur signal d’entraînement, accélérant la croissance des connaissances tacites propres à l’entreprise. Les premières à développer cette capacité auront un avantage difficile à copier, peu importe l’amélioration future des modèles.

Mais si des entreprises respectant la politique de données d’Anthropic obtiennent déjà de meilleurs résultats ? Ou si des entreprises existantes résistent, laissant aux nouveaux entrants — ou aux fabricants de modèles eux-mêmes — une opportunité de les surpasser sur le marché ? Anthropic met effectivement à l’épreuve la détermination que Nadella appelle de ses vœux.

La quête de pouvoir

Ce qui entoure la politique de conservation des données de Fable/Mythos, ce n’est pas la partie la plus controversée de leur publication. Au contraire, Anthropic a indiqué lors du lancement que si Fable était utilisé pour le développement de grands modèles de langage, ses performances seraient volontairement réduites ; la fiche système mentionne :

Nous avons également renforcé nos mesures de protection liées au développement de modèles de pointe. Comme discuté dans la section 6.1 de notre rapport sur les risques de février 2026, nous craignons que l’accélération du développement global de l’IA comporte des risques, même si la gravité de ces risques reste incertaine. En particulier, notre inquiétude — comme indiqué à l’époque — est que cela pourrait "accélérer d’autres développeurs d’IA à construire des systèmes puissants présentant des risques similaires aux nôtres, sans forcément disposer de mesures de protection équivalentes."

Étant donné que les modèles récents ont la capacité d’accélérer leur propre développement, nous avons mis en place de nouvelles mesures d’intervention pour limiter l’efficacité de Claude dans le traitement des demandes liées au développement de modèles de pointe (par exemple, la construction de pipelines de pré-entraînement, d’infrastructures de formation distribuée ou de concepteurs d’accélérateurs ML). Utiliser Claude pour développer des modèles concurrents viole déjà nos conditions d’utilisation, mais faire respecter cette restriction par des mesures de protection permet d’éviter d’accélérer ceux qui sont les plus enclins à violer ces règles.

Contrairement à nos interventions en cybersécurité, en biologie ou en distillation, ces mesures de protection sont invisibles pour l’utilisateur. Fable 5 ne reviendra pas à un autre modèle. Au contraire, ces mesures limiteront leur efficacité via des prompts, vecteurs d’orientation ou fine-tuning efficace (PEFT). Ces interventions n’affecteront pas la majorité des tâches de programmation. Nous estimons qu’elles impacteront environ 0,03 % du trafic, concentré dans moins de 0,1 % des organisations. Lorsqu’elles seront en place, nous prévoyons qu’elles limiteront l’efficacité dans le développement de modèles de pointe, tout en laissant Claude répondre utilement aux requêtes des utilisateurs. Nous continuerons à améliorer la précision de ces détections après le lancement du modèle.

Anthropic a retiré cette modification — Fable transférera les requêtes liées aux LLM à Opus 4.8, tout en informant les utilisateurs de ce transfert — mais je pense que la politique initiale est très révélatrice. D’un côté, je ne leur en veux pas de ne pas vouloir aider la concurrence ; mais de l’autre, il faut bien comprendre qu’Anthropic estime que personne d’autre que eux ne devrait fabriquer de grands modèles de langage.

Ce qui est encore plus frappant, c’est que cette politique a été annoncée seulement deux mois après un conflit avec le ministère de la Défense : ce dernier souhaite utiliser Claude pour toute application légitime, tandis qu’Anthropic veut imposer des contrôles plus stricts sur la surveillance et les armes autonomes. Ces mesures de dégradation illustrent la capacité d’Anthropic à modifier discrètement ses modèles pour aligner leur comportement avec ses préférences politiques, et leur volonté de le faire. En d’autres termes, Anthropic valide activement certains des critiques selon lesquelles elle serait une source de risques dans la chaîne d’approvisionnement.

Mais la conclusion plus large de cet épisode est que, pour Anthropic, elle doit avoir le dernier mot sur la façon dont ses modèles sont utilisés ; et puisqu’elle pense que seule elle doit développer l’IA de pointe, elle estime en réalité qu’elle doit avoir le dernier mot sur l’IA dans son ensemble. En combinant cette conviction avec leur déclaration selon laquelle l’IA pourra faire toutes les activités économiques, on réalise que la direction d’Anthropic cherche en fait à détenir le pouvoir sur tout et tout le monde.

Narration sur la sécurité

Bien sûr, Anthropic ne s’exprime jamais aussi franchement ; au lieu de cela, leur récit tourne autour de la sécurité :

Je prévois qu’Anthropic ouvrira de plus en plus ses capacités à l’utilisateur final via des points de terminaison de plus en plus personnalisés pour différents workflows, même s’ils commencent à limiter l’API. Ces substituts logiciels et ces restrictions d’accès seront justifiés au nom de la sécurité, même si Anthropic poursuit ses ambitions économiques de se rapprocher de l’utilisateur final.

L’explication de leur changement majeur dans la politique de conservation des données est la sécurité. Plus précisément, ils affirment que conserver toutes les données utilisateur pendant 30 jours est nécessaire pour empêcher le jailbreak évoqué par le gouvernement américain. Je peux facilement imaginer un avenir où des considérations de sécurité obligeraient également à entraîner ces données pour mieux prévenir les usages malveillants.

Toute l’histoire de la création d’Anthropic repose sur la conviction de ses fondateurs que OpenAI ne prend pas suffisamment au sérieux la sécurité ; que seul eux peuvent contrôler l’IA, et que leur souci particulier pour la sécurité leur donne le droit de tenter de contrôler tout le monde, y compris le gouvernement américain.

Concernant ces raisons de sécurité, le problème est que je pense qu’elles sont efficaces, mais pas pour Anthropic : la société croit vraiment qu’elle est la seule à croire en la superintelligence, et donc la seule à se soucier suffisamment du danger. Cela justifie chaque décision, chaque politique, chaque confrontation, mais cela donne aussi à l’extérieur une impression de cynisme et de naïveté mêlés.

En comparaison avec OpenAI, je pense qu’une façon de comprendre comment et pourquoi OpenAI a perdu sa position de leader est que, dans les années suivant la sortie de ChatGPT, l’entreprise a été en conflit interne, et l’ancien laboratoire de recherche s’est soudain retrouvé à devoir devenir une entreprise de consommation technologique inattendue ; dans la résolution de ce conflit, OpenAI a perdu beaucoup de talents au profit d’entreprises comme Anthropic.

De son côté, Anthropic bénéficie d’une cohérence parfaite entre ses talents, sa mission et ses activités. Elle peut vendre aux chercheurs la vision de créer une divinité machine, avec le halo d’un souci pour le danger et d’une intelligence suffisante pour représenter l’humanité face au risque ; et chaque changement de politique qui en découle profite à ses affaires, ce qui est une coïncidence des plus merveilleuses.

Je respecte cette cohérence, mais je la crains aussi. Je la respecte parce qu’elle est manifestement très efficace ; la meilleure analogie pourrait être Apple, qui justifie chaque acte égoïste en prétendant faire ce que l’utilisateur doit faire, et qui le fait souvent effectivement. Anthropic fonctionne de la même manière. Mais ce que je crains, c’est que laisser ceux qui pensent tout savoir construire un smartphone que je peux accepter ou refuser, c’est une chose ; leur permettre de construire une superintelligence capable de rivaliser ou de surpasser le pouvoir national ou simplement les grandes entreprises, c’est beaucoup plus inquiétant. L’histoire des intelligences que croient tout savoir sur ce que l’humanité a besoin est sale, précisément parce qu’elles se persuadent que leurs intentions sont bonnes, et qu’elles donnent ainsi des raisons à des actions qui ne le sont pas.