Les fervents de l'embargo sur les puces rencontrent une interdiction de modèles

Auteur : Su Yang, Tencent Technology

Du machine EUV à la lithographie DUV avancée, puis au processeur H100, la Silicon Valley s’est divisée en deux camps concernant l’embargo sur les semi-conducteurs.

Huang Renxun, Su Zifeng et d’autres ont toujours milité pour assouplir la réglementation, estimant qu’une régulation excessive revient à céder le marché aux autres, tandis que le PDG d’Anthropic, Amodei, est un « fanatique » de la régulation, qualifiant à un moment donné les processeurs avancés de « armes nucléaires ».

Huang Renxun a plusieurs fois taclé Amodei, le qualifiant de « paranoïaque de Dieu ». « Mettre l’IA en parallèle avec les armes nucléaires ou la centrifugation d’uranium, c’est fou. Nous ne raffinons pas d’uranium enrichi, nous fabriquons simplement un petit processeur », a déclaré Huang Renxun dans le podcast « Dwarkesh Patel ».

Le « fanatique » Amodei ne s’attendait probablement pas à ce que la régulation stricte qu’il prônait un jour s’applique à Anthropic — deux modèles de pointe, Mythos et Fable 5, ont été interdits par le gouvernement américain de fournir des services à tout « étranger » dans le monde.

L’évaluation de Yang Likun sur Facebook concernant l’interdiction de Fable 5

« La peur absurde d’Amodei pour Mythos/Fable (et tout le domaine de l’IA) a finalement porté ses fruits : le gouvernement américain a interdit aux non-Américains de l’utiliser, y compris les employés étrangers travaillant aux États-Unis. Semer le vent, récolter la tempête », a écrit Yang Likun, lauréat du prix Turing, sur Facebook.

« Semer le vent, récolter la tempête » : cette expression, dans le contexte chinois, peut se traduire par « récolter ce que l’on a semé ». Plus tard, dans la section des commentaires, Yang Likun a moqué Amodei, suggérant qu’il pourrait se vanter de la puissance de ses modèles en profitant de cette régulation.

Selon certaines politiques américaines, l’interdiction des modèles Mythos et Fable ne devrait pas durer longtemps. David Sacks, conseiller en IA de la Maison Blanche surnommé le « tsar de l’IA », a indiqué qu’il s’agissait d’une restriction temporaire, espérant qu’Anthropic pourra rapidement corriger ses vulnérabilités de sécurité.

À ce stade, nous souhaitons faire un point sur l’origine et le contexte de cette « interdiction de modèles », les principaux enjeux, les problèmes existants, la possibilité d’un contrôle à long terme des exportations, ainsi que l’impact potentiel sur Anthropic et l’ensemble de l’industrie de l’intelligence artificielle.

« Crise en 72 heures »

De nombreux films américains aiment nommer leurs épisodes en heures pour souligner des changements rapides en peu de temps. La mise en ligne puis le retrait de Fable 5 par Anthropic n’a duré que 72 heures, ce qui cadre parfaitement avec cette narration.

Le 9 juin, Anthropic a lancé son modèle le plus puissant à ce jour, Claude Fable 5 et Claude Mythos 5, premier modèle de la catégorie « Mythos ». Fable 5 est une version accessible au public, équipée d’un classificateur de sécurité : dans des domaines sensibles comme la cybersécurité, la biologie ou la chimie, les requêtes sont automatiquement redirigées vers une version moins puissante, Opus 4.8. Mythos 5, basé sur le même modèle de fond, n’a pas de restrictions de sécurité et est accessible uniquement via Project Glasswing à environ 150 organisations vérifiées.

À ce moment-là, cela faisait déjà deux mois que Mythos était en prévisualisation.

Dans son blog officiel, Anthropic a indiqué que « la série Fable 5 possède parmi tous les modèles testés la sécurité la plus stricte ».

Pliny the Liberator révèle le risque de « jailbreak » de Fable 5

Juste un jour plus tard, le célèbre « jailbreakeur » AI Pliny the Liberator a publié un message en majuscules sur X : « JAILBREAK ALERT, ANTHROPIC PWNED, FABLE-5 LIBÉRÉ ». Il affirme avoir contourné le classificateur de sécurité de Fable 5 en utilisant des techniques de substitution Unicode, de caractères homographes, de dilution de contexte prolongé, ainsi que de décomposition et recomposition.

À ce moment-là, Amodei était probablement encore plongé dans la joie de voir son modèle Fable 5 « dominer le ciel et la terre », sans prêter attention au risque annoncé par Pliny. Il a publié un long article sur son blog personnel intitulé « La croissance exponentielle de l’IA et la réponse politique », plaidant pour que le gouvernement ait le pouvoir d’empêcher le déploiement de modèles IA non sécurisés.

Comme Pliny, un chercheur d’Amazon a également détecté un risque de « jailbreak », mais sa réaction a été différente.

Le PDG d’Amazon, Andy Jassy, a directement dépassé Anthropic — cette société dans laquelle Amazon a investi massivement — pour remettre un rapport de « jailbreak » au gouvernement américain.

Plusieurs médias ont révélé qu’après avoir reçu une « lettre de dénonciation » d’Amazon le 12 juin, Anthropic a reçu un ultimatum du gouvernement américain : fermer l’accès à deux modèles en 90 minutes. Amodei a tenté de sauver la situation par téléphone, mais a finalement reçu une « directive d’exportation d’urgence ».

Le soir du 12 juin, Anthropic a obtempéré. Curieusement, Amodei et son équipe ont renforcé la coupure en déconnectant Fable 5 et Mythos 5 dans le monde entier, sans distinction de nationalité.

De la publication le 9 juin à la suppression le 12 juin, cela s’appelle une « crise en 72 heures » pour Anthropic.

En partageant cette nouvelle sur mon réseau social, j’ai cité une phrase culte d’un film hongkongais : « C’est difficile, alors ne faites rien ».

Il y a ici un espace d’analyse : pourquoi Anthropic a-t-il choisi une coupure totale alors qu’il s’agissait de couper l’accès aux « non-Américains » ? Anthropic n’a jamais été un « bon élève » docile. Au premier trimestre, Amodei a publié sa propre « charte de l’IA constitutionnelle » pour tenter de défendre le principe que « l’IA ne doit pas être utilisée à des fins militaires ou de surveillance », en abandonnant des contrats avec le gouvernement américain.

Concernant cette approche « à la hache », certains analystes pensent qu’Anthropic manque de temps pour répondre rapidement, notamment pour filtrer les utilisateurs, surtout ceux qui accèdent via API ou par des API intermédiaires, ce qui complique considérablement la tâche.

Ce point est plausible, mais en consultant leur page de politique sur leur site officiel, on constate qu’Anthropic a déjà anticipé cette problématique : leur nouvelle politique de confidentialité évoque la nécessité pour les utilisateurs de fournir leur âge et leur identité, ce qui laisse penser que des fonctionnalités comme la reconnaissance faciale pourraient être intégrées dans leurs modèles Claude à l’avenir. Dans cette optique, identifier si un utilisateur est « américain » ou « non américain » ne serait pas difficile.

Une confiance irrésistible

« Beaucoup d’analystes expliquent la base juridique en utilisant le mécanisme de ‘Lettre d’information’ (Informed Letter) », explique un chercheur spécialisé dans la politique d’exportation.

Dans le système américain de contrôle des exportations, la lettre d’information est un outil d’application administrative non public, fréquemment utilisé par la Bureau of Industry and Security (BIS) du Département du Commerce. Elle permet à l’autorité de notifier rapidement une entreprise de l’obligation d’obtenir un permis pour exporter certains biens ou technologies, sans passer par une modification législative.

Fin 2023, Nvidia a lancé un produit spécifique pour le marché chinois, le H20, afin d’éviter les restrictions liées à la puissance de calcul ou à la bande passante imposées par la réglementation sur l’exportation. Par la suite, la BIS a envoyé des lettres d’information à Nvidia, AMD et autres, exigeant des licences supplémentaires pour l’exportation de certains processeurs, tout en ajustant la réglementation.

Pour Anthropic, avant de recevoir cette lettre d’information sur la restriction d’accès aux « non-Américains », le gouvernement américain a donné un ordre clair : retirer l’accès en 90 minutes. Plusieurs médias, dont Politico, ont rapporté que des négociations avaient eu lieu avec des responsables comme le ministre des Finances, le secrétaire au Commerce et le conseiller en politique IA de la Maison Blanche, mais que cette directive a été refusée par Anthropic.

Refusant initialement de retirer l’accès, puis coupant tout en un clic, cette contradiction est difficile à expliquer par des contraintes techniques.

La lettre d’information est généralement le prélude à une mise en œuvre réglementaire formelle, mais certains experts pensent que cette fois, il ne s’agit pas d’une mise à jour réglementaire, mais d’un coup de frein stratégique : « En clair, on bloque Anthropic ».

Ils estiment que dans le contexte des grands modèles, il faut définir précisément ce qui doit être contrôlé, mais cette question reste floue. « Est-ce le poids du modèle, l’accès via API, le service d’inférence, ou une capacité abstraite du modèle ? »

Autrefois, le contrôle des exportations concernait surtout les biens physiques, même la technologie étant considérée comme un bien tangible. Mais une fois que le modèle est généré, il peut se diffuser dans l’espace numérique, rendant difficile une interdiction absolue, physique ou non.

Ainsi, « bloquer Anthropic » semble une hypothèse raisonnable. Après, il faut envisager une gouvernance plus adaptée, et cela repose sur cette supposition : Mythos et Fable pourraient revenir, ce qui explique pourquoi David Sacks, le « tsar de l’IA », insiste sur le fait que l’interdiction n’est qu’une restriction temporaire.

Pourquoi le gouvernement américain veut-il intervenir par voie administrative pour freiner le lancement d’un modèle de pointe ?

La capacité à « contourner » les vulnérabilités du modèle.

En mars, lors d’un échange avec Zhou Hongyi, président de 360 Group, il a évoqué la capacité d’Anthropic à « découvrir des vulnérabilités » via ses modèles. « Anthropic utilise l’IA pour programmer et rechercher des failles, ce qui résout beaucoup de problèmes de sécurité auparavant insolubles. J’ai suggéré de se concentrer sur l’IA (sécurité) et les agents intelligents. »

Ce chercheur insiste aussi sur le fait que Mythos ne concerne pas un simple chatbot, mais des capacités très spécifiques de détection de vulnérabilités, d’analyse de trajectoires d’attaque et de capacités offensives en cybersécurité.

Une sécurité sans consensus

Anthropic a non seulement renforcé l’application de l’interdiction, mais a aussi publié une déclaration publique.

« Pour assurer la conformité, nous devons immédiatement arrêter tous les programmes utilisateur », a écrit Anthropic, en précisant qu’il s’agissait d’un malentendu. Selon eux, les « jailbreaks » rapportés par le gouvernement et des tiers ne concernaient qu’un nombre limité de vulnérabilités mineures, toutes relativement simples.

En revenant à leur position initiale, Amodei a plaidé pour que le gouvernement ait le pouvoir d’empêcher le déploiement de modèles IA non sécurisés, tandis qu’Anthropic, dans son blog officiel, a qualifié Fable 5 de « modèle le plus sûr ».

Mais Anthropic a aussi laissé une phrase ambiguë : « Aucun fournisseur de modèles ne peut garantir une sécurité totale contre le jailbreak ». Cette déclaration, en contradiction avec leur prétendue sécurité absolue, comporte une part de sophisme.

En résumé : nos modèles sont les plus sûrs, mais ceux qui ne le sont pas devraient être contrôlés par les autorités ; nos vulnérabilités sont mineures et connues ; nous faisons tout notre possible pour limiter le jailbreak, mais personne ne peut garantir une sécurité absolue.

Mais si un modèle prétendument « le plus sûr » présente encore des vulnérabilités, pourquoi le mettre en ligne ? N’est-ce pas prendre le risque de se faire attaquer ? Et si l’on ne peut pas tout bloquer, pourquoi appeler à la répression des autres modèles ?

Les utilisateurs familiers d’Anthropic savent que cette société, en plus d’être performante dans ses modèles et produits, adopte une posture très radicale en matière de sécurité et de gouvernance de l’IA, avec un sentiment de « législateur » dans l’ère de l’IA, se parant constamment du « label sécurité ».

Le 19 septembre 2023, Anthropic a publié la RSP 1.0 (Politique d’expansion responsable), appelant à renforcer la sécurité proportionnellement à la puissance des modèles. Avant de déployer des modèles plus puissants, il faut prouver leur sécurité. Ce document évoque un mécanisme de classification de la sécurité de l’IA (ASL), avec des niveaux allant de ASL-1 (risque inexistant) à ASL-3 (augmentation significative du risque d’abus).

« Si la croissance de l’IA dépasse notre capacité à suivre des procédures de sécurité essentielles, le cadre ASL nous obligera à suspendre temporairement la formation de modèles plus puissants », écrit Anthropic.

Une semaine avant le lancement de Fable 5, le 4 juin, Anthropic a publié un article intitulé « Quand l’IA se façonne elle-même », appelant à une « suspension proactive » pour éviter les risques de boucle de rétroaction de l’IA.

Et, comme prévu, la série Fable 5 a été lancée peu après.

En regardant cette chronologie, cela paraît presque comique : comme si un élève brillant disait « je ne révise jamais », mais en réalité, il fait des cours intensifs en cachette.

Si l’on avait de véritables inquiétudes, pourquoi relancer le modèle « le plus puissant » après avoir appelé à la suspension ? C’est la première raison. En réalité, la prévisualisation du modèle Mythos était déjà là depuis deux mois. Étant donné ses capacités si innovantes, pourquoi ne pas avoir appelé à la suspension à ce moment-là ?

Anthropic semble adopter une posture de sécurité radicale, mais ces appels à la prudence ressemblent surtout à une stratégie pour limiter la concurrence. D’un côté, ils prônent une régulation stricte des modèles non sécurisés, et appellent à suspendre la formation des modèles de pointe, de l’autre, ils continuent à itérer et à avancer.

Si l’on regarde la RSP 1.0 de 2023, Anthropic était alors un idéaliste. En 2025, avec la RSP 2.2, ils deviennent des pragmatiques.

Le changelog de la RSP 2.2 mentionne une modification : « Exclure les insiders sophistiqués et les insiders compromis par l’État du standard de sécurité ASL-3 », et « supprimer la promesse de protection contre les attaques par distillation (distillation attacks) en ASL-2 ».

J’ai vérifié, cette modification signifie que : à l’avenir, les attaques internes ou par des États ne seront plus considérées comme des critères de sécurité stricts. En d’autres termes, Anthropic a discrètement « abaissé » ses standards de sécurité, ne promettant plus de résister aux menaces de haut niveau et difficiles à contrer.

Le 9 février 2026, le responsable de la sécurité chez Anthropic, Mrinank Sharma, a démissionné. Dans sa lettre de départ, il écrit : « Le monde est en danger. Pendant mon mandat, j’ai vu à quel point il est difficile de faire en sorte que les valeurs guident réellement l’organisation… Nous sommes constamment sous pression pour abandonner ce qui est le plus important. »

Quelques jours plus tard, le 24 février, Anthropic a publié la RSP 3.0, réécrivant complètement sa stratégie de sécurité et supprimant toute mention de « suspension ».

En substance, comme évoqué plus tôt, Anthropic n’a jamais réellement déclenché de suspension d’entraînement. Cela rappelle la lettre ouverte de mars 2023, signée notamment par Elon Musk, appelant à « suspendre l’entraînement des modèles au-delà de GPT-4 pendant six mois » — puis Musk a lancé xAI en novembre, et en décembre, ils ont publié Grok-1.

Ainsi, les grands laboratoires de modèles ne partagent pas une « vision de sécurité » commune. La suspension n’est qu’une stratégie commerciale.

Sous la pression du capital

Fable 5, lancé avec un prix d’entrée et de sortie de 10 et 50 dollars par million de tokens, est deux fois plus cher qu’Opus 4.8, mais bénéficie d’un rabais de 90 % grâce à la mise en cache.

Lors d’un échange avec un chercheur en IA, celui-ci a commenté : « C’est pratique, mais c’est vraiment cher. » Cela a alimenté des blagues, des vidéos courtes et des GIFs sur le fait que les grands modèles deviennent de plus en plus coûteux, ce qui reflète une tendance : tant que la capacité du modèle est forte, même à un prix élevé, beaucoup continueront à l’utiliser.

C’est aussi pour cette raison que, récemment, les modèles nationaux ont essayé d’accélérer leur développement, en proposant des inférences plus rapides et un TPS (Token par seconde), tout en augmentant modérément leurs prix.

Revenons à Anthropic. En mai 2021, Amodei a quitté OpenAI avec sa sœur et 14 chercheurs pour fonder Anthropic, levant 124 millions de dollars lors du premier tour de financement, avec une valorisation de 550 millions. En 5 ans, en 2025, leur financement en série H a atteint 6,5 milliards de dollars, avec une valorisation de 965 milliards — une croissance de plus de 1700 fois en 5 ans.

Plus impressionnante encore que la valorisation, c’est le chiffre d’affaires.

Au début de 2024, le chiffre d’affaires annuel d’Anthropic était inférieur à 1 milliard de dollars, mais il a atteint environ 9 milliards de dollars fin 2025 (sur la base de l’ARR). Au premier trimestre 2026, il s’élevait à 4,8 milliards, et selon des documents obtenus par le « Wall Street Journal », la société a prévu un chiffre d’affaires de 10,9 milliards pour le deuxième trimestre.

Selon des sources publiques, le 1er juin, Anthropic a secrètement déposé un dossier d’introduction en bourse auprès de la SEC. L’objectif est de devancer OpenAI, qui prévoit de s’introduire en bourse au quatrième trimestre, en levant 60 milliards de dollars. Avec un revenu trimestriel de 10 milliards, leur ARR annuel dépasserait 40 milliards, et avec une valorisation de 965 milliards, cela implique un ratio de 24 fois l’ARR, ce qui exige une croissance exponentielle des revenus pour justifier cette valorisation.

Dans ce contexte, chaque engagement en matière de sécurité, comme « suspendre la formation si la capacité est dépassée », devient un frein à la croissance du chiffre d’affaires. À un ratio de 24 fois l’ARR, toute « suspension » pourrait avoir un impact catastrophique sur la valorisation.

Ainsi, la suppression de la mention de « suspension » dans la RSP 3.0 n’est pas une coïncidence, mais plutôt une concession à la pression du capital — à l’étape clé de l’IPO, tout ce qui pourrait ralentir la croissance doit être éliminé. La conformité dans le prospectus le montre aussi.

Si l’on maintenait l’obligation rigide de « suspension », le prospectus devrait inclure une clause du type : « Notre société s’engage à suspendre toute déploiement commercial si la capacité du modèle dépasse une limite de sécurité inconnue », ce qui reviendrait à avertir les investisseurs que le chiffre d’affaires pourrait tomber à zéro à tout moment.

Face à une valorisation de 965 milliards et à la pression de l’IPO, Anthropic doit jongler entre l’intérêt des actionnaires et l’intérêt public.

Lors de la restructuration d’OpenAI, le débat le plus vif concernait la PBC — la société d’intérêt public, une gouvernance adoptée aussi par Anthropic. Selon ce modèle, un fonds de fiducie à long terme (LTBT) peut désigner 2-3 administrateurs, mais jusqu’à fin 2024, il n’a nommé qu’un seul membre du conseil, et en 2025, un autre. Ce n’est qu’à l’approche de l’IPO, avec l’arrivée de Vas Narasimhan, ancien PDG de Novartis, que le conseil a compté 4 membres sur 7.

L’étrangeté est que, parmi ces administrateurs désignés par le trust, Jay Kreps (cofondateur et CEO de Confluent), qui n’a siégé qu’un an, a annoncé sa démission.

Le rapport de force entre le « camp du trust » et la « gestion + investisseurs » est revenu à un équilibre 3-3. Avant l’arrivée du prochain administrateur désigné par le trust, en cas de divergence majeure, il pourrait y avoir un « vide de gouvernance ».

Le « septième homme » arrivera-t-il avant l’IPO ?