Le gouvernement américain a interdit le modèle Anthropic, ce n'est pas du tout à cause d'un « jailbreak ».

Auteur : Zack Whittaker

Traduction : Shen Chao TechFlow

Introduction de Shen Chao : Vendredi dernier, une lettre du Département du Commerce américain a contraint Anthropic à retirer de la circulation ses deux modèles les plus puissants, Fable 5 et Mythos 5. La raison invoquée par le gouvernement est la sécurité nationale, mais le public pense qu'il s'agit d'une évasion des barrières de sécurité du modèle. Cependant, de plus en plus de détails pointent vers une autre explication : cela ressemble davantage à une revanche après la rupture des relations entre le gouvernement Trump et Anthropic. Une entreprise technologique se voit ordonner de fermer ses produits sans approbation judiciaire, ce qui envoie un signal à toute l'industrie technologique américaine.

La lettre d'application de la loi envoyée par le gouvernement américain à Anthropic a forcé l'entreprise à retirer tous ses modèles d'IA les plus récents avant le week-end. Toute entreprise technologique américaine devrait considérer cela comme un avertissement, pas seulement les laboratoires d'IA.

Reprenons les faits de ces derniers jours. Vendredi après-midi, le Département du Commerce américain a envoyé une lettre à Anthropic, citant une règle d'exportation peu connue, interdisant aux non-Américains (y compris les employés d'Anthropic) d'accéder à Fable 5 et Mythos 5, sous prétexte de préoccupations de sécurité nationale non précisées. Anthropic affirme que cette lettre est liée à une évasion des barrières de sécurité du modèle, mais n'en est pas certain, car la lettre ne fournit pas de détails spécifiques. Cette lettre n'a pas encore été rendue publique.

La réponse d'Anthropic a été de désactiver tous ses modèles de haut niveau pour tous ses clients, afin de rester conforme. Résultat : le gouvernement américain, par une action rapide, unilatérale et apparemment sans besoin d'approbation judiciaire, a réussi à forcer une entreprise technologique à retirer ses modèles.

Cette intervention du gouvernement Trump montre que l'industrie de l'IA ne peut pas rester immunisée face à l'État. Pour le secteur technologique plus large, c'est aussi un avertissement : soit on se conforme, soit ils peuvent vous fermer, vous et vos produits.

Axios cite des sources anonymes décrivant une tension entre ces deux grands acteurs durant le week-end, affirmant que la véritable cause de cette ordonnance d'exportation est un « conflit de personnalité » entre Anthropic et le gouvernement Trump, plutôt qu’un problème technique avec le produit d’IA lui-même.

Les nouveaux détails qui ont émergé ce week-end remettent en question la justification déjà fragile du gouvernement.

Katie Moussouris, vétéran en cybersécurité, chercheuse et fondatrice de Luta Security, a écrit dans un blog que récemment, Anthropic lui aurait montré en privé un article écrit par plusieurs chercheurs en sécurité, décrivant une évasion de la barrière de sécurité dans Fable 5. (Selon le Wall Street Journal, l’auteur de l’article est un chercheur en sécurité chez Amazon.) Moussouris explique qu’Anthropic l’a consultée pour avoir son avis sur cet article.

Dans son blog, Moussouris détaille comment les chercheurs ont déclenché cette évasion de la barrière, mais elle affirme que cette évasion « ne devrait pas du tout déclencher une régulation à l’exportation ». La différence est mince : faire que l’IA « vérifie les vulnérabilités dans le code » ou qu’elle « corrige ce code », la formulation est légèrement différente, mais le résultat final est presque identique.

« Le comportement décrit dans l’article ne peut pas vraiment être corrigé, toute tentative ne ferait que diminuer la capacité de défense du modèle, » explique Moussouris. Elle critique cette ordonnance d’exportation comme étant précipitée, brutale et mal jugée.

Par la suite, Moussouris, avec des dizaines d’autres chercheurs et experts en sécurité de haut niveau, a appelé le gouvernement Trump à annuler cette ordonnance, affirmant qu’enlever des capacités avancées en cybersécurité des mains des défenseurs américains est « dangereux ».

Les gouvernements successifs ont déjà pris des décisions globales dans des zones de connaissance limitée. Par exemple, dans les années 2010, lors de la révision des lois sur l’exportation, le gouvernement américain voulait contrôler les outils de cybersécurité pouvant être utilisés à la fois pour la défense et l’attaque. Mais le vocabulaire était trop vague, et cela a presque criminalisé la recherche légitime en sécurité et en vulnérabilités.

Mais cette ordonnance du gouvernement Trump semble être une revanche.

Justin Hendrix, éditeur de Tech Policy Press, affirme que cette démarche « pourrait très probablement alerter les gouvernements étrangers sur la fiabilité de l’utilisation de l’IA américaine dans des scénarios critiques ». Le message transmis est que : les entreprises américaines d’IA ne peuvent pas fonctionner sans intervention du gouvernement américain.

Le gouvernement Trump n’a pas confirmé pourquoi il a utilisé cette ordonnance d’exportation. Est-ce que des officiels ont mal interprété le rapport et ont paniqué ? Est-ce que le PDG d’Amazon, Andy Jassy, a dit quelque chose par prudence ou par rancune, ce qui a déclenché cette réaction ? Une erreur de traduction, ou s’agit-il d’un moyen de faire pression sur Anthropic — étant donné que leurs relations sont déjà tendues ? Il est aussi possible que la Maison Blanche n’ait pas réalisé que cette lettre entraînerait une réaction en chaîne aussi importante, et que les officiels soient maintenant en train de gérer la crise qu’ils ont eux-mêmes créée.

Selon Hendrix, « l’atmosphère actuelle est empreinte de suspicion, et les hauts responsables semblent choisir leurs cibles en fonction de facteurs personnels et politiques. » Le résultat est que le gouvernement a « créé un dangereux précédent en s’arrogeant un contrôle accru sur la sortie de logiciels américains. »

Ce qui est visé cette fois, c’est Anthropic, mais demain, ce pourrait être n’importe quelle autre entreprise.