Que s'est-il passé à la Maison Blanche dans les 24 heures précédant la déconnexion forcée de Fable5 ?

Titre original : Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic

Auteur original : Sophia Cai and Cheyenne Haslett, Politico

Traduction : Peggy

Note de l’éditeur : Anthropic vient tout juste de publier le modèle Fable 5 il y a quelques jours, avant d’être soudainement contraint de le retirer. La raison en est que l’administration Trump, invoquant la sécurité nationale, a exigé de limiter l’accès aux deux modèles d’IA avancés Fable 5 et Mythos 5, sous la bannière d’Anthropic ; en raison de la difficulté à distinguer précisément les identités et permissions des utilisateurs, Anthropic a finalement choisi de désactiver ces modèles pour tous ses clients.

Ce retrait soudain cache une confrontation de haute pression entre la Maison Blanche et Anthropic, qui s’est déroulée en 24 heures. Sur la question de savoir si les barrières de sécurité de Fable 5 pouvaient être contournées, le PDG d’Anthropic, Dario Amodei, a eu plusieurs appels tendus avec des hauts responsables du ministère des Finances, du Commerce et du département du Cyberespace de la Maison Blanche. Le gouvernement estime que le modèle pourrait être utilisé pour identifier des vulnérabilités logicielles, constituant un risque pour la sécurité nationale ; Anthropic insiste sur le fait que ces questions ne relèvent pas d’un « jailbreak » général, et critique le manque de transparence, de clarté et de procédure légale basée sur des faits techniques dans l’action gouvernementale.

L’incident ne se limite pas à un simple retrait de modèle, ni à une communication dérapée entre la Maison Blanche et une entreprise d’IA, mais marque une redéfinition du modèle d’IA avancée comme un actif potentiel de sécurité nationale. Lorsque les capacités du modèle entrent dans des domaines sensibles tels que la cybersécurité, l’exploitation de vulnérabilités ou l’analyse de renseignement, le gouvernement ne se contente plus de l’auto-évaluation ou de l’auto-contrôle des entreprises, mais commence à utiliser des outils plus coercitifs comme le contrôle à l’exportation, intervenant directement dans le rythme de publication des modèles.

Plus ironique encore, Anthropic, qui a toujours été l’une des entreprises les plus pro-régulation dans le secteur de l’IA, se retrouve aujourd’hui sous le coup de cette régulation stricte. Le gouvernement considère qu’elle ne réagit pas assez sérieusement aux vulnérabilités de sécurité, tandis qu’Anthropic estime que la Maison Blanche overreact. Derrière ce différend, une nouvelle problématique émerge pour l’industrie de l’IA : qui a le pouvoir de juger si un modèle est suffisamment sûr ? La certification autonome de sécurité par les entreprises est-elle encore suffisante ? Et comment une intervention rapide sous prétexte de sécurité nationale pourrait-elle modifier les coûts de conformité, le calendrier de lancement et la compétition mondiale des entreprises d’IA ?

L’incident Anthropic pourrait devenir un tournant dans la régulation de l’IA avancée. À l’avenir, le lancement des modèles de pointe ne sera plus simplement une mise en ligne de produit, mais ressemblera à une opération à haut risque impliquant la sécurité nationale, la géopolitique, les marchés financiers et l’ordre industriel.

Voici le texte original :

Avant que le gouvernement Trump ne mette en place un contrôle strict à l’exportation sur Anthropic, des hauts responsables de la Maison Blanche avaient tenté, lors d’une opération d’urgence de 24 heures, de convaincre cette entreprise d’IA de retirer volontairement un nouveau modèle récemment publié. Plusieurs responsables gouvernementaux estimaient que ce modèle pouvait présenter un risque pour la sécurité nationale.

Selon deux responsables gouvernementaux et un haut responsable de la Maison Blanche, dans cette crise, le PDG d’Anthropic, Dario Amodei, a eu plusieurs appels tendus avec des hauts responsables, notamment le secrétaire au Trésor Scott Bessent et le responsable du Cyberespace Sean Cairncross. N’étant pas autorisés à discuter publiquement de cette affaire, ils ont tous demandé à rester anonymes.

Cet incident met aussi en lumière une question de plus en plus pressante : face à la rapidité d’itération et à la capacité croissante des modèles d’IA avancés, comment la Maison Blanche doit-elle tracer la ligne entre innovation et sécurité ?

Ces détails des appels n’avaient jamais été révélés auparavant.

Nuit précédant le retrait du modèle : controverse sur la sécurité

Après la mise en œuvre du contrôle à l’exportation, Anthropic a été contraint de retirer son nouveau modèle Fable. Ce modèle, lancé au public seulement quelques jours auparavant, avait été présenté par la société comme sûr et contrôlable, mais peu après sa sortie, des responsables du gouvernement ont commencé à réévaluer si ses barrières de sécurité étaient aussi solides qu’affirmé.

Deux responsables gouvernementaux et un haut responsable de la Maison Blanche ont indiqué que, jeudi, soit deux jours après la sortie de Fable, le PDG d’Amazon, Andy Jassy, a exprimé ses inquiétudes au sein de la Maison Blanche, évoquant un risque potentiel de contournement des barrières de sécurité du modèle.

Une personne proche des discussions avec Amazon a indiqué que cette dernière répondait à la demande du gouvernement en fournissant un retour sur les risques potentiels.

Au matin du vendredi, la situation s’était escaladée jusqu’aux plus hauts niveaux de l’administration.

Selon des responsables gouvernementaux et un haut responsable de la Maison Blanche, Bessent, Cairncross, la chef de cabinet Susie Wiles et d’autres hauts responsables ont tenu une réunion pour discuter du modèle et des réponses possibles. Un informateur a précisé que Bessent, en raison d’un engagement à Houston pour un événement public prévu, a participé à distance.

Après la réunion, le gouvernement a tenté de contacter Amodei, mais on lui a répondu qu’il était momentanément indisponible en raison d’un séjour dans un centre de bien-être. Un responsable gouvernemental et un haut responsable de la Maison Blanche ont confirmé cette version.

Un porte-parole d’Anthropic a nié cette information, déclarant : « C’est totalement faux. »

Une personne proche d’Anthropic a indiqué que le gouvernement avait d’abord demandé à contacter Amodei vers midi, et qu’il avait réussi à le joindre dans l’heure suivante. Selon cette source, lorsque Amodei était indisponible, Anthropic avait proposé que d’autres cadres prennent le relais.

Une fois en contact avec Amodei, celui-ci a participé à trois appels téléphoniques. Un haut responsable de la Maison Blanche et un responsable gouvernemental ont indiqué que plusieurs hauts responsables, dont Cairncross, Bessent et le secrétaire au Commerce Howard Lutnick, avaient participé.

Un haut responsable de la Maison Blanche a précisé que d’autres membres de la Maison Blanche et du gouvernement avaient aussi participé à certains appels, notamment le sous-secrétaire au Commerce pour la sécurité industrielle Jeffrey Kessler, le secrétaire de la Maison Blanche Will Scharf, le vice-chef de cabinet Richard Walters et l’assistant présidentiel Walker Barrett.

Durant ces échanges, Amodei a tenté de clarifier ce qu’il percevait comme des malentendus. Il a réfuté les inquiétudes du gouvernement concernant la sécurité, défendant les mécanismes de protection d’Anthropic, et soulignant que les méthodes de contournement évoquées ne concernaient que des scénarios spécifiques, et ne constituaient pas un « jailbreak » général — c’est-à-dire une défaillance totale du système de sécurité d’Anthropic.

Dans un article publié après la mise en œuvre du contrôle à l’exportation, Anthropic a déclaré : « À ce jour, aucun testeur n’a réussi à trouver une méthode de jailbreak universelle — c’est-à-dire une façon de contourner largement la sécurité du modèle et de débloquer ses capacités étendues. » La société a aussi affirmé qu’il n’était pas réaliste pour Anthropic ou toute autre entreprise d’IA d’éliminer totalement toutes les tentatives de jailbreak.

Elle a également défendu ses systèmes de sécurité, affirmant qu’ils étaient « très robustes, au point que beaucoup d’utilisateurs se plaignent qu’ils sont trop permissifs ».

Mais Cairncross et Bessent n’ont pas été convaincus par l’explication d’Amodei. Un responsable de la Maison Blanche a indiqué que la découverte d’Amazon avait été soumise à l’examen de la NSA, qui aurait jugé que les éléments en sa possession constituaient « une preuve ».

Selon des responsables de la Maison Blanche et deux responsables gouvernementaux, le gouvernement a pressé Anthropic de retirer volontairement le modèle, et de collaborer pour corriger ses vulnérabilités. Amodei a demandé plus de temps et d’informations, mais n’a pas promis de retirer le modèle. Un haut responsable de la Maison Blanche a indiqué qu’au cours d’un appel, Bessent avait directement dit à Amodei qu’il prenait une « mauvaise décision ».

L’étape de la régulation stricte : Fable 5 et Mythos 5 sous contrôle

Peu après la fin de ces échanges, le gouvernement Trump a imposé un contrôle à l’exportation sur Fable 5 et Mythos 5. Anthropic a indiqué que le gouvernement, invoquant la sécurité nationale, avait interdit l’accès à ces modèles aux citoyens étrangers. La société a précisé que cette directive avait pour « effet pratique » de forcer Anthropic à « désactiver soudainement » l’accès à ces modèles pour tous ses clients afin d’assurer la conformité.

Un haut responsable de la Maison Blanche a déclaré : « Nous leur avons demandé de coopérer pendant plusieurs heures, mais le contrôle à l’exportation est une mesure de dernier recours. Ce n’est pas ce que nous souhaitons, mais nous n’avons pas d’autre choix. »

Après la publication de l’article, une personne proche d’Anthropic a contesté cette version, affirmant que l’entreprise n’avait pas été laissée le choix d’une « coopération volontaire ».

Selon cette source : « La Maison Blanche n’a donné que 90 minutes pour retirer le modèle, sans fournir aucun détail sur la menace réelle. Il n’y a jamais eu de demande de coopération ou de négociation, seulement une échéance de 90 minutes annoncée comme ultime. »

Un haut responsable de la Maison Blanche a indiqué que des responsables avaient entendu Amodei comparer le danger de la technologie d’Anthropic à une bombe nucléaire. Lorsqu’un PDG, toujours en faveur d’une régulation de la sécurité de l’IA, a exprimé son refus de retirer le système pour corriger des vulnérabilités connues, cela a été difficile à comprendre pour les responsables.

Anthropic, longtemps considérée comme l’une des entreprises les plus favorables à la régulation dans le secteur de l’IA, a souvent plaidé pour une régulation encadrée afin de faire face aux risques globaux liés à la rapide évolution de l’IA, notamment en matière de sécurité mondiale et d’impact sur l’emploi.

Selon trois personnes proches du gouvernement, Amazon n’est pas la seule entreprise à avoir exprimé ses inquiétudes.

L’une d’elles a indiqué : « Le problème central, c’est que Anthropic ne prend pas cette affaire au sérieux. Si l’entreprise la traitait avec sérieux, plutôt que de la minimiser comme un incident isolé, et si elle prenait l’initiative de réparer ou de suspendre l’accès, cela ne serait pas arrivé à ce stade. »

Une autre personne proche d’Anthropic a rétorqué que le « jailbreak » ne signifiait pas que le système de sécurité de Fable 5 était défaillant, et a souligné que l’entreprise avait maintenu un dialogue avec le gouvernement avant la sortie de Fable. Selon cette personne, lors de plusieurs échanges, le gouvernement n’a pas opposé d’objection à la publication de Fable.

Après la mise en œuvre du contrôle à l’exportation, Anthropic a indiqué dans un blog qu’elle respecterait les instructions du gouvernement, tout en estimant que cette mesure était excessive.

Elle a déclaré : « Comme nous l’avons déjà dit publiquement, nous pensons que le gouvernement a le droit d’empêcher des déploiements non sécurisés, mais cela doit se faire selon une procédure légale transparente, équitable, claire et fondée sur des faits techniques. Cette action ne respecte pas ces principes. »

Un responsable de la Maison Blanche, qui a souhaité garder l’anonymat, a indiqué que l’innovation restait la « priorité absolue » de la Maison Blanche, mais que la sécurité devait aussi être une priorité.

Un porte-parole d’Amazon a refusé de divulguer les détails de ses échanges avec le gouvernement. Un représentant d’Amazon a déclaré : « Il n’est pas rare que le gouvernement consulte nos avis sur des risques potentiels. Lors de telles consultations, nous ne divulguons pas les détails. »

Au début avril, Anthropic avait annoncé que son dernier modèle puissant, Mythos, serait réservé à quelques entreprises technologiques et sociétés de cybersécurité, pour tester des vulnérabilités logicielles. La société expliquait alors que, compte tenu de la puissance du modèle, une utilisation malveillante pourrait avoir des conséquences graves, et qu’il était donc nécessaire de limiter sa diffusion.

La présentation de Mythos a déclenché une série de réunions entre Amodei et des hauts responsables de la Maison Blanche. Ces réunions ont été décrites comme productives par les deux parties. Par la suite, des discussions ont été engagées pour encadrer la régulation des modèles d’IA avancés, aboutissant à une récente ordonnance : avant tout déploiement massif, les entreprises doivent soumettre volontairement leurs modèles à une revue gouvernementale.

Cette semaine, Fable 5, publié par Anthropic, a été présenté comme un « modèle de niveau Mythos », mais doté de mesures de sécurité supplémentaires pour permettre son ouverture au grand public. Ce modèle a été examiné par le gouvernement américain et l’Institut britannique de recherche en sécurité de l’IA.

Mais après la révélation de ce qu’on qualifie de « faille de sécurité », plusieurs responsables gouvernementaux ont estimé que le modèle devait être immédiatement retiré.

Samedi matin, l’ancien responsable de l’IA à la Maison Blanche, David Sacks, connu pour son opposition à la régulation, a publié sur X (ex-Twitter) un message soutenant la décision du gouvernement d’imposer un contrôle à l’exportation sur Anthropic.

Sacks a déclaré qu’il ne considérait pas cette « fuite » comme insignifiante ou sans importance, ni que le contrôle à l’exportation était une tentative du gouvernement de prendre un contrôle plus large sur l’industrie de l’IA. Il a écrit : « Le gouvernement veut maintenant que Anthropic corrige ses vulnérabilités, puis lègue le contrôle à l’exportation, et que Fable soit à nouveau publié. Tout cela doit aller vite. Franchement, ce qui est frustrant, c’est que Anthropic a toujours dit que la sécurité était sa priorité, mais qu’elle ne voulait pas coopérer. »

Sacks, ainsi que d’autres responsables gouvernementaux, avaient déjà critiqué Anthropic à plusieurs reprises, l’accusant de biais politiques de gauche, et de faire peur en évoquant des risques pour l’emploi à grande échelle.

Plus tôt cette année, le secrétaire à la Défense Pete Hegseth et le Pentagone ont porté la discorde entre le gouvernement et Anthropic à un niveau sans précédent. Le 3 mars, en raison du refus d’Anthropic d’autoriser l’utilisation de ses outils d’IA pour la surveillance de masse ou les systèmes d’armes autonomes, le Pentagone a inscrit la société sur la liste des risques pour la chaîne d’approvisionnement.

Samedi, Sacks a indiqué que le différend entre le gouvernement et Anthropic n’était pas lié à cette décision d’exportation. Il a écrit : « Le gouvernement valorise la capacité technique d’Anthropic, et considère que ce problème, bien que sérieux, peut être résolu facilement. La balle est maintenant dans le camp d’Anthropic. »