PDG d'Anthropic : Le gouvernement doit avoir le pouvoir de rejeter l'IA à haut risque, des tests obligatoires avant le lancement, trois principales propositions en opposition à la ligne de relâchement de Trump

Anthropic PDG Dario Amodei publie un long article, appelant le gouvernement à légiférer pour imposer des tests tiers sur les modèles d'IA puissants, et compare l'IA à l'aviation commerciale sous réglementation FAA.
Les trois principales propositions couvrent le seuil de déploiement, la cybersécurité et le remplacement du travail.
(Précédent contexte : Claude écrit 80 % de son code lui-même, Anthropic appelle-t-il à une « mise en place mondiale de mécanismes de freinage » sérieusement ?)
(Complément d'information : Dario Amodei, PDG d'Anthropic : dans 6 à 12 mois, les modèles d'IA open source chinois pourront rattraper Mythos)

Table des matières de l'article

Toggle

• Trois propositions principales : seuil, arme, remplacement
• Pourquoi maintenant, la logique et les limites de la comparaison avec la FAA
• Contre la libéralisation de Trump

Juste après avoir publié leur modèle général le plus puissant, le lendemain, ils déclarent que l'IA est trop dangereuse et que le gouvernement doit légiférer. C'est le signal que Dario Amodei, PDG d'Anthropic, envoie aujourd'hui (11) à la communauté mondiale des politiques technologiques. Dans son long article 〈Policy on the AI Exponential〉, il appelle publiquement, en tant que leader de l'entreprise, à une intervention gouvernementale pour établir des réglementations légales sur la sortie des « modèles d'IA de pointe ».

Il utilise l'analogie de l'aviation commerciale : les avions doivent passer par une inspection de sécurité de la FAA (Federal Aviation Administration), l'IA aussi devrait en faire autant. Amodei a déclaré sur X :

« Anthropic prône depuis longtemps la transparence pour l'IA de pointe, car les risques n'étaient pas encore assez clairs pour une régulation précise. Mais ce n'est plus le cas. »

Anthropic has long advocated for transparency requirements for frontier AI, because the risks weren't yet clear enough to regulate precisely. That is no longer sufficient.

— Dario Amodei (@DarioAmodei) 10 juin 2026

Trois propositions principales : seuil, arme, remplacement

La première proposition du cadre avancé pour l'IA est de fixer un seuil quantitatif pour les tests tiers obligatoires : une puissance de calcul d'entraînement supérieure à 10^25 FLOPs (opérations en virgule flottante, en gros la quantité de calcul nécessaire pour entraîner le modèle), ou des revenus annuels d'IA supérieurs à 500 millions de dollars, ou des dépenses R&D en IA supérieures à 1 milliard de dollars, le modèle doit passer une audit indépendante avant sa mise sur le marché.

Les tests se concentrent sur quatre domaines de risque : cybersécurité, armes biologiques, défaillance des systèmes d'IA, et automatisation pouvant accélérer ces risques. Amodei déclare : « Les modèles d'IA de pointe, comme les avions, devraient être soumis à des tests techniques et audits ; si leur sécurité n'atteint pas un standard élevé, leur déploiement doit être considéré comme une menace pour la sécurité publique et bloqué ou retiré. » Le gouvernement, dans ce cadre, serait habilité par la loi à bloquer, retarder ou dissuader leur déploiement.

La deuxième proposition considère l'IA comme une infrastructure critique de cybersécurité. Amodei cite directement le modèle Claude Mythos Preview d'Anthropic, capable d'identifier des vulnérabilités graves dans les principaux systèmes d'exploitation, ce qui montre que la capacité d'attaque et de défense évolue simultanément. Le cadre exige que les développeurs de pointe protègent « les poids du modèle » (c'est-à-dire les paramètres centraux stockés après l'entraînement, dont le vol reviendrait à copier tout le modèle) contre le vol par des attaquants externes ou internes, et établissent une procédure légale pour signaler les « attaques de distillation de modèles ».

La troisième proposition, la plus politiquement sensible, admet explicitement le remplacement structurel du travail. La politique économique prévoit que si l'IA atteint le niveau de capacité prévu, elle sera « un substitut complet de la main-d'œuvre », pas seulement un outil d'augmentation de productivité. Le cadre envisage des scénarios avec un taux de chômage de 5 %, 10 % ou plus extrême, et propose des mécanismes comme l'assurance-chômage, le revenu de base universel (UBI), ou des modèles de richesse souveraine.

Pour soutenir ces propositions, Anthropic annonce un investissement de 350 millions de dollars : 200 millions pour créer un « Fonds de recherche sur l'avenir économique » destiné à expérimenter des politiques publiques, et 150 millions pour un programme national de bourses. Amodei conclut : « Le défi clé n'est pas d'encourager la croissance, mais de trouver des moyens pour que chacun puisse partager les bénéfices. »

Pourquoi maintenant, la logique et les limites de la comparaison avec la FAA

Ce cadre est publié à ce moment précis pour deux raisons principales.

La première concerne le rythme technologique. Amodei argue que : auparavant, parce que le profil de risque n'était pas clair, la législation précise n'était pas encore justifiée ; maintenant, avec Mythos Preview capable d'identifier activement des vulnérabilités, cette raison n'est plus valable. Ils se basent sur le danger de leur propre modèle pour justifier une législation, ce qui est convaincant en soi, mais cela implique aussi que plus le modèle est puissant, plus la nécessité de légiférer rapidement devient pressante.

La deuxième concerne les limites de la comparaison avec la FAA. La régulation de l'aviation commerciale est claire : un avion qui tombe a une cause physique identifiable, les standards de test sont quantifiables, et la responsabilité en cas d'accident est attribuable. La dangerosité de l'IA dépend encore fortement de l'évaluation subjective, la définition de « de pointe » évolue tous les quelques mois, et la crédibilité et l'indépendance des organismes tiers de test ne sont pas encore établies. La comparaison avec la FAA, bien qu'attrayante, présente des difficultés : appliquer un cadre réglementaire mature à un domaine en constante évolution, avec des détails techniques complexes, n'est pas simple.

Amodei admet aussi que ce cadre est un point de départ, pas une solution définitive.

Contre la libéralisation de Trump

L'actuelle politique américaine privilégie la dérégulation : l'administration Trump voulait laisser l'industrie de l'IA « se développer sauvagement », pour battre la Chine par la compétition ouverte, et supprimer les barrières réglementaires locales.

Amodei prône au contraire un renforcement de la régulation, ce qui va à l'encontre de cette tendance. Il cherche dans son article une langue transpartisane : « Ces propositions ont un attrait de bon sens à travers le spectre politique, et plus tôt nous agirons, plus tôt tout le monde pourra bénéficier de l'IA. » Mais la question reste ouverte : cette « attraction de bon sens » peut-elle réellement se transformer en impulsion législative, dans le contexte politique actuel de Washington ? C'est une question à suivre.