Si vous craignez aussi que l’IA anéantisse l’humanité, vous devez lire ce rapport《AI 2040：Plan A》

Le projet AI Futures Project a publié le 9, un rapport intitulé « AI 2040 : Plan A », qui affirme qu’il faut repousser la date de l’avènement de l’AGI, attendue par l’industrie, de 2030 à 2040. Le plan s’appuie sur quatre piliers.
(Contexte : le CEO de la startup General Intuition dévoile : pourquoi les « données de jeu » sont la clé ultime vers l’AGI ?)
(Complément de contexte : des concurrents comme Doubao et Alibaba Qianwen ferment leurs réglages de personnalité d’IA ; en Chine, de nouvelles lois encadrent strictement les interactions intimes avec l’IA.)

Table des matières

Toggle

• Le plan de freinage sur dix ans
• Dans cette course, personne ne gagne vraiment
• Freiner, c’est de la technique, mais aussi de la politique

Comment l’humanité va-t-elle s’y prendre dans les dix prochaines années ? Cette semaine, le 9, AI Futures Project a publié son dernier rapport « AI 2040 : Plan A », en soutenant que la date de l’« AGI », c’est-à-dire une IA qui dépasse l’humain dans presque tous les aspects, doit être brutalement repoussée de 2030, telle qu’anticipée par l’industrie, à 2040.

Le raisonnement derrière est le suivant : si l’humanité ne freine pas activement, cette compétition mondiale ne dégagera finalement aucun vainqueur clair ; elle ne laissera qu’une petite élite, voire une seule personne, détenant à elle seule la seule armée d’intelligence super avancée du monde.

Le plan de freinage sur dix ans

Ce rapport provient d’AI Futures Project, fondé par Daniel Kokotajlo : c’est le troisième rapport majeur de l’équipe. Kokotajlo a travaillé chez OpenAI, puis en avril 2024, il en est parti en raison de son mécontentement face aux inquiétudes en matière de sécurité, avant de créer AI Futures Project l’année suivante. Les deux rapports précédents étaient respectivement AI 2027 et AI Futures Model, publiés en avril 2025. Le premier prévoyait que, si la trajectoire actuelle se poursuivait, la fin serait soit l’extinction de l’humanité, soit une concentration irréversible du pouvoir.

Plan A est la solution positive proposée par l’équipe, fondée sur quatre piliers.

Premièrement, rendre publique toute la recherche sur l’IA, autrement dit « la transparence globale de la recherche ». En clair : tous les pays peuvent voir ce que les autres font, afin de pouvoir freiner ensemble, plutôt que de s’enfermer derrière des portes pour courir à fond, comme si de rien n’était.

Deuxièmement, permettre à des dizaines d’entreprises à l’échelle mondiale de rattraper le niveau technique le plus avancé, afin d’empêcher quelques entreprises seulement de monopoliser les limites de capacité. En langage simple : il s’agit d’étaler l’avantage technique pour que davantage de joueurs puissent en profiter, plutôt que de laisser la compétition se transformer en une course aux armements où le gagnant rafle tout.

Troisièmement, que les États-Unis et la Chine parviennent d’ici 2029 à un accord international couvrant à la fois la transparence complète de la recherche-développement en IA et des mécanismes de vérification.

Quatrièmement, et c’est aussi la ligne la plus contre-intuitive : entrer volontairement dans un équilibre effrayant de « destruction mutuelle garantie de puissance de calcul ». Autrement dit, reproduire la logique de la dissuasion des armes nucléaires de la Guerre froide — « celui qui attaque en premier s’expose à une destruction mutuelle » — en liant aussi la puissance de calcul à le même mécanisme d’intimidation, pour forcer tous les acteurs à ne pas se lancer à la légère en tête de course.

D’après la chronologie explorée par ce plan, les experts en IA verraient apparaître un système d’ici 2035, tandis que l’AGI à niveau super-intelligence serait repoussée à 2040, après la mise en place des fondations de sécurité. Le rapport estime aussi que les entreprises d’IA pourraient très probablement créer, dans une période de 1 à 10 ans, des systèmes dépassant entièrement l’humain ; et que la stratégie actuelle de l’ensemble du secteur consiste, pour l’instant, seulement à faire en même temps tout en essayant de contrôler, sans constituer un plan solide et cohérent.

Dans cette course, personne ne gagne vraiment

L’attitude du rapport n’est pas optimiste. Car si la compétition continue sur sa trajectoire d’origine, les auteurs ne pensent pas qu’un gagnant puisse prendre une avance évidente ; ils ne pensent pas non plus qu’aucune partie ne ralentira activement ou ne réduira les risques.

Ils estiment que l’humanité aura très probablement du mal à maintenir un contrôle efficace durant le passage de l’IA vers la super-intelligence. Même si, au final, l’alignement de l’IA réussit (en faisant en sorte que les objectifs de l’IA obéissent sagement à la volonté humaine), le résultat serait une concentration de pouvoir sans précédent : un petit groupe, voire une seule personne, détenant à court terme la seule armée super intelligente du monde, et se voyant confier toutes sortes d’options sur ce qu’il faut faire ensuite ; et une partie de ces options revient, dans les faits, à prendre le contrôle du monde.

Dans le scénario du rapport, en 2027, le Congrès américain adopte un projet de loi global intitulé « AI Transparency Act of 2027 ». Le contenu est partiellement bon, partiellement mauvais, mais il ne change pas fondamentalement la situation. En parallèle, les États-Unis voient apparaître deux types de main-d’œuvre : 165 millions de travailleurs humains, plus des millions d’agents IA, qui sont réveillés puis arrêtés à chaque heure pour fonctionner en continu, 24 h/24, à une vitesse surhumaine ; les gens paient chaque mois 10 milliards de dollars pour cela.

Le rapport envisage que lors de l’élection présidentielle américaine de 2028, le sujet de l’IA deviendra le plus grand point de confrontation entre les candidats des deux partis, car la majorité des emplois de bureau auront déjà été largement remplacés par l’IA, comme les ingénieurs logiciels en 2026. Les centres de données en construction, avec un coût total équivalent au double du budget militaire total des États-Unis. Pour l’instant, on ne voit pas encore de boucle d’auto-amélioration récursive (autrement dit, une IA qui fabrique une IA plus forte), mais les signes sont déjà là : les tout meilleurs outils d’écriture de code par IA ont déjà été configurés pour refuser d’aider des adversaires à mener des travaux de recherche-développement en IA ; c’est comme ramasser les escaliers et les faire tomber sous ses propres pieds.

Le rapport met aussi Plan A en comparaison avec quatre autres plans de substitution, chacun correspondant à une trajectoire de réponse potentielle aux États-Unis face au défi de la super-intelligence. Autrement dit, repousser à 2040 n’est pas la seule option ; c’est, selon les auteurs, celle qui comporte le niveau de risque le plus faible.

Freiner, c’est de la technique, mais aussi de la politique

Kokotajlo le dit clairement lui-même : Plan A est une recommandation, pas une prédiction. L’équipe utilise un scénario concret comme support de discussion dans le but de communiquer et de faire un test de résistance de ses thèses politiques, plutôt que de garantir que le monde suivra réellement le scénario, car la réalité risque fort de s’emballer plus vite que ce plan de freinage.

Le rapport estime que les CEO d’OpenAI, d’Anthropic, de xAI et de Google DeepMind, comprennent probablement tous à quoi ressemblera la fin de la compétition, et pourtant ils choisissent de continuer d’avancer. Peut-être parce qu’ils pensent que leur option est la « moins mauvaise ». Même s’ils savent probablement que le vent tourne dans le mauvais sens, ils choisissent tout de même de parier : le pari, c’est que leur CEO — ou celui de leurs adversaires — sera plus digne de contrôler ce pouvoir.

Texte intégral original de « AI 2040 : Plan A »