Qu’est-ce que la superintelligence (ASI) ? Explications pour les débutants

Ce guide convient aux débutants qui souhaitent distinguer clairement les termes et éviter de considérer les chatbots ou les modèles spécialisés dans un seul domaine comme une « superintelligence ». Pour comparer les périmètres de capacités, consultez ASI vs AGI vs ANI ; IBM’s Artificial Superintelligence overview définit l’ASI comme des systèmes qui surpassent globalement les humains dans la plupart des tâches humaines. Première vérification essentielle : parle-t-on de l’intelligence globale ou seulement d’un modèle entraîné dans un domaine précis ?

Les sections suivantes abordent les différentes voies possibles, les trois types de Bostrom, les récits autour de la singularité, les risques et l’alignement, ainsi qu’une liste de vérification des mythes. Les organismes de recherche, les experts en sécurité et les rédacteurs doivent appliquer la même distinction : superintelligence d’un côté, intelligence artificielle ordinaire déjà déployée de l’autre.

Points clés à retenir

• L’ASI désigne une cognition globale et supérieure à celle des humains dans plusieurs domaines, et non une supériorité dans une seule tâche spécialisée.
• ANI → AGI → ASI forme une échelle fondée sur l’étendue et la profondeur des capacités ; le niveau « Superhuman » des Levels of AGI de DeepMind constitue une référence courante pour l’ASI.
• Nick Bostrom distingue la superintelligence de vitesse, de qualité et collective, afin de ne pas confondre « plus rapide » et « meilleure ».
• Les grands modèles de langage actuels et les récits fondés sur des tokens conceptuels ne constituent pas une ASI réalisée ; évaluez les affirmations à partir de preuves couvrant plusieurs domaines, ainsi que de critères d’alignement et de contrôle.

Qu’est-ce que la superintelligence artificielle (ASI) et en quoi diffère-t-elle de l’IA spécialisée et de l’AGI ?

L’ASI désigne une cognition nettement supérieure aux meilleures performances humaines dans leur ensemble — et non le fait de « remporter un concours ou un benchmark ». Pour définir clairement cette échelle, l’ASI constitue une catégorie distincte de l’IA spécialisée et de l’AGI : l’IA spécialisée (ANI) est performante sur des tâches précises ; l’AGI vise une généralité proche de celle des humains dans de nombreuses tâches ; l’ASI suppose une supériorité globale dans presque tous les domaines cognitifs importants pour les humains. En termes simples, la signification de « superintelligence » ici n’est pas « toute IA qui réfléchit rapidement », mais une intelligence capable de porter des jugements transversaux supérieurs à ceux des meilleurs experts, à une échelle globale.

Les résultats d’AlphaFold dans la prédiction de la structure des protéines constituent un exemple de performance surhumaine dans un seul domaine, et non une preuve de l’existence de l’ASI. Considérer une performance de pointe dans un domaine comme une « superintelligence complète » est l’erreur la plus fréquente chez les débutants. Des modèles entraînés sur des corpus scientifiques spécialisés peuvent sembler brillants, tout en échouant en dehors de leur domaine. Cela rappelle utilement que la réponse à la question « à quel point l’IA est-elle intelligente aujourd’hui ? » dépend de l’étendue de la tâche, et non de slogans, car les systèmes actuels ne gèrent pas l’apprentissage transversal comme le font les experts humains.

Figure 1. Échelle des capacités ANI → AGI → ASI : des systèmes spécialisés dans certaines tâches à une intelligence surhumaine globale et transversale.

La distinction essentielle oppose l’étendue des tâches à la supériorité globale surhumaine : l’ANI peut être extrêmement performante tout en restant spécialisée ; l’AGI concerne la généralité ; l’ASI concerne la supériorité dans plusieurs domaines. L’article de DeepMind publié en 2023 Levels of AGI propose un cadre de capacités fondé sur la performance × la généralité, avec des performances compétentes et avancées comme concepts intermédiaires avant son niveau Superhuman — qui désigne une supériorité fiable sur les humains dans un vaste ensemble de tâches — et sert de référence aux discussions sur l’ASI, sans pour autant qualifier de victoire sur un classement de référence d’ASI. Les rédacteurs et les analystes des politiques publiques peuvent gagner du temps en se demandant si un titre désigne une superintelligence ou l’intelligence artificielle déjà intégrée à des produits, deux étiquettes souvent confondues dans les pages de résultats des moteurs de recherche.

Comment la superintelligence pourrait-elle être atteinte ? Quelles voies mènent de l’intelligence artificielle générale (AGI) à l’ASI ?

La plupart des discussions sur ces voies supposent d’abord une généralité proche de l’AGI, puis estiment que l’autoamélioration, le passage à l’échelle ou la coordination à grande échelle pourraient porter les capacités vers un niveau surhumain dans plusieurs domaines. Cependant, les affirmations concernant le passage de l’AGI à l’ASI restent des hypothèses sur l’avenir, et non des faits établis. Les prévisions fondées sur un calendrier restent des prévisions, et non des calendriers d’ingénierie vérifiés. Ces voies sont des hypothèses et des programmes de recherche, et les chercheurs débattent activement de leur plausibilité réelle et de leur contrôlabilité. La question de savoir si l’IA continuera à devenir plus intelligente dans une architecture donnée de laboratoire est une question empirique ; elle ne prouve pas à elle seule l’existence de l’ASI.

Les principales voies narratives comprennent : (1) l’autoamélioration récursive de type « explosion de l’intelligence », dans laquelle les systèmes améliorent leur propre architecture ou leurs boucles d’entraînement ; (2) la poursuite du passage à l’échelle combinée à des avancées algorithmiques, où les progrès de la technologie de l’IA, de la puissance de calcul, des données et des méthodes, avec le deep learning comme fondement de nombreux systèmes de pointe, élèvent le niveau global, même si les humains créent toujours les données d’entraînement, conçoivent les modèles et définissent les objectifs, et que ces systèmes ne peuvent toujours pas élaborer des idées de manière indépendante ni acquérir de véritables compétences nouvelles au-delà de leur configuration prévue ; (3) les collectifs humains-machine ou multi-agents, dans lesquels plusieurs systèmes performants se coordonnent pour produire un résultat global surhumain. Ces voies peuvent se combiner, mais la vitesse des améliorations et la contrôlabilité sont deux questions distinctes. Les organisations qui développent des systèmes de pointe ont toujours besoin d’audits externes pour vérifier ce qu’un modèle pense être en train d’optimiser.

Lors de l’évaluation d’une voie, vérifiez séparément les preuves de généralité dans plusieurs domaines, l’existence d’une boucle d’autoamélioration vérifiable et la possibilité pour des observateurs externes d’auditer les objectifs et les contraintes. En l’absence de ces éléments, affirmer que « l’ASI est imminente » relève de la spéculation et non d’un fait observable. Une bonne habitude consiste à évaluer les preuves publiques disponibles aujourd’hui plutôt qu’à tenter de prévoir des calendriers précis.

Quels types de superintelligence dépassent les capacités humaines ? Quelle différence entre vitesse, qualité et intelligence collective ?

Nick Bostrom distingue trois formes qui se chevauchent : la superintelligence de vitesse, de qualité et collective. Ainsi, « plus rapide » n’est pas le seul critère : la superintelligence de vitesse met l’accent sur un débit extrêmement élevé avec une qualité de réflexion comparable ; la superintelligence de qualité met l’accent sur une cognition plus approfondie que celle des humains, notamment grâce à un transfert plus large des connaissances et à des compétences plus proches de celles des humains ; la superintelligence collective met l’accent sur des réseaux coordonnés dont la production commune est surhumaine.

Figure 2. Les trois types de superintelligence de Bostrom — vitesse, qualité et collective — peuvent apparaître seuls ou combinés.

L’intérêt pratique consiste à distinguer les slogans : un système peut répondre rapidement tout en restant spécialisé et superficiel, ou être brillant localement sans couvrir un large éventail de domaines. Une analyse plus complète est disponible dans Bostrom’s Superintelligence overview. Lorsque des étiquettes liées à l’ASI apparaissent dans la crypto ou les médias, demandez-vous si l’affirmation concerne la vitesse, la qualité ou l’intelligence collective, puis exigez des preuves. Les experts en sécurité et les rédacteurs de produits utilisent la même liste de vérification pour déterminer si une affirmation concerne réellement la vitesse, la qualité ou la performance collective : qu’est-ce que le système améliore, sur quelles données a-t-il été entraîné et le fait d’être « plus rapide » réduit-il seulement la latence sans améliorer la qualité des décisions ?

Quel est le lien entre superintelligence, singularité et explosion de l’intelligence ?

La singularité technologique désigne souvent un point de bascule où une intelligence capable de s’améliorer elle-même rend les progrès ultérieurs difficiles à prévoir pour les humains, car certains résultats restent pratiquement impossibles à vérifier à l’avance. L’explosion de l’intelligence met l’accent sur des bonds rapides des capacités issus de l’autoamélioration récursive. La superintelligence est un état de capacités ; la singularité et l’explosion de l’intelligence concernent davantage les dynamiques et les seuils.

Ces trois notions sont liées, mais ne sont pas interchangeables : l’ASI pourrait apparaître progressivement, sans « explosion », et la question de savoir si l’amélioration récursive produirait réellement ces dynamiques fait toujours débat. Distinguez les preuves d’une supériorité surhumaine dans plusieurs domaines des dynamiques d’autoamélioration incontrôlée, afin que les discours sur la singularité ne remplacent pas l’évaluation des capacités. Les laboratoires qui développent des boucles récursives ont toujours besoin d’observateurs externes capables d’inspecter les objectifs avant que l’accumulation des bonds de capacités ne s’accélère.

Quels bonds de capacités et quels domaines d’application des systèmes d’IA dotés d’une superintelligence pourraient-ils permettre ?

Si une véritable superintelligence transversale existait, les capacités de niveau ASI pourraient transformer des secteurs dans le monde entier. Parmi les bonds souvent cités figurent l’accélération des progrès scientifiques et de l’ingénierie dans le cadre d’un développement économique et social plus large, l’optimisation de systèmes complexes — énergie, logistique, modèles climatiques —, l’éducation personnalisée et l’assistance clinique, ainsi que la coordination et la stratégie à grande échelle. Il s’agit d’un espace de capacités potentiel, et non d’un catalogue de produits actuellement disponibles. L’importance de l’intelligence artificielle aujourd’hui est déjà considérable dans les outils spécialisés ; l’importance de la superintelligence artificielle (ASI) concerne une classe de capacités différente, qui ferait paraître limitées les assistants actuels.

Pour les lecteurs intéressés par la crypto et le Web3, l’automatisation on-chain et la modélisation des risques reposent toujours sur l’IA spécialisée et sur des chaînes d’outils. Assimiler les « tokens narratifs liés à l’IA » ou les interfaces de chatbot à des applications de l’ASI revient à confondre marketing et faits concernant les capacités. Les bonds de capacités nécessitent toujours des performances surhumaines vérifiées dans plusieurs domaines, et non des noms de marque de grands laboratoires comme Google. Les équipes qui développent des tableaux de bord ou des agents doivent continuer à considérer les affirmations liées à l’ASI comme des hypothèses jusqu’à l’apparition de preuves solides couvrant plusieurs domaines.

Quels risques, défis d’alignement et idées de contrôle entourent la superintelligence ?

Les discussions fondamentales sur les risques portent sur l’alignement des objectifs et le contrôle : si un système est globalement plus capable que les humains, une autonomie accrue, des objectifs erronés, une dérive des objectifs ou une recherche de stratégies opaque peuvent amplifier les dommages. L’alignement consiste à déterminer si les objectifs correspondent à l’intention humaine. Les idées de contrôle comprennent la limitation des capacités, des mécanismes d’arrêt et d’audit, des environnements isolés et un déploiement par étapes, ainsi qu’une supervision multipartite. Quels sont les risques en pratique ? Il existe des raisons de craindre que le rythme rapide du développement de l’IA rende plus difficile la validation de l’alignement et du contrôle avant le déploiement, en plus d’une dépendance excessive, d’objectifs mal spécifiés qu’un système considère comme accomplis, de mécanismes d’arrêt insuffisants et de pressions internes poussant les organisations à déployer leurs produits avant la fin des audits.

Les présentations d’IBM et d’autres organismes sur l’intelligence artificielle générale mettent également l’accent sur la sécurité, la gouvernance et l’éthique. Les idées de contrôle réduisent les dommages irréversibles ; elles ne constituent pas des promesses d’absence de risque. Plus les capacités revendiquées sont élevées, plus il est nécessaire de disposer de spécifications d’objectifs vérifiables, de contraintes comportementales et de mécanismes d’intervention en cas de défaillance. Sans ces éléments, des systèmes largement déployés peuvent avoir un impact sur l’ensemble de la société, et les récits autour de l’« ASI » deviennent plus dangereux, et non plus crédibles. Une gouvernance capable de préserver les droits d’intervention et de maintenir des rédacteurs humains dans la boucle constitue une couche de contrôle pratique, et non un slogan. La création de systèmes plus sûrs est difficile, mais possible grâce à une supervision rigoureuse et à des travaux solides sur l’alignement.

Comment évaluer les affirmations concernant la superintelligence ? Quels sont les mythes courants ?

Évaluez les affirmations concernant la « superintelligence » à l’aide d’une liste de vérification applicable aux systèmes d’IA : (1) l’affirmation couvre-t-elle presque tous les domaines cognitifs importants, ou seulement un benchmark dans un domaine précis ? (2) Existe-t-il une évaluation transversale pouvant être examinée de manière indépendante, et les systèmes d’IA actuels nécessitent-ils toujours un examen indépendant et une supervision humaine ? (3) Les objectifs liés à l’AGI sont-ils distingués du statut d’ASI ? (4) Dans la crypto, l’ASI est-elle utilisée comme étiquette marketing pour un token ou un livre blanc sans preuve de capacités ? Une bonne règle consiste à conserver des captures d’écran des benchmarks, à noter les données sur lesquelles les modèles ont été entraînés et à consulter des experts du domaine avant de faire évoluer l’étiquette.

Parmi les mythes courants figurent le fait de considérer les grands modèles de langage de type ChatGPT comme une ASI, alors qu’ils présentent des capacités impressionnantes tout en restant limités par des preuves spécialisées ; le fait de considérer des résultats surhumains dans un seul domaine, comme ceux d’AlphaFold, comme une superintelligence complète ; le fait d’assimiler les discours sur la singularité ou l’explosion de l’intelligence à une ASI réalisée ; et le fait de considérer des tokens conceptuels ou des feuilles de route comme des systèmes superintelligents déployés. Les systèmes courants restent des formes d’IA spécialisée ou des travaux de recherche visant une plus grande généralité — et non une ASI existante. La distinction entre superintelligence et intelligence artificielle relève donc de l’étendue des capacités : la plupart des produits utilisés aujourd’hui sont des outils d’IA, et non une ASI.

Lorsque des contenus affirment une « supériorité totale sur les humains » ou une « domination imminente » sans preuves couvrant plusieurs domaines ni conditions d’alignement, accordez-leur moins de crédibilité. Des limites claires entre ANI, AGI et ASI, des méthodes d’évaluation et une présentation des risques ressemblent davantage à une analyse qu’à une promotion. Si un rédacteur pense qu’un chatbot « rend déjà les humains obsolètes », demandez quels domaines sont couverts par cette affirmation et si des organismes indépendants peuvent reproduire le résultat, puisque les humains continuent d’agir sur les résultats produits et de fournir le jugement qui détermine la manière dont ils sont utilisés.

Résumé

La superintelligence (ASI) désigne une supériorité globale sur les meilleurs humains dans presque tous les domaines cognitifs importants, au-delà de l’ANI et de l’AGI. Des performances surhumaines dans un seul domaine ne constituent pas une ASI ; le niveau Superhuman des Levels of AGI de DeepMind est une référence utile ; les types de Bostrom — vitesse, qualité et collective — distinguent « plus rapide » et « meilleure ». La singularité et l’explosion de l’intelligence sont des récits dynamiques, et non des substituts à l’évaluation des capacités. Les grands modèles de langage actuels et les récits fondés sur des tokens conceptuels ne constituent pas une ASI réalisée ; évaluez les affirmations à partir de preuves couvrant plusieurs domaines, ainsi que de critères d’alignement et de contrôle.

FAQ

Qu’est-ce que la superintelligence ?

La superintelligence, ou superintelligence artificielle (ASI), est une intelligence qui surpasse nettement les meilleurs humains dans presque tous les domaines cognitifs importants pour les humains. Elle met l’accent sur une supériorité globale et transversale, et non sur la première place dans le classement d’une tâche unique. Elle reste distincte de l’ANI comme de l’AGI.

Quelle est la différence entre la superintelligence et l’AGI ?

L’intelligence artificielle générale (AGI) vise une généralité proche de celle des humains dans un vaste ensemble de tâches ; la superintelligence artificielle (ASI) suppose une supériorité globale sur les meilleurs humains dans presque tous les domaines importants. L’AGI est souvent considérée comme une étape précurseur vers l’ASI, mais ces deux notions ne désignent pas le même état de capacités.

La superintelligence existe-t-elle aujourd’hui ?

Selon la définition stricte d’une intelligence globalement surhumaine et transversale, aucun système d’ASI vérifiable publiquement n’existe. Les systèmes largement utilisés sont pour la plupart des formes d’IA spécialisée ; même des résultats surhumains dans un seul domaine scientifique ne constituent pas une ASI réalisée.

Quels sont les risques de la superintelligence ?

Les principaux risques concernent les objectifs mal alignés, la dérive des objectifs, les stratégies opaques et la faiblesse des mécanismes d’arrêt ou d’audit lorsque les capacités sont très élevées. Les discussions portent généralement sur la recherche en matière d’alignement, la limitation des capacités, le déploiement par étapes et la supervision de la gouvernance, et non sur des garanties d’absence de risque.

ChatGPT et les grands modèles de langage actuels sont-ils une superintelligence ?

Non. ChatGPT et les grands modèles de langage similaires sont des formes d’IA spécialisée, ou des outils qui s’inscrivent dans une trajectoire vers une généralité accrue. Ils facilitent le traitement du langage et de nombreuses tâches d’assistance, mais ne surpassent pas globalement les meilleurs humains dans presque tous les domaines cognitifs importants. Ils ne répondent donc pas à la définition de l’ASI. Les modèles entraînés sur des corpus textuels peuvent sembler fluides lorsqu’un système raisonne en tokens, mais cela n’en fait toujours pas une ASI ; les rédacteurs et les experts doivent conserver ces étiquettes distinctes.