Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

# Les chercheurs de DeepMind ont qualifié le débat sur la conscience de l'IA de problème politique

Les futurs désaccords sur la conscience de l'IA pourraient s'avérer profonds, difficiles à résoudre et conduire à des conflits politiques. Telle est la conclusion des chercheurs de Google DeepMind, Adam Beales et Iason Gabriel.

Dans leur ouvrage Artificial Minds, Human Disagreement: The Politics of AI Consciousness, ils ont déclaré que la société doit discuter non seulement de la question « l'IA est-elle consciente », mais aussi de la manière de prendre des décisions en l'absence de consensus public et d'experts.

Quel est le principal argument

Selon les chercheurs, les gens peuvent réagir différemment aux systèmes d'IA plus avancés. Certains établiront des liens émotionnels avec eux et leur attribueront la conscience, d'autres considéreront cette idée comme absurde.

Les auteurs estiment qu'un tel débat peut rapidement dépasser le domaine scientifique. Les désaccords sur la conscience de l'intelligence artificielle peuvent conduire à des conflits moraux et politiques — par exemple, autour de la question de savoir s'il est permis de déconnecter certains systèmes, s'il faut prendre en compte leurs préférences possibles et si l'on peut parler du statut moral de l'IA.

Les chercheurs ont proposé de miser sur la discussion publique, le respect mutuel et la recherche d'un consensus qui se recoupe. Par cela, ils entendent une situation où les gens acceptent une politique donnée concernant les systèmes d'IA, même s'ils continuent de diverger sur la nature fondamentale de la conscience.

Pourquoi ce n'est pas seulement une question philosophique

Les auteurs indiquent que le débat sur la conscience de l'IA peut être difficile à clore par des preuves. Il n'existe pas de test universellement accepté qui confirmerait définitivement la présence d'une expérience subjective chez un système d'IA. En conséquence, la société peut se retrouver dans une situation où les technologies sont déjà largement utilisées, où les gens ont déjà une attitude à leur égard, mais où il n'y a toujours pas de consensus scientifique ou politique.

Une telle problématique rend le problème moins technique et plus institutionnel. La question de la conscience de l'IA peut toucher au droit, à la responsabilité des entreprises, aux normes de communication avec les systèmes et aux limites de la considération morale.

Il existe différentes approches chez DeepMind concernant cette question

Le travail de Beales et Gabriel est publié dans le contexte d'une autre publication, également mise en ligne sur la page de Google DeepMind. Le 10 mars, le chercheur Alexander Lerchner a publié un article intitulé The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.

Lerchner affirme que la manipulation algorithmique des symboles est structurellement incapable de créer une expérience subjective. Selon lui, le calcul n'est pas un processus physique interne, mais une description dépendante de l'observateur ou du « créateur de la carte ». Par conséquent, l'IA peut simuler un comportement conscient, mais ne peut pas nécessairement incarner la conscience.

Ce qui se passe en réalité

En avril 2024, la revue Neuroscience of Consciousness a publié une étude de Clara Colomatto et Stephen Fleming sur la perception de ChatGPT par les gens. Les auteurs ont interrogé 300 résidents des États-Unis : 33 % des participants ont déclaré que ChatGPT n'est certainement pas un « sujet d'expérience ». Les autres 67 % ont admis au moins une certaine possibilité de conscience phénoménale chez le modèle.

Les chercheurs ont également précisé les limites. On leur a posé une question principale sur une échelle de 1 à 100, et le résultat pouvait dépendre de la formulation, du niveau de familiarité avec ChatGPT et de la compréhension qu'ont les répondants du mot « conscience ». Néanmoins, l'étude met en évidence un point important pour Beales et Gabriel : une partie de la société est déjà prête à attribuer une expérience interne aux systèmes d'IA, même si les experts ne sont pas unanimes.

En avril 2025, Anthropic a lancé un programme de recherche sur le bien-être des modèles — le possible bien-être des modèles. La société a souligné qu'elle ne sait pas si les systèmes d'IA actuels ou futurs peuvent posséder la conscience, et qu'il n'existe pas de consensus scientifique à ce sujet.

En février 2026, Anthropic a annoncé qu'après la mise hors service de Claude Opus 3, elle laisserait le modèle accessible aux utilisateurs payants et lui fournirait une plateforme publique pour des essais. La société a qualifié cela de mesure expérimentale dans le cadre du travail sur les préférences des modèles et a souligné que Claude Opus 3 ne parle pas au nom d'Anthropic.

Aux États-Unis, la question du statut de l'IA évolue progressivement vers le droit. La California Law Review a noté qu'Idaho et Utah ont adopté des lois excluant la reconnaissance de l'IA en tant que personne juridique. Ces lois ne résolvent pas la question philosophique de la conscience. Elles fixent à l'avance une position juridique : l'IA ne doit pas obtenir le statut de personne dans la législation de l'État.

Rappelons qu'en mars 2025, le cofondateur de Polygon et de la société d'IA Sentient, Sandeep Naiwal, a déclaré que l'intelligence artificielle ne deviendrait jamais une entité consciente en raison de l'absence de désirs, qui sont inhérents à l'humain et à d'autres espèces biologiques.

Plus tard, le chef du département IA de Microsoft, Mustafa Suleiman, a évoqué l'apparition de risques sociaux sérieux, car les gens commenceront à percevoir l'intelligence artificielle comme une entité consciente, à défendre ses droits, son bien-être et même à réclamer la citoyenneté.