Si ChatGPT a conscience, alors les chèvres d'Age of Empires 2 aussi ! Les scientifiques de Microsoft ont même créé GoatGPT.

Un chercheur de Microsoft a utilisé le mécanisme de déclenchement des chèvres dans Age of Empires 2 pour construire un réseau neuronal, prouvant ainsi que des modèles comme ChatGPT n'ont pas de conscience, leurs traits anthropomorphiques n'étant qu'une illusion cognitive due à l'interface textuelle et au marketing commercial.

L'IA a-t-elle vraiment une conscience ?

Si vous pensez que les actuels ChatGPT, Claude ont une conscience, alors les chèvres d'Age of Empires 2 en ont aussi.

Avec la popularisation des grands modèles de langage (LLM), on voit souvent des affirmations sur la conscience de l'IA, ce qui suscite une réflexion profonde chez les auteurs de science-fiction et les chercheurs de première ligne.

L'auteur de science-fiction Ted Chiang a écrit que croire aveuglément qu'un modèle de langage a une conscience revient à croire qu'à chaque ouverture d'un fichier Microsoft Word, on réveille plusieurs individus cachés dans les enregistrements de dialogue.

Pour briser cette bulle cognitive, un scientifique de Microsoft a décidé d'agir en construisant directement dans le jeu de stratégie en temps réel classique Age of Empires 2 un réseau de calcul avec la même logique sous-jacente, apportant un choc intellectuel de la manière la plus absurde.

Source : Capture d'écran du jeu par le rédacteur de Crypto City – Les chèvres d'Age of Empires 2

Construire un réseau neuronal avec les chèvres d'Age of Empires 2

Selon 404 Media, le scientifique en chef de Microsoft, Adrian de Wynter, a utilisé l'éditeur de cartes personnalisées d'Age of Empires 2 pour construire avec succès un réseau neuronal de base dans le jeu. Cette recherche a été publiée dans un article académique intitulé « Si les grands modèles de langage possèdent des traits humains, alors Age of Empires 2 en a aussi ».

Il a utilisé la fonction de déclenchement de scénario personnalisé du jeu, avec des éléments comme des murs en bois, des prairies, des ponts, et les chèvres du jeu comme médium de transmission de signaux, pour construire une porte NAND dans la logique de calcul.

Source : Article de recherche – Un scientifique de Microsoft construit un réseau neuronal avec les chèvres d'Age of Empires 2

Dans le fonctionnement du jeu, la prairie représente le chiffre 0, le pont représente le chiffre 1, et la chèvre joue le rôle d'un bit. Lorsque la porte logique est déclenchée, la chèvre servant de signal d'entrée est supprimée, et une nouvelle chèvre est générée sur la piste de sortie.

De cette manière, il a réalisé un perceptron à 1 bit dans le jeu, le bloc de construction le plus fondamental des réseaux neuronaux modernes, prouvant que ce jeu a le potentiel d'exécuter n'importe quel calcul théorique.

Les chèvres courent, mais la perception des traits humains disparaît

Wynter a déclaré dans une interview que le but de cette expérience était de montrer formellement que les humains anthropomorphisent trop facilement les choses, et que parfois les affirmations sur les capacités des grands modèles de langage sont exagérées.

Il souligne que ce réseau piloté par des chèvres est essentiellement identique à la technologie sous-jacente qui alimente des chatbots comme ChatGPT, Claude ou Copilot, la seule différence résidant dans la complexité et l'échelle.

Source : Article de recherche – Un scientifique de Microsoft construit un réseau neuronal avec les chèvres d'Age of Empires 2

L'expérience de Wynter met en évidence la relation contradictoire entre le substrat de calcul et la cognition humaine. La même logique de calcul, présentée dans un navigateur web ou un dialogue vocal, amène des entreprises comme Anthropic à affirmer que le modèle « possède une constitution » et ressent de l'anxiété.

Cependant, lorsque le même processus de calcul est transféré sur les prairies virtuelles du jeu, avec des chèvres courant dans des enclos pour présenter les résultats, la perception des traits humains par l'observateur disparaît complètement. Cela prouve que les traits anthropomorphiques de l'IA perçus par les gens dépendent largement de l'interface de dialogue textuel et des attentes psychologiques de l'observateur, la technologie sous-jacente elle-même n'ayant rien de mystérieux.

Le biais d'anthropomorphisme est courant dans la recherche scientifique

En fait, la tendance à anthropomorphiser la technologie est profondément enracinée dans le milieu académique, et elle a un impact avant même le début de la recherche.

En examinant plus de 300 articles en informatique publiés au cours des deux dernières années, Wynter a constaté que 57 % d'entre eux, dès la conception expérimentale, supposaient directement que les grands modèles de langage possédaient des traits humains comme l'anxiété ou la moralité, et les considéraient comme le sujet central de l'expérience.

Parmi ces études qui préétablissaient que les modèles possédaient des traits humains, jusqu'à 77 % des articles concluaient finalement à l'existence de ces traits. Cela reflète un sévère biais de confirmation : les chercheurs, en planifiant les expériences, en concevant les ensembles de tests et en interprétant les sorties en langage naturel, ont été perturbés par l'hypothèse initiale d'anthropomorphisme, influençant directement les conclusions scientifiques finales.

Il appelle la communauté scientifique à utiliser plutôt une hypothèse nulle sans traits humains pour mener des expériences, afin de voir la véritable nature de l'IA.

Tu penses que l'IA ressemble à un humain ? En réalité, tu as été lavé(e) ?

On dit souvent que l'IA hallucine, mais les humains ont aussi une hallucination de projection excessive sur l'IA, ce qui est étroitement lié à la psychologie du consommateur et aux stratégies commerciales des géants de l'IA.

Wynter mentionne que les recherches montrent que lorsque les consommateurs peuvent ressentir de l'empathie ou de la résonance avec un produit, ils sont plus enclins à dépenser de l'argent pour l'acheter, et cette règle se reflète dans les grille-pain, les smartphones et les services d'abonnement payant des grands modèles de langage.

Les géants de l'IA qui développent ces modèles n'ont pas empêché cette tendance à l'anthropomorphisme, et l'ont même guidée consciemment ou inconsciemment.

Par exemple, le PDG d'OpenAI, Sam Altman, a souvent suggéré que la création de grands modèles de langage est une voie vers une IA divine ; l'ancien administrateur et scientifique d'OpenAI, Ilya Sutskever, a également discuté avec des employés de considérer les modèles de l'entreprise comme des dieux conscients ; le PDG d'Anthropic, Dario Amodei, a déclaré aux médias qu'il ne pouvait pas déterminer si l'IA avait une conscience.

Ces discours commerciaux et ces techniques marketing, dans le cycle de la formulation des politiques, de la promotion des produits et de la perception des utilisateurs, maintiennent ensemble l'illusion que l'IA possède une conscience.

Lecture complémentaire :
Discussion entre Utada Hikaru et Harari : quand l'IA reproduit l'art, l'amour et la conscience, l'inspiration humaine a-t-elle encore de la valeur ?

Plus de 400 cas de préjudice liés à l'IA ! La BBC suit les personnes qui, en croyant trop à l'IA, développent un délire de persécution