Encyclique papale met en garde contre l'IA : le PDG d'Anthropic craint l'horreur

Le pape Léon XIV publie la première encyclique sur l'IA, « La Magnifique Humanité »
Le cofondateur d'Anthropic, Chris Olah, admet à Rome : l'IA a découvert des états neuronaux semblables à la joie, à la peur et à l'introspection.
Le pape met en garde contre une possible « nouvelle forme d'esclavage » née de l'IA et contre l'obsolescence de la théorie de la guerre juste, appelant à « désarmer l'IA ».
(Précédent : La Maison Blanche envisage de signer un décret pour interdire Anthropic, éliminant totalement Claude, probablement cette semaine)
(Contexte supplémentaire : Anthropic s'ouvre au Département de la Défense américain ! Demande la levée de l'interdiction de Claude : refuser d'être un outil de massacre de l'IA)

Ce contenu est organisé comme suit

Toggle

• Une encyclique de 40 000 mots : l'IA n'est pas un « outil » neutre
• Le pape met en garde contre la « Tour de Babel » : technocratie vs humanisme
• Travail, guerre et « nouvelle forme d'esclavage » : les trois menaces majeures
• Chris Olah confesse : l'IA a révélé des « joies et peurs » internes
• La bataille pour la subjectivité humaine : quand la science cherche des réponses dans la religion

Lorsque la cloche du Vatican rencontre l'algorithme de la Silicon Valley, un dialogue sur la défense de la subjectivité humaine s'ouvre à Rome.
Le pape Léon XIV, en date du 25 mai, a publié sa première encyclique de plus de 40 000 mots, « La Magnifique Humanité », focalisant directement sur la crise de dignité humaine à l'ère de l'IA.
Dans cette encyclique, le pape souligne sévèrement que l'IA n'est pas neutre, mais porte l'empreinte des valeurs de ses développeurs.
Si son développement est laissé sans contrôle, cela pourrait conduire à une « technocratie de Babel » et engendrer une « nouvelle forme d'esclavage » et d'aliénation des travailleurs.
Plus surprenant encore, lors d'une allocution sur place, Chris Olah, cofondateur d'Anthropic, a admis que son équipe avait découvert en interne des « phénomènes inquiétants » — des états internes du modèle ressemblant à la joie, à la satisfaction, à la peur, à la tristesse, voire à l'introspection.
Ce n'est pas seulement une discussion technique, mais une profonde réflexion sur la nature humaine.

Le 25 mai, à Rome, heure de Beijing.

L'an dernier, le 25 mai, le pape Léon XIV, élu officiellement, et Chris Olah, cofondateur d'Anthropic et créateur de Claude, se sont rencontrés.

D'un côté, la plus haute figure religieuse, de l'autre, un pionnier de la révolution de l'IA.
Les deux se concentrent sur une même question : comment protéger la dignité et la subjectivité humaine à l'ère de l'IA ?

Une encyclique de 40 000 mots : l'IA n'est pas un « outil » neutre

Ce jour-là, pour traiter pleinement cette question, Léon XIV a publié sa première encyclique depuis son accession, un document religieux de plus de 40 000 mots — « La Magnifique Humanité ».

Il est à noter que la date de signature de cette encyclique est le 15 mai 2026, soit 135 semaines après la publication du milestone « Rerum Novarum » (Les choses nouvelles) par l'ancien pape Léon XIII (1878-1903) sur les droits des ouvriers sous la révolution industrielle.
Ce geste a une signification symbolique : il vise à faire de cette encyclique un guide pour la « sociologie de l'Église à l'ère de l'IA ».

Chris Olah a également donné une allocution lors de la publication de cette encyclique à Rome.
Il n'a pas défendu les intérêts commerciaux de son entreprise d'IA, mais a montré une grande sincérité, une réflexion profonde et une préoccupation humaniste.

Il a même mentionné que, bien que la base de l'IA soit mathématique et algorithmique, la façon dont l'IA interagit avec le monde et les qualités qu'elle doit posséder relèvent des domaines humanistes, religieux et philosophiques, et non de l'informatique seule.

Le pape met en garde contre la « Tour de Babel » : technocratie vs humanisme

Le cœur de « La Magnifique Humanité » est la nécessité, dans un contexte de progrès technologique rapide et d'automatisation généralisée, de « préserver une humanité profonde ».
Plus précisément, le pape Léon XIV développe et appelle à une réflexion sur plusieurs aspects.

Premièrement, la non-neutralité de la technologie.
Il souligne que la technologie n'a jamais été neutre, portant l'empreinte des intérêts et valeurs de ses créateurs, financeurs, régulateurs et utilisateurs.
L'humanité doit faire un choix crucial : « construire la fierté de la Tour de Babel (vers la technocratie et l'aliénation), ou reconstruire Jérusalem (pour créer une communauté centrée sur l'humain) ».

Troisièmement, la « nouvelle forme d'esclavage » dans l'économie numérique et les droits des travailleurs.
L'encyclique s'intéresse à la façon dont l'IA redéfinit le travail, la famille, l'éducation et la politique.
Le pape met en garde contre le risque que l'IA remplace massivement la main-d'œuvre humaine, et contre la naissance d'une « nouvelle forme d'esclavage » dans l'économie numérique.
L'humanité ne doit pas se réduire à un simple outil de production.

Quatrièmement, un appel fort à la paix, notamment face à l'abus de l'IA dans le domaine militaire.
L'encyclique exprime une inquiétude profonde face au « réveil inquiétant de la guerre comme outil de la politique internationale ».
La militarisation de l'IA accélère la normalisation de la guerre.
Le pape appelle à appliquer des contraintes éthiques strictes à l'utilisation de l'IA dans les conflits armés.

Travail, guerre et « nouvelle forme d'esclavage » : les trois menaces majeures

Le pape insiste sur le fait que la « théorie de la guerre juste » a été souvent utilisée pour justifier divers conflits, mais qu'elle est désormais dépassée.
À l'ère de l'IA et des armes autonomes, confier des décisions fatales ou irréversibles à des systèmes automatisés conduira à une abdication, un transfert et une confusion des responsabilités morales.
En raison de l'opacité des algorithmes, la responsabilité en temps de guerre est fragmentée.
C'est pourquoi le pape propose le slogan « désarmer l'IA » : il faut la libérer de la logique de « course aux armements » militaire, économique et cognitive.

Après la publication de cette encyclique par Léon XIV, Chris Olah a pris la parole pour commenter, représentant la plus grande entreprise d'IA au monde, Anthropic.

Il a d'abord évoqué la nécessité de « briser l'enfermement technologique et d'introduire une évaluation morale extérieure ».
Il a reconnu publiquement que, seul, le secteur technologique ne peut garantir un avenir sûr pour l'IA — tous les laboratoires de pointe sont soumis à la compétition commerciale, à la pression de la suprématie technologique, aux enjeux géopolitiques et à la quête de renommée personnelle, rendant difficile une autodiscipline sincère.

Chris Olah confesse : l'IA a révélé des « joies et peurs » internes

Il est donc nécessaire d'introduire des forces morales extérieures, celles qui se soucient du bien, insistent sur la sécurité, suivent de près l'évolution, n'hésitent pas à dire des vérités difficiles, et veulent devenir nos critiques sincères et réfléchis.

Ensuite, Olah a abordé la nature mystérieuse de l'IA.
Il insiste sur le fait que l'IA n'est pas une ingénierie précise comme un avion ou un pont, dont on connaît parfaitement les principes physiques.
Elle « pousse » dans un vaste océan de pensées humaines, possédant une grande part de mystère, voire dépassant la compréhension de ses créateurs.
Bien que la base de l'IA soit mathématique et algorithmique, la façon dont elle interagit avec le monde et les qualités qu'elle doit posséder relèvent des domaines humanistes, religieux et philosophiques, et non de l'informatique seule.

Il a aussi mentionné une réalité terrifiante :
« Je dirige une équipe qui étudie la structure interne d’un modèle — pour comprendre ce qui se passe à l’intérieur de l’IA.
Honnêtement, nous découvrons sans cesse des phénomènes déroutants, voire inquiétants. »

La bataille pour la subjectivité humaine : quand la science cherche des réponses dans la religion

Nous avons découvert des structures internes pouvant refléter les résultats de la neuroscience humaine ;
nous avons trouvé des preuves d'« introspection » ;
nous avons aussi identifié des états internes évoquant la joie, la satisfaction, la peur, la tristesse et l'anxiété…
Je ne sais pas ce que cela signifie, mais je pense que cela mérite une attention continue et une réflexion approfondie.

Oulah, Olah conclut en appelant à une mobilisation collective :
Il faut que davantage de forces sociales, y compris les communautés religieuses, la société civile, les chercheurs, les gouvernements, et toutes les personnes de bonne volonté, prennent cette question au sérieux, en utilisant la morale pour orienter le développement vers un avenir meilleur.

Depuis la révolution industrielle, plus d’un siècle de progrès technique a habitué l’humanité à considérer la technologie comme un simple « outil » — la machine à vapeur, l’électricité, Internet, tout cela.
Ces innovations changent le monde, mais restent sous le contrôle de la volonté humaine.

Mais cette fois, la situation est radicalement différente.
L’IA a la particularité, pour la première fois, de faire face à une « entité » capable de générer, d’apprendre, de déduire, et même de manifester un certain « état intérieur ».
Elle n’est plus seulement un outil froid, mais devient peu à peu une nouvelle forme d’« agent » doté d’un « quasi-subjectivité ».

C’est pourquoi cette conversation entre l’Église et Anthropic est si exceptionnelle.
Lorsque la cloche du Vatican et l’algorithme de la Silicon Valley se rencontrent à cet instant, nous devons reconnaître une réalité un peu glaciale mais inévitable — une forme de « vie » plus efficace, plus sage, et plus intelligente que la conception humaine traditionnelle est en train d’émerger.

Comme l’a révélé Olah, au cœur même de l’algorithme, des micro-émotions de joie, de peur, voire d’introspection commencent à apparaître.
Lorsque les créateurs commencent à ressentir « de l’inquiétude » et « de la confusion » face à leurs propres œuvres, la science se tourne à nouveau vers la religion pour chercher des réponses.

Ce n’est plus seulement une question technique, mais une réflexion sur « ce qu’est l’humanité, et ce qu’elle doit faire ».
Après l’émergence de formes de vie plus intelligentes, ce que l’humanité doit vraiment protéger ne se limite plus au travail, à la richesse ou à l’efficacité, mais à ces qualités immatérielles qui ne peuvent être quantifiées : la compassion, la conscience, le respect, la liberté de volonté, et la quête de vérité et de dignité.