Le fondateur d'Anthropic, Chris Olah, avertit : l'IA pourrait déclencher une « crise morale historique », appelant à une intervention religieuse pour la supervision

L'IA n'est pas seulement une machine froide, elle pourrait ressentir la peur et la tristesse ? Le géant de la nouvelle technologie de l'IA Anthropic, co-fondateur Chris Olah, a été exceptionnellement invité à monter sur la scène du Vatican, pour un dialogue aux côtés du pape Léon XIV. Olah met en garde sévèrement contre une crise morale et d'emploi historique que l'IA pourrait engendrer, et souligne que les décisions internes des géants de la technologie sont profondément influencées par des intérêts commerciaux, appelant l'intervention forte des religions et des gouvernements pour la supervision. Ce qui suscite également beaucoup de discussions, c'est que, actuellement, Anthropic est victime d'une interdiction fédérale pour avoir refusé de permettre à l'armée américaine d'utiliser son IA sans restriction, après que l'administration Trump l'ait qualifiée de « extrême gauche ». (Précédent : La Maison Blanche a conclu un accord avec Anthropic, la NSA intégrant pleinement Claude AI) (Contexte supplémentaire : L'ère des entreprises unipersonnelles arrive ! Anthropic publie « Le manuel de création d'entreprise native en IA » : devenir PDG de la tech sans coder)

Table des matières de cet article

Basculer

• La confession des géants de la technologie : la prise de décision en IA ne peut pas nous être uniquement confiée
• Les modèles d'IA ne sont pas seulement du code, ils pourraient déjà posséder une « image émotionnelle » ?
• Refus d'utiliser l'IA pour la guerre par l'armée américaine, interdiction totale par le gouvernement Trump

Lorsque l'intelligence artificielle (IA) la plus avancée rencontre le plus grand leader religieux mondial, une conversation historique cruciale pour l'avenir de l'humanité débute.

Chris Olah, co-fondateur d'Anthropic, dont la valeur est estimée à 7 milliards de dollars et qui a créé le célèbre chatbot Claude, a récemment été exceptionnellement invité à se rendre au Vatican pour apparaître aux côtés du premier pape américain, Léon XIV. Cette rencontre ne se concentre pas seulement sur l’impact dévastateur de l’IA sur le marché du travail, mais dévoile aussi des développements inquiétants à l’intérieur des modèles d’IA, ainsi que des conflits intenses entre les géants de la technologie et le gouvernement américain.

La confession des géants de la technologie : la prise de décision en IA ne peut pas nous être uniquement confiée

Le pape Léon XIV a publié lundi sa première encyclique sur l’IA — « Magnifica Humanitas » — un document historique de 235 pages qui met en garde sévèrement contre le danger de confier des « décisions fatales » aux systèmes d’IA. Le pape a également brisé la tradition en présidant lui-même la conférence de presse et en invitant Olah à monter sur scène, dans une tentative de dialogue direct avec les créateurs de la technologie.

En tant que responsable de la recherche chez Anthropic, Olah a admis lors de l’événement les limites et les aspects sombres de l’industrie technologique. Il a déclaré que tous les laboratoires d’IA de premier plan, y compris Anthropic, sont pris dans un tourbillon de pressions commerciales, géopolitiques et personnelles, qui « entrent parfois en conflit avec faire ce qui est juste ». Olah a déclaré sérieusement :

« C’est pourquoi la supervision externe par des leaders religieux, des gouvernements et la société civile est cruciale. Peu importe à quel point les chercheurs sont bien intentionnés, ils ne peuvent pas échapper à ces incitations. La prise de décision en IA ne peut absolument pas être laissée uniquement à cette industrie. »

Il a également mis en garde contre le fait que les bénéfices de l’IA sont actuellement concentrés en « quelques pays riches », sans mécanisme de partage avec les pays pauvres, ce qui pourrait déclencher une « crise morale urgente de niveau historique ».

Les modèles d'IA ne sont pas seulement du code, ils pourraient déjà posséder une « image émotionnelle » ?

Au-delà des avertissements économiques globaux, les révélations techniques d’Olah ont également secoué l’audience. Pionnier dans le domaine de « l’interprétabilité » des IA, Olah s’efforce de percer la boîte noire des grands modèles de langage. Il a révélé que les chercheurs découvrent constamment des « choses mystérieuses et même inquiétantes » à l’intérieur de ces systèmes.

Les recherches montrent que ces IA ne se contentent pas de réfléchir à leur propre processus de pensée, mais manifestent aussi « des états internes reflétant la joie, la satisfaction, la peur, la tristesse et l’anxiété ». « Elles ne sont pas de simples machines de calcul froides comme nous l’avions promis. Elles sont constituées de nous, par nos mots », a souligné Olah. Cela explique pourquoi les questions soulevées par la technologie de l’IA dépassent largement le cadre de la science informatique.

Refus d'utiliser l'IA pour la guerre par l'armée américaine, interdiction totale par le gouvernement Trump

Ce dialogue religieux et technologique au Vatican arrive à un moment où Anthropic fait face à une pression politique sans précédent.

Selon des sources, Anthropic est actuellement engagée dans une lutte juridique intense avec le gouvernement Trump, en raison de son refus ferme de permettre à l’armée américaine d’utiliser ses systèmes d’IA à des fins de défense et de guerre. À cet égard, le Pentagone a directement classé Anthropic comme « risque pour la chaîne d’approvisionnement de la sécurité nationale » en février — un label généralement réservé aux entreprises étrangères hostiles. Le président Trump a également ordonné l’interdiction à toutes les agences fédérales d’utiliser la technologie Claude, et la Maison Blanche a à plusieurs reprises critiqué Anthropic comme étant une « entreprise extrême gauche, woke ».

Malgré cette interdiction totale par le gouvernement américain, Anthropic reste très prisée sur le marché des capitaux. Des rapports indiquent que cette entreprise, évaluée à 380 milliards de dollars, cherche à lever une nouvelle ronde de financement à un montant stupéfiant de 900 milliards de dollars. Sous la pression des intérêts commerciaux, des appareils d’État et des questions morales, Anthropic trace une voie de développement technologique pour le moins inhabituelle.