L'Église appelle à désarmer l'IA pour protéger l'humanité de ses dangers

Le pape Benoît XIV a publié sa première encyclique, intitulée « La grande humanité » (Magnifica humanitas), dans laquelle il aborde la question de la protection de la dignité humaine à l’ère de l’intelligence artificielle (IA). Il appelle à « désarmer » l’intelligence artificielle, à protéger l’humanité des dangers qu’elle peut engendrer, et à éviter qu’elle ne domine. Il estime que l’intelligence artificielle doit devenir plus « humanisée », cette technologie devant se libérer du contrôle monopolistique et ne plus être utilisée pour obtenir des avantages géopolitiques ou commerciaux.

Le pape souligne que désarmer signifie nier l’hypothèse selon laquelle la puissance technologique confère automatiquement un pouvoir de domination, ce qui ne signifie pas rejeter la technologie, mais simplement empêcher qu’elle ne domine l’humanité.

Le pape ajoute que l’intelligence artificielle ne peut pas éliminer l’inhumanité inhérente aux conflits, mais qu’au contraire, elle pourrait accélérer leur déclenchement, les rendant plus froids et impitoyables. Il met en garde contre le fait que certains pourraient considérer les conflits armés comme un moyen efficace de détourner l’attention des problèmes internes, ou comme un outil cynique pour faire face aux crises.

Le pape rappelle que l’utilisation de la technologie informatique dans la guerre comporte des dangers, pouvant conduire à négliger la morale. Il insiste sur le fait qu’aucun algorithme ne peut rendre la guerre moralement acceptable.

L’encyclique du pape constitue une orientation morale face aux plus grands défis de notre époque.

Dans son discours suivant, le pape souligne la nécessité pour toutes les parties du monde, y compris les groupes religieux, la société civile, les universitaires et les gouvernements, de prendre cette question au sérieux, de l’examiner attentivement, et de promouvoir un développement vers un avenir meilleur. Il espère également que davantage de critiques éclairées pointeront les insuffisances des laboratoires, qu’un son moral doit guider, sans intervention de groupes d’intérêts.