« Désarmer » l’intelligence artificielle (IA) pour « l’empêcher de dominer l’humain ». Le Pape Léon XIV a lancé un puissant appel à encadrer et réguler les algorithmes et dénoncé les « nouvelles formes d’esclavage » derrière leur essor fulgurant. Dans « Magnifica Humanitas » (Humanité magnifique), un texte de 130 pages à la tonalité profondément sociale publié ce lundi par le Vatican, le pape américain répond à une multitude de défis de notre époque. En se posant en défenseur de la dignité humaine à l’ère de la révolution numérique, il évoque écologie, crise du multilatéralisme, monopoles économiques.
Dans cette encyclique très attendue, lettre adressée à l’ensemble des fidèles, fixant une position de référence sur des questions sociales, morales ou théologiques, Léon XIV appelle à dépasser le concept de « guerre juste » invoqué notamment par l’administration américaine de Donald Trump et dénonce la délégation de décisions létales à la technologie. Signe de l’importance accordée à ce manifeste, il a participé lui-même à sa présentation, une première, aux côtés de hauts responsables du Saint-Siège et d’experts de l’IA, dont le cofondateur de la start-up américaine Anthropic, Christopher Olah.
Nouvelles formes d’esclavage
L’IA ne pouvant « être considérée comme moralement neutre », il convient de la « désarmer » pour « l’empêcher de dominer l’humain », avance le pape augustinien, qui insiste sur la nécessité d’un code éthique commun sur l’IA ainsi que sur le rôle crucial de l’éducation pour apprendre à en maîtriser les risques. Aujourd’hui, « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques » qui « fixent les conditions d’accès, les règles de visibilité et les possibilités de participation », regrette-t-il.
Citant Platon, JRR Tolkien, Picasso ou encore Beethoven pour leur contribution à lutter contre la déshumanisation, le pape américain fustige aussi « les nouvelles formes d’esclavage » nées pour extraire les ressources nécessaires à l’utilisation de l’intelligence artificielle (IA) et appelle à « des solutions technologiques plus durables afin de réduire l’impact sur l’environnement ». « Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s’interrompe pas », dénonce-t-il.
Alphabétisation numérique
L’évêque de Rome en profite pour demander « sincèrement pardon » pour le retard avec lequel l’Église a condamné « le fléau de l’esclavage » au cours de l’Histoire, reconnaissant pour la première fois le rôle direct du Saint-Siège dans sa légitimation. Au-delà des enjeux technologiques, le pape s’inquiète d’un risque de « déshumanisation », mettant en garde contre une vision de l’humain réduit à ses performances ou à des données exploitées par les machines. Depuis son élection il y a un an, le premier pape nord-américain de l’Histoire a multiplié les avertissements face aux dangers de l’IA, en soulignant la nécessité d’une « alphabétisation numérique ».
Abordant la crise du multilatéralisme, le chef de l’Eglise catholique renouvelle sa condamnation de l’utilisation de l’IA dans le domaine militaire. « Aucun algorithme ne peut rendre la guerre moralement acceptable », écrit-il. Sans citer de nom, il réaffirme « le dépassement de la théorie de la +guerre juste+ trop souvent invoquée pour justifier n’importe quelle guerre », un concept défendu notamment par l’administration américaine de Donald Trump, regrettant que « l’humanité (soit) en train de glisser vers une culture violente de la puissance » qui normalise la guerre comme un « instrument de politique internationale ».
Ecoute et échanges
Ce manifeste s’inscrit dans la continuité de l’enseignement social de l’Eglise. Il a été signé le 15 mai, date du 135e anniversaire de Rerum Novarum (1891), encyclique de Léon XIII qui a posé les fondements de la doctrine sociale de l’Eglise face à la révolution industrielle. Le pape explique avoir tiré ce texte de « l’écoute », après avoir échangé avec des scientifiques, des ingénieurs, des responsables politiques, des parents et des enseignants « préoccupés » pour les jeunes générations.
« Nous avons besoin que davantage d’acteurs dans le monde, communautés religieuses, société civile, chercheurs, gouvernements, fassent ce que Sa Sainteté a fait ici : prendre cela au sérieux, regarder attentivement et orienter les événements dans une meilleure direction », a pour sa part déclaré Christopher Olah.
Textes et photo : AFP