Le Pape au G7: l’IA ne doit pas condamner l'humanité à dépendre des machines

Delphine Allaire – Cité du Vatican

Le gouvernement de l’Église catholique se saisit de l’outil technologique décisif de l’époque qu’est l’intelligence artificielle générative. Depuis plusieurs années déjà, à la tribune des Nations unies de Genève ou à la Casina Pio IV, siège des Académies pontificales des Sciences et des Sciences sociales, le Vatican affine sa vision de l'IA, mettant en garde contre certaines de ses frontières éthiques floues, plaidant résolument pour une "algoréthique", soit l'éthique en IA.

Ce vendredi, le Pape s'est pour la première fois exprimé devant les chefs d’États et de gouvernements du G7, réunis autour d'une grande table ovale entourée d'oliviers typiques de l'Italie méridionale. Assis entre le président français Emmanuel Macron et la présidente du Conseil italien Giorgia Meloni, le Souverain pontife argentin a d’emblée souligné aussi bien l’enthousiasme suscitée par l’IA, grâce au potentiel créatif des êtres humains -donné par Dieu- qu’elle révèle, que l’effroi perceptible à la vue des dangers inhérents à l’utilisation de cet outil extrêmement puissant, aussi «fascinant» que «redoutable».

L'IA n'est pas toujours orientée vers le bien

Une ambivalence signant une véritable «révolution cognitivo-industrielle» en cours, qui, selon François, contribuera manifestement à la création d’un nouveau système social caractérisé par de complexes transformations historiques: la démocratisation de l’accès au savoir, le progrès exponentiel de la recherche scientifique, la possibilité de confier des travaux pénibles à des machines; mais aussi une plus grande injustice entre pays riches et pays en voie de développement, classes sociales dominantes et classes sociales opprimées, compromettant la «culture de la rencontre» au profit d’une «culture du rejet».

Comme tout outil émanant de l’homo faber, il va de soi que bienfaits et méfaits de l’IA dépendront de son utilisation. Or, cet usage n’est pas toujours uniquement orienté vers le bien, déclare François, convaincu que ce n’est que si leur vocation au service de l’humain est garantie que les outils technologiques révèleront «non seulement la grandeur et la dignité unique de l’être humain, mais aussi le mandat qu’il a reçu de “cultiver et garder” (cf. Gn 2, 15) la planète et tous ses habitants».

Être humain signifie décider pas seulement choisir

De ce fait, il est manifeste selon le Pape que parler de technologie équivaut à parler «de ce que signifie être humain» et «de notre condition unique entre liberté et responsabilité, c’est-à-dire, parler d’éthique». En effet, l’évêque de Rome rappelle qu’un outil simple reste sous le contrôle de l’être humain qui l’utilise, à l’inverse de l’IA qui peut s’adapter de manière autonome à la tâche qui lui est assignée et, si elle est conçue de cette manière, faire des choix indépendants de l’être humain pour atteindre l’objectif fixé. Ainsi l’être humain décide dans son cœur, la machine elle choisit seulement parmi plusieurs possibilités sur des critères définis ou des déductions statistiques.

François insiste donc sur la nécessité de laisser toujours à l’être humain la décision, «même dans une tournure dramatique et urgente avec laquelle elle se présente parfois dans nos vies». «Nous condamnerions l’humanité à un avenir sans espoir si nous retirions aux gens la capacité de décider d’eux-mêmes et de leur vie, les condamnant à dépendre des choix des machines», a-t-il assuré, appelant «à garantir et protéger un espace de contrôle humain significatif sur le processus de choix des programmes d’intelligence artificielle», car «la dignité humaine elle-même» en dépend.

Le Successeur de Pierre de citer le cas concret des conflits armés pour lequel il devient urgent de repenser le développement et l’utilisation de dispositifs tels que les «armes autonomes létales» afin d’en interdire l’usage, en commençant déjà par un engagement dynamique et concret à introduire un contrôle humain de plus en plus significatif. «Aucune machine ne devrait jamais choisir d’ôter la vie à un être humain.»

Autre tentation déclenchée par la complexité de l’IA et identifiée par le Pape, celle de tirer à partir des solutions spécifiques qu’elle propose, des déductions générales, voire anthropologiques; lorsque l’outil est utilisé par des magistrats pour pronostiquer les probabilités de récidive, cela laisse à la machine le dernier mot sur le sort d’une personne et renvoie à la partialité inhérente aux catégories de données utilisées par l’intelligence artificielle. Or, le Pape rappelle que l’être humain évolue en permanence et se montre capable de surprendre par ses actes, chose que la machine ne peut pas prendre en compte.

Aucune innovation n’est neutre

«Oublier que l’intelligence artificielle n’est pas un autre être humain et qu’elle ne peut proposer de principes généraux, est souvent une grave erreur qui découle ou du besoin profond de l’être humain de trouver une forme stable de compagnie ou d’un présupposé inconscient de sa part, à savoir que les observations obtenues au moyen d’un mécanisme de calcul sont pourvues des qualités de certitude indiscutable et d’universalité irréfutable», a ajouté François considérant la méthode algorithmique sans objectivité ni neutralité aucune. «Puisque elle est basée sur l’algèbre, elle ne peut examiner que des réalités formulées en termes numériques.»

François constate ainsi qu’en réorganisant les contenus existants contribuant à les consolider, souvent sans vérifier s’ils contiennent des erreurs ou des idées préconçues, l’IA générative est plutôt «renforçatrice», et encourt le risque de légitimer les fausses nouvelles et de renforcer le poids d’une culture dominante, sans parler de «saper le processus éducatif» éludant toute réflexion authentique.

Pour une saine politique tournée vers le bien commun

Le risque est de substituer le paradigme technologique incarné par l’intelligence artificielle par le plus dangereux «paradigme technocratique» alors que nous devons, selon le Pape, faire de l’intelligence artificielle un rempart précisément contre son expansion.

À l’heure où le concept de dignité humaine s’amenuise et où le sens de l’humain tend à s’éclipser, le Souverain pontife regrette que même la catégorie fondamentale de l’Occident qu’est «la personne humaine» semble perdre de la valeur. Il exhorte à remettre la dignité de la personne «au centre d’une proposition éthique partagée» par une «saine politique». C’est le sens de la signature de l’Appel de Rome pour une IA éthique en 2020 et son soutien à cette forme de modération éthique des algorithmes et des programmes d’intelligence artificielle appelée «algoréthique». Il appartient donc à chacun d’en faire bon usage et à la politique de créer les conditions pour que cet usage soit possible et fécond, a-t-il conclu.