François met en garde contre les conséquences pour la paix de l'IA

Lisa Zengarini – Cité du Vatican

Les nouvelles technologies doivent toujours être orientées vers «la recherche de la paix et du bien commun, au service du développement intégral des individus et des communautés». Dans son message annuel pour la Journée mondiale de la paix, le Pape François exhorte les dirigeants du monde à garantir que les progrès dans le développement de l’intelligence artificielle servent «la cause de la fraternité humaine et de la paix».

Le message publié, ce jeudi 14 décembre, à l'occasion de la 57e Journée mondiale de la paix et à l'approche du 1er janvier 2024, est entièrement consacré à l’IA, et est intitulé “Intelligence artificielle et paix“.

Ambivalence inhérente aux avancées techno-scientifiques

François attire l'attention sur la «dimension éthique» de ces nouvelles technologies qui révolutionnent l'humanité dans toutes les sphères de la vie, soulignant l'ambivalence inhérente à tout progrès scientifique et technologique.

D’une part, dit-il, cela peut conduire à l’amélioration de l’humanité et à la transformation du monde si «il contribue à un meilleur ordonnancement de la société humaine, à l’accroissement de la liberté et de la communion fraternelle»; d’un autre côté, les progrès technoscientifiques, notamment dans la sphère numérique, «mettent entre les mains de l’homme un vaste éventail de possibilités, dont certaines peuvent constituer un risque pour la survie de l’humanité et un danger pour la maison commune».

Aucune innovation technologique n’est «neutre»

Le message rappelle qu'aucune recherche scientifique et innovation technologique n'est «neutre»: «En tant qu’activités pleinement humaines, les orientations qu’elles prennent reflètent des choix conditionnés par des valeurs personnelles, sociales et culturelles propres à chaque époque. Il en va de même pour les résultats obtenus: précisément parce qu’ils sont le fruit d’approches spécifiquement humaines du monde qui les entoure, ils ont toujours une dimension éthique, étroitement liée aux décisions de ceux qui conçoivent l’expérimentation et orientent la production vers des objectifs particuliers».

Cela s’applique également aux différentes formes d’intelligence artificielle, car «leur impact, quelle que soit la technologie sous-jacente, dépend non seulement de leur conception, mais aussi des objectifs et des intérêts de ceux qui les possèdent et de ceux qui les développent, ainsi que des situations dans lesquelles ils sont utilisés».

Par conséquent, «nous ne pouvons pas supposer à priori que son développement contribuera de manière bénéfique à l'avenir de l'humanité et à la paix entre les peuples. Un tel résultat positif ne sera possible que si nous nous montrons capables d'agir de manière responsable et de respecter les valeurs humaines fondamentales telles que “l’inclusion, la transparence, la sécurité, l’équité, la confidentialité et la fiabilité”», écrit le Pape.

Questions éthiques

D’où la nécessité de renforcer ou, si nécessaire, de créer des organismes «pour examiner les questions éthiques émergentes et protéger les droits de ceux qui utilisent les formes d’intelligence artificielle ou sont influencés par elles».

«Les développements technologiques qui ne conduisent pas à une amélioration de la qualité de vie de l'ensemble de l'humanité, mais qui au contraire exacerbent les inégalités et les conflits, ne pourront jamais être considérés comme un véritable progrès», déclare le Pape.

Le message poursuit en soulignant les nombreux défis «anthropologiques, éducatifs, sociaux et politiques» posés par l’IA.

Risques pour les sociétés démocratiques

La capacité de certains appareils à produire des textes cohérents, par exemple, «n’est pas une garantie de leur fiabilité». Cela, dit le Pape, «pose un sérieux problème lorsque l’intelligence artificielle est utilisée dans des campagnes de désinformation qui diffusent des nouvelles fausses et entraînent une méfiance croissante à l’égard des moyens de communication».

L’utilisation abusive de ces technologies peut également avoir d’autres conséquences négatives «telles que la discrimination, l’ingérence dans les processus électoraux, la mise en place d’une société qui surveille et contrôle les personnes, l’exclusion numérique et l’exacerbation d’un individualisme de plus en plus déconnecté de la collectivité», autant de menaces pour la paix mondiale.

Le Souverain pontife met ensuite en garde contre les risques pour les sociétés démocratiques et la coexistence pacifique. Le paradigme technocratique dominant derrière l'IA, «marqué par une présomption prométhéenne d’autosuffisance», pousse l’être humain, «pensant dépasser toutes les limites grâce à la technique», à courir le risque, «dans l’obsession de vouloir tout contrôler, de perdre le contrôle de lui-même».

Algorithmes et droits de l’homme

Le Saint-Père insiste sur les «graves» questions éthiques posées par l’IA, notamment la discrimination, la manipulation ou le contrôle social: «Le recours à des processus automatiques qui catégorisent les individus, par exemple par l’utilisation généralisée de la surveillance ou l’adoption de systèmes de crédit social, pourrait également avoir de profondes répercussions sur le tissu de la société, établissant des classements inappropriés entre les citoyens».

«Il ne faut pas permettre aux algorithmes de déterminer la manière dont nous entendons les droits humains, de mettre de côté les valeurs essentielles de compassion, de miséricorde et de pardon», met en garde le Pape, soulignant également l’impact des nouvelles technologies sur le lieu de travail.

Armes et intelligence artificielle

L’évêque de Rome se dit particulièrement préoccupé par «la possibilité de mener des opérations militaires à travers des systèmes de contrôle à distance», citant notamment les systèmes d’armes létales autonomes (LAWS), attirant l’attention sur le risque que des armes sophistiquées finissent entre les mains de terroristes.

Sur un plan plus positif, François note que l'intelligence artificielle peut être utilisée pour promouvoir le développement humain intégral, en introduisant «d’importantes innovations dans l’agriculture, dans l’éducation et dans la culture, une amélioration du niveau de vie de nations et de peuples entiers, la croissance de la fraternité humaine et de l’amitié sociale».

Les défis de l'éducation

Le message poursuit en soulignant les défis posés par l’IA à l’éducation des nouvelles générations qui grandissent «dans des environnements culturels imprégnés par la technologie».

À cet égard, le Pape souligne la nécessité urgente d'éduquer les jeunes à l'utilisation de l'intelligence artificielle. Cette éducation, dit-il, «devrait viser avant tout à promouvoir la pensée critique».

Un traité international pour réglementer l’IA

Le successeur de Pierre exhorte la communauté mondiale des nations à travailler ensemble afin d'adopter un traité international contraignant qui réglemente le développement et l'utilisation de l'intelligence artificielle sous ses nombreuses formes: «La portée mondiale» de l’IA montre clairement «qu’à côté de la responsabilité des États souverains de réglementer son utilisation interne, les organisations internationales peuvent jouer un rôle décisif dans la conclusion d’accords multilatéraux et dans la coordination de leur application et de leur mise en œuvre».

«Ma prière au début de l’année nouvelle – conclut le message – est que le développement rapide de formes d’intelligence artificielle n’augmente pas les trop nombreuses inégalités et injustices déjà présentes dans le monde, mais contribue à mettre fin aux guerres et aux conflits, et à soulager les nombreuses formes de souffrance qui affligent la famille humaine».