«L’IA va provoquer des bouleversements d’une ampleur analogue à la révolution industrielle»

Delphine Allaire – Cité du Vatican

L’IA, objet d’un sommet rassemblant des personnalités influentes du secteur les 10 et 11 février à Paris. Co-présidée avec l’Inde, la rencontre internationale réunit plus d’un millier d’acteurs, du privé et de la société civile, pour définir les bases d’une gouvernance mondiale de l’IA. Le Saint-Siège, avancé sur le versant éthique du sujet depuis plusieurs années, y sera représenté par le nonce apostolique, Mgr Celestino Migliore, mardi 11 février.

Deux semaines auparavant, le 28 janvier, le dicastère pour la Culture et l'éducation, en collaboration avec celui pour la Doctrine de la foi, publiait une dense note remarquée. Intitulée Antiqua et Nova, elle explore en 35 pages la relation entre l'intelligence artificielle et l'intelligence humaine, les préoccupations éthiques et anthropologiques portées par le Pape, complétant son message pour la paix du 1er janvier 2024 et son allocution lors du G7 en Italie, le 14 juin 2024.

Mgr Carlo Maria Polvani, secrétaire du dicastère pour la Culture et l’éducation, a fait partie des rédacteurs d’Antiqua et Nova. Il en livre quelques clés de lecture, percevant l’enjeu existentiel et anthropologique majeur de cet outil.

Comment définiriez-vous l'ampleur de la révolution de l'intelligence artificielle et dès lors, la nécessité pour le Saint-Siège de s’en saisir?

Quand Machiavel écrit Le Prince, Érasme pense l’humanisme, l’Europe découvre l’Amérique, les Espagnols et les Portugais atteignent les Indes. La question est la suivante: les sociétés qui vivent un moment historique s’en rendent-elles compte? Nous sommes en plein dans ce moment. Nous pouvons comprendre ce que l'intelligence artificielle fera à notre planète et à l'homme en utilisant comme analogie ce que la révolution industrielle a fait à partir de l’an 1800. Nous sommes devant de très grands changements, comparables aux bouleversements sociologiques, anthropologiques, de la révolution industrielle. L'ordre de grandeur est plus difficile à prévoir: sera-t-il dix fois plus, 100 fois plus ou 1 000 fois plus grand?

Avec l’IA et les NBIC -nanotechnologies, biotechnologies, informatique et sciences cognitives-, la position la plus extrême consiste à penser que l'homme devient la première espèce de cette planète à devenir maître de son destin d'un point de vue évolutionnel. Raisonnablement, on ne peut pas le dire au-delà de cinquante ans. Mais en-deçà, ces cinquante prochaines années, nous devons nous attendre à des changements d’un très grand ordre de grandeur.

Dans ce contexte vertigineux, quelle parole de l'Église espérer? Dans quelle intention la longue note Antiqua et Nova a-t-elle été rédigée?

L’Église ne peut pas rester muette devant un phénomène d’une telle ampleur. D'abord, il ne faut ni diaboliser, ni idéaliser l'intelligence artificielle. Il faut en voir les dangers, mais aussi les côtés bénéfiques pour l'humanité. Il ne s'agit pas de perdre la tête et de passer ni du côté des défaitistes convaincus que la fin désastreuse de l’humanité approche, ni du côté des enthousiastes, affirmant que la race humaine va complètement changer. Il convient d'analyser le phénomène.

Nous savons que nous avons un outil très différent des autres, sans pareil dans l'histoire de l'humanité, car il a deux ou trois qualités qu'aucun autre n'a jamais eu. Il est universel: un quelconque problème pouvant se digitaliser en chiffres peut être mis à la disposition de l'intelligence artificielle qui peut le résoudre. Ces mêmes qualités d'universalité, d'application et de calcul en sont le danger, parce que seuls les problèmes qui peuvent être digitalisés -et au fur et à mesure de la numérisation, on interprète et on change le problème- vont être résolus d'une façon très efficace, pas nécessairement la bonne pour l'humanité.

Un bon exemple de ces deux faces de la même pièce: l'hôpital Cochin à Paris utilise l'intelligence artificielle pour détecter le cancer des glandes mammaires. Un incroyable nombre de vies ont ainsi été sauvées. Nous pouvons aussi imaginer que ce même outil, un jour, va être utilisé pour décider quelle femme va recevoir en premier les traitements sans qu'un être humain, sans qu’un médecin ne le décide. L'Église dit ceci: centralité de la personne humaine et attention aux plus faibles. Il ne faudrait pas que les inégalités soient exacerbées par l’IA. Malheureusement, la révolution industrielle à laquelle on se référait plus tôt a, certes, accru le niveau de vie général, mais a aussi provoqué des effets néfastes. Le phénomène de la révolution industrielle n'a pas été bien régulé, disons-le.

Si l’on applique ce raisonnement à l’IA, il y a donc danger à ne pas la réguler. Il faut faire des choix dès maintenant aux niveaux politique, anthropologique, philosophique et scientifique pour limiter ces effets dangereux dont le premier d’entre eux a maintes fois été souligné par le Pape: celui d’enlever à l'homme sa dignité de choisir et de se déterminer.

Comment répondre à la tentation de l'IA faite à l'homme de se croire son propre démiurge, et parfois concurrencer le projet divin?

Si vous lisez la première partie du document, on replace l'intelligence artificielle dans l'histoire de l'analyse de la rationalité et des intelligences dans la philosophie et l’anthropologie classiques. Il y a plusieurs sortes d'intelligences. Nous savons aujourd’hui au niveau scientifique que l'intelligence émotionnelle n'est pas la même que l’intellectuelle.

Il faut faire cette analyse car sans elle le risque prévaut de voir l’IA comme une réponse à tout et n’importe quoi. Or, ce n’est pas le cas. L’intelligence artificielle doit rester encadrée spécifiquement dans des objectifs décidés par l’homme. Le jour où l’humanité perd le contrôle des objectifs, perd le contrôle de l'outil, là surgit le danger.

Quelle relation homme-machine va se profiler et de quelle façon l'anthropologie chrétienne en sort-elle bouleversée?

Dans les années 1940, il y a déjà près de cent ans, Georges Bernanos expliquait dans Révolution et liberté que le problème n’est pas qu’il y a plus de machines, mais toujours plus d'hommes qui ne désirent que ce que les machines peuvent donner. La technologie en soi devient un problème à partir de la manière dont l'homme interprète ce qu'elle est et de comment il va l'utiliser. Le problème supplémentaire de l'intelligence artificielle par rapport à d'autres outils comme la télévision, la radio ou les autres développements technologiques, c'est qu’elle marche toute seule. Contrairement à une radio ou une télé que je dois éteindre ou allumer, l’intelligence artificielle une fois qu'elle a été programmée pour résoudre un problème, elle va continuer à le faire et non seulement elle va continuer à le faire mais va devenir toujours plus apte à le faire, parce qu'elle va avoir emmagasiné plus de détails et plus de données. Son logiciel fonctionnera mieux. Et donc le danger, c'est qu'elle ait pratiquement une vie indépendante de notre volonté.

Quels sont les dangers de l'IA pour la foi? Va-t-elle altérer notre rapport à Dieu, Verbe fait chair?

La manière dont l'intelligence artificielle pourrait toucher les questions de foi, c'est qu'elle change notre anthropologie, la façon dont l’on se conçoit comme chrétien, et surtout comme catholique, parce que c'est quelque chose qui distingue les catholiques par rapport à d'autres dénominations chrétiennes: nous voyons toujours dans la nature un réceptacle de la grâce.

Il n'y a jamais d'opposition entre la grâce et la nature pour nous, sauf le péché. S'il y a un outil qui change la façon dont nous concevons notre nature humaine, par conséquent, il y a aussi un danger que l'on conçoive différemment la grâce, et le rapport entre la grâce et la nature. Ce sont des concepts très classiques. On revient à Aristote, à saint Thomas. Rien de nouveau sous le soleil. Seulement ni saint Thomas, ni Aristote ne pouvait imaginer qu'il y ait une machine telle qu'elle pousse l'homme à croire qu'il est différent.

Je prends un exemple extrême, celui de ceux qui croient dans le transhumanisme. Ils pensent que l'homo sapiens est simplement une bête comme les autres, une espèce comme les autres, et que l'intelligence artificielle nous aidera à devenir un autre homo, un surhomme. Cela évidemment serait détruire l'humain. Ce serait nier que c'est l'humain comme humain qui a eu le privilège de voir son Dieu s'incarner en un homme.

Nous sommes dans une Année jubilaire. Comment relier l'intelligence artificielle à l'espérance? Son usage pourrait-il aider à nous rendre meilleurs?

L'intelligence artificielle est l’un des problèmes les plus complexes que nous devrons gérer dans le futur. Nous devons avoir l'espérance que les êtres humains sauront faire face aux défis. Le Saint-Père en est convaincu. L’Église en est convaincue. Il ne faut pas désespérer, nous avons une opportunité extraordinaire. Nous pouvons faire énormément de bien. Nous devons avoir l'espoir que cet instrument sera bien utilisé. Il y aura certainement des moments où l’on fera des erreurs, cela l'humanité l'a toujours fait, mais ça ne veut pas dire qu'il faut désespérer et penser à un espèce d'Armageddon. Pas du tout. L'espérance nous communique cette paix de l'âme que l'homme à la fin triomphera et utilisera bien cet outil.

Quelle est la juste place de l'intelligence artificielle dans notre civilisation?

Toutes sortes d'applications sont possibles pour que les hommes soient meilleurs. Par exemple, au lieu de créer des inégalités sur le plan social, l'intelligence artificielle peut être un outil incroyable pour réduire les inégalités. Dans le domaine de l'éducation, l'intelligence artificielle peut être utilisée d'une façon extraordinaire, tout comme très mauvaise. D’ailleurs beaucoup d’élèves en profitent, faisant écrire leurs dissertations en trois minutes. Mais le côté positif peut être très utile: simplement par le fait qu'à l'autre bout du monde, même des gens qui n'ont pas accès à une bibliothèque, qui n'ont rien, peuvent trouver toute sorte de données.

Il y a un aspect de démocratisation du savoir. C'est pour ça que les chrétiens doivent participer à l'intelligence artificielle, doivent être là parce que cet instrument accumule des données et il ne faut pas qu'il accumule seulement certaines catégories de données.

Il faut que la connaissance collective disponible à travers les instruments comme l’intelligence artificielle, soit vraiment représentative. Et le Pape l'a déjà dit aussi des peuples autochtones, aussi des cultures indigènes. Si l’on avait eu l'intelligence artificielle il y a 500 ans, on aurait pu sauver les langues au Mexique, au Brésil, en Amazonie, on peut faire des choses extraordinaires. Le potentiel de faire du bien est exceptionnel, aussi du point de vue culturel. L’humanité peut le faire. Nous sommes confiants.

Quels usages de l'IA préconiser pour le Saint-Siège, à l’intérieur des murs léonins et de ses dépendances extraterritoriales?

L'Église catholique avec ses structures centralisées est l’une des religions qui a à sa disposition un nombre de données extraordinaires. Pensez à l'annuaire statistique que la Secrétairerie d'État produit, par exemple. On a toutes sortes de statistiques sur combien il y a de sœurs dans un diocèse, combien il y a de laïcs dans un diocèse. Nous aussi, au dicastère pour la Culture et l’éducation, nous avons beaucoup de données digitalisées.

Sans parler de toutes sortes de choses qu'on peut faire pour rendre le travail plus efficace, rendre la pastorale plus efficace, penser à des zones peut-être isolées. Je pense à des zones dans des pays où les gens ne peuvent pas nécessairement se déplacer parce que les routes ne sont pas bonnes. Par exemple, une catéchèse qui est donnée dans un endroit peut être diffusée facilement, et déjà ça se fait à 100, 200 kilomètres de distance. Cela permet aux catéchistes de poser des questions à ceux qui reçoivent la catéchèse, d'apprendre. La diffusion de la Parole de Dieu est beaucoup plus facile avec des systèmes d'intelligence artificielle, que sans eux.