Intelligence artificielle: «Nous avons besoin d’une voix humaine comme celle de l’Église»

Entretien réalisé par Andrea Monda – Cité du Vatican

Le président de Microsoft et le Pape François se sont rencontrés mercredi 13 février pour échanger sur une approche éthique de l’intelligence artificielle. «Dans ce domaine, nous avons besoin d’une voix humaine, comme celle de l’Église, qui porte et fait autorité », a déclaré Brad Smith au Souverain pontife, plaidant pour «une éducation numérique».

Osservatore Romano: Quand il y a une crise de confiance globale, et celle en la politique n'est que l'exemple le plus évident, d'une part, la technologie est crainte, d'autre part, elle est perçue comme ce qui peut nous rendre plus humain. Selon vous, comment devrions-nous la considérer?

Brad Smith: La science et la technologie transcendent les confins locaux et touchent à la vie de presque tout le monde sur notre planète. À l'instar de la machine à vapeur à l'origine de la première révolution industrielle, les nouvelles technologies, telles que l'intelligence artificielle, modifient notre façon de travailler et de vivre. Et comme les chemins de fer fonctionnant avec les machines à vapeur, ces nouvelles inventions devront être gérées et réglementées par les entreprises. Toute nouvelle technologie ayant un impact social considérable nécessitera de nouvelles lois. Même un balai peut être utilisé pour balayer le sol ou pour frapper la tête de quelqu'un. Plus l'instrument est puissant, plus les avantages ou les dommages qu'il peut causer sont importants. 

Microsoft Word est l’un des outils les plus répandus. Word est souvent utilisé par des écrivains engagés à promouvoir les plus hautes aspirations du monde. Mais il ne fait aucun doute qu'il y a des moments plus sombres lorsque des acteurs moins fervents l'utilisent pour des écrits beaucoup moins nobles. L'intelligence artificielle aura un impact sur tous les domaines de la société et ne sera pas créée et utilisée uniquement par le secteur de la technologie. Par conséquent, le monde doit se réunir pour traiter ces problèmes avec un sens des responsabilités partagées.

Pour que cette transformation numérique ne soit pas «inhumaine», il est nécessaire qu’une alliance entre institutions, secteur privé et société civile, se développe. Quelles sont les limites mutuelles que le monde des affaires et la politique doivent respecter? Quelle est l'étendue de l'influence de la société civile?

Parce que la technologie évolue si rapidement, ceux d'entre nous qui créons l'intelligence artificielle, le Cloud et autres innovations, en savent peut-être plus que la plupart des gens sur le fonctionnement de ces technologies. Cela ne signifie pas nécessairement que nous savons comment aborder au mieux le rôle qu’elles devraient jouer dans la société. C'est pourquoi les membres du gouvernement, des universités, des entreprises, de la société civile et d'autres parties prenantes doivent s'unir pour contribuer à façonner cet avenir.

Pour aider à réduire le risque d'intrusion dans la vie privée, les gouvernements devraient soutenir et promouvoir le développement de techniques permettant aux systèmes d'utiliser des données personnelles, sans accéder aux identités des individus ni les connaître.

Ces transformations vont-elles tendre à créer un monde plus cohérent, à garantir la stabilité démocratique et une participation de plus en plus croissante «du bas», ou peuvent-elles plutôt créer les conditions d'une plus grande déchirure sociale?

Nous sommes conscients que plus une entreprise est grande, plus sa responsabilité de penser au monde, à ses habitants et à leurs opportunités à long terme, l’est aussi. Si la question de l'accès équitable n'est pas abordée, des populations entières seront exclues de la pleine participation à ce nouveau monde, créant ainsi le «déchirement social».

Comment diriger l'intelligence artificielle vers le bien commun?

La reconnaissance faciale, par exemple, soulève des questions cruciales pour la protection des droits fondamentaux de l'homme, tels que la vie privée et la liberté d'expression. Cette technologie nécessite que les secteurs public et privé se manifestent et agissent. C'est une question qui ne fait que commencer. Si nous n'agissons pas, nous risquons de nous réveiller dans cinq ans et de découvrir que les services de reconnaissance faciale se sont étendus de manière à aggraver les problèmes sociaux. Ensuite, ces défis deviendront beaucoup plus difficiles à contrôler. Les entrepreneurs, les législateurs, les chercheurs, les universitaires et les représentants d'ONG doivent collaborer pour faire en sorte que les technologies basées sur l'intelligence artificielle soient conçues et développées de manière à gagner la confiance de ceux qui les utilisent, des individus dont les données sont collectées.

Revenons au message du Pape pour la Journée des Communications sociales. L'utilisation des réseaux sociaux est complémentaire aux rencontres en face à face. Si les réseaux sociaux peuvent être d’excellentes ressources, ils ne sont pas automatiquement synonymes de cohésion et d’inclusion, mais plutôt de discussions violentes et de déchirures sociales. Quelles sont les antidotes à ces dangers ?

L’éducation numérique. Nous sommes profondément attachés à la nécessité d’approfondir la formation des adolescents, des jeunes adultes, des parents, des éducateurs et des législateurs sur les conséquences, dans le monde réel, des interactions négatives sur le Web, qui peuvent inclure une perte de confiance en autrui, un stress accru, une privation de sommeil ou même des velléités suicidaires. Le défi de la civilisation numérique est l’occasion de sensibiliser, d’inciter les utilisateurs à être responsables de leur comportement en ligne et de servir de modèles aux autres.