Intelligence artificielle : même les algorithmes ont besoin d'éthique

Michele Raviart - Cité du Vatican

«Les décisions, même les plus importantes comme celles concernant le domaine médical, économique ou social, sont aujourd'hui le résultat de la volonté humaine et d'une série d’apports algorithmiques». «La vie humaine» se trouve donc «au point de convergence entre la contribution proprement humaine et le calcul automatique, de sorte qu'il est de plus en plus complexe de comprendre son objet, de prévoir ses effets, de définir ses responsabilités». Ce sont, pour MgrVincenzo Paglia, président de l'Académie pontificale pour la vie, les points critiques du rapport entre l'homme et la technologie, thème de l'atelier «Le bon algorithme ? Intelligence artificielle : éthique, droit, santé», présenté ce mardi en salle de presse du Saint-Siège.

Un engagement pour l'avenir

Ces trois jours de conférence, qui réunissent au Vatican des universitaires, des scientifiques et des ingénieurs de multinationales, culmineront le 28 février avec la signature d'un «appel à l'éthique» (Call for Ethics), un texte commun sur la relation entre éthique et technologie, qui guidera l'évolution future du secteur et sera ensuite présenté au Pape François.

La quatrième révolution industrielle

Dans ce que l'on peut définir comme une «quatrième révolution industrielle» après celle de la vapeur, de l'électricité et de l'automatisation, l'ère de l'intelligence artificielle suppose que la technologie puisse prédire les activités humaines, sur la base de données et d’algorithmes. En simulant ce que les personnes feraient, explique le père Paolo Benanti, professeur à l'Académie pontificale de la vie, les algorithmes peuvent choisir le traitement le plus approprié pour un patient, mais aussi les personnes les plus susceptibles de rembourser un prêt accordé par une banque, et même trouver la personne la plus «indiquée» pour une relation affective.

Certains problèmes ne peuvent être résolus par l'ordinateur

«Si avec un ordinateur, nous pouvons transformer les problèmes humains en statistiques, graphiques et équations», explique encore le père Benanti, «nous créons l'illusion que ces problèmes peuvent être résolus avec l'ordinateur». Or, il n'en est rien, car lorsqu'il fait des choix, l'être humain le fait à l'aune d'une distinction fondamentale, celle entre le bien et le mal. La médecine elle-même, explique Maria Chiara Carrozza, professeur de bio-ingénierie industrielle au lycée Sant'Anna de Pise, «est une prérogative humaine», dans laquelle l'intelligence artificielle peut, certes, soutenir le professionnel mais ne peut en aucun cas le déresponsabiliser.

L’algo-éthique

«Les algorithmes, rappelle le père Benanti, doivent inclure des valeurs éthiques et pas seulement numériques», une sorte d'algorithme éthique demandé par les entreprises elles-mêmes, au premier rang desquelles Microsoft. Ainsi, comme l’explique Mgr Paglia, ces entreprises sont «bien conscientes que la plupart de leurs dirigeants sont tous des ingénieurs» et qu'il s'agit donc d'une «perspective technologique, technocratique, qui n'est certainement pas éthique. Mais ils ont ressenti l'urgence d'être accompagnés». D'où la nécessité d'une «table autour de laquelle se retrouvent certes des ingénieurs, mais aussi des hommes politiques, des économistes, des philosophes, des représentants des religions. C’est indispensable pour qu'un cheminement humain puisse être également emprunté dans la technologie».