IA: la protection des enfants, une responsabilité collective

Marie Duhamel – Cité du Vatican

Il y eu l’Appel de Rome, le message du Pape François pour la Journée mondiale de la paix, son adresse au G7, des lignes guides mises en place par le gouvernorat pour le Vatican et ce document publié en janvier par les dicastères pour la Doctrine de la Foi, la Culture et l’Education. Le Saint-Père et la Curie romaine, à diverses reprises, ont proposé une réflexion sur l’intelligence artificielle, soulignant qu’elle est une ressource autant qu’une potentielle menace, mais jamais cette réflexion ne s’était de manière spécifique concentrée sur les enfants, leur bien-être et leur protection.

«Comme Église, notre mission est de prendre soin des blessés et des plus vulnérables, et ainsi des enfants. À ce titre, nous devons leur garantir des relations et un environnement sûrs. Pour eux, le monde numérique est un espace majeur de communication. Or aujourd’hui, il existe des risques dans cet espace», explique le père Hans Zollner, directeur de l’institut d’anthropologie de l’Université pontificale Grégorienne, qui coorganise cette rencontre de trois jours à la Casina Pio IV avec l’Académie pontificale des Sciences et la World Childhood Foundation, créée il y a 25 ans par la reine Silvia de Suède, présente à l’ouverture des travaux ce jeudi après-midi aux côtés du Secrétaire d’État du Saint-Siège.

60 experts de différents horizons

En provenance des États-Unis, d’Inde, du Nigeria, de Bruxelles ou du Royaume-Uni, des universitaires en sciences dures ou humaines échangeront jusqu’à samedi avec des spécialistes de l’intelligence artificielle, des entrepreneurs, des investisseurs, des représentants d’organisations internationales, d'ONG confessionnelles et aconfessionnelles en charge de l’éducation ou de la protection des enfants, des élus par exemple du Parlement européen, pour comprendre «les risques et les opportunités de l’IA pour les enfants» - le thème de cette rencontre.

S’il est clair que les outils offerts par l’IA peuvent aider les enfants à accroitre leurs capacités -il sera question de l’apprentissage des langues, de l’acquisition de la lecture ou des possibles offerts aux enfants porteurs de handicap-, de réels risques existent tels que l’addiction, le harcèlement, la surveillance des enfants, qui peuvent devenir des victimes d’un marketing agressif ou de prédateurs sexuels.

«Sans condamner personne», explique le père Zollner, cette rencontre vise à entamer, ou poursuivre, le dialogue entre différents acteurs.

Tous responsables

La Secrétaire générale adjoint de la World Children Foundation, Bretta Holmberg, met en garde contre un désengagement de la part de des dirigeants, institutions, organisations qui «s’éloignent de ce sujet parce qu’elles ont l’impression de ne pas en savoir assez sur la technologie pour pouvoir agir», laissant de facto les entreprises technologiques en charge. «C’est une grave erreur, souligne-t-elle, alors nous laissons la place à ceux qui ne comprennent pas les enfants, qui ne voient pas de première main comment l'IA peut être mal utilisé aux dépends des enfants, ni comment l’IA peut être utilisée pour les protéger». Bretta Holmberg rapporte qu’en Suède, lors d’une rencontre organisée par sa fondation, des personnes travaillant avec les enfants ont fait état de certains problèmes liés à l’IA, et combien les experts présents -sans avoir conscience du problème, avaient en revanche trouvé facile d’y répondre techniquement. «La technologie fait partie du problème, elle doit faire part des solutions», estime Britta Holmberg.

«Il faut mettre de l’éthique dans les datas, avant de les mettre à disposition des consommateurs», poursuit le chancelier l’Académie pontificale des Sciences. Le cardinal Peter Turkson souligne aussi combien le dialogue précédemment engagé par le Saint-Siège avec plusieurs responsables de la Silicon Valley, via le groupe Minerva, a permis une prise de conscience. «Ceux qui créent des modèles peuvent aussi influencer leurs collègues», affirme le cardinal ghanéen. En 2023, le comité de direction de Minerva comptait notamment parmi ses membres le fondateurs de Linkedin, Reid Hoffman, le vice-président technologie et société de Google, James Manyika, et Jean-Hugues Monier, le dirigent de McKinsey.

Le travail ne fait que commencer

Interrogé sur la volonté de l’Union européenne de réguler tandis que l’actuelle administration américaine semble adopter une ligne contraire, les intervenants ont mis en garde contre des idées préconçues.

L’Union européenne régule, mais «cela fait maintenant deux ans qu’un projet de loi concernant les enfants est à l’étude. Il reste beaucoup à faire», note le prèsident de l’Académie des Sciences, le professeur Joachim von Braun.

Quant à l’implication des États-Unis, elle est majeure. Le père Zollner souligne le travail de la Necmec, présente à la Casina Pio VI. L’agence non lucrative fondée il y a quarante ans par le Congrès, pour s’occuper des enfants disparus ou exploités «a recensé 29 millions de cas d’abus d’enfants en ligne», et en lien avec Interpol, elle signale des cas d’abus en Europe, permettant localement, assure-t-il, de poursuivre les présumés coupables.

L'utilisation de matériel pédocriminel généré par l'IA explose, et les enquêtes se multiplient, comme les interpellations et les poursuites judiciaires. Il y a trois semaine Europol a annoncé avoir procédé à 25 arrestations dans le cadre d'une opération de lutte contre le matériel d'abus sexuel entièrement généré par l'IA. L’opération Cumberland a impliqué 19 pays. Les suspects répartis dans plusieurs pays, ont pu être identifiés avec le concours des autorités australienne, française, allemande et britannique.