Papežovo poselství do Hirošimy o etice umělé inteligence

Poselství Svatého otce k setkání "Etika AI pro mír"
(Hirošima, 9.-10. července 2024)

Drazí přátelé, posílám vám tento pozdrav na setkání s názvem "Etika umělé inteligence pro mír". Umělá inteligence a mír jsou dvě naprosto zásadní témata, jak jsem měl možnost zdůraznit politickým představitelům G7: "Vždy je třeba mít na paměti, že stroj může v určitých formách a těmito novými prostředky vytvářet algoritmická rozhodnutí. To, co stroj udělá, je technická volba mezi několika možnostmi a vychází buď z přesně definovaných kritérií, nebo ze statistických závěrů. Naproti tomu člověk nejen volí, ale ve svém nitru je schopen se rozhodnout. Rozhodnutí je tím, co bychom mohli nazvat strategičtějším prvkem volby, a vyžaduje praktické vyhodnocení. Někdy, často při nelehkém úkolu vládnutí, jsme vyzváni k rozhodnutí s důsledky pro mnoho lidí. Lidská reflexe v tomto ohledu vždy hovořila o moudrosti, o phronesis řecké filozofie a alespoň částečně o moudrosti Písma svatého. Tváří v tvář podivuhodným strojům, které se zdají být schopny rozhodovat samostatně, nám musí být jasné, že rozhodnutí musí být vždy ponecháno na člověku, a to i v dramatických a naléhavých tónech, s nimiž se někdy v našem životě prezentuje. Odsoudili bychom lidstvo k beznadějné budoucnosti, kdybychom lidem vzali možnost rozhodovat o sobě a o svém životě a odsoudili je k závislosti na rozhodnutí strojů. Musíme zaručit a chránit prostor pro smysluplnou lidskou kontrolu nad procesem volby programů umělé inteligence: závisí na ní samotná lidská důstojnost." (Viz projev na zasedání G7, 14. června 2024).

Chválou této iniciativy vás žádám, abyste světu ukázali, že jednotně požadujeme aktivní závazek chránit lidskou důstojnost v tomto novém období používání strojů.
Skutečnost, že se scházíte v Hirošimě, abyste jednali o umělé inteligenci a míru, má velký symbolický význam. Uprostřed současných konfliktů, které otřásají světem, bohužel stále častěji slyšíme kromě nenávisti války také o této technologii. Proto považuji událost v Hirošimě za mimořádně důležitou. Je nesmírně důležité, abychom sjednoceni jako bratři mohli světu připomenout, že: "v dramatu, jakým je ozbrojený konflikt, je naléhavě nutné přehodnotit vývoj a používání zařízení, jako jsou takzvané 'smrtící autonomní zbraně', s cílem zakázat jejich používání, a začít již nyní aktivním a konkrétním úsilím o zavedení stále významnější lidské kontroly. Žádný stroj by nikdy neměl rozhodovat o tom, zda připraví o život lidskou bytost." (Srov. projev na zasedání skupiny G7, 14. června 2024).

Když se podíváme na složitost otázek, které máme před sebou, je zahrnutí kulturního bohatství národů a náboženství do řízení umělé inteligence strategickým klíčem k úspěchu vašeho závazku moudře řídit technologické inovace.

Doufám, že toto setkání přinese plody bratrství a spolupráce, a zároveň se modlím, aby se každý z nás stal nástrojem míru pro svět.

František