Papež na zasedání G7: Lidstvo nemá naději, pokud o jeho budoucnosti rozhodnou stroje
Salvatore Cernuzio
Riziko je bohužel stejně reálné jako kdykoli předtím: „Žádný stroj by se nikdy neměl rozhodnout o tom, že vezme život člověku. František se účastní summitu G7 v Borgo Egnazia v Apulii jako první papež, který přijel na summit „velikánů planety. Po příletu vrtulníkem se zhruba ve 13 hodin věnoval čtyřem bilaterálním rozhovorům s Georgievovou (MMF), Zelenským, Macronem a Trudeauem, načež se v doprovodu italské premiérky Giorgie Meloniové přesunul do haly Arena, kde ho lídři na společném zasedání přivítali potleskem.
Je třeba naléhavě přehodnotit vývoj a používání takzvaných smrtících autonomních zbraní
Papež k nim promluvil o umělé inteligenci, jednom z hlavních témat zasedání G7. Podle jeho slov se jedná o fascinující a zároveň hrozivý nástroj; nástroj, který je schopen přinášet užitek nebo způsobovat škodu, stejně jako všechny nástroje vytvořené člověkem od úsvitu věků. Tomuto tématu věnoval papež již své poselství k 58. Světovému dni sdělovacích prostředků. Nyní před muži a ženami, kteří nesou odpovědnost za svět, rozebírá jeho možnosti, ale především jeho rizika a dopady na budoucnost lidstva. Jeho pohled je upřen především na tuto válku a její stále jednotnější části.
V dramatu, jakým je ozbrojený konflikt, je naléhavě nutné přehodnotit vývoj a používání zařízení, jako jsou takzvané smrtící autonomní zbraně, s cílem zakázat jejich používání, a to již od aktivního a konkrétního závazku zavést stále významnější lidskou kontrolu.
Lidský potenciál
Nikdy nedopusťme, aby stroje zabíjely člověka, jenž je vytvořil. Právě od lidské vynalézavosti odvíjí František svou reflexi z pódia G7, aby objasnil, že nejde o žádné předsudky vůči vědeckému a technickému pokroku, ale spíše o strach z jejich vybočení: Věda a technika jsou mimořádnými produkty tvůrčího potenciálu nás lidí, vyslovil se papež. A právě z využití tohoto tvůrčího potenciálu, který nám Bůh dal, vzniká umělá inteligence. Je to nesmírně mocný nástroj, zdůrazňuje papež, který se uplatňuje v mnoha oblastech lidského konání: v medicíně, práci, kultuře, komunikaci, vzdělávání, politice. Nyní je oprávněné předpokládat, že jeho používání bude stále více ovlivňovat náš způsob života, naše sociální vztahy a v budoucnu i způsob, jakým pojímáme svou identitu jako lidské bytosti.
Rozhodnutí přísluší člověku
Na jedné straně tedy vzrušují možnosti, které umělá inteligence nabízí, na straně druhé vyvolávají obavy kvůli důsledkům, které předznamenávají. Především je podle Františka třeba náležitě rozlišovat mezi strojem, který může v určitých formách a s těmito novými prostředky vytvářet algoritmické volby, a tedy technickou volbu mezi několika možnostmi, a člověkem, který naopak nejen volí, ale ve svém srdci je schopen rozhodovat.
Proto tváří v tvář zázračným strojům, které se zdají být schopny volit samostatně, musíme mít jasno v tom, že rozhodnutí musí vždy zůstat na člověku, a to i při dramatických a naléhavých tónech, s nimiž se toto rozhodnutí v našem životě někdy prezentuje.
Ohrožení lidské důstojnosti
Papežovo varování je pronikavé: Odsoudili bychom lidstvo k beznadějné budoucnosti, kdybychom lidem vzali možnost rozhodovat o sobě a svém životě a odsoudili je k závislosti na rozhodnutí strojů. Je třeba, dodává, zaručit a chránit prostor smysluplné lidské kontroly nad procesem výběru programů umělé inteligence: na tom závisí samotná lidská důstojnost.
Zkrátka, nejde jen o vědecký pokrok, ale stojíme před skutečnou kognitivně-průmyslovou revolucí, která - říká papež František - přispěje k vytvoření nového společenského systému charakterizovaného komplexními epochálními proměnami.
Umělá inteligence by mohla umožnit demokratizaci přístupu ke znalostem, exponenciální pokrok ve vědeckém výzkumu, možnost delegovat namáhavou práci na stroje; zároveň by však mohla přinést větší nespravedlnost mezi vyspělými a rozvojovými národy, mezi dominantními a utlačovanými společenskými třídami, a tím ohrozit možnost kultury setkávání ve prospěch kultury odpisu. V tom tkví její nebezpečí.
Etika a algoretika
František proto hovoří o etice: právě v ní tkví lidská podmínka svobody a odpovědnosti; bez ní lidstvo zvrátilo cíle svého bytí tím, že se stalo nepřítelem sebe sama a planety. A dnes, kdy, jak poznamenává papež, dochází ke ztrátě nebo přinejmenším k zatmění smyslu pro člověka a ke zdánlivé bezvýznamnosti pojmu lidské důstojnosti, musí být programy umělé inteligence vždy nařízeny pro dobro každého člověka. Musí mít tedy etickou inspiraci.
V tomto smyslu papež příznivě zmiňuje podepsání Římské výzvy k etice umělé inteligence v Římě v roce 2020, poznamenaném pandemií, a podporu této formy etické umírněnosti algoritmů zhuštěné do neologismu „algoretika“.
Jestliže obtížně definujeme jednotný soubor globálních hodnot, můžeme však najít společné principy, s jejichž pomocí budeme řešit a vyřešíme případná dilemata nebo konflikty v životě.
Žádá se bezodkladná akce "zdravé politiky"
Mezi různými riziky se papež obává také rizika technokratického paradigmatu. Právě zde se podle něj stává politická akce naléhavou. Politika, což je dnes pro mnohé ošklivé slovo, které připomíná chyby, korupci, neefektivitu některých politiků, k nimž se přidávají strategie, jejichž cílem je oslabit ji, nahradit ji ekonomikou nebo ji ovládnout nějakou ideologií. Může však svět fungovat bez politiky? ptá se papež. Ano, politika je potřebná, zní odpověď.
Vždycky je tu pokušení všechno standardizovat, dodává spatra a poukazuje na „slavný román z počátku 20. století“, Pána světa, knihu Richarda Hugha Bensona, již v minulosti několikrát citovanou: Je to anglický román, který ukazuje budoucnost bez politiky, uniformní budoucnost. Je dobré si ho přečíst, je zajímavý, říká papež. Tváří v tvář popsaným scénářům proto znovu zdůrazňuje naléhavost „zdravé politiky“, která nás může přimět hledět do budoucnosti s nadějí a důvěrou.
Jsou totiž věci, které je třeba změnit zásadním přenastavením a důležitými proměnami, a pouze zdravá politika by se mohla ujmout vedení a zapojit nejrůznější sektory a znalosti, ujišťuje papež. Tímto způsobem, dodává, může ekonomika integrovaná do politického, sociálního, kulturního a lidového projektu, který by směřoval ke společnému dobru, otevřít cestu k různým příležitostem, které nepředpokládají zastavení lidské tvořivosti a jejího snu o pokroku, ale spíše nasměrování této energie novým způsobem.
