PODCAST: Umělá inteligence jako fascinující a úděsný nástroj – papežova promluva na G7
PAPEŽ FRANTIŠEK
Zdravím vás všechny, lídry mezivládního fóra G7, zdravím Giorgii Meloniovou, zdravím tajemnici Evropské unie a zdravím prezidenty, krále a všechny, kteří jsou zde přítomni. Toto zamyšlení nese název „Dopady umělé inteligence na budoucnost lidstva“.
„Písmo svaté svědčí o tom, že Bůh dal lidstvu svého Ducha, aby mělo „moudrost, důvtip a znalost pro každé dílo“ (Ex 35, 31)“ [1]. Věda a technika jsou tedy mimořádnými produkty tvůrčího potenciálu nás lidí [2].
Umělá inteligence tedy vzniká právě z využití tohoto tvůrčího potenciálu, který nám Bůh dal.
Umělá inteligence je, jak známo, mimořádně mocným nástrojem, který se uplatňuje v mnoha oborech lidského konání: od medicíny po oblast práce, od kultury po komunikaci, od vzdělávání po politiku. A dnes lze s jistotou předpokládat, že její používání bude stále více ovlivňovat způsob našeho života, naše sociální vztahy a v budoucnu dokonce i způsob, jakým pojímáme svou identitu jako lidské bytosti [3].
Téma umělé inteligence je však často vnímáno ambivalentně: na jedné straně vzrušuje kvůli možnostem, které nabízí, na druhé straně vyvolává obavy z důsledků, které předznamenává.
Nelze navíc pochybovat o tom, že nástup umělé inteligence představuje skutečnou kognitivně-industriální revoluci, která přispěje k vytvoření nového společenského systému vyznačujícího se složitými epochálními proměnami. Umělá inteligence by například mohla umožnit demokratizaci přístupu ke znalostem, exponenciální pokrok ve vědeckém výzkumu, možnost delegovat namáhavou práci na stroje; zároveň by však mohla přinést větší nespravedlnost mezi vyspělými a rozvojovými státy, mezi dominantními a utlačovanými společenskými třídami, a tím ohrozit možnost „kultury setkávání“ ku prospěchu „kultury odpisu“.
Rozsah těchto komplexních proměn je samozřejmě spojen s rychlým technologickým rozvojem samotné umělé inteligence.
Právě tento překotný technologický vývoj činí z umělé inteligence fascinující a zároveň úděsný nástroj a vyžaduje reflexi odpovídající situaci.
V tomto směru by se snad dalo začít konstatováním, že umělá inteligence je především nástrojem. A je samozřejmé, že přínosy či škody, které přinese, budou záviset na jejím použití.
To je jistě pravda, neboť tak tomu bylo u každého nástroje, který člověk sestrojil od počátku věků.
Tato naše schopnost vyrábět nástroje v množství a složitosti, které nemají obdoby u žádné živé bytosti, dává možnost hovořit o techno-humánním stavu: člověk vždy udržoval vztah s prostředím zprostředkovaný nástroji, které vyrobil. My lidé totiž žijeme ve stavu přesahu vůči našemu biologickému bytí; jsme bytosti obracející se navenek od sebe samých, ba radikálně otevřené vnějšku. Odtud pramení naše otevřenost vůči druhým a vůči Bohu; odtud se odvíjí tvůrčí potenciál naší inteligence ve smyslu kultury a krásy; odtud plynou naše technické schopnosti. Technika je tedy stopou této naší přesažnosti.
Používání našich nástrojů však není vždy jednoznačně zaměřeno k dobru. I když člověk v sobě cítí povolání k přesahu a k poznání, prožívanému jako nástroj dobra ve službě bratrům a sestrám a společnému domovu (srov. Gaudium et spes, 16), není tomu tak vždy. Naopak, lidstvo nezřídka právě kvůli své radikální svobodě zvrátilo cíle svého bytí tím, že se proměnilo v nepřítele sebe sama a planety [4]. Stejný osud může potkat i technologické nástroje. Pouze pokud bude zaručeno jejich poslání ve službě člověku, odhalí technologické nástroje nejen jedinečnou velikost a důstojnost lidské bytosti, ale také mandát, který tato bytost dostala, aby „obdělávala a chránila“ planetu a všechny její obyvatele (srov. Gn 2,15). Mluvit o technice znamená mluvit o tom, co znamená být člověkem, a tedy o našem jedinečném stavu na pomezí svobody a odpovědnosti, tedy mluvit o etice. Nelze oddělit jedno od druhého.
Ve větší míře to platí pro umělou inteligenci, která je ještě složitějším nástrojem. Skoro bych řekl, že je to nástroj sui generis. Vždy je třeba mít na paměti, že stroj může v určitých formách a těmito novými prostředky vytvářet algoritmické volby. To, co stroj dělá, je technická volba mezi několika možnostmi a vychází buď z přesně definovaných kritérií, nebo ze statistických závěrů. Naproti tomu člověk nejen volí, ale ve svém nitru je schopen i rozhodovat. Proto tváří v tvář podivuhodným strojům, které se zdají být schopny volit samostatně, musíme mít jasno v tom, že rozhodnutí musí vždy zůstat na člověku, a to i za dramatických a naléhavých tónů, jimiž se toto rozhodnutí někdy v našem životě prezentuje. Odsoudili bychom lidstvo k beznadějné budoucnosti, kdybychom lidem vzali možnost rozhodovat o sobě a svém životě a odsoudili je k závislosti na volbách strojů. Musíme zaručit a chránit prostor pro smysluplnou lidskou kontrolu nad procesem volby programů umělé inteligence: závisí na ní samotná lidská důstojnost.
Právě na této otázce si dovolím trvat: v dramatické situaci, jakou jsou ozbrojené konflikty, je naléhavě nutné přehodnotit vývoj a používání zařízení, jako jsou tzv. smrtící autonomní zbraně, s cílem zakázat jejich používání, a to již počínaje aktivním a konkrétním závazkem zavést stále smysluplnější lidskou kontrolu. Žádný stroj by nikdy neměl volit, zda má připravit o život lidskou bytost.
Vrátit důstojnost člověka do středu pozornosti s ohledem na společný etický návrh
K tomu, co již bylo řečeno, je nyní třeba připojit obecnější poznámku. Období technologických inovací, kterým v současnosti procházíme, je totiž doprovázeno zvláštní a bezprecedentní společenskou situací. Dochází ke ztrátě nebo přinejmenším k zatmění smyslu pro člověka a ke zdánlivé bezvýznamnosti pojmu lidské důstojnosti [1]. A tak právě v tomto období, kdy programy umělé inteligence zpochybňují člověka a jeho jednání, hrozí, že právě slabost étosu spojeného s vnímáním hodnoty a důstojnosti lidské osoby bude největší vulnus při zavádění a rozvoji těchto systémů. Nesmíme totiž zapomínat, že žádná inovace není neutrální: žádná inovace není neutrální. Technologie se rodí za nějakým účelem a ve svém dopadu na lidskou společnost vždy představuje určitou formu uspořádání společenských vztahů a uspořádání moci, které jedněm umožňuje vykonávat určité činnosti a jiným brání ve vykonávání jiných. Tento konstitutivní mocenský rozměr technologie vždy více či méně explicitně zahrnuje světonázor těch, kdo ji realizovali a vyvinuli.
To platí i pro programy umělé inteligence. Mají-li být nástrojem budování dobra a lepších zítřků, musí vždy směřovat k dobru každého člověka. Musí být eticky inspirovány.
Etické rozhodnutí je totiž takové, které bere v úvahu nejen výsledky činnosti, ale také hodnoty, které jsou v sázce, a povinnosti, které z těchto hodnot vyplývají. Proto jsem uvítal, že v roce 2020 byla v Římě podepsána Římská výzva k etice umělé inteligence [2] a že podporuje takovou formu etické úpravy algoritmů a programů umělé inteligence, kterou jsem nazval „algoretická“ [3]. Zdá se, že v pluralitním a globálním kontextu, v němž se projevují i různé vnímavosti a pluralitní hierarchie v hodnotových žebříčcích, je obtížné najít jedinou hodnotovou hierarchii. V etické analýze se však můžeme uchýlit i k jiným typům nástrojů: pokud máme potíže s definováním jediného souboru globálních hodnot, můžeme však najít sdílené principy, s jejichž pomocí lze řešit a vyřešit případná dilemata či životní konflikty.
Potřebná politická opatření – protože v této oblasti potřebujeme politická opatření
Nemůžeme skrývat konkrétní riziko, že umělá inteligence omezí pohled na svět na skutečnosti vyjádřitelné čísly a uzavřené do předem připravených kategorií (protože to je její základní mechanismus), čímž vytěsní vztah a přínos jiných forem pravdy a zavede jednotné antropologické, socioekonomické a kulturní modely. Pak hrozí, že technologické paradigma ztělesněné umělou inteligencí uvolní místo mnohem nebezpečnějšímu paradigmatu, které jsem již identifikoval pod názvem „technokratické“ [4].
A právě zde je naléhavě zapotřebí vaší akce, politické akce, jak připomíná encyklika Fratelli tutti. Jistě, „pro mnohé je dnes politika hanlivým slovem a nelze přehlížet, že za touto skutečností se často skrývají chyby, korupce, neefektivita některých politiků. Ne všech: některých. K tomu se přidávají strategie, které ji chtějí oslabit, nahradit ekonomikou nebo ovládnout nějakou ideologií. A přesto, může svět fungovat bez politiky? Ne. Může najít účinnou cestu k všeobecnému bratrství a sociálnímu míru bez dobré politiky?“ [5].
Naše odpověď na tyto poslední otázky zní: ne! Politika je potřebná! Připomínám, co o politice řekl jeden papež: „Je to nejvyšší forma lásky, je to nejvyšší forma lásky“. Politika je potřebná. Při této příležitosti chci zopakovat, že „tváří v tvář tolika formám politiky, které jsou maloduché a zaměřené na bezprostřední vlastní prospěch [...], se politická velikost projevuje tehdy, když se v těžkých dobách jedná na základě velkých principů a s ohledem na dlouhodobé společné dobro“. Politická moc se těžko vyrovnává s touto povinností v projektu jednoho národa, a tím spíše ve společném projektu pro současné a budoucí lidstvo“ [6]. Vždy existuje pokušení vše standardizovat. Vzpomínám si na slavný román z počátku 20. století, „Pán světa“, anglický futuristický román, který ukazuje budoucnost bez politiky, budoucnost pouze uniformní. Je dobré si ho přečíst, je zajímavý.
Vážené dámy, vážení pánové!
Tato moje úvaha o vlivu umělé inteligence na budoucnost lidstva nás tedy vede k úvaze o důležitosti „kvalitní politiky“, abychom mohli s nadějí a důvěrou hledět do budoucnosti. Jak jsem již uvedl na jiném místě, »světová společnost má vážné strukturální nedostatky, které nelze vyřešit záplatami nebo pouhými příležitostnými rychlými opravami. Musíme jít ke kořenům. Jsou věci, které je třeba změnit zásadním přenastavením a zásadní transformací. K tomu může vést pouze solidní politika, která zapojí nejrůznější sektory a znalosti. Takto může ekonomika integrovaná do politického, sociálního, kulturního a lidového projektu, který by směřoval ke společnému dobru, „otevřít cestu k různým možnostem, které neznamenají zastavení lidské tvořivosti ani umělé inteligence a jejího snu o pokroku, ale spíše nasměrování této energie novým způsobem“ (Laudato si', 191)« [7].
To je právě případ umělé inteligence. Je na každém, aby ji dobře využíval, a je na politice, aby vytvořila podmínky pro to, aby takové dobré využívání bylo možné a plodné.
Děkuji.
[1] Srov. prohlášení Dikasteria pro nauku víry Dignitas infinita o lidské důstojnosti (2. dubna 2024).
[2] Srov. Promluva k účastníkům plenárního shromáždění Papežské akademie pro život, 28. února 2020.
[3] Srov. Promluva k účastníkům konference „Podpora důstojnosti digitálního dítěte - od konceptu k činům“, 14. listopadu 2019; Promluva k účastníkům plenárního zasedání Papežské akademie pro život, 28. února 2020.
[4] Pro obsáhlejší výklad odkazuji na svou encykliku Laudato si' o péči o společný domov z 24. května 2015.
[5] Encyklika Fratelli tutti o bratrství a sociálním přátelství (3. října 2020), 176.
[6] Tamtéž, 178.
[7] Tamtéž, 179.
