Pápež na zasadnutí G7: Stroj by nemal rozhodovať, či vezme život ľudskej bytosti

Salvatore Cernuzio, Patrik Hajdu – Vatican News

Riziko je, žiaľ, rovnako reálne ako kedykoľvek predtým: „Žiadny stroj by nikdy nemal rozhodovať o tom, či vezme život človeku“. Svätý Otec František bol na stretnutí G7 v Borgo Egnazia v Apúlii a je prvým pápežom, ktorý sa zúčastnil na samite „Velikánov Zeme“, ktorým hovoril o umelej inteligencii ako o „zaujímavom nástroji“, ale v tom istom čase o „nebezpečnom“. Ako uviedol pápež, je to schopná priniesť výhody ale aj spôsobiť škody, podobne ako všetky veci vytvorené človekom.

Svätý Otec prišiel okolo 12.10 hod. vrtuľníkom ponad priestranstvo s olivovníkmi a po privítaní sa venoval štyrom bilaterálnym rozhovorom. S generálnou riaditeľkou Medzinárdného menového fondu Kristalinou Georgievovou, s prezidentom Ukrajinskej republiky Volodymyrom Zelenským a taktiež prezidentom Francúzska Emmanuelom Macronom a kanadským premiérom Justinom Trudeauom. Následne sa v sprievode talianskej premiérky Giorgie Meloniovej presunul do haly Arena, kde ho na spoločnom zasadnutí privítali svetoví lídri potleskom.

Pápež hovoril o umelej inteligencii, ktorá bola jednou z hlavných tém zasadnutia G7. Podľa jeho slov ide o „fascinujúci prostriedok“, ale zároveň „hrozný nástroj“, ktorý je schopný prinášať úžitok alebo spôsobovať škodu ako všetky „nástroje“, ktoré človek vytvoril od počiatku vekov. Svätý Otec sa tejto téme venoval už vo svojom posolstve k 58. svetovému dňu komunikácie. Teraz pred mužmi a ženami, ktorí nesú zodpovednosť za svet, rozobral jeho možnosti, ale predovšetkým jeho riziká a „účinky na budúcnosť ľudstva“. Jeho pohľad sa upriamil predovšetkým na túto „rozkúskovanú“  vojnu s jej čoraz jednotnejšími „časťami“.

V dráme, akou je ozbrojený konflikt, je naliehavo potrebné prehodnotiť vývoj a používanie zariadení, ako sú tzv. smrteľné autonómne zbrane, s cieľom zakázať ich používanie, a to už od aktívneho a konkrétneho záväzku po zavedenie stále významnejšej ľudskej kontroly.

Nikdy nedovoľme, aby to boli stroje, ktoré zabíjajú človeka, ktorý ich vytvoril. Práve od ľudskej vynaliezavosti odvíjal pápež František svoju reflexiu z pódia G7, aby objasnil, že nejde o predsudok voči vedecko-technickému pokroku, ale skôr o strach z úniku: „Veda a technika sú mimoriadnymi produktmi tvorivého potenciálu nás ľudí“ vyjadril sa. A „práve z využitia tohto tvorivého potenciálu, ktorý nám dal Boh, vzniká umelá inteligencia“. Ide o „mimoriadne mocný nástroj“, zdôrazňoval Svätý Otec, ktorý sa využíva v mnohých oblastiach ľudskej činnosti: v medicíne, práci, kultúre, komunikácii, vzdelávaní, politike. „V súčasnosti je oprávnené predpokladať, že jeho používanie bude čoraz viac ovplyvňovať náš spôsob života, naše sociálne vzťahy a v budúcnosti dokonca aj spôsob, akým chápeme našu identitu ako ľudských bytostí“.

Na jednej strane teda možnosti, ktoré umelá inteligencia ponúka vzbudzujú nadšenie, na druhej strane vyvolávajú strach kvôli dôsledkom, ktoré predznamenávajú. Podľa pápeža Františka treba predovšetkým správne rozlišovať medzi strojom, ktorý „môže v určitých formách a s týmito novými prostriedkami vytvárať algoritmické voľby“, a teda „technický výber z viacerých možností“, a človekom, ktorý si naopak „nielen vyberá, ale vo svojom srdci je schopný rozhodovať“.

Z tohto dôvodu, zoči voči zázračným strojom, ktoré sa zdajú byť schopné samostatnej voľby, nám musí byť jasné, že rozhodnutie musí vždy zostať na ľudskej bytosti, a to aj pri dramatických a naliehavých tónoch, ktorými sa to niekedy v našom živote prezentuje.

Pápež upozornil na riziko závislosti človeka na rozhodnutí stroja:

„Odsúdili by sme ľudstvo na beznádejnú budúcnosť, keby sme ľuďom vzali možnosť rozhodovať o sebe a o svojom živote a odsúdili ich na závislosť od rozhodnutí strojov. Musíme zaručiť a chrániť priestor zmysluplnej ľudskej kontroly nad procesom výberu programov umelej inteligencie: od toho závisí samotná ľudská dôstojnosť“.

Skrátka, nejde len o vedecký pokrok, ale čelíme „skutočnej kognitívno-priemyselnej revolúcii, ktorá ­- ako povedal pápež František - prispeje k vytvoreniu nového spoločenského systému charakterizovaného komplexnými epochálnymi premenami“. 

Umelá inteligencia by mohla umožniť demokratizáciu prístupu k vedomostiam, exponenciálny pokrok vo vedeckom výskume, možnosť delegovať náročné práce na stroje; zároveň by však mohla priniesť väčšiu nespravodlivosť medzi vyspelými a rozvojovými národmi, medzi dominantnými a utláčanými sociálnymi vrstvami, čím by sa ohrozila možnosť „kultúry stretnutia“ v prospech „kultúry skartovania“.

Svätý Otec František preto hovorí o „etike“: práve v nej je ohrozená ľudská podmienka „slobody“ a „zodpovednosti“; bez nej „ľudstvo zvrátilo ciele svojho bytia tým, že sa stalo nepriateľom seba samého a planéty“.  A dnes, poznamenáva pápež, keď sa „stráca alebo aspoň zatmieva zmysel pre človeka a zdanlivo sa stráca význam pojmu ľudskej dôstojnosti", programy umelej inteligencie „musia byť vždy usporiadané pre dobro každého človeka“. Musia mať „etickú inšpiráciu“.

Medzi rôznymi rizikami sa pápež obáva aj rizika „technokratickej paradigmy“. Práve tu sa podľa jeho slov stáva „politická akcia naliehavou“. Politika, pre mnohých dnes „nepekné slovo“, ktoré pripomína chyby, korupciu a neefektívnosť niektorých politikov, ku ktorým sa pridávajú „stratégie zamerané na jej oslabenie, nahradenie ekonomikou alebo ovládnutie nejakou ideológiou“. „Môže však svet fungovať bez politiky?“ spýtal sa pápež. Áno, „politika je potrebná“, znie odpoveď. Ale pri opísanom scenári potrebujeme „zdravú politiku“, ktorá nás môže prinútiť pozerať sa do budúcnosti s nádejou a dôverou.

V skutočnosti sú tu „veci, ktoré treba zmeniť zásadnými reštartmi a dôležitými premenami“ a „len zdravá politika by mohla viesť touto cestou, pričom by zapojila najrôznejšie sektory a poznatky“, ubezpečil pápež.

„Takto môže ekonomika integrovaná do politického, sociálneho, kultúrneho a ľudového projektu, ktorý smeruje k spoločnému dobru, otvoriť cestu k rôznym možnostiam, ktoré neznamenajú zastavenie ľudskej tvorivosti a jej sna o pokroku, ale skôr nasmerovanie tejto energie novým spôsobom“, dodal Svätý Otec.