Papež na vrhu G7: Razmislek o umetni inteligenci povezan z razmislekom o zdravi politiki
Andreja Červek – Vatikan
Umetna inteligenca, ki navdihuje in vzbuja strah
Po papeževih besedah se tema umetne inteligence pogosto dojema ambivalentno: po eni strani navdušuje zaradi možnosti, ki jih ponuja, po drugi strani pa vzbuja strah zaradi posledic, ki jih napoveduje.
Ne moremo dvomiti, da »prihod umetne inteligence predstavlja pravo kognitivno-industrijsko revolucijo, ki bo prispevala k oblikovanju novega družbenega sistema, za katerega bodo značilne zapletene epohalne spremembe«. Umetna inteligenca lahko na primer omogoči »demokratizacijo dostopa do znanja, eksponentni napredek znanstvenih raziskav, možnost prenosa težkih del na stroje«, obenem pa lahko prinese »večjo nepravičnost med razvitimi državami in državami v razvoju, med dominantnimi in zatiranimi družbenimi razredi«, s tem pa tudi ogrozi »kulturo srečevanja« v korist »kulture odmetavanja«.
Papež je izpostavil, da »govoriti o tehnologiji pomeni govoriti o tem, kaj pomeni biti človek, in tako govoriti o našem edinstvenem stanju med svobodo in odgovornostjo, torej govoriti o etiki«.
To še bolj velja za umetno inteligenco, ki je še bolj zapleteno orodje. »Vedno se je treba zavedati, da lahko stroj v določenih oblikah in s temi novimi sredstvi ustvarja algoritemske odločitve. Kar stroj naredi, je tehnična izbira med več možnostmi in temelji bodisi na natančno določenih merilih bodisi na statističnih sklepih. Človek pa po drugi strani ne le izbira, temveč je v svojem srcu sposoben odločanja. Zaradi tega moramo ob čudežih strojev, za katere se zdi, da so sposobni samostojne izbire, jasno povedati, da mora biti odločitev vedno prepuščena človeku, tudi z dramatičnimi in nujnimi toni, s katerimi se včasih kaže v naših življenjih. Človeštvo bi obsodili na prihodnost brez upanja, če bi ljudem odvzeli sposobnost odločanja o sebi in svojem življenju ter jih obsodili na odvisnost od odločitev strojev. Zagotoviti in zaščititi moramo prostor za smiseln človeški nadzor nad procesom izbire programov umetne inteligence: gre za človekovo dostojanstvo.«
Sveti oče je poudaril, da je treba obvezno razmisliti o razvijanju in uporabi »avtonomnega smrtonosnega orožja« ter prepovedati njihovo uporabo in uvesti večji človeški nadzor: »Noben stroj ne bi smel nikoli odločiti, da se človeku vzame življenje.«
V središče ponovno postaviti dostojanstvo osebe
Z vidika skupnega etičnega predloga je po papeževem prepričanju treba v središče ponovno postaviti dostojanstvo osebe. Obdobje tehnoloških inovacij namreč spremlja posebno in še neznano družbeno stanje. »Opažamo izgubo ali vsaj zaton občutka za človeško in navidezno nepomembnost človeškega dostojanstva. In tako je v tem obdobju, ko programi umetne inteligence postavljajo pod vprašaj človeka in njegovo delovanje, prav šibkost etosa, povezanega z dojemanjem vrednosti in dostojanstva človeške osebe, tista, ki lahko predstavlja največji vulnus [kršitev pravice] pri izvajanju in razvoju teh sistemov. Ne smemo pozabiti, da nobena inovacija ni nevtralna. Tehnologija se rodi z določenim namenom in s svojim vplivom na človeško družbo vedno predstavlja obliko reda v družbenih odnosih in ureditev moči, ki nekaterim omogoča izvajanje dejanj, drugim pa preprečuje izvajanje drugih. Ta konstitutivna razsežnost moči tehnologije vedno bolj ali manj izrecno vključuje svetovni nazor tistih, ki so jo uresničili in razvili.«
Kot je dodal, to velja tudi za programe umetne inteligence: »Da bi ti bili sredstva za gradnjo dobrega in boljšega jutri, morajo biti vedno usmerjeni v dobro vsakega človeka. Imeti morajo etični navdih. Etična odločitev je namreč tista, ki ne upošteva le rezultatov nekega dejanja, ampak tudi vrednote, ki so v igri, in dolžnosti, ki izvirajo iz teh vrednot.« V pluralnem in globalnem kontekstu, v katerem se kažeta tudi »različna občutljivost in pluralna hierarhija v lestvicah vrednot«, se zdi, da je težko najti enotno hierarhijo vrednot. »Toda pri etični analizi se lahko zatečemo tudi k drugim vrstam orodij: če s težavo opredelimo enoten nabor globalnih vrednot, lahko vendarle najdemo skupna načela, s katerimi lahko obravnavamo in rešujemo morebitne dileme ali življenjske konflikte,« je zatrdil in v nadaljevanju spregovoril o potrebi po ustrezni politiki.
Potrebujemo zdravo politiko
Ne moremo prikriti konkretnega tveganja, da bo umetna inteligenca »omejila pogled sveta na realnosti, ki jih je mogoče izraziti s številkami in zapreti v vnaprej pripravljene kategorije, s tem pa izrinila prispevek drugih oblik resnice in uvedla enotne antropološke, družbeno-ekonomske in kulturne modele«. »Tehnološka paradigma, ki jo uteleša umetna inteligenca, tako tvega, da bo naredila prostor veliko nevarnejši paradigmi,« ki jo je papež poimenoval »tehnokratska paradigma«.
»In prav tu je nujno potrebno politično ukrepanje,« je poudaril in navedel okrožnico Vsi smo bratje: »Za marsikoga je danes politika negativna beseda. In ne moremo prezreti, da so za tem prepričanjem pogosto napake, korupcija, neučinkovitost nekaterih politikov. K temu je treba prišteti načrte, ki ciljajo na to, da bi jo oslabili, nadomestili z gospodarstvom ali si jo podredili s kakšno ideologijo. Pa vendar: mar svet lahko deluje brez politike? Mar lahko brez dobre politike najde uspešno pot k univerzalnemu bratstvu in socialnemu miru?« (Vsi smo bratje, 176).
»Naš odgovor na to zadnje vprašanje je “ne”! Politika je potrebna!« je zatrdil sveti oče in »spričo mnogih oblik bedne in v osebno korist usmerjene politike« poudaril, da se »veličina politike pokaže takrat, ko v težkih trenutkih ukrepa v skladu s pomembnimi načeli in pri tem misli na dolgoročno skupno dobro. Politična oblast to dolžnost le s težavo sprejema v program državnega načrta. To je še en skupen projekt za sedanje in prihodnje človeštvo« (Vsi smo bratje, 178).
Razmišljanje o posledicah umetne inteligence na prihodnost človeštva nas po papeževem prepričanju pripelje do razmisleka o pomembnosti »zdrave politike«, da bi lahko z upanjem in zaupanjem zrli v našo prihodnost. »Svetovna družba kaže hude strukturalne hibe, ki jih ni mogoče odpraviti s krpanjem ali s hitrimi, priložnostnimi rešitvami. So stvari, ki jih je treba spremeniti s temeljito preureditvijo in pomembnimi spremembami. Le zdrava politika bi ji lahko bila za vodnico, politika, ki bi pritegnila najrazličnejša področja in najrazličnejše vrste znanja. Tako bi lahko gospodarstvo, vključeno v politične, kulturne in narodne načrte, odprto za skupno dobro, utrdilo pot različnim možnostim, ki ne hromijo človekove ustvarjalnosti in njegovih sanj po napredku, temveč takšno energijo na novo preusmerijo« (Vsi smo bratje, 179).
»To velja prav za umetno inteligenco,« je papež sklenil svoj govor. »Vsakdo jo mora dobro izkoristiti, politika pa mora ustvariti pogoje, da bo takšna dobra uporaba mogoča in rodovitna.«
Bilateralni pogovori
Svetega očeta je v Borgo Egnazii, kamor je prispel okoli poldneva, sprejela italijanska premierka Giorgia Meloni. Bilateralne pogovore je imel z direktorico Mednarodnega denarnega sklada Kristalino Georgievo, ukrajinskim predsednikom Volodimirjem Zelenskim, francoskim predsednikom Emmanuelom Macronom in kanadskim premierjem Justinom Trudeaujem, pozno popoldne pa še s kenijskim predsednikom Williamom Samoeijem Rutom, indijskim premierjem Narendrom Modijem, ameriškim predsednikom Joejem Bidnom, brazilskim predsednikom Lulo da Silvom in turškim predsednikom Tayyipom Erdoğanom.
