Papež v poselství ke Světovému dni míru varuje před riziky umělé inteligence

Lisa Zengarini - Vatican News

Nové technologie musí být vždy zaměřeny na "úsilí o mír a společné dobro ve službách integrálního rozvoje jednotlivců a komunit".

Papež František ve svém každoročním poselství ke Světovému dni míru vyzývá světové představitele, aby zajistili, že pokrok ve vývoji forem umělé inteligence "bude nakonec sloužit věci lidského bratrství a míru". 

Poselství věnované tématu "Umělá inteligence a mír" vydal Vatikán ve čtvrtek 14. prosince, dva ýdny před 57. světovým dnem míru, který připadá na 1. ledna 2024.

Neodmyslitelná ambivalence technického a vědeckého pokroku

Papež František v něm upozorňuje na "etický rozměr "těchto nových technologií, které revolučním způsobem mění lidstvo ve všech oblastech života, a zdůrazňuje ambivalenci, která je vlastní každému vědeckému a technickému pokroku.

Na jedné straně, říká, může vést ke zlepšení lidstva a k proměně světa, pokud "přispívá k většímu řádu v lidské společnosti a k většímu bratrskému společenství a svobodě".

Na druhé straně však vědeckotechnický pokrok, zejména v digitální sféře, "dává lidem do rukou širokou škálu možností, včetně těch, které mohou představovat riziko pro naše přežití a ohrožovat náš společný domov".

Žádná technologická inovace není "neutrální"

Poselství připomíná, že žádný vědecký výzkum a technologická inovace nejsou "neutrální": "Jakožto plně lidské činnosti odrážejí směry, kterými se ubírají, volby podmíněné osobními, společenskými a kulturními hodnotami v dané době. Totéž je třeba říci o výsledcích, které přinášejí: právě jako plody specificky lidských způsobů přístupu ke světu kolem nás mají tyto výsledky vždy etický rozměr, který úzce souvisí s rozhodnutími těch, kdo navrhují jejich experimentování a směřují jejich produkci k určitým cílům."

To platí i pro umělou inteligenci, neboť "dopad jakéhokoli zařízení umělé inteligence - bez ohledu na jeho základní technologii - závisí nejen na jeho technickém provedení, ale také na cílech a zájmech jeho vlastníků a vývojářů a na situacích, v nichž bude použito".

Proto "nelze a priori předpokládat, že jeho vývoj bude přínosem pro budoucnost lidstva a pro mír mezi národy.  Tohoto pozitivního výsledku dosáhneme pouze tehdy, prokážeme-li, že jsme schopni jednat odpovědně a respektovat takové základní lidské hodnoty, jako jsou 'začlenění, transparentnost, bezpečnost, spravedlnost, soukromí a spolehlivost'," píše papež František.

Etické otázky

Z toho vyplývá potřeba "zřídit orgány pověřené zkoumáním etických otázek vznikajících v této oblasti a ochranou práv těch, kteří využívají formy umělé inteligence nebo jsou jimi ovlivňováni". 

"Máme povinnost rozšířit svůj pohled a zaměřit technovědecký výzkum na úsilí o mír a společné dobro ve službě integrálního rozvoje jednotlivců a společenství."

"Technologický vývoj, který nevede ke zlepšení kvality života celého lidstva, ale naopak prohlubuje nerovnosti a konflikty, se nikdy nemůže považovat za skutečný pokrok," říká papež.

Poselství dále upozorňuje na mnohé výzvy, které umělá inteligence představuje a které jsou "antropologické, výchovné, sociální a politické".

Rizika pro demokratické společnosti

Například schopnost některých zařízení vytvářet koherentní texty "není zárukou jejich spolehlivosti". To podle papeže "představuje vážný problém, když je umělá inteligence nasazena v dezinformačních kampaních, které šíří falešné zprávy a vedou k rostoucí nedůvěře v komunikační média". 

Zneužívání těchto technologií může mít i další negativní důsledky, "jako je diskriminace, zasahování do voleb, vznik společnosti založené na dohledu, digitální vyloučení a prohlubování individualismu stále více odtrženého od společnosti", což jsou všechno hrozby pro světový mír.

Papež František pak varuje před riziky, která pro demokratické společnosti a mírové soužití představuje dominantní technokratické paradigma stojící za umělou inteligencí a kultem neomezené lidské moci: "Tím, že v obsedantní touze mít vše pod kontrolou navrhujeme překonat všechny hranice prostřednictvím technologie, riskujeme, že ztratíme kontrolu sami nad sebou."

Algoritmy nesmí určovat, jak chápeme lidská práva

Trvá na "palčivých" etických otázkách, které umělá inteligence představuje, včetně diskriminace, manipulace nebo sociální kontroly: "Spoléhání se na automatické procesy, které kategorizují jednotlivce, například všudypřítomným používáním dohledu nebo přijetím systémů sociálního kreditu, by stejně tak mohlo mít hluboké dopady na sociální strukturu tím, že by stanovilo třídní žebříček mezi občany."

"Nesmíme dovolit, aby algoritmy určovaly, jak chápeme lidská práva, aby odsunuly stranou základní lidské hodnoty, jako je soucit, milosrdenství a odpuštění," zdůrazňuje papež a upozorňuje také na dopad nových technologií na pracoviště.

Ozbrojování umělé inteligence

Papež František vyjadřuje zvláštní znepokojení nad "ozbrojováním umělé inteligence", přičemž zmiňuje zejména smrtící autonomní zbraňové systémy (LAWS) a upozorňuje na riziko, že se sofistikované zbraně dostanou do rukou teroristů.

"Nejmodernější technologické aplikace by neměly být využívány k usnadnění násilného řešení konfliktů, ale spíše k tomu, aby připravovaly cestu k míru."

Pozitivně papež František hodnotí, že umělou inteligenci lze využít k podpoře integrálního lidského rozvoje, a to zavedením "důležitých inovací v zemědělství, vzdělávání a kultuře, zlepšením životní úrovně celých národů a národností a růstem lidského bratrství a sociálního přátelství".

Výzvy pro vzdělávání

Poselství dále zdůrazňuje výzvy, které umělá inteligence představuje pro vzdělávání nových generací, jež vyrůstají "v kulturním prostředí prostoupeném technologiemi".

V této souvislosti papež poukazuje na naléhavou potřebu vzdělávat mladé lidi v oblasti využívání umělé inteligence. Toto vzdělávání by podle něj mělo "směřovat především k podpoře kritického myšlení".

Potřeba mezinárodní smlouvy o regulaci umělé inteligence

Papež František proto vyzývá světové společenství národů, aby společně usilovalo o přijetí závazné mezinárodní smlouvy, která by regulovala vývoj a využívání umělé inteligence v jejích nejrůznějších podobách: "Globální rozměr umělé inteligence jasně ukazuje, že vedle odpovědnosti suverénních států za vnitřní regulaci jejího využívání mohou hrát rozhodující roli mezinárodní organizace, které budou dosahovat mnohostranných dohod a koordinovat jejich uplatňování a prosazování."

"Na začátku nového roku se modlím," uzavírá poselství, "aby rychlý rozvoj forem umělé inteligence nezvýšil počet případů nerovnosti a nespravedlnosti, které jsou v dnešním světě až příliš přítomné, ale pomohl ukončit války a konflikty a zmírnit mnohé formy utrpení, které sužují naši lidskou rodinu."