Svatý stolec: Zakažte „smrtící autonomní zbraně“, okamžitě vyhlaste moratorium
Alessandro Di Bussolo - Vatikán
Pro Svatý stolec je „nanejvýš naléhavé“ zajistit „pevný právně závazný nástroj“ zakazující používání tzv. smrtících autonomních zbraní a mezitím „zavést okamžité moratorium na jejich vývoj a používání“. Zdůraznil to arcibiskup Ettore Balestrero, stálý pozorovatel Svatého stolce při OSN a mezinárodních organizacích v Ženevě, ve svém projevu na druhém zasedání Skupiny vládních expertů (GGE) 2024 o nových technologiích v oblasti smrtících autonomních zbraňových systémů (LAWS), které se koná ve Švýcarsku od 26. do 30. srpna.
Papežův projev na zasedání G7 o umělé inteligenci
S odvoláním na projev papeže Františka o umělé inteligenci, který pronesl 14. června před vedoucími představiteli skupiny G7 shromážděnými v italském Borgo Egnazia, Balestrero připomněl, že papež je vyzval, aby „znovu zvážili vývoj a používání zařízení, jako jsou tzv. smrtící autonomní zbraně, a v konečném důsledku jejich používání zakázali. To má začít důsledným a konkrétním závazkem zavést větší a přiměřenější lidskou kontrolu. Žádný stroj by se nikdy neměl rozhodnovat, zda vzít život lidské bytosti“. Podle preláta se však dnešní bojiště „stávají také zkušebním polem pro stále sofistikovanější zbraně“.
Autonomní zbraně nejsou morálně odpovědné entity
Svatý stolec, pokračoval arcibiskup, schvaluje a podporuje přístup expertní skupiny „k analýze potenciálních funkcí a technologických aspektů autonomních zbraňových systémů“, protože identifikace systémů „neslučitelných s mezinárodním humanitárním právem a dalšími existujícími mezinárodními závazky“ by mohla být velmi užitečná při stanovení zákazů a omezení „s ohledem na širší etické aspekty“. Podle Svatého stolce, upřesnil stálý pozorovatel, „autonomní zbraňové systémy nelze považovat za morálně odpovědné subjekty“. Lidská osoba, obdařená rozumem, „totiž disponuje jedinečnou schopností morálního úsudku a etického rozhodování, kterou nelze napodobit žádným souborem algoritmů, ať už jsou jakkoli složité“. Delegace Svatého stolce tedy oceňuje odkazy na "přiměřenou kontrolu" i "lidský úsudek" v "průběžném textu", který byl vypracován jako základ pro diskusi na zasedání, ačkoli vyzývá i k "větší jasnosti a jednotnému chápání těchto pojmů".
Stroj volí, člověk rozhoduje srdcem
Mons. Balestrero proto připomněl rozdíl mezi „volbou“ a „rozhodnutím“. Ve svém projevu na zasedání G7 v Borgo Egnazia papež zdůraznil, že stroje pouze provádějí algoritmické technické volby, a připomněl, že „člověk však nejen volí, ale ve svém srdci je schopen se rozhodovat“. A to je strategičtější prvek než volba, protože vyžaduje praktické zhodnocení. Navíc, pokračoval papež František, „etické rozhodnutí je takové, které bere v úvahu nejen výsledky činnosti, ale také hodnoty, které jsou v sázce, a povinnosti, které z ní vyplývají“. Arcibiskup proto, stále cituje papežův projev, zopakoval, že pro Svatý stolec je nezbytné „zajistit a chránit prostor pro přiměřenou lidskou kontrolu nad volbami prováděnými programy umělé inteligence: na tom závisí samotná lidská důstojnost".
Technický pokrok by měl sloužit společnému dobru
Vatikánský představitel dále zdůraznil, že ve světě roste „povědomí o etických obavách, které vyvolává používání umělé inteligence jako zbraně. To se projevilo i v tom, že na nedávné konferenci „Lidstvo na křižovatce: autonomní zbraňové systémy a výzva regulace“, která se konala 29. a 30. dubna 2024 ve Vídni, byla etickým úvahám přisouzena významná role. A na závěr připomněl, že „vývoj stále sofistikovanějších zbraní rozhodně není řešením“. Jak píše František v encyklice Laudato si', přínos, který lidstvo bude mít ze současného technologického pokroku, bude záviset na tom, „do jaké míry bude tento pokrok doprovázen přiměřeným rozvojem odpovědnosti a hodnot, které technologický pokrok postaví do služeb integrálního lidského rozvoje a společného dobra“.
