Papež o umělé inteligenci: Omezme moc několika jedinců, ať z vývoje těží celé lidstvo
Adriana Masotti - Vatikán
"Umělá inteligence je a musí zůstat nástrojem v rukou člověka". A "jsme si jisti, že chceme i nadále nazývat 'inteligencí' to, co inteligencí není?". Papež František se vrátil k tématu umělé inteligence (AI), když promlouval k účastníkům mezinárodní konference nadace Centesimus annus pro pontifice, která dnes, 22. června, uzavírá svou činnost na náročné téma "Generativní umělá inteligence a technokratické paradigma: jak podporovat blaho lidstva, péči o přírodu a mír ve světě".
Papež se zaměřil na umělou inteligenci
František se vrací k tématu, k němuž se již několikrát vyjádřil, naposledy ve svém projevu na zasedání G7 v Apulii, předtím o něm psal v dokumentech Laudato si', Laudate Deum a v letošním poselství ke Světovému dni míru, protože, jak vysvětluje, "umělá inteligence má převratný vliv na ekonomiku a společnost a může mít negativní dopady na kvalitu života, na vztahy mezi lidmi a mezi zeměmi, na mezinárodní stabilitu a na společný domov". Nadaci Centesimus annus je proto třeba pochválit za její volbu tématu mezinárodní konference.
Oceňuji, že Centesimus annus věnovala tomuto tématu dostatek prostoru, zapojila vědce a odborníky z různých zemí a oborů, analyzovala příležitosti a rizika spojená s rozvojem a využíváním umělé inteligence, a to s mezioborovým přístupem a především s antropocentrickým pohledem a s vědomím nebezpečí posílení technokratického paradigmatu.
Obavy z možného posílení technokracie
Papež se zejména příznivě dívá na volbu multidisciplinárního přístupu k umělé inteligenci, který je nezbytný pro uchopení všech jejích aspektů. Znovu proto zdůrazňuje "potřebu etického vývoje algoritmů, v němž hodnoty určují cesty nových technologií", a zdůrazňuje, že umělá inteligence stejně jako jiné "klíčové nástroje" vytvořené člověkem "je a musí zůstat nástrojem" v jeho rukou. František zdůrazňuje transformační sílu umělé inteligence jak v pozitivním, tak v negativním smyslu.
V tomto druhém smyslu by umělá inteligence mohla posílit technokratické paradigma a kulturu odpisu, rozdíly mezi vyspělými a rozvojovými zeměmi, přenechání strojům rozhodnutí, která jsou pro lidský život zásadní.
Ptejme se sami sebe: Opravdu toto chceme?
Jak papež připomněl, u příležitosti nedávného setkání G7 proto vyzval "politiky, aby přijali konkrétní opatření k řízení probíhajícího technologického procesu směrem k všeobecnému bratrství a míru". Poté cituje Stephena Hawkinga, známého kosmologa, fyzika a matematika, který v rozhovoru pro BBC tvrdil, že "rozvoj plné umělé inteligence by mohl znamenat konec lidského rodu". Papež se tedy ptá: "Je toto opravdu to, co chceme?".
Základní otázka, kterou si klademe, zní: K čemu je umělá inteligence? Slouží k uspokojení potřeb lidstva, ke zlepšení blahobytu a integrálního rozvoje lidí, nebo slouží k obohacení a zvýšení již tak vysoké moci několika technologických gigantů navzdory ohrožení lidstva? A to je základní otázka.
Je zapotřebí dalších úvah o umělé inteligenci
Má-li být umělá inteligence přínosem pro lidstvo, je třeba stanovit kritéria pro její rozvoj a v tomto smyslu papež navrhuje některé body k zamyšlení, které kladou otázky "různým oborům filozofie a práva, jakož i specifičtějším disciplínám". Zaměřují se na smysl pro odpovědnost, na "účinnou regulaci", na roli vzdělávání a komunikace ve světě, "aby se rozšířily znalosti a povědomí o tom, jak umělou inteligenci správně používat" a jak ji předávat mladým lidem. Dále papež uvádí, že je třeba zkoumat otázky práce, bezpečnosti, dopadů na "vztahovou a kognitivní kapacitu" lidí, přičemž se nesmí zapomínat na problém velké spotřeby energie, kterou umělá inteligence vyžaduje.
Drazí přátelé, právě na frontě technologických inovací se bude odehrávat budoucnost ekonomiky, civilizace i samotného lidstva. Nesmíme promarnit příležitost myslet a jednat novým způsobem, avšak rozumem, srdcem a rukama, a směřovat inovace ke konfiguraci, v jejímž středu je primát lidské důstojnosti. O tom by se rozhodně nemělo diskutovat.
Františkova provokace
Právě kvůli tomu všemu František doufá, že úsilí Nadace Centesimus annus pro pontifice bude odvážně pokračovat, jako například zahájením druhého společného výzkumného projektu mezi Nadací a Strategickou aliancí katolických výzkumných univerzit (SACRU), a říká: "Prosím, informujte mě o tom!". Závěr jeho projevu je záměrně "provokací":
Jsme si jisti, že chceme i nadále nazývat " inteligencí" to, co inteligencí není? Je to provokace. Zamysleme se nad tím a položme si otázku, zda zneužívání tohoto slova, které je tak důležité, tak lidské, není již kapitulací před technokratickou mocí.
