Paolo Benanti ferences teológus: A mesterséges intelligencia álljon a közjó szolgálatában
Vertse Márta - Vatikán
Mindenki beszél róla, sokan már elkezdték használni, de még mindig kevesen értik, hogy tulajdonképpen mit is jelent és milyen következményei lehetnek az emberi életre. A Mesterséges Intelligenciáról van szó, amely egyre inkább korunk nagy technológiai innovációjává válik. Egyesek számára jobbá teheti mindenki életét, mások számára az emberiség katasztrófájához vezethet. Eközben gazdasági értéke exponenciálisan növekszik, és a kormányok nem kis nehézséggel próbálják szabályozni működését, tekintettel arra a gyorsaságra, amellyel ezek az „intelligens gépek” egyre nagyobb hatásúvá válnak.
A téma egyik legnagyobb szakértője Paolo Benanti atya, teológus és filozófus, a ferences harmadrend tagja. Októberben Antonio Guterres ENSZ-főtitkár felkérte, hogy csatlakozzon az ENSZ Mesterséges Intelligenciával foglalkozó szakértői Bizottságához, amely a közelmúltban ülésezett a New York-i Üvegpalotában. A vatikáni médiának adott interjújában Benanti atya a Mesterséges Intelligencia technológiai aspektusain kívül kitér az etikai szempontokra is, és rámutat arra, hogy az egyház, „az emberélet legjobb ismerője” (Szent VI. Pál pápa „Populorum progressio” k. enciklikája, 13. pont), milyen mértékben járulhat hozzá a Mesterséges Intelligenciáról szóló vitához.
A mesterséges intelligenciáról ma már mindenki beszél. A közbeszédben szinte mantrává vált: „Majd megoldja a Mesterséges Intelligencia” – halljuk gyakran. De vajon tényleg olyan valósággal állunk-e szemben, amely egyesek szerint nagyobb hatással lesz az emberiségre, mint az ipari forradalom?
Valóban, a „forradalom” kifejezésnek van egyfajta leértékelése. Szeretjük azt hinni, hogy sok dolog forradalmi abban az értelemben, hogy mindent megváltoztat. Ebből a szempontból azt mondanám, hogy valódi forradalom helyett inkább az ipari forradalom evolúciója, fejlődése zajlik. Az ipari forradalmat úgy jellemezték, mint egy olyan rendszert, amely bizonyos, ember által végzett feladatokat gépekkel helyettesít. Az ipari forradalom kezdetén az izomerő helyettesítésére törekedtek; ma az ember kognitív képességének, megismerő funkciójának egy részét szeretnénk helyettesíteni. A gép mindezt nagyon jól utánozza; nagyon is képes arra, hogy legyen egy célja, de ez a gép mégis csak egy másolat, egy utánzat, és nincs saját tudata, saját akarata. A forradalom tehát túl erős kifejezés. Ez az automatizálás továbbfejlesztése. Amit azonban rögtön tisztázni kell, az az, hogy társadalmi hatásai „forradalmiak” lehetnek. Ha az első ipari forradalom hatással volt a kékgalléros munkásokra azáltal, hogy a termelési folyamatban kevésbé volt rájuk szükség, akkor a mesterséges intelligencia hatással lehet és lesz a fehérgalléros munkásokra, vagyis azokra a munkakörökre, amelyek a középosztályt érintik, és ha ezt nem a társadalmi igazságosság kritériumai szerint kezeljük, akkor a hatások valóban pusztítóak lehetnek, vagy legalábbis nagyon erősek a demokratikus államok kohéziós képességét illetően.
Egy nagy tudós, Stephen Hawking asztrofizikus néhány évvel ezelőtt azt állította, hogy a Mesterséges Intelligencia sikere az emberiség történelmének legnagyobb eseménye lehet, de ha nem kerüljük el a kockázatokat, akkor véget vethet magának az emberiségnek is. Melyek legyenek tehát a megfelelő lépések egy olyan fejlődéshez, amelynek nem lesznek romboló következményei?
Az egyház szociális tanításának is megfelelő meglátás alapján azt mondanám, hogy különbséget kell tennünk az újítás és a fejlődés között ahhoz, hogy válaszoljunk erre a kérdésre. Az innováció vagy technológiai haladás az a képesség, hogy valamit egyre hatékonyabban és egyre erőteljesebben tudunk csinálni. Gondoljunk egy olyan negatív, de sajnos mindennapos területre, mint a háború. Egy pisztoly, egy géppuska, egy bomba, egy atombomba a háborús újítások néhány fejezetét jelentik. Senki sem gondolja azonban, hogy az atombomba jobb, mint a pisztoly. A fejlődés viszont a technológiai innovációt olyanná alakítja át, ami a társadalmi jót, a közjót is szem előtt tartja.
Minden technológiai újítás etikai kérdéseket vet fel. Ezek a kérdések miért tűnnek sokkal összetettebbeknek a Mesterséges Intelligencia esetében, mint ahogy azt a múltban tapasztaltuk?
Az angolok, amikor ezekről a gépekről beszélnek, olyan kifejezést használnak, amelyet nehéz lefordítani (ebben az esetben) olaszra, talán azért, mert tele van más jelentésekkel. Ezek a gépek rendelkeznek egyfajta ügynöki képességgel, ahol az ügynöki képességet egy sor szóval fordíthatjuk le: a képesség, hogy alkalmazkodjanak a körülményekhez a célok elérése érdekében. De a cél soha nem szentesíti az eszközt! Tehát az a gépezet, amely bizonyos mértékig meg tudja határozni, hogy melyik eszköz a megfelelőbb a célja elérése érdekében, olyan gépezet, amelynek természeténél fogva nagyon széles „etikai védőkorlátokra” van szüksége, pontosan azért, mert a cél nem szentesíti az eszközt.
A Mesterséges Intelligencia feltehet-e saját magának etikai kérdéseket és találhat-e válaszokat, vagy ez az erkölcsi dimenzió mindig is az ember előjoga marad?
Nem. Annak ellenére, amit néhány sci-fi film elhitet velünk, a gép nem rendelkezik öntudattal. Tehát nem áll fenn olyan szubjektivitás, amely megkérdőjelezi önmagát vagy a világot. Ez egy gép, amely feladatokat lát el. Az embertől kapja a feladatokat, mint a kis robot, amelyik képes kitakarítani a lakást, ezért, ha azt mondom neki, hogy „takarítsd ki a lakást”, a gép a megfelelő eszközökkel elindítja a porszívót, esetleg nekimegy a falnak, utána visszajön, ami mondjuk akkor történik, amikor lépcsővel találja szemben magát. Tehát a Mesterséges Intelligencia „új fogantyúja”, vagyis a megfelelő célok kiválasztása csakis emberi kézben lehet és kell, hogy legyen. Ez nem változtat azon a tényen, hogy ha a gépnek anélkül adunk utasításokat, hogy túl sokat gondolkodnánk rajta, és nem teszünk fel magunknak megfelelő kérdéseket, az katasztrofális végkifejletekhez vezethet, még egy tudattal rendelkező gép jelenléte nélkül is.
A napokban lett egy éves a ChatGpt, (csevegő robot) a Mesterséges Intelligencia „legnépszerűbb” eszköze. Egyesek számára alig több, mint egy játék, mások máris sejtetni vélik, hogy milyen változásokat hozhat az életünkbe. Mi erről az Ön véleménye?
Lebilincselő a ChatGpt sikere. Ez idáig minden idők legtöbbet letöltött alkalmazása. Ez volt az az alkalmazás, amely nagy erővel betört digitális mindennapjainkba. Miközben ez egyrészt azt mutatja, hogy a Mesterséges Intelligencia mennyire elbűvöl minket, egyben a félreértések kockázatával is jár, mivel a ChatGpt nem egy ipari termékként született, amelyet valamire fel akartak használni, hanem egyfajta nagy demóként, (bemutatkozó céllal készült felvételként) amelyet ez a cég, az OpenAI megnyitott a nyilvánosság előtt, hogy megmutassa a hathatóságát annak, amelynek kifejlesztésén dolgozott. A ChatGpt egyszerűen a Gpt nevű más termékek kiszélesítése, a „Chat” – csevegés - szó nélkül, amelyek nagy nyelvi modellek, azaz olyan gépek, amelyek hatalmas mennyiségű szöveget dolgoztak fel - megfelelően apró részekre, úgynevezett „paraméterekre” feldarabolva -, és ebből bizonyos mértékig statisztikailag meghatározták, hogy a szavak mennyire illeszkednek egymáshoz. A ChatGpt tehát egy olyan rendszer, amely egy bemeneti mondat alapján egy kimeneti szöveget állít elő. De ezt a szöveget sok ember interakciója finomítja, akik - sajnos, alul fizetve a világ nagyon szegény részein - elkezdtek válaszolni ennek a gépnek, és „megmondták” a gépnek, hogy melyek voltak a legjobb és melyek a legrosszabb válaszok, amelyeket adott. A legtöbb ember sajnos, amikor a ChatGpt megjelent, nem így értette ez(t), vagyis nem egy olyan demónak tekintette, ahol valaki válaszol bármilyen kérdésre, hanem egy igazi keresőmotornak, aki a rendszertől kér információt, vagy megbízik abban, amit az mond.
Milyen problémákat okozhat tehát a ChatGpt eszköz félreértése?
Ez nagy hibákhoz vezet, mert a gép úgy van megcsinálva, hogy a szövegnek az én beviteli kérdésemből kell kijönnie, de ez a szöveg egyáltalán nincs ellenőrizve a tények valóságát illetően. A ChatGpt előállít egy szép szöveget, de nem feltétlenül biztos, hogy a tartalom valódi. Ebben áll a gép minden lehetősége és kockázata. A lehetőség az, hogy végre egy olyan eszközzel rendelkezünk, amely nagyon hatásosan kezeli a nyelvet. A korlát az, hogy nem értjük meg, hogy ez egyfajta nagy demó (bemutatkozó céllal készült felvétel), és nem egy végleges eszköz, és egy gépre hagyatkozunk olyan dolgokban, amelyeknek nincs semmilyen értékük. Soha ne kérdezd meg ezt a gépet, hogyan gyógyítson meg egy betegséget!
Évek óta szó esik a digitális szakadékról, amely elválasztja a technológiailag fejlettebb nemzeteket a fejlődő országoktól. A mesterséges intelligenciával nem áll fenn annak a veszélye, hogy ez a szakadék tovább mélyül, és még inkább lemaradnak azok a népek, amelyek már most is fáradoznak azért, hogy érvényesüljenek az egyre inkább globalizált világban és gazdaságban?
Ez teljes mértékben igaz. A Mesterséges Intelligencia multiplikátorként, szorzóként működhet. Ahol gazdagságot és sok erőforrással rendelkező szövetet talál, ott meg tudja azokat sokszorozni. Ahol valójában nem plusz-, hanem mínuszjelet talál, ott ezt a mínuszjelet még meg is erősítheti, nem utolsósorban azért, mert ezek a rendszerek - bár globálisak - nagyon kevés globális vállalat privilégiumát és tulajdonát képezik. Jelenleg a mesterséges intelligencia területén a nagy innovációkat kilenc globális vállalat végzi, amelyek mindegyike több mint egy billió dollárral rendelkezik. Hogy megértsük ezt a helyzetet: például Nagy-Britannia teljes GDP-je (bruttó hazai terméke) 3,3 billió, tehát elképesztő számokról beszélünk. Röviden, ez nem egy széles körben elterjedt termék, nem olyan, amihez mindenki hozzáférhet. Egyre nagyobb a veszélye annak, hogy egyfajta függőség alakul ki mindössze néhány monopóliumtól. Egy másik elem, amelyet mérlegelnünk kell, az a „rejtett költségei” ezeknek a technológiáknak, amelyek ritkaföldfémeken és más anyagokon alapuló számítógépeken készülnek, amelyeknek nagyon magas a környezeti költségük és nagyon nagy az energiafogyasztásuk. Miközben tehát jó, ha feltesszük magunknak a kérdést, és elgondolkodunk azon, hogy mit jelentenek ezeknek a gépeknek a csodái, nem szabad azt sem elfelejtenünk, hogy van egy sokkal kevésbé látható, de sokkal költségesebb oldaluk is az egyenlőség, a környezeti és energiaköltségek tekintetében, amelyeket figyelembe kell vennünk, hogy ne váljanak olyan költséggé, amelyet a világ legszegényebb nemzeteinek kell kifizetniük.
A kormányok rendeleteket fogadnak el a Mesterséges Intelligenciáról, és az ENSZ is foglalkozik a kérdéssel. Önt az ENSZ főtitkára egy 39 szakértőből álló, Mesterséges Intelligenciával foglalkozó bizottság tagjává nevezte ki. Milyen feladatai vannak ennek a szervezetnek?
Ahogyan a munkaszervezet címe is jelzi, ez az ENSZ főtitkárának tanácsadó bizottsága. Mindenekelőtt azt kérik tőlünk, hogy vegyük számba, mi történik az innovációnak ezzel a formájával, és ezt tegyük nagyon kiegyensúlyozott módon. Először is arra kérnek bennünket, hogy készítsünk egy pillanatképet arról, hogy milyen nagy előnyei lehetnek az emberiség számára ezeknek a technológiáknak. Gondolunk a gyógyítási lehetőségek megnövekedésére, olyan módokra, amelyek révén a jólét új formái jöhetnek létre. De arra is felkértek bennünket, hogy mérjük fel a kockázatokat is, nemcsak az egyenlőtlenségek miatt, amelyek növekedhetnek, hanem azért is, mert különösen a mesterséges intelligencia legújabb formáiban, mint például az imént említett ChatGpt-ben, olyan gépünk van, amely képes a „narrációra”, képes történeteket mesélni, és a történetek segíthetnek a közvélemény alakításában. Ezt a gépet tehát nem éppen pozitív célokra is fel lehet használni, például a társadalmi gyűlölködés növelésére vagy ellenségek kreálására ott, ahol nem is léteznek. Egy olyan gépezet, amely ilyen mértékben képes befolyásolni a közvéleményt, egyértelműen olyan gépezet, amelyre nagyon óvatosan kell odafigyelniük különösen azoknak a szerveknek, amelyek együtt akarnak működni a globális béke vagy az egyenlő fejlődés érdekében. Az ENSZ-bizottság feladata az is, hogy olyan lehetséges keretet kínáljon, amelyen belül nemzetközi megállapodásokra lehet törekedni olyan értékek platformjaira alapozva, amelyek segíthetnek ennek az eszköznek abban, hogy a fejlődés egy formája, és ne csupán kevesek meggazdagodásának egy formája legyen.
Az egyház nem vonja ki magát a mesterséges intelligencia vitájából. Ezt az Ön személyes elkötelezettsége is bizonyítja. A Szentszék továbbá több területen is dolgozik ezzel kapcsolatban. Ferenc pápának a következő béke világnapjára és a társadalmi kommunikáció napjára szóló üzeneteinek témája pontosan a Mesterséges Intelligencia lesz. Mi lehet ezen a téren az egyház legfontosabb hozzájárulása?
Az egyház az „emberiség szakértőjeként” (az emberélet legjobb ismerőjeként) értelmezi magát. Egy olyan intézmény, amely, mint ilyen, mindenütt jelen van. Az egyház, első termékeny talajként összegyűjti és felkínálja az egész világnak elmélkedésre mindazt, ami a mai ember élete, annak nagy törekvéseivel, álmaival, de gyarlóságaival és félelmeivel együtt. 2020 óta a Mesterséges Intelligencia témája sokféleképpen foglalkoztatja és érinti a Szentszéket is. Nyilvánvaló, hogy mint minden nagy témának, ennek is érlelődnie kell az emberiség e gazdagságának találkozásában, amely alulról jön, a lelkipásztori jelenlétből és az evangéliumhoz és a teológiai elmélkedéshez is kapcsolódó reflexiós képességből származik. Ez a nagy figyelem egy olyan időszakban történik, amikor a Szentatya nagy hangsúlyt kívánt fektetni bizonyos globális témákra, mint például a közös otthonról való gondoskodás és a testvériség. A közös otthonról való gondoskodás és a testvériség lehet a két nagyszerű szempont, ahol az egyház egyedi, eredeti és pozitív módon járul hozzá ehhez a vitához. Nem csak politikai, nem csak ipari, gazdasági hozzájárulásra van szükség. Ez a humanizmusnak a hozzájárulása, egy olyan emberiségé, amely egy olyan környezetben, egy olyan otthonban él, amely a bolygónk, és amely rájön, hogy testvérként él, hozzájárul a Mesterséges Intelligencia „humanizációjához”, vagyis ahhoz, hogy a haladást hiteles emberi fejlődéssé alakítsa át, amire ma oly nagy szükségünk van.
