Påvens ord till G7: ”Ingen maskin ska kunna besluta om att ta livet av en människa”

Salvatore Cernuzio

Tyvärr är risken mer verklig än någonsin: "Ingen maskin bör någonsin få välja om den ska ta en människas liv". Franciskus talade på G7 mötet i Borgo Egnazia, Puglia, som den första påven att delta i ett toppmöte med sju av världens största industrialiserade ekonomier. När han anlände runt 13.00 med helikopter, höll han fyra bilaterala samtal med Georgieva (IMF), Zelensky, Macron och Trudeau, innan han, tillsammans med Italiens premiärminister, Giorgia Meloni, gick vidare till Sala Arena där han välkomnades av ledarna som deltar i mötet.

Fascinerande och fruktansvärt redskap

Påven talade till dem om artificiell intelligens, som är ett av G7 mötets huvudteman. Ett "fascinerande redskap" men samtidigt "fruktansvärt", sa han; "ett redskap", kapabelt att ge fördelar eller orsaka skada som alla "redskap" skapade av människan sedan tidernas gryning. Påven tillägnade budskapet för den 58:e Världsdagen för Sociala Kommunikationer till temat om AI. Nu, inför män och kvinnor med ansvar för världen, reflekterade han över möjligheterna men framför allt riskerna och "effekterna på mänsklighetens framtid". Påvens blick är framför allt fäst vid detta pågående krig i 'bitar', som blir mer och mer sammanlänkade.

”I dramat med väpnade konflikter är det brådskande att ompröva utvecklingen och användningen av de så kallade "dödliga autonoma vapnen" för att förbjuda användningen av dem, med utgångspunkt från ett aktivt och konkret åtagande att introducera en bredare och mer betydelsefull mänsklig kontroll.”

Må maskiner aldrig kunna besluta att döda människan som skapade dem. Påven hämtar inspiration till sin reflektion på G7 scenen, från den mänskliga uppfinningsrikedomen, för att klargöra hur det inte finns några som helst fördomar om vetenskapliga och tekniska framsteg, utan snarare en rädsla för att förlora greppet: "Vetenskap och teknik är extraordinära produkter av människornas kreativa potential”, sa påven. Och "det är just genom användningen av denna kreativa potential som Gud har gett oss, som den artificiella intelligensen utvecklas". Ett "extremt kraftfullt redskap", understryker påven, som används inom många områden av mänskligt handlande: medicin, arbete, kultur, kommunikation, utbildning, politik.

"Användningen av den kommer i allt högre grad att påverka vårt sätt att leva, våra sociala relationer och i framtiden även det sätt på vilket vi uppfattar vår identitet som människor."

Människans värdighet står på spel

Därför är å ena sidan möjligheterna som AI erbjuder spännande; å andra sidan skapar de rädsla för de konsekvenser de förutspår. Först och främst är det för Franciskus nödvändigt att på lämpligt sätt skilja mellan en maskin som "i vissa former och med dessa nya medel kan producera algoritmiska val" och därför "ett tekniskt val mellan flera möjligheter", och människan som istället, "inte bara han väljer, utan i sitt hjärta är kapabel att fatta beslut".

”Av denna anledning måste vi, inför maskinernas underbarn, som tycks kunna välja självständigt, vara tydliga med att människan alltid måste fatta beslutet, även i dramatiska och brådskande stunder som ibland uppstår i vårt liv.”

Påvens varning är skarp: ”Vi dömer mänskligheten till en hopplös framtid om vi tar ifrån dem möjligheten att bestämma över sig själva och sina liv, och dömer dem att vara beroende av maskinernas val. Vi behöver garantera och skydda människans kontroll över processen att välja artificiella intelligensprogram. Människans värdighet står på spel”.

Det är inte bara en fråga om vetenskapliga framsteg utan vi står inför "en sann kognitiv-industriell revolution, som leder till skapandet av ett nytt socialt system med komplexa historiska omvandlingar", konstaterade påven Franciskus.

”Artificiell intelligens skulle kunna möjliggöra en demokratisering av tillgången till kunskap, exponentiella framsteg inom vetenskaplig forskning, möjligheten att delegera ansträngande arbete till maskiner; men samtidigt kan det föra med sig en större orättvisa mellan avancerade nationer och utvecklingsländer, mellan dominerande och förtryckta samhällsklasser, och därmed äventyra möjligheten till en "möteskultur" till fördel för en "slit och släng kultur".”

Etik för människans bästa

Påven Franciskus talade därför om "etik": det är i den som de mänskliga villkoren "frihet" och "ansvar" utspelas; det är utan den som "mänskligheten har förvrängt syftena med sitt väsen genom att förvandla sig själv till en fiende till sig själv och planeten". Och idag, konstaterade påven, "när man märker att känslan av det mänskliga är förlorad, eller åtminstone förmörkad, och begreppet mänsklig värdighet är uppenbart obetydligt", så måste den artificiella intelligensen "användas till varje människas bästa". Det vill säga att användningen ska ha en "etisk inspiration".

Påven uttyckte därför sin uppskattning över undertecknandet i Rom, 2020, av Rome Call for AI Ethics och stödet för en etisk moderering av algoritmer.

Bland de olika riskerna fruktar påven också ett "teknokratiskt paradigm". Det är just här, konstaterar han, som politiskt agerande är ”brådskande". Politik, för många idag "ett dåligt ord" som påminner om "misstag", "korruption", "ineffektivitet hos vissa politiker" och "strategier som syftar till att försvaga den, ersätta den med ekonomin eller någon ideologi."

Men "kan världen fungera utan politik?", frågar sig påven. "Politik är användbar" är svaret. Men inför de beskrivna scenarierna behöver vi en "hälsosam politik" som kan få oss att se på vår framtid med hopp och tillförsikt.

Det finns faktiskt "saker som måste förändras med återställningar och viktiga omvandlingar" och "bara en sund politik kan leda de, som involverar de mest olika sektorerna och den mest varierande kunskapen", betonar påven "På detta sätt – tillägger han – kan en ekonomi integrerad i ett politiskt, socialt, kulturellt och folkligt projekt som tenderar mot det gemensamma bästa, öppna vägen för olika möjligheter, som inte innebär att stoppa mänsklig kreativitet och dess dröm om framsteg, utan snarare kanalisera denna energi på ett nytt sätt".