Påven varnar för AI i årets Fredsbudskap
Charlotta Smeds – Vatikanstaten
Ny teknik måste alltid "sträva efter fred och det gemensamma bästa, i den integrerade utvecklingens tjänst av personer och samhällen."
I sitt årliga budskap till Världsdagen för bön om fred, uppmanar påven Franciskus världsledare att se till att utvecklingens framsteg inom artificiell intelligens "i slutändan ska tjäna mänskligt broderskap och fred."
Budskapet, tillägnat temat "Artificiell intelligens och fred", släpptes av Heliga Stolen på torsdagen inför den 57:e världsfredsdagen, 1 januari 2024.
Ambivalens i tekniska och vetenskapliga framsteg
I budskapet uppmärksammar påven Franciskus den "etiska dimensionen" av dessa nya teknologier som revolutionerar mänskligheten inom alla livets sfärer, och lyfter fram ambivalensen i alla framsteg inom vetenskap och teknik.
Å ena sidan, menar påven, kan det leda till en förbättring av mänskligheten och en världslig omvandling om det "bidrar till större ordning i det mänskliga samhället och större broderlig gemenskap och frihet"
Å andra sidan, ger tekniska och vetenskapliga framsteg, särskilt inom den digitala sfären, "ett stort antal alternativ i mänskliga händer, inklusive några som kan utgöra en risk för vår överlevnad och äventyra vårt gemensamma hem."
Ingen teknisk innovation är "neutral"
Budskapet påminner om att ingen vetenskaplig forskning eller teknisk innovation är "neutral": "Som helt mänskliga aktiviteter fattas beslut som påverkas av personliga, sociala och kulturella värderingar i en given tidsålder. Detsamma måste sägas om de resultat de producerar: just som frukten av specifikt mänskliga sätt att förhålla sig till världen omkring oss, finns det alltid en etisk dimension, nära kopplad till de beslut som fattas av dem som utformar sina experiment och riktar sin produktion mot särskilda mål.”
Detta gäller även för AI, för "effekten av artificiell intelligens - oavsett dess underliggande teknologi - beror inte bara på dess tekniska design, utan också på målen och intressena hos dess ägare och utvecklare, liksom på de situationer den kommer att användas.”
Därför ”kan vi inte a priori anta att dess utveckling kommer att ge ett välgörande bidrag till mänsklighetens framtid och till fred mellan folken. Det positiva resultatet kommer bara att uppnås om vi är kapabla att agera ansvarsfullt och respektera grundläggande mänskliga värderingar som "inkludering, transparens, säkerhet, rättvisa, integritet och pålitlighet", skriver påven Franciskus.
Etiska problem
Därav behovet "att inrätta organ som har till uppgift att undersöka de etiska frågor som är kopplade till användningen och skydda rättigheterna för dem som använder artificiell intelligens eller berörs av den."
"Vi har en plikt att vidga vår blick och att rikta den teknovetenskaplig forskningen mot strävan efter fred och det gemensamma bästa, i den integrerade utvecklingens tjänst av personer och samhällen."
"En teknologisk utveckling som inte leder till en förbättring av hela mänsklighetens livskvalitet, utan tvärtom förvärrar ojämlikheter och konflikter, kan aldrig räknas som verkliga framsteg", säger påven.
Budskapet fortsätter för att belysa de många utmaningarna som AI utgör: "antropologiska, pedagogiska, sociala och politiska."
Risker för demokratiska samhällen
Förmågan att producera sammanhängande texter, till exempel "är ingen garanti för deras tillförlitlighet." Detta innebär ett allvarligt problem när artificiell intelligens används i desinformationskampanjer som sprider falska nyheter och leder till en växande misstro mot kommunikationsmedia", skriver påven.
Missbruket av dessa teknologier kan också få andra negativa konsekvenser ”såsom diskriminering, inblandning i val, framväxten av ett övervakningssamhälle, digitalt utanförskap och förvärringen av en alltmer samhällsfrånvänd individualism”. Allt detta är hot mot världsfreden.
Påven Franciskus varnar sedan för hur det dominerande teknokratiska paradigmet bakom AI och kulten av obegränsad mänsklig makt hotar demokratiska samhällen och fredlig samexistens: "Genom att föreslå att övervinna varje gräns genom teknik, i en besatt önskan att kontrollera allt, riskerar vi att förlora kontrollen över oss själva.”
Algoritmer kan inte fastställa mänskliga rättigheter
Påven insisterar på de "brinnande" etiska frågorna som AI ställer, om diskriminering, manipulation eller social kontroll: "Tron på automatiska processer som kategoriserar personer, till exempel genom den genomgripande användningen av övervakning eller sociala kreditsystem, skulle kunna ha djupgående återverkningar på den sociala strukturen genom att ranka medborgarna.”
Algoritmer får inte avgöra hur vi förstår mänskliga rättigheter, och åtsidosätta de grundläggande mänskliga värdena som medkänsla, barmhärtighet och förlåtelse", betonar påven.
Beväpning av artificiell intelligens
Påven Franciskus uttrycker särskild oro för artificiell intelligens inom vapenindutrin, och hänvisar till Lethal Autonomous Weapon Systems (LAWS). Han uppmärksammar risken för att sofistikerade vapen hamnar i händerna på terrorister.
"Den mest avancerade tekniken bör inte användas för att underlätta en konfliktlösning med våld, utan snarare för att bana väg för fred."
På den positiva sidan noterar påven Franciskus att artificiell intelligens kan användas för att främja integrerad mänsklig utveckling, genom att introducera "viktiga innovationer inom jordbruk, utbildning och kultur, och en förbättrad livsnivå för hela nationer och folk, och tillväxten av mänskligt broderskap och social vänskap.”
Utmaningar inom utbildning
Budskapet fortsätter att belysa de utmaningar som AI innebär för utbildningen av de nya generationerna som växer upp "i kulturella miljöer genomsyrade av teknik."
Påven pekar på det akuta behovet av att utbilda unga människor i användningen av artificiell intelligens. Denna utbildning, säger han, "bör framför allt syfta till att främja kritiskt tänkande."
Behov av att reglera AI
Påven Franciskus uppmanar därför världssamfundet att arbeta tillsammans för att anta ett bindande internationellt fördrag som reglerar utvecklingen och användningen av artificiell intelligens i dess många former: ”Den globala omfattningen av artificiell intelligens gör det klart att, vid sidan av suveräna staters ansvar, kan internationella organisationer spela en avgörande roll för att nå multilaterala överenskommelser och samordna deras tillämpning och efterlevnad.”
"Det är min bön i början av det nya året", avslutas fredsbudskapet, "att den snabba utvecklingen av former av artificiell intelligens inte kommer att öka fallen av ojämlikhet och orättvisor som är alltför närvarande i dagens värld, utan ska bidra till att få ett slut på krig och konflikter, och lindra de många former av lidande som drabbar vår mänskliga familj.”
