Heliga stolen: AI en resurs för ”fred”, men också ett potentiellt ”existentiellt” hot

Edoardo Giribaldi - Vatikanstaten

Leda utvecklingen av "framväxande teknologier" så att de tjänar det allmänna goda och den mänskliga värdigheten och tillbakavisa en värld där konflikter och beslut domineras av algoritmer. Detta är Heliga stolens ståndpunkt, som den 26 februari uttrycktes vid OSSE:s forum för säkerhet och samarbete av monsignore Richard Gyhra, Vatikanens ständige observatör.

Människans ansvar

”Det går inte att komma undan de allvarliga etiska frågor som är kopplade till vapenindustrin”: det var med dessa ord av påven Franciskus som monsignore Gyhra inledde sitt tal på temat ”Ansvarsfull militär användning av ny och framväxande teknik”. Det centrala i hans reflektion var behovet av att värna om de ”etiska principer” som ”upprätthåller varje persons inneboende värde” och hans förmåga till urskiljning och ”ansvarstagande”.

Mindre uppfattning om krigets skadeverkningar

När det gäller framväxande teknik, riktade Gyhra uppmärksamheten mot artificiell intelligens, en resurs som kan vara ett verktyg för ”fred” och ”säkerhet”, men också ett potentiellt ”existentiellt” hot mot mänskligheten. Han påpekade att användningen av fjärrstyrda system för militära operationer kan minska ”upplevelsen av förödelse” som orsakas av krig, vilket redan har lyfts fram i den senaste rapporten Antiqua et Nova om förhållandet mellan AI och mänsklig intelligens.

Juridisk oklarhet och etiska frågor

En annan fara är den ökande användningen av ”autonom teknik”, som riskerar att delegera militära beslut till maskiner och därmed undandra dem mänsklig övervakning. Detta skapar en ”rättslig oklarhet” och allvarliga etiska frågor. I detta sammanhang nämnde monsignore Gyhra Lethal Autonomous Weapon Systems (LAWS), som kan identifiera och slå till mot mål utan direkt mänsklig inblandning. Han citerade återigen påven Franciskus: ”Ingen maskin ska någonsin välja att ta livet av en människa”.

Hållbar mänsklig utveckling i centrum

Den Heliga Stolens oro, klargjorde monisngore Gyhra, syftar inte till att bromsa utvecklingen, utan till att uppmuntra etisk forskning och utveckling av ny teknik. Målet är att integrera dem i en ”bredare ram”, som inte begränsas till deras användbarhet och effektivitet, utan som sätter främjandet av en hållbar mänsklig utveckling i centrum.