Inteligența artificială și factorul uman
ANDREA TORNIELLI
Vatican News – 14 iunie 2024. "Sistemele de arme autonome nu pot fi niciodată subiecți responsabili din punct de vedere moral: capacitatea exclusiv umană de judecată morală și de luare a deciziilor etice este mai mult decât un set complex de algoritmi, iar această capacitate nu poate fi redusă la programarea unei mașini care, oricât de "inteligentă" ar fi, rămâne o mașină. Din acest motiv, este imperativ să se asigure o supraveghere umană adecvată, semnificativă și coerentă a sistemelor de arme". Astfel evidențiază papa Francisc în Mesajul pentru Ziua Mondială a Păcii din 2024.
Există un episod, petrecut în urmă cu patruzeci de ani, care ar trebui să devină o paradigmă ori de câte ori vorbim despre inteligența artificială aplicată la război, la arme, la instrumente ale morții. Este povestea ofițerului sovietic a cărui decizie, încălcând protocolul, a salvat lumea de la un conflict nuclear care ar fi avut consecințe catastrofale. Acel om se numea Stanislav Evgrafovici Petrov, era locotenent-colonel în armata rusă și, la 26 septembrie 1983, se afla în serviciul de noapte în buncărul "Serpukhov 15", monitorizând activitatea rachetelor americane. Războiul Rece se afla într-un moment de cotitură crucial, președintele american Ronald Reagan investea sume uriașe în armament și tocmai numise URSS "imperiul răului", iar NATO era angajată în exerciții militare care recreau scenarii de război nuclear. La Kremlin se afla Iurij Andropov, care vorbise recent despre o "escaladare fără precedent" a crizei, iar la 1 septembrie sovieticii doborâseră un avion de linie al Korean Air Lines deasupra peninsulei Kamchatka, ucigând 269 de persoane.
În acea noapte de 26 septembrie, Petrov a văzut că computerul Krokus, creierul considerat infailibil în monitorizarea activității inamicului, a raportat de la o bază din Montana plecarea unei rachete care se îndrepta spre Uniunea Sovietică. Protocolul prevedea ca ofițerul să își alerteze imediat superiorii, care urmau să dea undă verde pentru un răspuns prin lansarea de rachete spre Statele Unite. Dar Petrov nu s-a grăbit și pentru că – după cum i s-a spus – orice atac ar fi fost masiv. Prin urmare, a considerat acea rachetă izolată o alarmă falsă. Și a procedat la fel și în cazul următoarelor patru care au apărut pe monitoarele sale la scurt timp după aceea, întrebându-se de ce nu a existat nicio confirmare din partea radarului de la sol. Știa foarte bine că rachetele intercontinentale au nevoie de mai puțin de o jumătate de oră pentru a ajunge la destinație, dar a decis să nu dea alarma, lăsându-i pe ceilalți militari prezenți pietrificați.
În realitate, creierul electronic se înșelase; nu avusese loc niciun atac cu rachete. Krokus fusese indus în eroare de un fenomen de refracție a luminii solare în contact cu norii la mare altitudine. Pe scurt, inteligența umană văzuse dincolo de cea a mașinii. Decizia providențială de a nu acționa fusese luată de un om a cărui judecată fusese capabilă să privească dincolo de date și protocoale.
Catastrofa nucleară a fost evitată, deși nimeni nu a știut despre ea la momentul respectiv până la începutul anilor 1990. Petrov, care a decedat în septembrie 2017, a declarat următoarele despre acea noapte din buncărul "Serpukhov 15": "Ce am făcut? Nimic special, mi-am făcut doar munca. Am fost omul potrivit la locul potrivit, la momentul potrivit'. El fusese omul capabil să evalueze posibila eroare a mașinii considerate infailibile, omul capabil – pentru a reveni la cuvintele Papei – 'de judecată morală și de luare de decizii etice', pentru că o mașină, oricât de 'inteligentă' ar fi ea, rămâne tot o mașină.
Războiul, repetă papa Francisc, este o nebunie, o înfrângere a umanității. Războiul este o încălcare gravă a demnității umane. Este gravă ducerea războiului ascunzându-se în spatele algoritmilor, bazându-se pe inteligența artificială pentru a determina țintele și modul de a le lovi, pentru ca astfel să fie spălată conștiința fiindcă, în cele din urmă, este un dispozitiv cel care a ales. Să nu-l uităm pe Stanislav Evgrafovici Petrov."
