Umělá inteligence a lidský faktor
Andrea Tornielli
„Autonomní zbraňové systémy nemohou být nikdy morálně odpovědnými subjekty: výlučná lidská schopnost morálního úsudku a etického rozhodování je více než složitý soubor algoritmů a tuto schopnost nelze redukovat na naprogramování stroje, který, jakkoli je "inteligentní", je stále strojem. Z tohoto důvodu je nezbytné zajistit odpovídající, smysluplný a důsledný lidský dohled nad zbraňovými systémy“. Toto napsal papež František ve svém poselství k letošnímu Světovému dni míru.
Existuje epizoda, která se odehrála před čtyřiceti lety a která by se měla stát paradigmatem, kdykoli budeme hovořit o umělé inteligenci aplikované na válku, na zbraně, na nástroje smrti. Jde o příběh sovětského důstojníka, jehož rozhodnutí v rozporu s protokolem zachránilo svět před jaderným konfliktem, který by měl katastrofální následky. Ten muž se jmenoval Stanislav Jevgrafovič Petrov, byl podplukovníkem ruské armády a 26. září 1983 měl noční službu v bunkru "Serpuchov 15", kde sledoval aktivitu amerických raket. Studená válka se nacházela v rozhodujícím bodu zlomu, americký prezident Ronald Reagan investoval obrovské částky do zbrojení a právě označil SSSR za "říši zla", NATO se účastnilo vojenských cvičení, která rekonstruovala scénáře jaderné války. V Kremlu seděl Jurij Andropov, který krátce předtím hovořil o "bezprecedentní eskalaci" krize, a 1. září Sověti sestřelili nad Kamčatkou dopravní letadlo Korean Air Lines, přičemž zahynulo 269 lidí.
Té noci 26. září Petrov viděl, že počítač Krokus, mozkový trust považovaný za neomylný při sledování nepřátelské aktivity, ohlásil ze základny v Montaně odlet rakety mířící na Sovětský svaz. Podle protokolu měl důstojník okamžitě upozornit své nadřízené, kteří by dali pokyn k odpovědi odpálením raket směrem na Spojené státy. Petrov si však dal na čas, v neposlední řadě proto, že - jak mu bylo řečeno - případný útok by byl masivní. Proto považoval onu osamocenou raketu za planý poplach. Stejně se zachoval i k dalším čtyřem, které se na jeho monitorech objevily krátce poté, a divil se, proč se neobjevilo žádné potvrzení z pozemního radaru. Dobře věděl, že mezikontinentálním raketám trvá méně než půl hodiny, než dosáhnou svého cíle, ale rozhodl se nevyvolat poplach a ponechal ostatní přítomný vojenský personál úplně ochromený.
Ve skutečnosti se elektronický mozek mýlil; k žádnému raketovému útoku nedošlo. Krokus se nechal zmást jevem lomu slunečního světla při kontaktu s mraky ve velké výšce. Lidská inteligence zkrátka viděla dál než stroj. Prozřetelné rozhodnutí neučinit rozhodnutí učinil člověk, jehož úsudek dokázal nahlédnout za hranice dat a protokolů.
Jaderné katastrofě se podařilo zabránit, ačkoli o tom tehdy nikdo nevěděl až do začátku devadesátých let. Petrov, který zemřel v září 2017, o oné noci v bunkru "Serpuchov 15" řekl toto: "Co jsem udělal? Nic zvláštního, jen svou práci. Byl jsem správný člověk na správném místě ve správný čas". Byl člověkem schopným posoudit možnou chybu stroje považovaného za neomylný, člověkem schopným - abychom se vrátili k papežovým slovům - "morálního úsudku a etického rozhodování", protože stroj, jakkoli "inteligentní", je stále stroj.
Válka, opakuje František, je šílenství, porážka lidskosti. Válka je vážným porušením lidské důstojnosti. Vést válku schováváním se za algoritmy, spoléháním se na umělou inteligenci při určování cílů a způsobu jejich zasažení, a tím očišťovat své svědomí, protože si nakonec vybral stroj, je ještě závažnější. Nezapomínejme na Stanislava Jevgrafoviče Petrova.
