Во пораката за Светскиот ден на мирот Папата предупредува на ризиците од вештачката интелигенција за мирот

Новите технологии мора секогаш да бидат насочени кон „мирот и општото добро, во служба на интегралниот развој на поединците и заедниците“.

Во својата овогодишна порака за Светскиот ден на мирот, папата Фрањо ги повика светските лидери да се погрижат напредокот во развојот на вештачка интелигенција „да служи за човечко братство и мир“.

Пораката, посветена на темата „Вештачка интелигенција и мир“, беше објавена од Ватикан во четвртокот пред 57-от Светски ден на мирот, 1 јануари 2024 година.

Вродена амбивалентност на техно-научниот напредок

Во пораката, папата Фрањо го привлекува вниманието на „етичката димензија“ на овие нови технологии кои го револуционизираат човештвото во сите сфери на животот, истакнувајќи ја амбивалентноста својствена за секој напредок во науката и технологијата.

Од една страна, вели тој, може да доведе до подобрување на човештвото и преобразба на светот „придонесувајќи за поголем ред во човечкото општество и поголемо братско заедништво и слобода“.

Од друга страна, техно-научниот напредок, особено во дигиталната сфера, „дава во човечки раце широк спектар на опции, вклучително и некои кои можат да претставуваат ризик за нашиот опстанок и да го загрозат нашиот заеднички дом“.

Ниту една технолошка иновација не е „неутрална“

Во пораката Папата потсетува дека ниту едно научно истражување и технолошка иновација не е „неутрална“: „Како целосно човечки активности, правците кои ги заземаат ги одразуваат изборите условени од личните, социјалните и културните вредности во било кое време. Истото мора да се каже и за резултатите што ги произведуваат: токму како плод на специфично човечките начини на пристап на светот околу нас, овие вториве секогаш имаат етичка димензија, тесно поврзана со одлуките донесени од оние кои ги осмислуваат своите експериментирања и го насочуваат нивното производство кон одредени цели“.

Ова исто така важи и за вештачката интелигенција, бидејќи „влијанието на секој уред со вештачка интелигенција - без оглед на неговата основна технологија - зависи не само од неговиот технички дизајн, туку и од целите и интересите на неговите сопственици и развивачи, како и од ситуациите во кои ќе се користи“.

Затоа, „не можеме априори да претпоставуваме дека нејзиниот развој ќе донесе корисен придонес за иднината на човештвото и за мирот меѓу народите. Позитивниот исход ќе се постигне само ако покажеме дека сме способни да дејствуваме одговорно и да ги почитуваме основните човечки вредности како што се „вклученост, транспарентност, безбедност, еднаквост, приватност и доверливост““, напиша папата Фрањо.

Етички прашања

Оттука и потребата „да се формираат тела задолжени за испитување на етичките прашања кои произлегуваат на ова поле и заштита на правата на оние кои користат облици на вештачка интелигенција или се засегнати од нив“.

„Имаме должност да го прошириме погледот и да ги насочиме техно-научните истражувања кон потрагата по мир и општото добро, во служба на интегралниот развој на поединците и заедниците.

„Технолошкиот развој не води само кон подобрување на квалитетот на животот на целото човештво, туку напротив може и да ја зголеми нееднаквоста и конфликтите, а тоа никогаш не може да се смета за вистински напредок“, рече Папата.

Пораката ги истакнува многуте предизвици што ги донесува вештачката интелигенција кои се „антрополошки, образовни, социјални и политички“.

Ризици за демократските општества

Способноста на одредени уреди да произведуваат кохерентни текстови, на пример, „не е гаранција за нивната сигурност“. Ова, рече Папата, „претставува сериозен проблем кога вештачката интелигенција се користи во кампањи за дезинформации кои шират лажни вести и доведуваат до зголемена недоверба кон комуникациските медиуми“.

Злоупотребата на овие технологии може да има и други негативни последици „како што се дискриминација, мешање во избори, зголемен за надзор во општеството, дигитална исклученост и зголемувње на индивидуализмот, кој сè повеќе се одвојува од општеството“, тоа се закани за светскиот мир.

Папата Фрањо потоа предупредува на ризиците за демократските општества и мирната коегзистенција на доминантната технократска парадигма зад вештачката интелигенција и култот на неограничената човечка моќ: „Со желбата да се надмине секоја граница преку технологијата, во опсесивна желба да контролираме сè, ризикуваме да изгубиме контрола над нас самите“.

Алгоритмите не смеат да одредуваат како да ги сфаќаме човековите права

Тој инсистира на „горливите“ етички прашања што ги поставува вештачката интелигенција, вклучително дискриминација, манипулација или контрола на општествотот: „Потпирајќи се на автоматските процеси кои ги категоризираат поединците, на пример, со распространета употреба на надзор или усвојување на социјални кредитни системи, може исто така да имаат длабоки реперкусии врз општественото ткиво преку воспоставање категории меѓу граѓаните“.

„Не смее да се дозволи алгоритмите да одредат како да се сфаќаат човековите права, да бидат оставени настрана основните човечки вредности на сочувство, милост и простување“, нагласи Папата, истакнувајќи го и влијанието на новите технологии на работното место.

Наоружување со вештачката интелигенција

Папата Фрањо изразува особена загриженост за „вооружување со вештачка интелигенција“, наведувајќи ги посебно смртоносните автономни системи на оружје (ЛАВС), привлекувајќи внимание на ризикот софистицираното оружје да заврши во рацете на терористите.

„Најнапредните технолошки апликации не треба да се користат за да се олесни насилното решавање на конфликтите, туку да се отвори патот за мир“.

Од позитивна страна, папата Фрањо забележува дека вештачката интелигенција може да се користи за промовирање на интегрален човечки развој, со воведување „важни иновации во земјоделството, образованието и културата, подобрено ниво на живот за цели нации и народи и раст на човечкото братство и општественото пријателство“.

Предизвици за образованието

Пораката ги потенцира предизвиците што ги поставува вештачката интелигенција за образованието на новите генерации кои растат „во културни средини опфатени со технологијата“.

Во таа насока, Папата укажува на итна потреба од едукација на младите за користење на вештачката интелигенција. Ова образование, вели тој, „треба да има цел пред сè да промовира критичко размислување“.

Потреба од меѓународен договор за регулирање на вештачката интелигенција

Затоа папата Фрањо ја повика глобалната заедница на народи да работи заедно за да усвои обврзувачки меѓународен договор кој го регулира развојот и употребата на вештачката интелигенција во нејзините многубројни форми: „Глобалната скала на вештачката интелигенција јасно покажува дека, покрај одговорноста на суверените држави да ја регулираат неговата употреба внатрешно, меѓународните организации можат да играат одлучувачка улога во постигнувањето мултилатерални договори и координирање на нивната примена и спроведување“.

„Тоа е моја молитва на почетокот на Новата година“, стои на крајот од пораката, „дека брзиот развој на формите на вештачка интелигенција нема да ги зголеми случаите на нееднаквост и неправда премногу присутни во денешниот свет, туку ќе помогне да се стави крај на војните. и конфликти и ќе се ублажат многу форми на страдање што го погодуваат нашето човечко семејство“.