Штучний інтелект і мир. Підсумок Послання Папи на LVII Всесвітній день миру
о. Тимотей Т. Коцур, ЧСВВ – Ватикан
«Нехай же християни, віруючі різних релігій і люди доброї волі зможуть гармонійно співпрацювати, щоб використати можливості та долати виклики, що випливають із цифрової революції, та передати майбутнім поколінням більш солідарний, справедливий і мирний світ», – таким побажанням завершується Послання Папи Франциска на 57-й Всесвітній день миру, що відзначатиметься 1 січня 2024 року. В четвер, 14 грудня 2023 р., в пресцентрі відбулася конференція з нагоди його представлення.
Прогрес як дорога до миру
Складаючи всім з нагоди початку нового року побажання миру, Святіший Отець відкриває свої роздуми нагадуванням про те, що Святе Письмо говорить нам про те, що Бог обдарував людей своїм Духом, щоб вони «володіли мудрістю, розумом і хистом у всякім ділі». Таким чином, «інтелект – це вираження гідності, дарованої нам Творцем, Який створив нас на свій образ і подобу і вчинив нас спроможними відповідати на Його любов через свободу та знання». Тож наука й технологія, як фундаментальні вираження цієї риси інтелекту, є «надзвичайним продуктом» творчого потенціалу людини. «Ми справедливо радіємо і вдячні за надзвичайні здобутки науки і техніки, завдяки яким були знайдені засоби для подолання незліченних лих, що обтяжували людське життя і спричиняли великі страждання», – пише Папа, звертаючи, однак, увагу на те, що прогрес також вкладає в руки людини можливості, що можуть становити загрозу для її виживання. «Тому необхідно поставити кілька нагальних запитань. Якими будуть середньо і довгострокові наслідки нових цифрових технологій? І який вплив вони матимуть на життя людей і суспільства, на міжнародну стабільність і мир?» – зазначає він.
Обумовленість прогресу
Папа вказує на те, що розвиток інформаційних і цифрових технологій протягом останніх десятиліть уже почав викликати глибокі перетворення в глобальному суспільстві, змінюючи обличчя комунікації, управління, освіти, споживання та взаємодії. Певні алгоритми спроможні збирати дані, що дають змогу контролювати ментальні звички людини з комерційною чи політичною метою, «часто за її незнання, обмежуючи усвідомлене здійснення свободи». «Ми повинні пам'ятати, що наукові дослідження та технологічні інновації не є відірваними від реальності та "нейтральними", але зазнають культурних впливів. Як повністю людська діяльність, напрямки, в яких вони розвиваються, відображають вибір, зумовлений особистими, соціальними та культурними цінностями кожної епохи», – пише Наступник святого Петра, додаючи, що це також стосується і отриманих результатів.
Проблематика відповідальності
Якщо ж йдеться про штучний інтелект, він досі не має однозначного визначення в науковому світі. Цей термін обіймає різні науки, теорії та техніки, спрямовані на те, щоб машини імітували когнітивні здібності людини. Вживання у цьому випадку множини, як у терміні «форми інтелекту», допомагає підкреслити «нездоланну прірву, яка існує між цими системами, якими б дивовижними і потужними вони не були, і людською особою: вони, в кінцевому рахунку, "фрагментарні" в тому сенсі, що можуть лише імітувати або відтворювати певні функції людського інтелекту». І ми «не можемо апріорі вважати», що розвиток штучного інтелекту зробить благотворний внесок у майбутнє людства і в мир між народами. «Такий позитивний результат буде можливий лише тоді, коли ми покажемо, що здатні діяти відповідально і поважати фундаментальні людські цінності, такі як інклюзивність, прозорість, безпека, справедливість, конфіденційність і надійність», – наголошує Святіший Отець, звертаючи увагу й на те, що ми не можемо також припускати, що той, хто проектує ці алгоритми, завжди діятиме, керуючись етикою та відповідальністю. І це вимагає посилення чи створення відповідних органів, що досліджуватимуть етичні питання.
Керуючись критерієм гідності
Отож, Папа наголошує що «експансія технології повинна супроводжуватися відповідним формуванням до відповідальності за її розвиток». «Свобода і мирне співіснування опиняються під загрозою, коли люди піддаються спокусі егоїзму, корисливості, жадобі наживи і спразі влади», – пише він, підкреслюючи, що в основі розвитку технологій та критерієм оцінки повинні бути «притаманна гідність кожної особи та братерство», оскільки «технологічний розвиток, який не призводить до поліпшення якості життя всього людства, а навпаки, посилює нерівність і конфлікти, ніколи не може вважатися справжнім прогресом». За словами Святішого Отця, штучний інтелект ставить виклики не лише технологічного, але й антропологічного, освітнього, соціального та політичного характеру. «Необхідно усвідомлювати стрімкість трансформацій, що відбуваються, і управляти ними таким чином, щоб гарантувати фундаментальні права людини, поважаючи інституції та закони, які сприяють всебічному розвитку людини. Штучний інтелект повинен служити найкращому людському потенціалу і нашим найвищим прагненням, а не конкурувати з ними», – пише він.
Машини, що «навчаються»
Далі у посланні присвячено кілька слів технології автоматичного самонавчання, яка підносить питання, що виходять за межі технології та інженерії, а стосуються розуміння, тісно пов’язаного зі значенням людського життя, зі здатністю розуму досягати правди. «Здатність деяких пристроїв створювати синтаксично та семантично зв'язні тексти, наприклад, не є гарантією надійності. Кажуть, що вони здатні "галюцинувати", тобто генерувати твердження, які на перший погляд здаються правдоподібними, але насправді є необґрунтованими або видають упередження», – читаємо в тексті, що вказує на виклики, пов’язані із використанням штучного інтелекту в дезінформаційних кампаніях. Іншими ризикованими сферами є конфіденційність, накопичення даних та інтелектуальна власність. Невластиве використання також може були пов’язане з дискримінацією чи впливом на електоральні процеси. Всі це фактори несуть загрозу розпалювання конфліктів і перешкоджання мирові.
Обмеженість технократичної парадигми
Папа також нагадує про обмеженість технократичної парадигми, адже «наш світ занадто великий, різноманітний і складний, щоб його можна було повністю пізнати і класифікувати», і людина ніколи не зможе вичерпати його багатство, навіть за допомогою найпрогресивніших алгоритмів. Крім того, «велика кількість даних, що аналізуються штучним інтелектом, сама по собі не є гарантією неупередженості», бо алгоритми можуть повторювати упередження середовищ, в яких були створені. Так звані «розумні» машини можуть виконувати покладені на них завдання «з дедалі більшою ефективністю», але «мета і сенс їхньої діяльності й надалі визначатимуться або забезпечуватимуться людьми, які мають власну систему цінностей». Це повинно спонукати замислитися над аспектом, який у технократичній ментальності, зосередженій на ефективності, часто не береться до уваги, хоча є «вирішальним для особистого й суспільного розвитку»: йдеться про «відчуття обмеження». «Людина, яка, по суті, є смертною за визначенням, думаючи вийти за всі межі за допомогою технологій, в одержимості бажанням контролювати все, ризикує втратити контроль над собою; а в пошуках абсолютної свободи – потрапити в спіраль технологічної диктатури», – пише Святіший Отець, підкреслюючи, що «усвідомлення і прийняття власної обмеженості як створіння є неодмінною умовою для досягнення людиною повноти, а точніше, прийняття її як дару».
Деякі гарячі етичні питання
У посланні звертається увагу на те, що в майбутньому системам штучного інтелекту можуть бути доручені оцінювання надійності позичальника чи прохача про притулок, або ж придатність до певної праці. Іноді здається, що деякі форми штучного інтелекту впливати на рішення індивіда через заздалегідь визначені варіанти, пов'язані зі стимулами і стримуючими факторами, або через регулювання особистого вибору на основі організації інформації. Автоматичні процеси, які розподіляють людей за категоріями, наприклад, через повсюдне використання спостереження або запровадження систем «соціального рейтингу», можуть мати глибокі наслідки для суспільства, «встановлюючи неналежне сортування громадян за певними категоріями», як також привести до конфліктів інтересів. «Фундаментальна повага до людської гідності постулює відмову від ототожнення унікальності людини з набором даних», – пише Папа, наголошуючи на тому, що «не можна дозволити алгоритмам визначати те, як ми розуміємо права людини, відкинути основні цінності співчуття, милосердя і прощення, або виключити можливість людини змінитися і залишити минуле позаду». Аспекту прав стосується також вплив нових технологій на світ праці.
Виклики в сфері озброєнь
«Сьогодні, дивлячись на навколишній світ, неможливо уникнути серйозних етичних питань, пов'язаних з індустрією озброєнь. Можливість проведення військових операцій за допомогою систем дистанційного керування призвела до зменшення сприйняття руйнувань, які вони спричиняють, і відповідальності за їх використання, сприяючи ще більш холодному і відстороненому підходу до безмірної трагедії війни», – зазначає далі Святіший Отець, вказуючи також на проблему так званих «автономних систем летального озброєння», що включає воєнне застосування штучного інтелекту. Виклик полягає в тому, що автономні системи «ніколи не зможуть бути морально відповідальними суб’єктами». Не можемо ігнорувати й того факту, вишукана зброя може опинитися «в не тих руках». «Найсучасніші технічні засоби повинні використовуватися не для того, щоб сприяти насильницькому вирішенню конфліктів, а для того, щоб прокладати дороги миру», – наголошує він.
Необхідність алгор-етики
Але якщо поглянути з позитивної точки зору, штучний інтелект може використовуватися для сприяння цілісному розвиткові людини, впроваджуючи важливі інновацій в сільське господарство, в освіту та культуру, покращення рівня життя цілих народів. «Людяний погляд і бажання кращого майбутнього для нашого світу ведуть до необхідності міждисциплінарного діалогу, спрямованого на етичний розвиток алгоритмів, – алгор-етики, – в якому напрямки розвитку нових технологій визначають цінності», – зазначає Папа, вказуючи на те, що етичні питання повинні братися до уваги від початку досліджень і на всіх етапах, таких як випробування, проектування, виробництво і дистрибуція.
Виклики для виховання
Розвиток технології, який шанує людську гідність та служить їй, безпосередньо пов’язаний із освітніми інституціями та світом культури. Потрібні постійні роздуми про те, до якого типу стосунків нас ведуть нові способи комунікації. За словами Святішого Отця, виховання, яке стосується користування формами штучного інтелекту, повинно в першу чергу сприяти критичному мисленню, щоб усі користувачі «розвивали здатність розпізнання у користуванні даними та контентом, зібраними в Інтернеті або виробленими системами штучного інтелекту». Крім того, воно повинно брати до уваги не тільки явище дезінформації та фальшивих новин, але й тривожне розпалювання давніх страхів за допомогою новітніх технологій.
Розвиток міжнародного права
Врешті, Святіший Отець зупиняється на деяких викликах перед системою міжнародного права. За його словами, глобальний масштаб поширення штучного інтелекту показує, що поряд з відповідальністю держав за регулювання його використання всередині країни, міжнародні організації можуть відігравати вирішальну роль у досягненні багатосторонніх угод і координації їх застосування. Тому він закликає міжнародну спільноту приготувати зобов’язуючий договір, який регулюватиме розвиток і використання штучного інтелекту в його різних формах. Метою регуляції повинно бути «не лише запобігання лихим практикам», але також заохочення тих добрих, «стимулюючи нові та креативні підходи, сприяючи індивідуальним і колективним ініціативам». «Врешті-решт, у пошуках регуляторних моделей, які можуть забезпечити етичні орієнтири для розробників цифрових технологій, вкрай важливо визначити людські цінності, які повинні лежати в основі зусиль суспільства, спрямованих на формулювання, ухвалення та забезпечення дотримання необхідних законодавчих рамок», – наголошує Папа, додаючи, що цей процес морального та юридичного розпізнання може стати слушною нагодою для того, щоб разом замислитися над роллю, яку технології повинні відігравати в нашому житті, над тим, як використання їх може причинитися до будування справедливішого та людянішого світу.
Мир – плід стосунків відкритості на ближнього
Підсумовуючи, Святіший Отець висловлює сподівання, що ці роздуми «спонукають до того, що поступ у розвитку форм штучного інтелекту в кінцевому результаті послужить справі людського братерства і миру». Це завдання стосується всього людського роду, оскільки мир є «плодом стосунків, які визнають і приймають іншу людину в її невід'ємній гідності, а також плодом співпраці та зусиль, спрямованих на цілісний розвиток усіх людей і всіх народів».
«На початку нового року я молюся про те, щоб швидкий розвиток форм штучного інтелекту не збільшив численні прояви нерівності та несправедливості, які вже існують у світі, але допоміг покласти край війнам і конфліктам, а також полегшити багато форм страждань, які гнітять людський рід», – пише Папа.
