Священник і член комітету ООН про роль Церкви в «гуманізації» ШІ
о. Яків Шумило, ЧСВВ / Alessandro Gisotti – Ватикан
Сьогодні дедалі більше людей використовують штучний інтелект (ШІ), який є значною технологічною інновацією нашого часу. Одним з провідних експертів з цього питання є о. Паоло Бенанті, TOR, богослов і філософ, який на запрошення Генерального секретаря ООН нещодавно став членом Комітету експертів ООН з питань штучного інтелекту. У інтерв’ю для Vatican News він розповів про його користь, ризики та ексклюзивний вимір.
Еволюція промислової революції
Відповідаючи на запитання про те чи ШІ матиме більший вплив на людство, ніж промислова революція, о. Паоло сказав, що тут йдеться радше про еволюцію промислової революції. «Промислову революцію характеризували як систему заміщення певних завдань, які виконувала людина, машинами. На початку промислової революції машина замінила м'язову силу; сьогодні ми хотіли б замінити частину когнітивних здібностей людини. Машина дуже добре це імітує; вона доволі здатна мати мету, та однак ця машина все ще залишається імітацією і не має власної свідомості, власної волі», – зауважив він. Проте, за його словами, наслідки розвитку ШІ з точки зору соціального впливу можуть бути «революційними», зробивши робочі місця середнього класу менш необхідними. Таким чином, за відсутності контролю над ШІ «відповідно до критеріїв, які також є критеріями соціальної справедливості», наслідки можуть бути справді руйнівними або, принаймні, «дуже помітними в плані згуртованості демократичних держав».
Етичні виміри штучного інтелекту
Говорячи про конкретні кроки для розвитку штучного інтелекту, які б уникали руйнівних наслідків, член Комітету експертів ООН вказав на важливість спиратися в цьому питанні на соціальну доктрину Церкви, належно розрізняючи інновації та розвиток. «Інновація або технологічний прогрес – це здатність робити щось дедалі ефективнішим і сильнішим. Подумаймо про таку негативну, але, на жаль, повсякденну сферу, як війна. Пістолет, кулемет, граната, атомна бомба – це лише деякі елементи військових інновацій. Однак ніхто не вважає, що атомна бомба краща чи досконаліша за пістолет. Натомість розвиток – це те, що бере технологічні інновації і перетворює їх на щось, що також спрямоване на соціальне благо, на загальне благо», – зауважив богослов.
За його словами, інновації у галузі штучного інтелекту презентують набагато складніші етичні питання, порівняно з іншими інноваціями. Це пов’язано з тим, що машинні системи, які репрезентують ШІ, «мають здатність адаптуватися до обставин, щоб досягти мети». «Отже, машина, яка певною мірою може визначати, які засоби є більш доречними для досягнення мети, – це машина, яка за своєю природою потребує дуже широких “етичних бар'єрів”, тому що мета не виправдовує засоби», – підкреслив о. Паоло.
Він переконаний, що моральний вимір завжди залишатиметься прерогативою людини, оскільки «свідомість не є чимось, що належить машині», в ній «не існує суб'єктності, що ставить під сумнів себе чи світ», оскільки машина лише виконує завдання, отримані від людини. «Вибір відповідних цілей повинен і може бути тільки в руках людини. Це не применшує того факту, що віддання управління машині без особливих роздумів, без постановки правильних запитань, може призвести до катастрофічних наслідків, навіть за відсутності у машини свідомості», – зауважив експерт.
Демонстрація, а не остаточний засіб
Не оминули співрозмовники й ChatGpt, який є одним з популярних інструментів штучного інтелекту. Це вражає отця Паоло, оскільки додаток став найбільш завантажуваним за всю історію, вторгаючись в наше цифрове повсякденне життя. «Це говорить нам про те, наскільки штучний інтелект нас зачаровує, але це також відкриває нам ризик непорозумінь, оскільки ChatGpt народився не як промисловий продукт, призначений для чогось, а як своєрідна велика демо-версія, яку ця компанія, OpenAI, відкрила для громадськості, щоб показати силу того, що вона розробляла», – сказав він.
Відтак, внаслідок взаємодії багатьох людей з різних частин світу, які вказували цьому продукту, які його відповіді є найкращими, а які найгіршими, він вдосконалювався. Тепер же користувачі сприймають даний інструмент «як справжню пошукову систему», текст якого «абсолютно не перевіряється на достовірність». «Якщо ChatGpt видає гарний текст, він не обов'язково видає вміст, який відповідає дійсності. У цьому полягає весь потенціал і ризик машини. Потенціал полягає в тому, що ми нарешті отримаємо інструмент, який працює з мовою в дуже потужний спосіб. Обмеження ж полягає в тому, що ми не розуміємо, що це своєрідна велика демонстрація, а не остаточний інструмент, і довіряємо машині в речах, які не мають ніякої цінності. Ніколи не питайте цю машину, як вилікувати хворобу!» – застеріг представник Комітету експертів ООН.
Нерівність у доступі до сучасних технологій
Незважаючи на популярність та розвиток технологій, пов’язаних із ШІ, у світі спостерігається цифровий розрив внаслідок різниці між більш технологічно розвиненими країнами й тими, що розвиваються. Міркуючи про це, о. Паоло зауважує, що штучний інтелект може працювати як мультиплікатор: «там де він знаходить багатство і середовище з багатьма ресурсами, він може їх примножити». На його думку, незважаючи на глобальність технологій, вони є надбанням і власністю дуже небагатьох глобальних компаній. «Зараз найбільші інновації у сфері штучного інтелекту здійснюють дев'ять світових компаній, капіталізація кожної з яких перевищує трильйон доларів. Для порівняння, весь ВВП Великої Британії становить 3,3 трильйона, тож ми говоримо про приголомшливі цифри. Словом, це не є широко розповсюдженим продуктом, не є чимось, що може бути доступним кожному», – зазначив експерт.
Говорячи про ймовірність виникнення ризику певної форми залежності від невеликої кількості монополістів, він також вказав на небезпеку «прихованої вартості» технологій. «Отже, хоча добре ставити собі питання і дивуватися, що означають чудеса цих машин, ми також не повинні забувати, що у них є набагато менш помітна, але набагато більш дорога сторона з точки зору рівності, екологічних та енергетичних витрат, які необхідно враховувати, щоб вони не стали витратами, за які платять найбідніші нації світу», – підсумував о. Паоло.
Оцінювання користі та ризиків ШІ
Коментуючи свою роботу в Комітеті експертів ООН з питань штучного інтелекту, який консультує Генерального секретаря ООН, чернець розповів про завданнями даного органу. «Від нас вимагається, перш за все, скласти картину того, що відбувається з цією формою інновацій, і зробити це дуже збалансовано. Нас просять, перш за все, відобразити те, яку велику користь для людства можуть принести ці технології», – сказав він.
Крім того, йдеться про оцінку ризиків щодо нерівності, яка може зрости внаслідок ШІ та формування ним громадської думки. «Ця машина може бути використана в не зовсім позитивних цілях, таких як посилення соціальної ненависті або створення ворогів там, де їх немає. Машина, яка може настільки сильно впливати на громадську думку, безумовно, є машиною, за якою слід дуже уважно стежити, особливо тим організаціям, які мають бажання співпрацювати заради глобального миру або справедливого розвитку», – зазначив експерт.
Роль Церкви у галузі сучасних технологій
Відповідаючи на запитання про можливий внесок Церкви у сфері штучного інтелекту, о. Паоло сказав, що її роздуми над цією темою пов’язані з Євангеліям, богослов’ям, а також з душпастирською присутністю між людьми, оскільки Церква у своїй глобальності усвідомлює себе як «експерта з питань людяності».
Він пригадав, що увага до даного питання припадає на час, коли Святіший Отець хотів надати великого значення таким глобальним темам, як піклування про спільний дім та братерство. «Турбота про спільний дім та братерство можуть бути двома великими перспективами, де Церква може зробити свій унікальний, оригінальний та позитивний внесок у ці дебати... Це внесок людства, людства, яке живе в середовищі, в домі, яким є наша планета, і яке живе як брати та сестри, – це внесок “гуманізації” штучного інтелекту, тобто перетворення прогресу в автентичний людський розвиток, який так необхідний сьогодні», – поділився він.
