Папа Франциск выступил на саммите G7

Ольга Сакун - Град Ватикан

ИИ – это «чрезвычайно мощный инструмент», отметил Папа: сфера его применения охватывает медицину, культуру, коммуникацию, образование и политику. Несомненно, развитие искусственного интеллекта содействует «созданию новой общественной системы, охарактеризованной сложными эпохальными преобразованиями». Например, использование ИИ может расширить доступ к знаниям, способствовать быстрому развитию науки, делегировать машинам тяжелые работы; с другой стороны, ИИ может усугубить неравенство между развитыми и развивающимися странами, между господствующими и угнетаемыми социальными группами. Искусственный интеллект – это «привлекательный и в то же время устрашающий инструмент», не всегда обращенный к благу. 

«Мы обречем человечество на безнадежное будущее, если отнимем у людей способность решать за себя и за свою жизнь, обречем его на зависимость от решений машины. Мы нуждаемся в гарантии и защите пространства значительного человеческого контроля за процессом выбора программ ИИ: от этого зависит сама участь человеческого достоинства».

Папа упомянул о применении ИИ в вооруженных конфликтах, в особенности в «автономных смертоносных системах», использование которых должно быть полностью запрещено.

Святейший Отец отметил, что программы ИИ развиваются таким образом, что они все больше могут взаимодействовать с человеком, вести с ним беседу и устанавливать некие отношения. Однако нельзя забывать, что ИИ – это не человек, и большой ошибкой было бы искать в нем «компаньона». Папа предостерег от так называемого «генеративного ИИ, который, по сути, вовсе не “генерирует“ ничего нового, но “упаковывает“ в запрашиваемой форме имеющуюся у него информацию». «Генеративный ИИ» не разрабатывает новых концепций или новых анализов. Чем больше у него в распоряжении повторяющихся определений и гипотез, тем больше он считает их законными и допустимыми:

«Это не столько “генеративный“, сколько “закрепляющий“ ИИ, в том смысле, что он переформировывает уже существующий контент, помогая ему закрепиться, нередко без какого-либо контроля ошибок и предвзятости». Таким образом есть риск не только узаконить любые фейковые новости, но и упрочить преобладание господствующей культуры, угрожая самому процессу становления человека.

Папа подчеркнул, что в эпоху, когда концепция человеческой личности ослабевает, одной из наиболее уязвимых сторон ИИ является «слабый этос», связанный с восприятием ценности и достоинства человека. Системы искусственного интеллекта должны быть наделены этикой, - в последних документах Св. Престола она получила название «алгорэтики». В конце своей речи Папа Франциск поделился мыслями о важности «здравой политики» для того, чтобы с надеждой и доверием смотреть на будущее, и констатировал, что «структурные недостатки» нельзя исправить «заплатками или поспешными, разовыми решениями»: в некоторых вещах следует «менять основные настройки», подчеркнул Папа Франциск.