Искусственный интеллект и ответственность: несовместимые понятия?

Ольга Сакун - Град Ватикан

Системы, основанные на искусственном интеллекте, не могут принимать решений, будучи лишенными морального импульса, подчеркнула глава ватиканской делегации: «Усилиям, предпринимаемым для применения ИИ в военном секторе, должны сопутствовать еще большие усилия для того, чтобы возложить на наши сердца и умы ответственность за окончательное прекращение конфликтов».

Уже само употребление слова «ответственность» по отношению к ИИ, пояснила Ди Джованни, представляется противоречивым. Святейший Престол «вновь напоминает о безотлагательной необходимости сохранять и обосновывать различие между людьми и предметами». Системы, основанные на ИИ, «не могут мыслить, чувствовать, принимать решения и брать на себя ответственность за собственные действия, поскольку они лишены морального импульса».

Если важные решения в области применения военной силы возлагать на систему с непредсказуемым поведением, чьи цели и оперативная сфера не до конца известны или определены, то решающая связь между действиями, их последствиями и ответственностью за них будет подвергаться неизбежному риску, подчеркнула представитель Госсекретариата Ватикана: «Любой военный удар должен быть внимательно взвешен, а его правомерность должна быть доказана».

Это не означает, что Святейший Престол намерен препятствовать исследованиям в области новых технологий, их развитию и использованию. Напротив, он утверждает, что они должны применяться для иных целей, и их использование должно быть основано не только на критериях пользы и эффективности, но и на продвижении общего блага человечества, которое включает в себя уважение человеческого достоинства и целостное человеческое развитие. Таким образом, Святейший Престол поддерживает мирное использование ИИ с тем, чтобы сократить неравенство между людьми и предотвратить неправомерное использование технологий, которое приводит к нежелательным последствиям.