G7, 교황 “어떤 기계(머신)도 인간 생명을 앗아갈 수 없다”

Salvatore Cernuzio 

“어떤 기계(머신)도 인간의 생명을 빼앗아서는 안 됩니다.” 인공지능(AI)이 선사할 미래는 디스토피아 세계이며, 그 위험은 어느 때보다 현실적이다. 역대 교황으로는 처음으로 주요 7개국(G7) 정상회의에 참석한 프란치스코 교황은 인공지능(AI)이 “매혹적인 도구”이지만 동시에 “두려운” 도구라면서 태초부터 인간이 만든 모든 “도구”처럼 유익을 안겨줄 수도 있고 피해를 줄 수도 있는 “막강한” 존재라고 말했다. 

풀리아 도착 

교황을 태운 헬리콥터는 예정보다 20분 빠른 12시10분, 올리브 나무로 우거진 풀리아주 브린디시 지역의 회의장소에 도착했다. 교황은 조르자 멜로니 이탈리아 총리의 영접을 받았다. 멜로니 총리가 악수를 청하며 “아주 건강해 보이신다”고 덕담을 건네자 교황도 “총리도요”라고 화답했다. 멜로니 총리는 “오늘은 길지만 좋은 날이 될 것 같다”고 덧붙였다. 두 정상은 함께 골프카를 타고 오후 12시30분부터 예정된 보르고 에냐치아 리조트로 향했다. 이 자리에서 교황은 크리스탈리나 게오르기에바 국제통화기금(IMF) 총재, 볼로디미르 젤렌스키 우크라이나 대통령, 에마뉘엘 마크롱 프랑스 대통령, 쥐스탱 트뤼도 캐나다 총리 등 네 차례의 양자회담을 이어갔다. 오후 2시, 교황은 아레나 홀로 이동해 공동세션 회의장에 모인 각국 정상들과 악수를 나누며 인사했다. 압둘라 2세 빈 알 후세인 요르단 국왕, 하비에르 헤라르도 밀레이 아르헨티나 대통령, 나렌드라 모디 인도 총리처럼 교황과 포옹하며 인사하는 정상도 있었고, 조 바이든 미국 대통령과 레제프 에르도안 튀르키예 대통령처럼 몸을 숙여 교황에게 귓속말로 인사하는 정상도 있었다.

젤렌스키 우크라이나 대통령을 만난 교황

“자율살상무기” 개발과 사용에 대한 재검토

멜로니 총리는 교황 연설에 앞서 이번 G7 정상회의 장소로 풀리아를 선택한 이유를 설명하며 “역사적으로 동서양을 잇는 다리, 대화의 자리, 아프리카와 중동의 중간에 위치한 바다”를 대표하는 장소라고 말했다. 이어 “교황”의 참석으로 “이번 회의가 뜻깊고 역사적인 회의가 됐다”며 감사를 표했다.

교황은 지난 5월 12일 제58차 홍보주일 담화를 통해 이미 언급한 바 있는 AI에 대한 자신의 생각을 각국 정상들과 함께 나눴다. 교황은 AI의 기회 그리고 무엇보다도 그 위험성과 “인류의 미래에 미칠 영향”에 대해 말했다. 교황의 관심은 특히 ‘산발적’으로 전개되는 전쟁이 갈수록 하나로 통합되는 현실에 집중됐다.

“무력충돌이라는 비극을 고려할 때 이른바 ‘치명적 자율살상무기’와 같은 무기체계의 개발과 사용을 재고하고 궁극적으로 그 사용을 금지하는 것이 시급하다는 점을 강조하고 싶습니다. 이는 AI 사용에 있어서 인간이 더 철저하고 적절하게 통제할 수 있게 하기 위한 효과적이고 구체적인 노력에서 시작됩니다.”

회의장소로 이동 중인 프란치스코 교황과 멜로니 이탈리아 총리

인간의 잠재력

기계가 기계를 만든 인간을 죽이는 일이 일어나서는 안 된다. 교황은 G7 정상회의에서 과학기술 발전에 대한 편견이 아니라 오히려 그 위험에 따른 두려움이라는 점을 분명히 했다. 교황은 “과학과 기술은 우리 인간의 창조적 잠재력이 빚어낸 빛나는 성과”라며 인간의 유일무이함에서 나온 것이라고 강조했다. AI는 이 같은 잠재력의 결실이며 의학, 노동, 문화, 커뮤니케이션, 교육, 정치 등 인간 활동의 다양한 영역에서 활용되고 있다. 교황은 “이제 AI는 우리의 생활방식, 사회 관계, 심지어 인간 정체성을 이해하는 방식에도 갈수록 더 많은 영향을 미칠 것이라고 가정해도 무방할 것”이라고 말했다. 

결정은 인간에게 맡겨야 합니다

AI가 보여주는 가능성은 무척 흥미롭지만 그 가능성이 안겨줄 결과는 두려움을 불러일으키기도 한다. 교황은 기계가 “어떤 방식으로든 이러한 새로운 방법을 통해 알고리즘 선택을 할 수 있다”며 “기계는 여러 가지 가능성 가운데 기술적인 선택을 한다”고 말했다. “그러나 인간은 선택만 하는 게 아니라 마음속으로 결정을 내릴 수 있습니다.” 교황은 기계와 인간의 이 같은 특징을 구분해야 한다고 설명했다. 

“독립적으로 선택하는 방법을 알고 있는 것처럼 보이는 기계의 경이로움과 마주했을 때 우리는 때때로 극적이고 긴급한 측면에 직면하더라도 의사 결정은 언제나 인간에게 맡겨야 한다는 것을 분명히 해야 합니다.”

G7 정상회의 회의장

위협받는 인간의 존엄성

교황의 경고는 예리했다. “사람들에게서 자신과 자신의 삶에 대한 결정권을 빼앗아 기계(머신)의 선택에 의존하게 만든다면, 인류는 절망적인 미래를 맞이하게 될 것입니다. 우리는 AI 프로그램을 선택하는 과정에서 인간이 적절히 통제할 수 있는 영역을 보장하고 보호해야 합니다. 그렇지 않으면 인간의 존엄성 자체가 위태로워집니다.”

인지산업혁명

요컨대, 이는 단순히 과학적 진보의 문제가 아니라 “진정한 인지산업혁명”에 직면하는 것에 관한 문제다. 교황이 강조한 바와 같이 “이는 복잡한 시대적 변화를 특징으로 하는 새로운 사회 시스템을 만드는 데 이바지할 것”이다.

“AI는 지식에 대한 접근의 민주화, 과학 연구의 기하급수적인 발전, 힘들고 고된 일을 기계에 맡길 수 있는 가능성을 실현할 수 있습니다. 그러나 동시에 선진국과 개발도상국 사이, 지배적인 사회계층과 억압받는 사회계층 사이의 갈등과 불의를 초래해 ‘만남의 문화’보다 ‘버리는 문화’를 선호할 수도 있습니다. 이것이 바로 ‘위험’입니다. (…)”

윤리와 알고리즘

교황은 인간이 자유를 남용함으로써 “존재의 이유를 망각하고 자기 자신과 행성지구의 원수로 변질되곤 했다”면서 “자유”와 “책임”이라는 인간 조건인 “윤리”에 주목해야 한다고 강조했다. 아울러 “인간적인 것에 대한 감각이 상실되거나 적어도 모호해진” 오늘날, AI 프로그램이 특히 “모든 인간의 선을 언제나 지향해야 한다”고 말했다. 이러한 의미에서 교황은 감염병의 세계적 확산으로 얼룩진 지난 2020년 「AI 윤리에 관한 로마의 호소」(Rome Call for AI Ethics) 선언문에 서명하고 “알고리즘 윤리”라고 부르는 알고리즘-AI 프로그램에 대한 윤리적 중재 필요성을 지지한다고 밝혔다. 

정치 없이도 우리 세상이 제대로 돌아갈 수 있을까요?

교황은 다양한 위험 중에서도 “기술관료적 패러다임”에 대한 우려를 표명하고, 바로 이 지점에서 “정치적 행동이 절실히 필요하다”고 강조했다. 이어 오늘날 많은 이들이 “일부 정치인들의 잘못, 부패, 무능 때문에 흔히 정치를 불쾌한 표현으로 생각한다”며 “또한 정치를 불신하게 만들고 경제로 대체하려 하거나, 하나의 이념이나 다른 이념으로 왜곡하려는 시도들도 있다”고 말했다. 교황은 가경자 비오 12세 교황이 처음으로 언급한 말이자 성 바오로 6세 교황이 자주 언급한 “정치는 사랑의 가장 높은 형태”라는 표현을 연상시키는 발언을 했다. 

교황은 “정치 없이 우리 세상이 돌아갈 수 있을까요?” 하고 되물었다. “정치는 필요합니다!” 교황은 “모든 것을 획일화하려는 유혹은 항상 있어왔다”고 즉흥적으로 덧붙였다. 아울러 이와 관련해 이전에 몇 차례 언급한 “20세기 초의 유명한 소설”인 로버트 휴 벤슨 신부의 저서 『세상의 주인』을 언급했다. “정치 없는 미래, 획일화된 미래를 보여주는 소설입니다. 읽기 편하고 흥미롭습니다.” 

“건강한 정치” 실천이 절박합니다

교황은 갖가지 정치 상황을 마주하면서 희망과 확신을 갖고 미래를 바라볼 수 있는 “건강한 정치”가 절박하다고 거듭 강조했다. “근본적인 개혁과 대대적인 쇄신을 통해 많은 것을 바꿔 나가야 합니다. 가장 다양한 분야와 가장 다양한 지식을 아우르는 건강한 정치만이 이 과정을 이끌 수 있습니다. 이러한 방식으로 공동선을 지향하는 정치, 사회, 문화, 대중 프로젝트에 통합된 경제는 ‘인간의 창의성과 진보에 대한 꿈을 억누르는 것이 아니라 오히려 그 힘을 새로운 길로 이끄는’ 다양한 가능성을 열어줄 수 있습니다.”

오후 일정

교황 연설에 박수가 쏟아졌다. 멜로니 총리는 “우리 모두에게 영감의 원천”이라는 말로 화답했다. 교황은 G7 정상회의에 참석한 각국 정상들과 단체 사진을 찍은 후 오후 7시까지 공동 세션에서 다른 정상들의 연설을 경청하며 두 번째 양자회담을 재개했다. 교황은 윌리엄 사모에이 루토 케냐 대통령, 루이스 이나시우 룰라 다 시우바 브라질 대통령, 조 바이든 미국 대통령을 만났다. 나렌드라 모디 인도 총리와 레제프 에르도안 튀르키예 대통령과의 대화는 오후 회의 종료 후 별도로 진행됐다. 교황은 조르자 멜로니 총리와의 비공개 인사를 끝으로 이날 일정을 마무리하고 예정보다 한 시간 늦은 저녁 8시45분 바티칸으로 돌아갔다.

번역 박수현

무단 전재 및 재배포 금지

(인용시에는 출처를 밝혀주시고, 임의 편집/변형하지 마십시오)