교황

교황 “AI 개발, 소수의 기술 대기업 권력 제한하고 모든 인간에게 혜택 돌아가도록 해야”

프란치스코 교황이 6월 22일 사도궁 클레멘스 홀에서 교황청 백주년기념재단(CAPP) 주최로 열린 인공지능(AI) 관련 국제 컨퍼런스 참가자들을 만났다. 이 자리에서 교황은 AI를 염두에 두며 “지능이 아닌 것을 계속해서 ‘지능’이라고 부르고 싶나요?” 하고 되묻는 한편, 인공‘지능’이라는 표현 자체에서 이미 기술 권력에 굴복한 것은 아닌지 자문해 보자고 초대했다. 아울러 AI에 “특별한 관심을 기울여야 한다”며 “경제, 문명, 인류의 미래가 펼쳐질 주제”이기 때문이라고 설명했다. 교황은 AI에 대해 성찰해 볼 수 있는 여러 가지 방법을 제안했다.

Adriana Masotti

“인공지능(AI)은 인간의 손에 쥐어진 도구이며, 앞으로도 그래야 합니다.” 프란치스코 교황이 6월 22일 사도궁 클레멘스 홀에서 교황청 백주년기념재단(이하 CAPP)이 AI를 주제로 개최한 연례 국제 컨퍼런스(6월 20-22일) 참가자들을 만나 이 같이 강조하고 다음과 같이 되물었다. “지능이 아닌 것을 계속해서 ‘지능’이라고 부르고 싶나요?” 교황은 “생성형 인공지능(Generative AI)과 기술관료 패러다임: 인간의 안녕, 자연 보호, 평화로운 세계를 증진하는 방식”이라는 주제를 다룬 이번 CAPP 연례 국제 컨퍼런스 참석자들에게 AI라는 주제를 다시금 거론했다.

AI 문제에 대한 교황의 관심

교황은 “AI가 경제와 사회에 파괴적인 영향을 미치고 삶의 질, 사람 간 및 국가 간 관계, 국제 안정과 우리 공동의 집(지구)에 부정적인 영향을 미칠 수 있기 때문에 특별한 관심을 기울여야 한다”고 말했다. 앞서 교황은 교황 회칙 「찬미받으소서」(Laudato si’), 교황 권고 「하느님을 찬미하여라」(Laudate Deum), 2024년 세계 평화의 날 교황 담화, 지난 6월 14일 이탈리아 풀리아주 브린디시에서 열린 주요 7개국(G7) 정상회의 연설 등 수차례 AI 문제를 언급해 왔다. 이에 따라 교황은 CAPP의 여정에 감사를 표했다.

“저는 CAPP가 여러 국가와 분야의 학자 및 전문가를 참여시켜 AI 개발 및 이용과 관련된 기회와 위험을 교차적 접근법으로, 특히 인간 중심 관점으로 분석하고 기술관료 패러다임 강화에 대한 위험을 고려하며 AI라는 주제에 충분한 비중을 두고 있다는 사실에 감사드립니다.”

기술관료 패러다임 강화 가능성 우려

특히 교황은 AI의 모든 측면을 파악하는 데 기본이 되는 다학제 접근방식을 선택하는 게 바람직하다고 말했다. 이에 따라 “가치관이 새로운 기술의 길을 안내하는 알고리즘 윤리학 개발이 필요하다”며, 인간이 만든 다른 “주요 도구들”과 마찬가지로 AI 역시 인간의 “손에 쥐어진 도구로 남아 있어야 한다”고 강조했다. 교황은 AI의 혁신적인 잠재력을 긍정적, 부정적 측면에서 평가했다.

“부정적인 측면에서 AI는 기술관료 패러다임과 버리는 문화를 부추기고, 선진국과 개발도상국 간의 격차를 벌리며, 인간의 삶에 필수적인 결정을 기계(머신)에 위임하는 관행을 강화할 수 있습니다.”

교황청 백주년기념재단 안나 마리아 타란톨라 이사장과 인사를 나누는 교황

이것이 우리가 원하는 것일까요?

교황은 최근 G7 정상회의에서 “정치권이 보편적 형제애와 평화의 방향으로 진행 중인 기술 프로세스를 관리하기 위한 구체적인 조치를 취할 것”을 촉구했다고 상기했다. 이어 저명한 이론물리학자 스티븐 호킹이 영국 ‘BBC’와의 인터뷰에서 “완전한 AI의 개발은 인류 종말을 의미할 수 있다”고 경고한 인터뷰를 인용했다. 교황은 이렇게 되물었다. “이것이 우리가 원하는 것일까요?”

“가장 기본적인 질문은 AI의 용도가 무엇인가 하는 것입니다. 인류의 필요를 충족시키고, 인간의 안녕과 온전한 발전을 향상시키는 데 도움이 될까요, 아니면 인류에 대한 위험에도 불구하고 소수의 기술 대기업이 쥐고 있는 권력을 더 강화하는 데 도움이 될까요? 이것이 가장 기본적이고도 본질적인 질문입니다.”

AI에 대한 성찰이 끊임없이 이어져야 합니다

AI가 인간에게 도움이 되려면 AI 개발 기준을 마련해야 한다. 이러한 의미에서 교황은 “철학과 법학은 물론 구체적인 학문의 다양한 분야”에 의문을 제기하는 몇 가지 성찰 지점을 제시했다. 곧, 책임, 효과적인 규제, “AI를 올바르게 사용하는 방법에 대한 지식과 인식을 높이는” 교육 및 커뮤니케이션 세계의 역할과 이를 젊은이들에게 전달하는 방법 등이다. 교황은 또 AI를 개발하는 데 필요한 막대한 에너지 소비 문제를 잊지 말아야 한다면서 일자리, 보안, “인간관계 및 인지능력”에 미치는 영향도 심도 있게 검토해야 한다고 제안했다.

“사랑하는 형제자매 여러분, 경제와 문명, 인류의 미래는 기술 혁신의 최전선에서 펼쳐질 것입니다. 우리는 머리와 마음과 손을 통해 새로운 방식으로 생각하고 행동하여 인간의 존엄성을 우선하는 방향으로 혁신을 이끌 기회를 놓치지 말아야 합니다. 이에 대해 왈가왈부할 필요가 없습니다.”