교황 “치명적 자율살상무기의 사용을 금지하고, 기계(머신)의 시대에 인간의 존엄성을 보호해야 합니다”
Tiziana Campisi
“새로운 기계(머신) 시대에 인간의 존엄성을 보호하기 위한 적극적인 노력을 세상에 보여주시길 요청합니다.” 프란치스코 교황이 인공지능(AI)의 윤리적 발전을 도모하기 위해 지난 7월 9-10일 일본 히로시마에서 열린 다종교 컨퍼런스 “평화를 위한 AI 윤리” 참가자들에게 이 같이 초대했다. 13개국에서 150여 명이 참가한 이번 컨퍼런스는 폐막일인 10일 「히로시마 호소」(Hiroshima Appeal)를 통해 AI가 인류와 지구의 유익을 위해서만 사용돼야 한다고 거듭 강조하며, 국제사회가 모든 무력충돌을 즉각 중단하고 평화적인 수단으로 분쟁을 해결해야 한다고 촉구했다. 이날 불교, 힌두교, 조로아스터교, 바하이교 등 동양의 여러 종교 지도자 16명은 아브라함계 종교(그리스도교, 유다교, 이슬람교) 대표들과 함께 히로시마 평화기념공원에서 「AI 윤리에 관한 로마의 호소」(Rome Call for AI Ethics) 선언문에 서명했다. 이 호소는 AI 분야에서 설계 단계부터 ‘알고리즘 윤리’ 준칙을 적용할 것을 요구한다. 프란치스코 교황은 메시지를 통해 “AI 규제에 있어서 민족과 종교의 문화적 풍요로움의 공헌을 인정하는 게 기술 혁신을 현명하게 관리하기 위한 핵심”이라고 말했다. 교황은 지난 6월 주요 7개국(G7) 정상회의에 언급한 바와 같이 이번에도 “치명적인 자율살상무기”의 사용을 금지해야 한다고 다시금 요청했다. 또한 교황 ‘엑스’(X, 트위터의 새 명칭) 계정(@Pontifex)을 통해 “인류를 위해 봉사하고 우리 공동의 집(지구)을 존중하는 기술 덕분에 우리는 함께 평화를 이룰 수 있다”고 말하기도 했다.
결정은 언제나 인간이 내려야 합니다
교황은 “히로시마에서 AI와 평화에 대해 논하는 것”이 매우 중요하다고 강조했다. “전쟁에 대한 증오와 더불어 오늘날 세계를 뒤흔드는 분쟁 속에서 우리가 AI 기술에 대해 점점 많은 것을 듣고 있기 때문입니다.” 이 사안과 관련해 교황은 지난 6월 14일 G7 정치 지도자들에게 강조한 내용을 상기했다. 교황은 기계가 “어떤 방식으로든 이러한 새로운 방법을 통해 알고리즘 선택”을 할 때 “잘 정의된 기준이나 통계적 추론에 따라 여러 가능성 가운데 기술적 선택”을 하는 반면, “인간은 선택만 하는 게 아니라 마음속으로 결정을 내릴 수 있다”며 “실질적인 평가”를 한다고 말했다. 이처럼 기계와 인간의 특징을 구분해야 한다고 강조한 교황은 “때때로 통치라는 어려운 임무에서 우리는 많은 사람들에게 영향을 끼치는 결정을 내릴 때가 있다”며 “독립적으로 선택할 수 있는 것처럼 보이는 기계의 경이로움 앞에서 우리는 의사 결정이 언제나 인간에게 맡겨져야 한다는 것을 분명히 해야 한다”고 말했다. 이어 비록 우리 삶에 나타나는 극적이고 긴급한 상황에 직면하더라도 “사람들에게서 자신과 자신의 삶에 대한 결정권을 빼앗아 기계의 선택에 의존하게 만든다면 인류는 절망적인 미래를 맞이하게 될 것”이라고 말했다. “AI 프로그램을 선택하는 과정에서 인간이 적절히 통제할 수 있는 영역을 보장하고 보호해야 합니다. 그렇지 않으면 인간의 존엄성 자체가 위태로워집니다.”
치명적 자율살상무기 사용 금지
교황은 메시지에서 이번 컨퍼런스를 공동 주최한 교황청립 생명학술원, 평화를 위한 일본종교협회, 아랍에미리트 평화를 위한 아부다비 평화포럼, 이스라엘 최고 랍비회의 종교간관계소위원회에 감사를 표했다. 아울러 “우리가 형제자매로 하나가 되어 전 세계에 무력충돌이라는 비극에 비추어 이른바 ‘치명적 자율살상무기’와 같은 무기체계의 개발과 사용을 재고하고 궁극적으로 그 사용을 금지하는 것이 시급하다는 점을 강조하는 게 중요하다”며 “이는 AI 사용에 있어서 인간이 더 철저하고 적절히 통제할 수 있게 하기 위한 효과적이고 구체적인 노력에서 시작된다”고 말했다. “어떤 기계도 인간의 목숨을 앗아가는 선택을 해서는 안 됩니다.” 끝으로 교황은 히로시마 컨퍼런스가 “형제애와 협력을 이끌어내는 결실을 맺길” 바란다며, 모든 이가 “세계 평화를 위한 도구가 되길” 기도하겠다고 약속했다.
번역 김호열 신부
무단 전재 및 재배포 금지
(인용시에는 출처를 밝혀주시고, 임의 편집/변형하지 마십시오)
