教宗出席G7峰會：人工智能程序中的人類控制權，關乎人類尊嚴

（梵蒂岡新聞網）這似乎是一個烏托邦式的場景，但風險卻真實存在：“不應讓任何機器決定是否剝奪人類的生命”。教宗方濟各6月14日在意大利南部普利亞行政區的埃尼亞齊亞度假村酒店（Borgo Egnazia）出席G7峰會。教宗指出人工智能是一種“迷人的”但同時也是“可怕的”工具，這種工具能夠來好處，也能造成損害，就像人類自古以來創造的所有“工具”一樣。

抵達普利亞

教宗比計劃提前二十分鐘抵達普利亞，直升機在12:10降落在一片橄欖樹林中。迎接他的是意大利總理喬治亞·梅洛尼。12:30之後，教宗開始了四場預定的雙邊會談：國際貨幣基金組織總裁克里斯塔利娜·格奧爾基耶娃（Kristalina Georgieva）、烏克蘭總統澤連斯基、法國總統馬克龍和加拿大總理特魯多。

下午2點，教宗方濟各來到峰會會場與各國領導人們坐在一起，分享了他對人工智能的思考，這也是他第58屆世界社會傳播日文告的主題。教宗談及人工智能帶給我們的機遇，但最重要的是其風險和“對人類未來的影響”，例如人工智能在“碎片化”戰爭中的應用。

教宗說：“在武裝衝突的悲劇中，迫切需要重新思考所謂‘致命性自主武器’等設備的發展和使用，以禁止其使用。首先要通過實際和具體的承諾引入越來越多和重要的人類控制。”

人工智能是一種“極強大的”工具，應用於人類活動的許多領域，例如醫學、工作、文化、交流、教育、政治，它將越來越多地影響我們的生活方式、社會關係，甚至在未來影響我們對人類身份的認知。

人類應保留決策權

因此，一方面，人工智能提供的可能性令人振奮；另一方面，它們也引發了對其後果的擔憂。教宗指出，我們必須區分機器與人類，前者“可以通過某些形式和這些新工具，產生算法選擇”，即“在多種可能性之間做出技術選擇”，而後者“不僅選擇，而且在內心深處能夠做出決定”。

“因此，面對似乎能夠獨立選擇的機器奇跡，我們必須清楚地認識到，人類應始終保留決策權，即使這種決策有時在我們的生活中帶來悲劇和危機。”

人類尊嚴岌岌可危

教宗警告說：“如果我們剝奪了人們決定自己和生活的能力，使他們不得不依賴機器的選擇，那麼我們將把人類推向一個毫無希望的未來。我們需要確保和保護人類在人工智能程序選擇過程中的重要控制權：這關係到人類的尊嚴。”

倫理與算法

教宗方濟各接著談到了“倫理”，指出倫理關係到實現人類“自由”和“責任”的條件；沒有它，“人類就會扭曲其存在的目的，變成自己和地球的敵人”。教宗繼續說，今天“人類感到迷失，或者至少人類的意義被遮蔽”，人工智能程序“必須始終以每個人的益處為導向”。在這方面，教宗贊揚了2020年在羅馬簽署的《人工智能倫理羅馬倡議》，以及對算法進行倫理調節的新概念——“算法倫理”。“如果我們難以定義一套全球價值觀，我們至少可以找到共同的原則來應對和解決生活中的潛在困境或衝突。”

教宗發表講話後，也聆聽了其他與會者的發言。晚上7點後，第二次雙邊會談繼續進行：教宗會見了肯尼亞總統威廉·魯托（William Samoei Ruto）、巴西總統盧拉·達席爾瓦（Luiz Inácio Lula da Silva）和美國總統拜登。據聖座新聞室的報道，當天教宗還會見了印度總理莫迪、土耳其總統埃爾多安，並與意大利總理梅洛尼舉行私人會談。

教宗於當晚上8時45分離開會場回梵蒂岡，比原計劃晚一個小時。

鏈接網址：www.vaticannews.cn
訂閱電郵新聞：http://www.vaticannews.cn/zh/newsletter-registration.html