教宗出席G7峰会：人工智能程序中的人类控制权，关乎人类尊严

（梵蒂冈新闻网）这似乎是一个乌托邦式的场景，但风险却真实存在：“不应让任何机器决定是否剥夺人类的生命”。教宗方济各6月14日在意大利南部普利亚行政区的埃尼亚齐亚度假村酒店（Borgo Egnazia）出席G7峰会。教宗指出人工智能是一种“迷人的”但同时也是“可怕的”工具，这种工具能够来好处，也能造成损害，就像人类自古以来创造的所有“工具”一样。

抵达普利亚

教宗比计划提前二十分钟抵达普利亚，直升机在12:10降落在一片橄榄树林中。迎接他的是意大利总理乔治亚·梅洛尼。12:30之后，教宗开始了四场预定的双边会谈：国际货币基金组织总裁克里斯塔利娜·格奥尔基耶娃（Kristalina Georgieva）、乌克兰总统泽连斯基、法国总统马克龙和加拿大总理特鲁多。

下午2点，教宗方济各来到峰会会场与各国领导人们坐在一起，分享了他对人工智能的思考，这也是他第58届世界社会传播日文告的主题。教宗谈及人工智能带给我们的机遇，但最重要的是其风险和“对人类未来的影响”，例如人工智能在“碎片化”战争中的应用。

教宗说：“在武装冲突的悲剧中，迫切需要重新思考所谓‘致命性自主武器’等设备的发展和使用，以禁止其使用。首先要通过实际和具体的承诺引入越来越多和重要的人类控制。”

人工智能是一种“极强大的”工具，应用于人类活动的许多领域，例如医学、工作、文化、交流、教育、政治，它将越来越多地影响我们的生活方式、社会关系，甚至在未来影响我们对人类身份的认知。

人类应保留决策权

因此，一方面，人工智能提供的可能性令人振奋；另一方面，它们也引发了对其后果的担忧。教宗指出，我们必须区分机器与人类，前者“可以通过某些形式和这些新工具，产生算法选择”，即“在多种可能性之间做出技术选择”，而后者“不仅选择，而且在内心深处能够做出决定”。

“因此，面对似乎能够独立选择的机器奇迹，我们必须清楚地认识到，人类应始终保留决策权，即使这种决策有时在我们的生活中带来悲剧和危机。”

人类尊严岌岌可危

教宗警告说：“如果我们剥夺了人们决定自己和生活的能力，使他们不得不依赖机器的选择，那么我们将把人类推向一个毫无希望的未来。我们需要确保和保护人类在人工智能程序选择过程中的重要控制权：这关系到人类的尊严。”

伦理与算法

教宗方济各接著谈到了“伦理”，指出伦理关系到实现人类“自由”和“责任”的条件；没有它，“人类就会扭曲其存在的目的，变成自己和地球的敌人”。教宗继续说，今天“人类感到迷失，或者至少人类的意义被遮蔽”，人工智能程序“必须始终以每个人的益处为导向”。在这方面，教宗赞扬了2020年在罗马签署的《人工智能伦理罗马倡议》，以及对算法进行伦理调节的新概念——“算法伦理”。“如果我们难以定义一套全球价值观，我们至少可以找到共同的原则来应对和解决生活中的潜在困境或冲突。”

教宗发表讲话后，也聆听了其他与会者的发言。晚上7点后，第二次双边会谈继续进行：教宗会见了肯尼亚总统威廉·鲁托（William Samoei Ruto）、巴西总统卢拉·达席尔瓦（Luiz Inácio Lula da Silva）和美国总统拜登。据圣座新闻室的报道，当天教宗还会见了印度总理莫迪、土耳其总统埃尔多安，并与意大利总理梅洛尼举行私人会谈。

教宗于当晚上8时45分离开会场回梵蒂冈，比原计划晚一个小时。

链接网址：www.vaticannews.cn
订阅电邮新闻：http://www.vaticannews.cn/zh/newsletter-registration.html