教宗在G7会议上表示：“对致命自主武器说不”。与莫迪拥抱

教宗方济各在意大利担任轮值主席国期间在普利亚举行的峰会扩大会议现场发表讲话。教宗跻身“地球伟人”之列，尚属首次。在专门讨论人工智能这一“即迷人又可怕的工具”主题演讲中，呼吁维护该领域中每个人的尊严。在一次双边峰会上，印度总理再次邀请教宗访问印度。

布林迪西（亚洲新闻） - 一场关于人工智能的激情演讲，人工智能是一个“即迷人又可怕的工具”，它将政治置于人类未来的关键选择之上。关于禁止“致命性自主武器”的具体要求，这些武器正是以这些前沿新技术为基础。然后是与世界伟人举行的一系列双边会晤，其中包括与新上任的印度总理纳伦德拉·莫迪和乌克兰总统弗拉基米尔·泽伦斯基备受期待的会晤。这些是今天下午教宗方济各在意大利政府轮值主席国在普利亚博尔戈·埃格纳齐亚举行G7峰会期间的主要行程安排。

教宗从罗马乘直升机抵达，参加了一场扩大会议，与会的还有七个成员国（美国、加拿大、德国、法国、英国、意大利和日本）及其他国家元首和政府首脑、国际机构代表。教宗方济各与这些人士进行了九次单独会谈：除了莫迪和泽伦斯基之外，教宗还会见了美国总统乔·拜登、法国总统克龙、加拿大总理贾斯汀·特鲁多、肯尼亚总统威廉·萨莫伊·鲁托、巴西路易斯·伊纳西奥·卢拉·达席尔瓦、土耳其雷杰普·塔伊普·埃尔多安和国际货币基金组织总干事克里斯塔利娜·格奥尔基耶娃。

对于亚洲来说，印度总理莫迪在峰会会场拥抱教宗尤为重要。继2021年10月在梵蒂冈接见这位印度教民族主义领导人后（后者当时正在意大利参加G20峰会），这是教宗方济各与莫迪的第二次会面。莫迪在今晚的一条推文中重申，他已再次邀请教宗方济各访问印度。印度总理在评论这个拥抱的形象时在 X 上写道：“我钦佩教宗方济各致力于为人民服务、让我们的地球变得更美好”。孟买格拉西亚斯（Oswald Gracias）枢机在接受《Ani》采访时表示：“我对这次会议感到非常高兴。这类会晤意义重大，并向所有人发出信号，表明总理尊重教宗，赞赏他所说的一切。这表明了为世界福祉而努力的一定共性和兴趣”。

这是教宗首次参加G7会议。议程其中一个主题为此次参会提供了一个契机：人工智能系统日益广泛的使用，这也将政府置于道德十字路口。1月1日，教宗方济各已向你们致辞，传达世界和平日的讯息。甚至今天，在普利亚，与全球地球部分重要国家的国家元首和政府首脑举行会谈时，他再次强调了这种矛盾心理。他指出到，一方面，人工智能“提供的可能性令人振奋，另一方面，潜在的后果有令人心生恐惧”，“它可以实现知识获取的民主化、使科学研究撑指数级进步、将繁重的工作交给机器等可能性；但与此同时，人工智能可能会导致发达国家和发展中国家之间、主导社会阶级和被压迫社会阶级之间更大的不公正，从而危及“相遇文化”，转向“遗弃文化””。

关键不仅在于正确使用的问题，还在于对该工具特性的理解。教宗方济各说到：“当我们的祖先磨石制作刀具时，它们既被用来切割衣物的皮革，也用它们互相残杀。然而，人工智能是一种更加复杂的工具。它可以自主适应分配给它的任务，如果以这种方式设计，它可以独立于人类做出选择以实现既定目标”。这个维度如果没有得到充分的监管和控制，可能会导致严重的人类学后果。教宗警告说：“如果我们剥夺人们决定人生和生活的能力，让他们依赖机器的选择，我们就会让人类面临一个绝望的未来”。我们需要保证和保护人类在选择人工智能程序的过程中拥有更大的控制空间：人类尊严就会受到威胁”。

因此，教宗要求禁止“致命自主武器”，因为“任何机器都不应就是否夺走人类的生命做出选择”。但教宗方济各还举了另一个棘手的例子：旨在帮助治安法官决定是否软禁囚犯的计划。他解释说：“人工智能被要求从预先设定的类别开始预测被定罪者再次犯罪的可能性”，但这种方法“所使用的数据类别可能暗示对犯罪者固有的偏见”，而“人类总是在不断发展，并且能够做出令人惊讶的行为，而机器无法考虑到这一点”。

即使是同样的“生成人工智能”——今天 ChatGPT 等工具所基于的人工智能——如果没有充分的导向，其自身不仅会带来“使虚假新闻合法化和加强主流文化优势的风险”，而且还会带来“假新闻合法化和加强主流文化优势的风险”。“破坏处于起步阶段的教育过程”；因为“本应为学生提供真实反思可能性的教育有可能沦为概念的重复”。

因此，最终的问题是，即使在新的技术领域，也要以每个人的尊严为中心。教宗方济各回顾道：“出于这个原因，我欢迎2020年在罗马签署《罗马呼吁AI伦理》，并支持我称之为‘算法’的算法和人工智能程序的道德调节形式。”它是“一系列原则，被证明是一个全球性、多元化的平台，能够找到文化、宗教、国际组织和大公司主角的支持”。

但如果没有政治行动，这一切都无法实现。因为“政治是有用的——方济各重申——当一个人在困难时刻以伟大原则和对长期共同利益的思考为基础开展行动，它的伟大之处就会显现出来”。他总结道，这正是人工智能的情况。每个人都应该好好利用它，政治也应该创造条件，使这种良好的利用成为可能并取得成果”。