22

AI与战争

98.梵蒂冈第二届大公会议以及此后历任教宗之一贯教导，都在强调和平不只是没有战争，也不限于维持敌对国家之间的力量平衡;相反地，引用圣奥思定之名言，和平是有“秩序的宁静。”[179]事实上，若不能够保障人民的福祉、自由的交流、对个人与国家尊严的尊重，以及勤奋地实践友爱，那么和平就无法实现。

和平是公义与爱德的成果，单靠武力是无法实现的;相反地，和平主要必须借由耐心的外交、积极促进公义、团结互助、人的全面发展，以及尊重来建立所有人的尊严[180]因此，维护和平的工具，绝不应该被用来允许不公义、暴力或是压迫等;相反地，这些工具始终应以“决心尊重他人及各民族的尊严，实行并致力于博爱，是建树和平的必要因素”作为指导。[181]

99.虽然AI的分析能力，能够协助各国寻求和平及确保安全，但是“AI武器化”也可能会带来严重的问题，教宗方济各曾指出:“利用遥控系统指挥军事行动的能力，会使人疏于留意系统所造成的破坏，以及对使用武器负责的心理负担，以致对战争的巨大悲剧更加冷漠无感。”[182]

此外，自主武器使战争变得更容易发生，并且违背了战争作为合法的自卫权利之原则，[183]有可能使战争之军备，远远超出了人类可监督的范圈，因而引发破坏巩固和平的军备竞赛，并为人权带来灾难性后果。[184]

100.尤其是“致命性的自动武器系统”，该系统能够在没有人类直接干预的情况下，识别并打击目标，但是由于缺乏“唯有人类有能力作道德判断及合乎伦理的决定”，因此“引起严重有关伦理的担忧。”[185]因此，教宗方济各紧急呼吁，要重新考虑这些武器的研发，并且应该禁止其使用，首先要“切实有效地承诺引入更大及更适合于人为之控制;任何机器都不应该任由其选择夺走人类的生命。”[186]

101.由于从能够自动又精确的杀戮机器，到能够进行大规模破坏的机器之间，仅有一步之遥;有一些AI研究人员表示担心，这种技术有可能威胁到整个地区，甚至于人类自身的生存，从而带来“生存的风险”。对于这项危险必须给予认真的关注，以反映出人们长期以来，对赋予战争的破坏力“已经达到不可控制的程度，并且影响到许多无辜的平民。”这样的技术着实令人担忧，[187]甚至连儿童也不放过。在此背景下，《论教会在现代世界》(Gaudium et Spes )牧职宪章所呼吁的“以全新的态度评估战争”[188]，该比以往任何时候都更加急迫。

102.同时，虽然AI的理论风险值得关注，但是更直接及迫切的担忧在于，怀有恶意的人士可能会如何滥用此项技术。[189]就如同任何工具一样，AI是人类能力的延伸，尽管其未来的能力难以预测，但是人类过去的行为已发出清晰的警告，人类在历史上所犯下的暴行，足以引发人们深切地担忧对AI的潜在滥用。

103.圣教宗圣若望保禄二世说过:“人类如今拥有空前强大的工具:我们可以把这个世界变成一座花园，也可以将其变成一堆瓦砾。”[190]有鉴于此一事实，教会提醒我们，引用教宗方济各所言:“我们自由地运用自己的聪明才智，积极地面对不断演变的事物”，或应用于“腐败和互相残害。”[191]

为了防止人类陷入自我毁灭,[192]必须要明确地反对，所有在本质上威胁到人类生命和尊严的技术应用；这项承诺的要求，特别是针对AI的使用，尤其是在军事防御领域上的应用，必须进行审慎地分辨，以确保其始终尊重人性尊严，并且是服务于公益。AI在军备领域的研发及部署，应该接受最高层级的伦理审查，并以对人性尊严及生命神圣性的关切为依归。[193]

AI及我们与天主的关系

104.科技为监管及开发世界的资源，提供了卓越的工具;然而，在某些情况下，人类正逐渐地将这些资源的控制权，拱手让给了机器;在一些科学家和未来学家的研究领域里，人们对“通用人工智能(AGI)”的潜力持有乐观态度。AGI是一种假设性的人工智能形式，AGI将可媲美或是超越人类智能，并且带来难以想像的进步。

有些人甚至推测AGI能够实现超人的能力，同时，随着社会逐渐地疏远与超然事物的联系，有些人倾向于转向AI来寻找其意义或满足感——这些渴望只有在与天主的交流中，才能获得真正的满足。[194]

105.然而，以人类所制造的工艺品来取代天主的假设，就是偶像崇拜，也是圣经明确提出的警告，因此必须绝对禁止(例如:出20:4;32:1-5;34:17)。此外，AI可能比傅统偶像更具吸引力，因为与“有口，而不能言;有眼，而不能看;有耳，而不能听”的偶像(咏115:5-6)有所不同，因为AI能够“说话”，或者至少给人们一种会说话的幻觉(参见默13:15)。

然而，我们必须记住，AI只是人类的一个虚幻反映——AI是由人类的思想所创造的，用人类所生成的题材进行训练，对人类的输入做出反应，并透过人类的劳动来加以维持。AI无法具备人类生命所特有的许多能力，而且也会犯错;然而将AI视为比自己更伟大的“他者”，并与之分享存在与责任，因此人类有可能创造出天主的替代品，而且，最终被神化和崇拜的不是AI，而是人类本身——如此一来，人类就会被自己的作品所奴役了。[195]

106.虽然AI具有潜力服务人类，并促进公益，但是AI仍然是人类之手所创造的创造物，带有“人类艺术及智慧的标记。”(宗17:29)绝不能赋予AI不适当的价值。正如《智慧书》所言:“因为都是人的作品，是那由天主借得气息的人所捏造的，实在没有一人能造出一个与自己相似的神;有死的人，只能用邪恶的手造出死像，他本人原胜过他所崇拜的东西，因为他尚有生命，这些东西却从来没有。”(智15:16-17)

107.相反地，人类“因其内心而凌乎一切之上;人回心自省，便有洞察人心的天主等待着他;同时，人在天主圣目注视下，决定自己的命运，这样便是回转到其内心的深处。”[196]

正如教宗方济各提醒我们的，每个人都在内心深处发现了“自知与对他人开放之间，并与个人的独特性相遇，以及愿意将自己奉献给他人之间的神秘关联。”[197]因此，唯有内心“才能将我们的其他能力、激情，以及我们的整个人，以敬畏和爱的服从之姿态:伺立于上主面前”，[198]上主“愿意我们将每个人视为‘祢’永牛永世。[199]