文章标题:推动缔结一项条约,不允许AI完全控制核武器
正文: Juan Manuel Santos 和 Denis Mukwege 荣幸地参加了本周在梵蒂冈举行的全球诺贝尔奖得主核武器与人工智能大会,并在会上签署了以下宣言:
人类处于临界点:关于人工智能与核武器的宣言
迈向无武装且正在裁军的和平
由全球诺贝尔奖得主大会与会者通过Borgo Laudato Si',梵蒂冈 – 2026年7月
人类正站在其历史上的决定性时刻。
在核时代开启八十多年之后,站在人工智能时代的门槛上,我们面临着一项前所未有的挑战。科学进步从未像现在这样,在带来非凡机遇的同时,也对我们的共同未来造成如此深重的风险。
在核武器最初被研发之时,世界曾有机会避免生活在一种永久的恐惧动态之中。我们失败了,其结果是,人类一直生活在核毁灭的边缘。
有了AI,类似的危险也出现了。嵌入核系统的AI在危机中几乎不留时间给人类判断,甚至取代人类判断。这项技术改变了核武国家相互竞争的环境。AI很可能导致大规模失业,并加剧核武国家之间的经济竞争。AI助长网络攻击,这些攻击可能破坏关键的民用和战略基础设施。AI使信息战成为可能:和平取决于共享的现实。没有事实就没有真相;没有真相就没有信任;没有信任,就没有对话、没有核查,也没有国家间的克制。
最先进的AI能力、计算资源和数据基础设施正日益集中在少数国家和公司手中,造成严重的权力不对称,并削弱了合作的动力。AI是一项造成经济、军事和社会扰动的技术,并且正以人类历史上前所未有的速度发展。在一场不断恶化的核军备竞赛之中,我们正踏上同样危险的AI竞赛。
教皇利奥十四世援引各宗教传统共同秉持的价值观,呼吁人类走向“无武装且正在裁军的和平”。我们拒绝这样一种信念:持久的安全可以建立在恐惧、支配或相互毁灭的永久威胁之上。安全不能无限期地建立在相互毁灭的现实之上。
意识到我们对当代和后代所肩负的共同责任,我们采纳以下原则:
- 裁减下一场军备竞赛
我们认识到,AI是一个战略竞争领域,正如它之前的核武器一样。我们呼吁各国政府、前沿AI开发者、研究者和国际社会现在就采取行动,通过利益共享机制等治理安排、促进服务于人类福祉的AI应用,以及对其最具破坏稳定性的应用加以克制,在选择权仍掌握在我们手中时降低这些风险。我们必须在下一场军备竞赛——无论是AI还是核——将下个世纪也定义成它们的模样之前,将其裁减。
- 负责任的发展
AI开发者应透明地公布指导其模型行为的原则,并对这些模型遵守上述原则承担责任和法律义务。AI的开发和监督应与人类利益保持一致,包括国际法和对人权的尊重。
此外,任何组织都不应启动,任何政府都不应允许人工智能系统进行完全自动的递归自我改进,除非具备监测并在需要时中止此类系统的手段。
- 负责任地使用AI
文章标题:推动缔结一项禁止人工智能完全控制核武器的条约
正文: 自动化系统永远不应做出发射核武器的最终决定。我们呼吁通过一项国际条约,禁止将人工智能鲁莽地整合进核指挥、控制和发射系统,以维持有意义的人类控制。
我们必须防止人工智能在针对关键核基础设施的网络行动和攻击中被恶意使用。核国家必须开展故障安全审查,以降低其核力量遭未经授权的控制或被人工智能操纵的风险。
我们倡导负责任地开发和使用人工智能,以改善人类福祉、加速科学和医学进步、保护环境、增强韧性,并推进和平、可持续发展和共同利益。
- 负责任的治理
我们呼吁各国政府、企业和国际组织建立共享机制,例如核查以及稳健的内部和外部评估,以实现对前沿人工智能发展的协调放缓。
我们支持联合国人工智能独立国际科学小组,并推动秉持 Magnifica Humanitas 精神的其他努力。
我们呼吁扩大研究与对话,为人工智能的国际治理提出新的制度路径,并为全球治理倡议的未来落实提出新的制度路径。
- 负责任的领导
我们认识到,我们面临的挑战很可能将由下一代领导者来解决。必须通过教育、导师指导、代际伙伴关系以及跨越所有地区、文化和社区的包容性参与,赋能年轻人去应对核武器、人工智能及其他潜在灾难性威胁。我们必须推进教育倡议,培养伦理责任、批判性思维、媒体与人工智能素养以及和平文化。
我们承认,人类面临众多相互关联的威胁,其意外后果往往冲击那些无法获取或控制此类技术的人。我们呼吁建立一个数字公地,在其中培育数据,以增进对核武器、缺乏治理的人工智能及其他生存性威胁的理解并推动行动。
- 核裁军
我们呼吁开展紧急、持续和善意的谈判,在商定的有时限的框架内,实现可核查且不可逆的核武器消除。国际社会必须拒绝将核武器正常化为永久安全工具,并加强《不扩散核武器条约》和《禁止核武器条约》所体现的人道主义和法律规范。
我们呼吁核武装国家停止新一轮军备竞赛和武库扩张,恢复关于军备控制和裁军的双边和多边谈判,并履行其在国际法下的义务和承诺。各国应寻求可核查的约束和削减;降低警戒等级;延长决策时间;摆脱预警即发射和迅速报复态势;减少核武器在安全学说中的作用;加强危机沟通;防止针对核指挥、控制和通信的网络行动;并建立合作以防止误解、误判和意外升级。
核国家必须推行削弱核武器作用的政策和学说,并降低首次使用和灾难性战争的可能性。
受诺贝尔奖得主 Bertrand Russell 和 Albert Einstein 话语的启发:“我们以人类的身份向人类呼吁:记住你们的人性,其余的都忘掉吧。”
我们的生存以及子孙后代的生存正危在旦夕。