随着人工智能能力不断进步,各主要大国也正在加速推动人工智能的军事化应用,但笔者认为,最重要的问题已经不仅仅是单纯依据特定人工智能应用究竟会增强还是削弱战略稳定,从而分析其是否应被纳入核威慑链条,而是应当从逻辑基础上进一步明确一些根本原则。
一个更根本的问题是:我们如何确保人工智能不会改变核战略稳定赖以存在的根本逻辑?
人工智能时代的核战略稳定取决于三条基本边界能否得到维护,即后果边界、决策时间边界以及核威慑边界。人工智能可能扩展军事能力、加快决策速度,并创造新的战略选项,但它不应模糊这些逻辑边界。基于这一认识,存在三个尤为重要的战略护栏。
第一,我们需要为军事行动的后果设置护栏。当前许多关于军事人工智能的讨论,都聚焦于人类是否仍然保持最终控制权。但对大国而言,仅仅强调人类控制已经不够。
人工智能带来的最重要变化,并不是它取代了决策者,而是极大扩展了决策者可选择的行动范围。人工智能在情报融合、目标识别和作战规划等领域的发展,正在使越来越多过去难以实施的行动在技术上变得可行。换言之,人工智能正在不断扩展决策者面前的“选项菜单”。
而这带来了一个关键问题:如果选项不断增加,而国际社会对于行动后果的约束却没有同步加强,战略风险就会大大增加。
过去几年中,我们已经看到这种趋势的现实体现。例如针对委内瑞拉总统马杜罗的抓捕行动、针对伊朗最高领袖哈梅内伊的悍然“斩首”,以及在加沙地区造成严重人道主义后果的军事行动。这些决策最终仍然是由人类做出的,但它们越来越依赖人工智能赋能的情报、监视、目标识别以及作战能力。
这些案例反映了一个共同现实:那些过去在技术上难以实现、政治上难以接受、行动上风险过高、或者可能导致战略升级的选项,正在越来越多地变得可行。随着人工智能能力持续提升,这类选项出现的频率以及其后果的规模都可能进一步扩大。
因此,未来关于人工智能护栏的讨论,不应仅仅关注“人在环路”(Human in the Loop)问题,更应当关注“后果在环路”(Consequences in the Loop)。
在军事智能化时代,人工智能可以帮助识别目标、优化行动,但它无法决定什么程度的风险在政治上是可以接受的。批准重大军事行动之前,决策者不仅应评估行动效果,还应明确评估其潜在的政治后果、人道主义后果以及升级风险。由此形成的第一条原则即:人工智能不应成为降低灾难性后果行动门槛的工具。
第二,需要为危机升级速度和危机评估设置护栏。历史表明,大多数危机并不是因为领导人刻意追求战争而发生的。更常见的原因是误判、误解以及失控升级。
古巴导弹危机以及冷战期间数次错误核预警事件都提醒我们一个简单的道理:时间至关重要。战略稳定不仅取决于能力对比,同样取决于用于判断的时间。决策者需要时间思考、核实信息、开展沟通并重新评估风险。而人工智能可能改变这一基本条件。
如今,各国军队正越来越多地将人工智能整合到情报融合、态势感知和决策支持系统之中。未来,人工智能甚至可能同时承担目标识别、威胁评估、战场预测和作战规划等任务。这些能力无疑能够提高效率,它们同样可能压缩危机中的决策时间。如果过去需要数小时甚至数天才能完成的分析,如今只需数分钟甚至数秒即可完成,那么政治领导人是否仍然拥有足够时间作出独立判断?这是我们必须认真对待的一个问题。
历史上许多危机之所以能够得到成功管控,并不是因为决策速度更快,而是因为领导人主动放慢了节奏。放慢节奏创造了重新评估风险、核实信息以及与对方沟通的机会。因此,应当确立第二条原则:人工智能不应成为压缩核危机决策时间的工具。
在某些情况下,有必要为重大决策保留强制性的时间缓冲,这一点需要大国共同行动。我们的目标不是放慢技术发展,而是确保政治判断不会被机器速度所逼迫。在核危机处理上,慢一点往往更安全。
第三,需要为降低核武器作用和限制核威慑范围设置护栏。当前许多关于人工智能与核武器的讨论,都聚焦于何种人工智能是否应赋能核战略,以及如何确保人类对核武器的有效最终控制。但在此之前,还有一个更深层的问题值得关注。真正的问题并不仅是人工智能是否按下核按钮,而是人工智能是否正在改变领导人最初考虑使用这个按钮的条件。
随着人工智能不断提升目标识别、态势感知以及网络能力,那些原本属于常规领域的问题,可能逐渐被纳入核威慑框架之中。网络攻击、关键基础设施瘫痪、战略系统失灵等事件,都可能越来越多地被从核视角进行解读。
如果这种情况发生,许多未来涉及人工智能的事件都可能与核升级联系起来。这实际上将扩大核武器的战略作用。从战略稳定角度来看,这一趋势值得高度警惕。核威慑目标越广泛,人工智能风险进入升级链条的机会就越多。许多未来涉及人工智能的事件,可能最初只是网络事件、技术故障或意外事故。但如果它们被纳入核威慑框架进行解读,就可能演变为核危机的一部分。因此,人工智能护栏的目标不应仅仅是防止人工智能控制核武器,更重要的是防止人工智能扩大核武器的战略作用。
从这个角度看,中国“不首先使用核武器”(No First Use,NFU)原则的重要性进一步上升。“不首先使用”构成了核战略中最清晰、最可预期的边界之一。通过限制核武器的使用条件,它减少了人工智能相关事件升级为核危机的路径数量。因此,应当确立第三条原则:人工智能不应成为扩大核武器作用的工具。
战略稳定从来不仅仅依赖技术本身。它同样依赖围绕技术所形成的政治共识、行为规范以及战略护栏。归根结底,核领域人工智能治理的挑战,并不仅仅在于控制机器,更在于维护战略边界,尤其是行动后果、决策时间和威慑范围的边界。这些护栏或许无法消除竞争,但它们能够防止竞争滑向核战争。