迄今为止，伦理法理约束战争犯罪，要么是针对作为战争主体的人，在事后追究战犯的责任；要么是针对作为战争手段的武器，在事前就明确限制其使用条件、方式与规模等。进入智能化时代，具有一定“主观能动性”的无人智能武器逐步走向普及应用，模糊了战争中人与武器的责任界线，引发了一系列完全不同于传统非智能武器的伦理法理问题。

从本质上讲，无人智能武器也是武器，是战斗工具而不是生产工具。在正确和正常使用情况下造成的杀伤和其他非智能武器一样是可接受的，不会被追责，但一旦出现明显的滥杀、误杀、过度杀伤等人道主义问题时，同样要面临道德谴责并追究相关人员的法律责任。这时至少需要清晰地回答四个问题，明确事故性质、责任主体和责任大小等，扫除“灰色地带”，将无人智能武器作战运用关在道德和法律的“笼子”里。

第一，人故意为之还是无人智能武器失误。

从法理角度讲，任何过失性致命行为的追责，无论是在民事还是在军事领域，都应该有清晰的责任链条才能实现。大规模杀伤性武器、地雷、激光武器等传统非智能武器，在使用过程中出现滥杀、误杀、过度杀伤等人道主义灾难时，绝大多数都是人为造成的，而非武器自身故障。不管使用者如何辩解都难辞其咎，因而主要追究使用者这个责任主体。

无人智能武器由于具有一定的自主决策和行动能力，且其内在运行机制非常复杂，超出设计者和使用者预期，出现各种问题的概率大为增加。以深度学习为代表的新一代人工智能具有“黑箱效应”，使得无人智能武器很可能因算法故障、数据污染、网电干扰，甚至因“自作主张”等，导致敌我不分、过失杀人等失控现象。这就需要从底层一一搞清无人智能武器失控的内在机理和外在表现，以此辨别其错误行为是人授意还是它“自己”所为，从而揪出“幕后真凶”。

如果事故是由人指挥控制无人智能武器做的，第一责任人自然是使用者；如果是无人智能武器“自己”做的，由于它不是法律意义上的行为主体，因而需要对所有涉事人员进行追责。责任主体很可能不是事故发生时无人智能武器的操控者，而是在时空上均远离现场的其他相关人员，因为在无人智能武器研发、作战规则制定、作战任务规划、武器系统调试等任何一个环节出现问题，都可能造成事故。这就需要前移伦理法理追责的关注点，从无人智能武器的操控者、指挥者到生产者、设计者等都可能面临追责，甚至需要同时追究多方面人员责任。

以往战争法条款通常是单一责任主体，只追究武器使用者的责任，而不会追究武器设计者、生产者等非战斗人员的责任。在智能化时代，需要针对无人智能武器大量走向战场的实际，有针对性地拓展战争法相关条款。在无人智能武器研发、生产、调试、部署、运用等各个环节，因人为因素而造成无辜伤亡，涉及人员都不能豁免，应承担相应的法律责任。

第二，是否充分评估无人智能武器的风险。

联合国《特定常规武器公约》规定，在研究、发展、取得或采用新的武器、作战手段或方法时，国家有义务按照国际法确定该新武器、作战手段或方法的使用是否违反国际法，风险评估和减小风险的措施，应成为任何武器系统设计、发展、测试和部署周期中的重要组成部分。无人智能武器作战运用风险远大于传统非智能武器，应把因未对其进行充分风险评估而导致事故，作为重要追责事项之一。应基于“负责任的人工智能”理念，建立无人智能武器风险评估机制和专门力量，在无人智能武器研发、生产、运用过程中，加强对其合法性、稳定性、可靠性和透明性的全面评估，减少其事故概率以及由此造成的意外伤害和附带损害。2007年，英军发现投入阿富汗战场的“硫碘石”智能导弹，可能会把校车里的学生误认为乘坐卡车的叛乱分子，不得不紧急召回并对其导弹头和制导软件进行改进。

无人智能武器风险评估措施包括但不限于以下几条。一是算法和数据安全评估。开发自动化测试技术、工具、样本集，模拟敌方数据污染、算法欺骗等攻击手段对己方无人智能武器实施攻击，评估其算法可靠性、数据安全性和各种可能的失控情形。二是虚拟环境评估。模拟复杂战场环境，创设数字化试验环境，在各种虚拟作战场景中对无人智能武器进行大样本遍历式试验，以战争预实践方式评估其伦理法理风险。三是实际环境评估。在日常军事演练和作战实验中反复对无人智能武器进行试验，充分评估其实战运用中的伦理法理风险。

第三，是否预置采取必要的技术防护措施。

只要人们普遍认定无人智能武器本身存在较大的不可靠性，就应该采取必要的技术预防措施来防患于未然。作为无人智能武器的设计者，有责任同步研发预防无人智能武器失控的各种技术手段，作为解决其伦理法理问题的重要一环。

这些技术预防措施包括但不限于以下几种：一是在无人智能武器控制软件中加入伦理法理控制程序来限制其行为。例如，为无人智能武器配备“道德适配器”程序，使其具有类似人类悔恨、同情、内疚等“情绪”，有意识地去匹配火力打击强度与目标失能最低要求，力求符合战争法中的比例原则。二是在无人智能武器控制软件外附加植入独立的自毁模块，作为预防失控的保底手段。在无人智能武器正式启用前，就设置好这种“后门”式自毁模块。一旦其失控，操作人员可不受外部环境影响或无人智能武器自身阻止立即启动自毁，使其不可逆转地彻底死机或殉爆。三是为无人智能武器配备摄像、录音等取证工具。通过全程记录无人智能武器作战时的行为，尤其是开火瞬间的具体细节，并存入自身数据库或回传后方。一旦出现事故，就可采取“录像回放”办法，为追究责任提供直接依据。

第四，是否制定合理的伦理法理约束规则。

美国科幻小说家阿西莫夫为确保机器人行为不会对人类造成伤害，制定了一套名为“机器人三定律”的行为规范和道德准则。无人智能武器是战斗机器人，而非用于生产生活的民用机器人，“机器人三定律”对其明显不适用，需要专门制定相应的伦理道德和人道主义保护准则。

现代战争法主要有必要原则、人道原则、区别原则、限制原则、比例原则和诚信原则等。例如，区别原则，要求攻击行为仅限于军事目标，不得将平民作为攻击对象。比例原则，强调作战手段的相称和适度。形象地说，就是不能因为别人偷了你家的一只鸡，你就烧了别人家的房子。无人智能武器要符合以上六项战争法基本原则，至少应做到三点：服从人，不可更改依附于人的程序，“一切行动听指挥”，不能脱离使用者约束而滥施暴行；尊重人，将人与其他物体严格区分开来，不能不加区别地一毁了之；保护人，能够适时中止和限制使用暴力，不能不分青红皂白地置人于死地。这其中，谨慎授予开火权是避免无人智能武器“失手闯祸”的关键。这就需要正确划定无人智能武器的作战区域、运用时机和开火条件，形成一系列具体的作战运用规则，既要发挥无人智能武器观察判断快于人的速度优势，避免因开火慢于对手而贻误战机，又要防止其作出错误决策导致“鲁莽”行动带来严重后果。

这些规则包括但不限于以下几条。一是区分环境复杂度灵活授权。在敌我和平民目标混杂的作战区域，无人智能武器难以识别敌我和判断目标性质时，应采取“人在回路中”指挥控制模式，由人决定是否开火；在环境背景比较干净，确信没有己方和平民目标的作战区域，可采取“人在回路外”指挥控制模式，让无人智能武器自主决定，选择最有利时机开火。二是当无法判断目标对象意图和威胁程度时，开火前必须警示。例如，在边境线执行警戒任务的无人值守机器人面对擅自入境的不明身份人员，在正式开火前应至少发出三次警告给其机会离境。三是尽量为无人智能武器配备使用非致命弹药。这些非致命弹药不是用来从肉体上消灭敌人，而是使敌人暂时失去战斗力，且尽量不造成永久性伤害。四是精确选择目标打击部位。当无人智能武器攻击有人装备时，应尽量选择瞄准打击敌有人装备中易损但又不易造成其载员伤亡的部位，既能消除敌威胁，又减少不必要的人员伤亡。