徐英瑾:人工智能让未来战争更“人道”——回应埃隆·马斯克先生

选择字号:   本文共阅读 295 次 更新时间:2017-11-01 12:44:22

进入专题: 人工智能   未来战争  

徐英瑾  

   人工智能技术与武器的结合所可能导致的伦理后果,目前正成为海外媒体热烈讨论的一个话题。美国著名企业家马斯克便在不同场合表示了对于人工智能武器化的担忧,甚至认为:具有自我意识的人工智能在与特定武器相互结合成为“可以自动开火的人工智能系统”之后,或会对人类的生存构成威胁。在笔者看来,此类担忧的确是有点言过其实。只要施加特定的管制条件,人工智能与武器系统的结合其实反而是有利于增加未来战争的伦理指数的。不过,在具体展开相关讨论之前,我们首先有必要先将此类讨论所涉及到的一些概念问题加以澄清。

  

何谓“人工道德主体”与“武器”


   所谓的“可以自动开火的人工智能系统”这个概念,其实包含了两个关键成分:一个成分是在人工智能技术支持下的“人工道德主体(artificial moral agent)”,另一个成分则显然是“武器”。但麻烦的是,这两个概念成分的含义,其实都不像看上去的那么一目了然。譬如,某个具有进行敌我识别能力的导弹,固然可以被说成是某种程度上的“人工道德主体”,因为它能够自动寻找并歼灭目标,并在这个过程中恪守某种军事道德(比如不误杀友军),但这种武器的“自主性”,与未来学家们设想的那种可以完全替代人类士兵的超级军事机器人相比,显然还有一定的距离。与之相类比,“武器”也是一个非常模糊的概念:从十字弩到弹道导弹,似乎都可以被笼统地称为“武器”。有鉴于此,除非我们将“人工道德主体”与“武器”这两个概念都予以分层次讨论,否则,我们就无法清楚明白地表述出“可以自动开火的人工智能系统”这一概念的所指。

   先来看“人工道德主体”。在美国学者瓦拉赫(Wendell Wallach)与艾伦(Colin Allen)合写的名著《道德机器——教会机器人“是”与“非”》中,两位作者曾将“人工道德主体”区分为三个层次,笔者觉得颇有参考价值。

   第一,具有“运作性伦理性(operational morality)”——下面简称为“弱伦理性”的人工制品。譬如,一把手枪的保险装置就是此类伦理性的体现。保险装置本身并不具有自觉的伦理意识,但是它的存在,毕竟被动地体现了设计者关于“保护射手安全”这一点的基本伦理意识。在这个层面上,我们甚至还可以去批评某种武器的设计方案是“不伦理的”,譬如二战时代日本“零式”战斗机糟糕的装甲防护,就体现了设计者对于飞行员生命的漠视态度。

   与之相比较,俄罗斯当下最先进的T-14坦克却显示出了这个维度的“伦理性”,因为这种坦克的无人炮塔设计可以大大增加乘员在坦克被击中后的生还率(对于既有坦克战数据的统计表明,在炮塔内的乘员在坦克被击中后的生还率,的确要远低于在底盘中工作的成员)。

   第二,具有“功能性伦理性(functional morality)”——下面简称为“中伦理性”的人工制品。譬如,现代喷气式客机的自动驾驶仪,在很多场合下便能够代替人类驾驶员进行驾驶,并由此体现出了很高的自主性。而此类制品与伦理性的关联则体现在:出于对于伦理性,特别是“保护乘客的身心安全”这一伦理规范的考量,此类设备的设计者往往会禁止此类设备操控飞机作出某些剧烈的机动动作。需要指出的是,与前一类人工制品相比,在这一类人工制品中,伦理规范是以软件代码的形式出现的,而不是通过件的固定配置模式而体现自身的。因此,从原则上说,此类制品的伦理属性也完全可能仅仅通过代码层面上的变更而变更。

   第三,具有“整全能动性(full agency)”——下面简称为“强伦理性”的人工制品。换言之,此类制品就像活人一样,可以作出独立伦理决策,并能够理解其决策意义与后果,并在一定程度上能够为其决策进行负责。很显然,我们目前还没有做出这样的人工智能产品。

   说完了“人工道德主体”,我们再来说“武器”。由于“武器”的品种太多,为了适应本文的讨论语境,我们必须从施用武器的伦理后果的角度,来将其分为四类:

   第一类,非致命性武器,如气溶胶弹、激光致盲枪、扩音炮等(这类武器一般不会导致人员的死亡,但可能会有致残的后果)。

   第二类,短程战术性武器,如机枪、坦克等(这类武器一般在低烈度与中等烈度的军事冲突中使用,会导致人员伤亡,且武器使用的技术门槛比较低)。

   第三类,长程战术性武器,如战斗机、轰炸机、军舰与不带核武器的短程战术导弹(这类武器一般在中等与高等烈度的常规战争中使用,会导致人员伤亡,但武器使用的技术门槛比较高)。

   第四类,战略性兵器,如核、生、化兵器,以及中远程携带常规弹头的导弹(这类武器会造成大量的人员伤亡,很可能会造成严重的环境污染,至少会使得国际局势变得非常紧张)。

   很显然,按照排列组合原理,我们现在就有了12种将武器类型与“人工道德主体”的类型相互组合的方式:(1)“弱伦理性”+“非致命性武器”;(2)“弱伦理性”+“短程战术性武器”;(3)“弱伦理性”+“长程战术性武器”;(4)“弱伦理性”+“战略性武器”;(5)“中伦理性”+“非致命性武器”;(6)“中伦理性”+“短程战术性武器”;(7)“中伦理性”+“长程战术性武器”;(8)“中伦理性”+“战略性武器”;(9)“强伦理性”+“非致命性武器”;(10)“强伦理性”+“短程战术性武器”;(11)“强伦理性”+“长程战术性武器”;(12)“强伦理性”+“战略性武器”。在这12种可能性中,特别引发我们兴趣的乃是最后四种,因为既然“强伦理性”与各种武器形式的结合目前还付诸阙如,对于它们的讨论显然也就具有了明显的前瞻性意义。

   而在这四种结合方式之中,首先要予以排除的乃是“强伦理性+战略性武器”这种可能性,因为战略性兵器使用的政治后果过于严重,几乎不会有任何政治力量允许机器自行作出独立的道德决策,以决定是否可以发出此类攻击(但通过兵棋推演预测核反击的后果除外,因为人工智能支持下的兵棋推演所产生的结果,最后依然需要人类决策者加以理解与运用)。除了这种可能性之外,在笔者看来,“强伦理性+非致命性武器”、“强伦理性+短程战术性武器”、“强伦理性+长程战术性武器”这三种组合都是可以被接受的。

  

开发具有自动伦理决策机制的武器平台之必要性


   与马斯克的论点相反,笔者认为:开发具有“自动伦理决策机制”的武器平台,从总体上看是能够增加未来战争的伦理维度的。需要注意的是,“增加未来战争的伦理维度”一语并不是指消除战争。战争的爆发往往受到非常复杂的经济、政治与文化心理因素的促动,而单纯的技术进步并不能消除使得战争爆发的深层原因。在悬置具体战争本身的政治属性的前提下,“增加伦理维度”便是指尽量减少平民与友军的伤亡,尽量减少与军事目标无关的民间财产的损失,尽量减少军事行动对自然环境的负面影响,等等。从这个角度看,战争本身的“非伦理性”或“非道德性”并不在我们的讨论范围之内,而属于政治学与政治哲学的讨论范畴。

   那么,为何说具有前节所说的“强伦理功能”的高度自动化的武器平台,能够提高未来战争的伦理性呢?这可以从以下几点来得到说明。

   第一,如前所述,“弱伦理属性”、“中伦理属性”与“强伦理属性”是从属于一条完整的道德光谱带的,而伦理能动性色彩在武器研发过程中的逐渐增强,往往也伴随着战争自身人道指数的增强。譬如,二战时候使用的自由落体航空炸弹由于不具备敌我识别能力、缺乏精确制导功能,对于它们的运用自然就不可避免地导致了大量的平民伤亡。而在冷战时期,由于武器的精准度不够,华约与北约集团都研制了大量小型战术核武器(核鱼雷、核炮弹等)用以执行某些非战略任务——而此类武器一旦被使用,必将造成巨大的环境破坏。

   而在现代条件下,随着技术的进步,从遥远的距离,并用更小的弹药装量对目标进行打击,已经不再是奢望,而这样的战争模式显然会大大降低无辜群众的伤亡与环境的破坏。不难推论出,人工智能技术的运用,在大方向上是有利于未来战争的人道指数的继续提升的,因为“智能”在这样的语境中首先关涉的就是“在复杂的战争环境中避免附带伤害的能力”。

   第二,从兵器史的角度看,能够自动开火的武器历史上早就有了,我们不必为此大惊小怪。我们知道,在传统技术条件的陆地防御战之中,弥补防守一方兵力不足的最佳战术手段就是安置地雷,因为地雷也是某种最原始意义上的“自动开火武器”(敌军的脚踩上地雷,地雷就会自动爆炸)。从这个意义上说,具有伦理自主性的自动开火平台,在伦理上应当并不会比地雷更不可接受,因为这种拟议中的新兵器还具有根据不同的对象选择具有不同烈度的打击手段的能力,并因为具备了这种选择能力而能够避免更多的伤害。

   第三,一些人或许会认为,现有的精确制导技术已经能够满足未来战争对于人道性的诉求,而不必赋予武器平台以自主射击权,以增加不必要的伦理风险。但这些评论者并没有意识到赋予武器平台以自动开火权的最重要的好处,即对于士兵人力的极大解放。不得不承认的是,人类士兵在体力与心理上的极限,以及使用人类士兵所导致的人力成本,乃是制约传统军力部署的重要瓶颈,而具有自动开火能力的武器平台的使用,则将在极大的程度上增加军力部署的灵活性(这一点甚至适用于远程操控的无人机,因为今天所谓的“无人机”依然是需要大量人力资源加以控制的)。

   对于预防恐怖袭击等特殊任务来说,这种灵活性将具有重大的战术价值,因为传统作战条件下人类指挥员对于上级的汇报往往会浪费大量的时间(特别是在跨时区作战的环境下,这样的汇报会因为时区不同步的问题而受到人体生物节律的干扰)——而恐怖分子或许可能会利用这一点,在人体最疲惫的时间点对平民发动攻击。大量的武装机器人不受“人体睡眠节律”影响的全天候巡逻活动,将在不增加人类军警人力成本的前提下,比较完美地弥补上这一防御漏洞。

   第四,现有的无人机主要是用以攻击地面目标的,而不是用以空战。如果有人要研制用以空战的无人机的话,人类士兵远程操作的方式可能会行不通(传输距离导致的延时误差,在攻击慢速的地面目标时是可以容忍的,但这个问题却会在瞬息万变的空战中导致致命的后果)。而这一点就会倒逼航空专家去研发可以自动开火的航空器。从伦理后效来看,此类兵器的出现反而很可能会增加未来空战的人道性。

   得出这一结论的具体推理是:由于不载人的战斗机可以在不考虑人体承受力的前提下发挥其机动力,这一点就会倒逼其潜在敌对国也开发类似技术,以免在军事斗争中因为己方作战平台机动力之不足而吃亏。这种相互竞争很可能会导致未来空战的全面无人化,并使得未来空战出现“有输赢却无伤亡”的新局面。而这种“不见血”的局面,也可能使得军事冲突的善后处理变得更加容易,更少刺激各交战国内部的民族主义势力,而各交战国的外交官也便能更容易找到“台阶”进入斡旋阶段,最终防止军事冲突的进一步升级。

  

不应过分忧虑人工智能技术伦理风险

(点击此处阅读下一页)

    进入专题: 人工智能   未来战争  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 哲学 > 伦理学
本文链接:http://www.aisixiang.com/data/106660.html
文章来源:探索与争鸣杂志

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2017 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网