刘宪权:人工智能时代的“内忧”“外患”与刑事责任

选择字号:   本文共阅读 579 次 更新时间:2018-01-10 13:26:06

进入专题: 人工智能   独立意志   辨认控制能力   刑事责任  

刘宪权  

  

   【摘要】以人工智能产品是否具有辨认能力和控制能力,可以将其划分为弱人工智能产品与强人工智能产品。弱人工智能产品不具有辨认能力和控制能力,仅能在设计和编制的程序范围内实施行为,实现人类设计和编制程序的目的。弱人工智能时代的“外患”在于,人类完全有可能让其为己所用,实现自己的犯罪目的。弱作为犯罪工具,当然无刑事责任的承担可言。强人工智能时代的“内忧”在于,强人工智能产品具有辨认能力和控制能力,能在设计和编制的程序范围外实施危害社会的行为,其具有独立人格和刑事责任能力,可以将其实施的严重危害社会的行为认定为犯罪行为并给予刑罚处罚。强人工智能产品的设计者和使用者未履行预见义务和监督义务,可能承担相应的刑事责任。其可能与自然人责任主体、其他强人工智能产品构成共同犯罪。针对强人工智能产品的犯罪,有必要在刑法中增设删除数据、修改程序、永久销毁等刑罚种类。

   【关键字】弱人工智能;强人工智能;独立意志;辨认控制能力;刑事责任

  

   人工智能(Artificial Intelligence,简称为AI)是指使机器像人一样去完成某项任务的软硬件技术。[1]人工智能虽不是人类的智能,但其可以模拟人的意识和思维过程,像人一样进行思考。人工智能是网络技术和机器人技术发展到新阶段的体现。随着科技水平的不断提高,人工智能的发展日新月异。人类科技发展的历史告诉我们,科技的发展是爆炸式的,其发展速度呈几何式提升,我们必将在不久的将来进入到人工智能N.0时代。各国都意识到人工智能的巨大影响,纷纷出台政策,推动人工智能技术的发展和创新。正如俄罗斯总统普京所言:“无论对于俄罗斯还是全人类而言,人工智能都是未来。人工智能蕴含着巨量的机遇,同时也隐藏着难以预料的威胁。谁在人工智能领域能够成为领导者,就能够成为世界的规则制定者。”2017年国务院《新一代人工智能发展规划》将发展人工智能技术提升到战略高度。《新一代人工智能发展规划》指出:“人工智能是引领未来的战略性技术……当前,我国国家安全和国际竞争形势更加复杂,必须放眼全球,把人工智能发展放在国家战略层面系统布局、主动谋划,牢牢把握人工智能发展新阶段国际竞争的战略主动,打造竞争新优势、开拓发展新空间,有效保障国家安全。”

   随着人工智能时代的到来,这个本来属于纯粹技术问题的新生事物将会在法律、哲学、伦理等方面对人类社会带来极大的影响和冲击,并可能产生相应的刑事犯罪。对人工智能产品的合理应用,将会带来许多行业的重大变革,并在较大程度上通过解放劳动力,促进社会的深度和快速发展。但是如果设计者或使用者对人工智能产品进行不当利用,甚至将其作为实现犯罪意图的工具(此为我们在人工智能时代面临的“外患”),抑或是人工智能产品本身在设计和编制的程序范围外产生了犯罪意图,进而实施严重危害社会的行为(此为我们在人工智能时代面临的“内忧”),将会给人类社会带来极大的威胁,甚至会导致人类社会的毁灭。“圣人不治已病治未病,不治已乱治未乱,此之谓也。夫病已成而后药之,乱已成而后治之,譬犹渴而穿井,斗而铸锥,不亦晚乎。”[2]面对人工智能技术发展可能带来的负面影响,我们刑法学者不应该无动于衷,刑事立法和刑事司法更不应该面临危险而束手无策。“宜未雨而绸缪,毋临渴而掘井”。我们应提前预想到在人工智能时代可能面临的“内忧外患”,明确不同类型的人工智能产品的法律特征和法律地位,并就我国刑法应当如何合理应对人工智能时代所带来的刑事风险展开具体的分析与讨论,提前明晰人工智能时代的刑事责任承担路径。只有作好充分准备,方可避免在危险来临时患至呼天。

  

   一、强弱人工智能产品之界分

   按照人工智能产品的不同形态,可以将其划分为人形人工智能产品与非人形人工智能产品,其中,非人形人工智能产品又包括非实体人工智能产品(如AlphaGo,其只是隐藏在电脑里的一个围棋程序)与实体人工智能产品(如扫地机器人)。物理形体并非人工智能产品的必备要素。而无论是否具有物理形体,人工智能产品都必须依托算法(如深度学习和神经网络等),实时收集海量数据信息,并根据算法的计算结果实施行为。由此可见,人工智能产品的本质要素是算法。但是鉴于算法的复杂性,将算法作为区分强人工智能产品和弱人工智能产品的依据,在法律上既无可能,也无必要。其一,“根据算法的复杂性和学习或运算能力对强人工智能产品和弱人工智能产品进行区分, 这在技术认知上没有问题,但在法律上很难按照智能程度给出精确的标准。法律应对复杂世界的方式是确立一般性的简单规则,在概念上对社会个体进行抽象假定(如行为能力),而非针对特殊主体,否则规则体系本身将变得异常复杂,难于理解和操作。而人工智能从单一的自动化服务向多元通用服务转变的过程可能是一个相当长的光谱,法律需要针对其本质特征进行约束,并探索一套应对未来的方案”。[3]其二,正如人类的大脑是一个复杂而精致的系统,尽管当代神经科学不断深化我们对人脑的认知,我们仍不能完全了解大脑的运转机制。但是,应当看到,没有完全理解人脑的运转机制,并未妨碍通过法律建立一整套的规则体系来控制人类的行为,也并未妨碍我们运用刑法对行为人的主观心态(即故意和过失)进行认定。尽管我们对人工智能的本质要素——算法未能完全了解,但是,只要在法律上对强人工智能产品和弱人工智能产品的划分确定一个明确的标准,就不会影响对我国刑法应当如何合理应对人工智能时代所带来的刑事风险等问题展开具体的分析与讨论。

   以人工智能产品是否具有辨认能力和控制能力,可以将人工智能产品划分为弱人工智能产品与强人工智能产品。弱人工智能产品虽然可以在设计和编制的程序范围内进行独立判断并自主作出决策,但不具有辨认能力和控制能力,其实现的只是设计者或使用者的意志。例如,AlphaGo(阿尔法围棋)虽然凭借自主判断和决策战胜了围棋国手,但其自主判断和决策仍是在设计和编制的程序范围内进行的,实现的是设计者或使用者的意志——在下围棋时战胜对手。强人工智能产品具有辨认能力和控制能力,既可能在设计和编制的程序范围内进行独立判断并自主作出决策,实现设计者或使用者的意志;也有可能超出设计和编制的程序范围,进行自主决策并实施相应行为,实现其自身的意志。“强人工智能”一词最初是约翰·罗杰斯·希尔勒针对计算机和其它信息处理机器创造的。按约翰·罗杰斯·希尔勒的理解, “计算机不仅是用来研究人的思维的一种工具;相反,只要运行适当的程序,计算机本身就是有思维的。”[4]正如1968年上映的美国经典科幻电影《2001:A Space Odyssey》所呈现的那样,人工智能产品HAL读懂飞行员想要关闭它的唇语,于是决定先发制人,故意让电脑失灵,导致4人丧生。电影里的HAL就是这里所讲的强人工智能产品,它可以超出设计和编制的程序范围自主作出让电脑失灵的决策,从而达到不让飞行员将自己关闭的目的。当然,这种情景只是人类的幻想,但是人类的科技发展史正是不断将幻想变成现实的历史。1783年法国J.F.P.罗齐埃和M.达尔朗德乘气球升空,1903年莱特兄弟飞机试飞成功,实现了庄子在《逍遥游》中所描述的的“列子御风”的幻想;1969年“阿波罗号”飞船首次成功登上月球,实现了“嫦娥奔月”的幻想。虽然到目前为止,人工智能产品仍只能在设计和编制的程序范围内实施行为,实现设计者或使用者的意志,即我们目前仍处于弱人工智能时代,正如李开复在谈到人工智能产品时所言,“现在的机器没有丝毫自我认知,没有感情,没有喜怒哀乐,做了决定也讲不出为什么”。但是随着深度学习、神经网络、蒙特卡洛树搜索、云计算等技术的不断发展和完善,当技术突破下一个瓶颈时,出现具有辨认能力和控制能力、能够在设计和编制的程序范围外作出自主决策并实施相应行为、实现自身意志的人工智能产品,其实并非镜花水月、海市蜃楼。

   弱人工智能产品不具有辨认能力和控制能力,仅能在设计和编制的程序范围内实施行为,实现人类设计和编制程序的目的。人类是弱人工智能产品的创造者,可以通过程序给弱人工智能产品设定行为目的和行为边界。此时,弱人工智能产品的设计者或使用者完全有可能让弱人工智能产品为自己所用,实现自己的犯罪目的。如制造专门用来杀人的人工智能产品,实现自己非法剥夺他人生命的目的。同时,不法分子可能利用弱人工智能产品本身存在的漏洞,实现自己的犯罪目的。如诺基亚公司董事长李思拓所言,未来的家居设备很可能都是智能联网的,犯罪分子有可能通过洗碗机所连接的WIFI侵入家庭网络,从而操纵家里的一切,实现自己的犯罪目的。在这种情况下,弱人工智能产品做出的严重危害社会的犯罪行为本质上是为了实现他人的犯罪意志,应当将该弱人工智能产品看作他人实施犯罪的“工具”。在弱人工智能产品自身之外出现的刑事法律风险,即是在本文中探讨的弱人工智能时代的“外患”。

   强人工智能产品依赖于自身具有的辨认能力和控制能力,可以在设计和编制的程序范围外实施危害社会的行为。如上文中提到的强人工智能产品HAL超出设计和编制的程序范围自主作出让电脑失灵的决策,从而达到不让飞行员将自己关闭的目的。此时,强人工智能产品的行为未受到设计者或使用者等任何人为设置或操控,完全是自发实施的,且该种行为超越甚至根本违背了相关人员的意志。强人工智能产品实施的这种犯罪行为和其他具有刑事责任能力的主体实施的犯罪行为相去无几。在强人工智能产品自身之内出现的刑事法律风险,即是笔者在本文中探讨的强人工智能时代的“内忧”。

  

   二、弱人工智能时代的“外患”

   弱人工智能产品可以在设计和编制的程序范围内独立判断并自主作出决策,但是,因其不具有辨认能力和控制能力,且其意志完全受控或受制于人类设计和编制的程序,因此可以将弱人工智能产品看作人类改造世界的新型工具。人工智能是人类科技发展的重要里程碑,将会从根本上改变人类社会生活的面貌。但是如果被违法犯罪分子作为犯罪工具利用,将会带来难以想象的恶果。2017年8月,以特斯拉CEO伊隆·马斯克为代表的来自26个国家的人工智能技术领袖,向联合国进行“公车上书”,要求禁止“杀人机器人”的研发与使用,这体现了人类在弱人工智能时代对人工智能产品所引发的“外患”的普遍担忧。那么在弱人工智能时代,在人工智能产品外部可能会出现哪些“外患”?即在弱人工智能时代,弱人工智能产品的设计者或者使用者可能会利用弱人工智能产品实施哪些犯罪行为?

   弱人工智能产品是人类改造世界的新型工具,如同其他工具是人类双手的延伸一样,我们也可以将弱人工智能产品看作是人手的延伸,其可以解放人类劳动力,并弥补人类自身技能的不足。相较于普通工具,弱人工智能产品的优势在于其可以在某一方面完全替代人类自身的行为,达到人类预期的目的。如果这一优势被犯罪分子所利用,其就会在付出更小代价的同时,带来更大的社会危害。但是应当看到,弱人工智能产品的工具属性决定了其在犯罪中的地位,弱人工智能产品不可能作为犯罪主体而承担刑事责任。

   笔者认为,弱人工智能产品被他人作为工具加以利用实施严重危害社会的犯罪行为,可能体现在刑法规定的许多犯罪中。

利用弱人工智能产品可以实施危害国家安全、国防利益、公共安全和社会管理秩序的行为。随着弱人工智能时代的到来,一些危害国家安全、国防利益、公共安全和社会管理秩序的行为可能不再需要人类亲力亲为,只需设计和编制出相应的程序,让弱人工智能产品分忧代劳。在自动枪械系统、无人机等弱人工智能产品出现的情况下,犯罪分子不必再冒着生命危险进行自杀式袭击就可以达到严重危害社会的目的。同时,弱人工智能产品的数据处理分析能力大大增强,(点击此处阅读下一页)

    进入专题: 人工智能   独立意志   辨认控制能力   刑事责任  

本文责编:frank
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 理论法学
本文链接:http://www.aisixiang.com/data/107768.html
文章来源:《东方法学》2018年第1期

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2018 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网