刘宪权:人工智能时代机器人行为道德伦理与刑法规制

选择字号:   本文共阅读 271 次 更新时间:2018-09-12 08:29:12

进入专题: 人工智能  

刘宪权  
[22]针对机器人权利的说法,也有反对的声音。“即便是机器人可以进行一定程度的自我进化,这也并不意味着人对这种进化的方向与速度失去可控性。假如机器人可以进化到成为拥有生命意识、自我生存欲求和发展目标能力的新型物种,我们就必须及时阻绝这种事态,绝对禁止这种可能提出权利要求的失控物对人类利益造成威胁与损害,这是我们触及与机器人相关的伦理道德问题时的核心关切之所在。”[23]应当看到,这一反对只不过是将限制的立场发挥到极致,核心在于保守的观念与对人工智能技术发展的悲观。一些保守的社会科学学者无法接受这一立场情有可原,毕竟科学技术的发展速度早已超出一般人的理解。“最终,人类不仅可以把机器人看作是机械奴隶、生产品和买卖物,而且可以看作是有其自身权利的实体。通观整个法律史,权利的每次向某种新实体的继续延伸总是有点不可思议的。我们倾向于设想无权‘事物’的无权性是大自然的一种天意,而不是一种出乎支持某种现状的法律协定。”[24]

   在承认机器人权利的基础上,限制机器人的权利亦符合人类利益。“人权是一个重要的伦理、法律与政治概念,而机器人权利更多地属于伦理、科技与安全的范畴。”[25]美国未来学家库兹韦尔的奇点理论认为,技术的加速发展会导致一个“失控效应”,人工智能将超越人类智能的潜力和控制,迅速改变人类文明。人工智能奇点的来临使得机器人能够完全独立、自主升级、进化,人类已经无法理解机器人的世界。奇点带来的失控可能是人类与机器人共生,亦可能是人类完全被奴役甚至灭绝。所以,为了避免人类的灭绝,也为了人类的共同利益,限制是必然得到共识的基本立场。

   值得注意的是,机器人的权利只能由法律明文规定,“天赋人权”无法适用于机器人。机器人毕竟不是普通法律意义上的人,自然人的法律权利诸如宪法权利、民事权利等均无法及于机器人。在机器人权利的具体内容上,不同类型、不同智能水平的机器人所享有的权利应当是不同的。有人提出无人汽车应当有“路权”,即通过制定法律规定路面上车身前、后一定距离内为无人汽车独自占有。机器人被攻击时应有“自卫权”,机器人外科医生应有执照和行医权。机器人为了有效地服务社会和便于公众接受,应当拥有相应的权利保障,机器人要遵纪守法,也要有权利。[26]此外,具有独立、自主意识的智能机器人不应被视为自然人的财产,而应受到最基本的尊重。[27]人类不能肆意处置、虐待或者抛弃此类机器人,针对机器人的利益也应当通过立法进行保护。

  

三、智能机器人严重危害社会的行为应受刑法规制


   机器人伦理规范在机器人法律制度中的体现不仅应包含对智能机器人法律地位、法律权利的承认与限制,还应包括对智能机器人的规制与惩罚。这一内容尤其体现在与伦理规范息息相关的刑法之中。人工智能时代的来临,不仅为社会带来效率与红利,也带来了诸多的智能机器人风险。刑法如何应对智能机器人风险,如何规制与惩罚智能机器人是未来研究的重要内容。我们首先需要面对的问题是,智能机器人能否成为犯罪主体?智能机器人可以实施何种犯罪?

   (一)智能机器人可以成为犯罪主体

   智能机器人能否成为犯罪主体取决于其是否符合刑法所规定的成为犯罪主体的条件。根据我国《刑法》17条的规定,犯罪主体需具备以下条件:(1)实施了严重危害社会的行为;(2)具备刑事责任能力;(3)依法应当承担刑事责任。其中第(3)点条件的成立来源于立法,在第(1)点和第(2)点成立之后,由立法明确其犯罪主体地位。正如单位犯罪在1979年《刑法》中尚未出现,经由1987年《海关法》的附属刑法确立了单位(法人)犯罪一样,智能机器人犯罪是否可以依法承担刑事责任本身并不是决定智能机器人能否成为犯罪主体的实质条件,而是立法者在肯定智能机器人具备刑事责任能力并能够实施严重危害社会行为之后在立法上的选择与回应。第(1)点和第(2)点才是决定智能机器人能否成为犯罪主体的本质要件,第(3)点只是罪刑法定原则下对前两点在形式上的固定化、法定化。如若符合第(1)点和第(2)点,则可在刑法第二章第四节单位犯罪后增设一节智能机器人犯罪,承认其主体地位。

   1.智能机器人能够实施严重危害社会的行为

   本文所言可归责于智能机器人的犯罪行为,是指在程序设计与编制范围之外,智能机器人基于独立“意志”所自主实施的犯罪行为。对于智能机器人按照程序设定的目的实施犯罪行为的,应归责于智能机器人背后的程序设计者以及智能机器人的使用者等人。此时智能机器人仅是工具,而非主体,故危害结果不应也无法归责于智能机器人本身。智能机器人对社会造成损害的情形在世界范围内并不罕见,只是大部分不是智能机器人基于独立意志所自主实施的行为,而多是由于机器、程序故障或操作失误所致。例如,德国大众汽车厂“机器人杀人”事件其实是生产安全事故而非智能机器人基于独立意志所自主实施的行为。工人在工作过程中不慎触发机器人的程序而受到机器人的误伤,因而导致了死亡结果。目前看来,在躯体层面,智能机器人完全拥有实施严重危害社会行为的能力,而在意识层面,尚不能超越程序控制而产生自主意识。但可以预见的是,基于深度学习技术、神经网络学习技术与大数据技术的发展,在不久的将来,智能机器人完全可能产生超越于程序控制的自主意识。未来实验室首席战略与创新官特雷西?弗洛斯认为,人工智能和机器学习技术将帮助机器人拥有自动编程并实施犯罪行为的能力,并预言到2040年机器人犯罪率将超过人类。[28]

   2.智能机器人具有辨认能力和控制能力

   辨认能力是控制能力的前提,只有具备辨认自己行为是非对错的能力,才可根据这种认识对自己的行为进行控制。对于有生命体的自然人来说,只要达到刑事责任年龄、精神正常便被视为具有辨认能力与控制能力。对于单位来说,刑事责任能力是单位内部自然人个人辨认、控制能力的集合,但又超越自然人,表现为超个人辨认、控制能力的一种集体意志。但智能机器人既无生命体,亦无法根据精神状况与刑事责任年龄认定其辨认和控制能力,更无法根据集体意志与法定存在形式认定其辨认和控制能力,智能机器人的辨认能力与控制能力来源于程序的设计、编制与物理硬件的联合作用。由人类设计、编制的程序使智能机器人具有了独立思考和学习的能力,这种能力使得智能机器人可以产生独立、自主的意识和意志。在这一意识与意志的支配下,程序与硬件为智能机器人的辨认能力与控制能力提供了物理基础。应当看到,只有同时具备辨认能力和控制能力,才可以承担刑事责任。在程序设计范围内进行活动的智能机器人由于受制于程序,因此不具有控制能力,也就不具有承担刑事责任的能力。另外,刑法意义上的辨认能力是对行为的性质、后果、作用的认识能力,这种认识包括事实层面的认识和规范层面的认识。事实认识是一种形式上的认识,智能机器人可以通过其“电子眼”、“电子耳”认识到事实。但对行为性质、作用的认识是一种规范认识,仅依靠物理硬件是不可能完成的。即便是自然人,其认识行为的性质、后果、作用的能力也并不是一蹴而就的,而是在成长过程中,逐渐在家庭乃至于社会生活中体会到规范秩序并由此形成规范意识。笔者认为,在智能机器人的程序设计与编制中加入深度学习法律与规范的部分,将大量的法律、规范性文件、案例作为智能机器人的学习内容,由此使机器人产生规范意识。相较于辨认能力,控制能力的实现是智能机器人的必备能力,是程序设计与编制的必需内容。智能机器人拥有极快速的处理能力、反应速度和极精准的控制能力,能够凭借大数据与高速运算能力对行为进行精准的控制。与自然人相比,智能机器人具有超强的控制能力与可培养的辨认能力,即智能机器人具有承担刑事责任的可能性。至于智能机器人承担刑事责任的具体内容与方式,则必须与智能机器人所享有的权利有所对应。因为刑罚是一种必要的害恶,是对犯罪人权利的剥夺与合法侵害,在现行法律体系并未确立机器人权利的情况下,现行刑法也不可能存在可以直接适用于机器人的刑罚。必须根据智能机器人所享有的权利类型重新建构刑罚体系,以实现刑罚的目的。

   (二)智能机器人犯罪的范围

   刑法分则共有十章,分别为危害国家安全罪,危害公共安全罪,破坏社会主义市场经济秩序罪,侵犯公民人身权利、民主权利罪,侵犯财产罪,妨害社会管理秩序罪,危害国防利益罪,贪污贿赂罪,渎职罪和军人违反职责罪。对上述十类犯罪而言,自然人完全能够实施,智能机器人则不然。智能机器人能够实施犯罪的范围取决于智能机器人自身的特点。智能机器人与自然人的共同点决定了两者都可实施的犯罪的范围,智能机器人与自然人的不同点则划分出了智能机器人无法实施犯罪的范围。

   实施犯罪的范围取决于犯罪主体的特点。单位作为刑法明文规定的主体,能够实施诸多破坏市场经济秩序、妨害社会管理秩序的犯罪(较多地体现为法定犯),但其无法实施侵犯公民人身权利、民主权利的犯罪(较多地体现为自然犯)。众所周知,刑法中法定犯与自然犯的最大区别在于是否违背伦理道德。由于单位不具有伦理道德,其不可能实施具有违背伦理道德特性的自然犯类别的犯罪。对智能机器人而言,其尽管不具有生命体,但是,正如前述,其具有伦理与道德,能够实施违反伦理与道德规范的行为,并进而在构成相应的自然犯类别的犯罪上没有障碍。应当看到,智能机器人能够实施刑法分则规定的大部分犯罪,只有极少数犯罪因其自身特性而不具有实施的可能性。智能机器人与自然人具有较多的共同点,因此以自然人为主体的刑法罪名往往也能够适用于智能机器人。以刑法分则第五章侵犯财产罪为例,智能机器人可以实施绝大部分犯罪,如抢劫罪、盗窃罪、诈骗罪等。但是,基于身份所实施的犯罪,智能机器人有些因不可能具有这种身份而无法单独实施(例如,贪污罪、受贿罪、挪用公款罪等罪的主体只能由国家工作人员才能构成,而智能机器人显然不可能具有这种身份),有些则完全可能单独实施(例如,智能机器人医生可以成为医务人员而实施医疗事故罪)。毋庸讳言,时下尽管智能机器人具有替代人进行工作的功能,甚至在医疗、法律、金融领域都有不俗的表现,但由于其在身份认定上还存在较大困难,智能机器人单独构成刑法分则要求具有特定身份的犯罪仍然有很大障碍。但是,我们也应该看到,虽然时下智能机器人尚无法单独成为身份犯罪的正犯,但是我们完全可以用身份犯共同犯罪的规定和原理,对智能机器人的帮助、教唆等行为加以评价。不过,随着智能机器人不断深度融入人类社会,赋予智能机器人某些特定身份的图景可能迟早会到来,到那时智能机器人犯罪与自然人犯罪在主体范围上可能更为接近。

   (三)智能机器人与一般机器人的区别

在人工智能时代到来之前,笔者就已提出“机器人”[29]可以成为犯罪对象的理论。具体而言,行为人冒用他人信用卡,在ATM机上取钱的行为构成信用卡诈骗罪,此时,ATM机是被骗对象。笔者认为,ATM机既不是机器也不是人,而是“机器人”。这是因为,程序设计与编制赋予了ATM机类似于银行柜员的识别功能,替代银行柜员进行金融业务。[30]当时尚未出现智能机器人,作为一般机器人的ATM机仅能成为诈骗罪的对象,不能成为诈骗罪的主体,即机器人无法实施诈骗行为并为此承担刑事责任。主要理由在于:(1)机器人虽然具有部分人的功能,但不足以主动实施诈骗行为。程序设计与编制赋予了机器人部分人的功能,这部分功能主要是指识别功能,包括验证账户、密码以及人的真实性等。一般而言,识别功能是被动的而非主动的,是程式化的而非创造性的。所以,机器人仅能在识别功能的范围内运作,而不可能超出识别功能的范围去实施欺骗行为。(2)识别功能尚不足以被评价为刑法中的辨认能力。(点击此处阅读下一页)

    进入专题: 人工智能  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 理论法学
本文链接:http://www.aisixiang.com/data/112274.html

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2018 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网