刘宪权:人工智能时代的“内忧”“外患”与刑事责任

选择字号:   本文共阅读 843 次 更新时间:2018-01-10 13:26:06

进入专题: 人工智能   独立意志   辨认控制能力   刑事责任  

刘宪权  
即使人工智能产品实施了严重危害社会的行为,也只能将其视为设计者或使用者实施犯罪行为的“工具”,人工智能产品本身不应当承担刑事责任,而应当由人工智能产品的设计者或使用者承担刑事责任。

   (二)“内忧”情况下的双方责任

   “内忧”情况,指的是强人工智能产品超出设计和编制的程序范围,依靠独立意志,自主决策并实施严重危害社会行为的情况。在这种情况下,虽然人类通过程序给人工智能产品设定行为目的和行为边界,但人工智能产品基于算法和深度学习,产生了自我意志,出现了超出人类通过程序设定的行为目的和行为边界的情形。基于上文中提到的弱人工智能产品与强人工智能产品的本质区别,此处的人工智能产品仅包括超出设计和编制程序实施行为的强人工智能产品,而不可能包括弱人工智能产品。此时的强人工智能产品所作的决策和判断并据此实施的行为已经超出了设计和编制程序的范围,不再符合甚至从根本上违反了设计者或使用者的目的或意志,也不再是设计者或使用者实施犯罪行为的“工具”,而是一个独立的刑事责任主体,此时,我们当然应将危害结果归责于强人工智能产品。但同时应当看到,与自然人责任主体基于自然规律而具有的独立意志不同,强人工智能产品不具有生命体,其辨认能力和控制能力可以追根溯源到设计者为其编制的程序,同时使用者在使用过程中的行为也有可能触发强人工智能产品的敏感点,使其产生实施危害社会行为的冲动并进而付诸实践。“人是主体,他既能创造,也应该能够控制,道义上也有责任控制自己的创造物。”[10]强人工智能产品的设计者和使用者作为创造主体和控制主体,理应对强人工智能产品的行为负有监督义务,并对其可能实施的严重危害社会的行为负有预见义务并尽其所能避免此类行为的发生。所以当强人工智能产品实施了严重危害社会的行为时,除了追究强人工智能产品的刑事责任外,负有预见义务和监督义务的设计者或使用者也有被追究刑事责任的可能。如果强人工智能产品的设计者或使用者违反了预见义务,那么其可能承担的是一般过失犯罪的刑事责任;如果强人工智能产品的设计者或使用者违反了监督义务,那么其可能承担的是监督过失的刑事责任;如果强人工智能产品的设计者或使用者既不可能预见危害结果的产生,也确实履行了监督义务,那么其可能不需要承担刑事责任,此为意外事件或由强人工智能产品独立承担刑事责任。强人工智能产品的设计者或使用者一方的刑事责任大致如上所述,笔者在此不再赘述。笔者希望重点探讨另一方——强人工智能产品的刑事责任以及强人工智能产品与自然人责任主体、其他强人工智能产品成立共同犯罪的状况。

   没有责任就没有刑法,这是责任主义的具体体现,也是近代刑法的一个基本原理。从理论背景看,现代意义上的刑事责任,起源于17、18世纪的资产阶级启蒙运动所极力推崇的个人权利本位主义。“社会以个人权利为本位,国家不再是凌驾于个人权利之上的一种特殊权力组织,国家权力包括刑罚权只是个人为保有自身享有最大限度的自由而割舍出的一部分个人权利的集合,个人受国家刑罚权的约束以及国家刑罚权对个人权利的干预,目的都是保障个人完全地享有属于自身最基本的权利和自由。”[11]国家刑罚权和个人权利之间是一种相互制约的双向关系。国家刑罚权是个人权利的保证,改变了刑法作为镇压工具而存在的性质,要求刑罚权的适用具有合理性。正是在这种理论思想背景下,德国自然法学思想家塞缪尔·普芬道夫首次在刑法中提出“责任”的概念,揭示了犯罪人与犯罪行为之间的内在联系,并以此作为刑罚后果的归责基础。[12]这一观点经过刑事古典学派的丰富和发展,逐步演化为“责任主义”,成为近代刑法的一项基本原则,其目的在于以主观责任和个人责任来否定中世纪刑法中的结果责任和团体责任,抑制国家刑罚权的不当扩张,防止惩罚无辜,保障公民的基本人权。可见,从刑事责任概念出现之始便是与主观责任联系在一起的。然而,责任的本质在理论上一直存在争议。行为责任论认为,责任非难的对象是各个犯罪行为,应受处罚的不是行为人,而是行为;或者说,被追究责任的是行为,而不是其背后的性格、人格。而性格责任论则认为,责任非难的对象不是犯罪行为,而是行为人的危险性格。据此,应受处罚的不是行为,而是行为人。不过,从保障人权的角度来看,如果仅有危险性格就成为处分的对象,本身就具有一定的危险性。只有当具有危险性格的人现实地实施了犯罪行为时,才能成为被科处刑罚的对象。因此,性格责任论已经退出了历史舞台。而人格责任论着眼于上述两种立场的缺陷,认为行为人的人格是责任的基础。此说认为,人格由素质、环境宿命地形成的部分和由行为人有责地形成的部分,只能就后一部分对行为人人格进行非难。有责的人格形成,是由日常生活的“行状”导致的,只要这种“行状”是可以改变的,就可能对人格进行非难。[13]笔者赞同人格责任论的观点,因为犯罪的成立是由不法和责任两个部分组成的。不法只是一种客观行为的描述,实施行为者能否承担刑事责任的关键,是看行为主体是否具有责任能力或具备人格,只有具备人格者才可能对其加以处罚。责任的必要性是非难可能性,如果对主体缺乏非难可能性,就没有必要给予刑罚处罚。而非难可能性的前提也是具备人格。因此,无人格,也就无责任。

   事实上,虽然我国法律目前没有规定人工智能产品的法律人格与权利义务,但世界范围内早已有国家或组织针对该议题进行研究或立法。例如欧盟法律事务委员会主张机器人的“工人”身份并赋予特定的权利义务;日本、韩国也起草了《机器人伦理宪章》等规范性文件。[14]立法上赋予人工智能产品以法律人格与权利义务并非无稽之谈,而是世界范围内已有先行者的前沿立法活动。当然,虽然目前已有立法赋予人工智能产品以法律人格,但是在刑事法律范围内,我们探讨的具有人格的人工智能产品只能是具有辨认能力和控制能力的强人工智能产品。只有强人工智能产品才有可能成为刑法中的刑事责任主体,前文中笔者已对此作过详细分析,这里不再赘述。应当看到,正如自然人的刑事责任能力会随着年龄或精神状况的变化而变化一样,强人工智能产品的责任能力也并非一成不变。强人工智能产品的法律人格和责任能力会随着程序运行的变化而变化。

   强人工智能产品可能与自然人责任主体、其他强人工智能产品构成共同犯罪。例如,强人工智能产品可能会受到自然人或其他强人工智能产品的教唆从而在设计和编制的程序范围外产生犯意,或者在设计或者编制的程序范围外产生犯意后受到其他自然人或强人工智能产品的帮助,实施了严重危害社会的行为,抑或设计者虽在研发过程中并未将犯罪意图融入程序的设计和编制中,但在强人工智能产品产生后萌生犯意,利用强人工智能产品的学习能力,让强人工智能产品帮助自己实施严重危害社会的犯罪行为。在这些复杂的情况下,是否可以认为上述主体共同参与实施了犯罪行为?是否可以认为上述主体需要共同承担有关刑事责任?笔者认为,在上述几种情况下,完全可以认为上述主体成立共同犯罪,需要共同承担有关刑事责任。根据我国《刑法》第25条的规定,共同犯罪是指两人以上共同故意犯罪。对此处的“人”应作何理解?笔者认为,既然我们承认强人工智能产品具有法律人格和刑事责任能力,其就可以成为共同犯罪中的“人”。因此,这里的“人”可以是自然人,也可以是强人工智能产品。如果设计者或使用者起初并无犯罪意图,但在发现强人工智能产品实施危害社会的行为时,不仅没有采取一定的技术措施予以阻止,反而在强人工智能产品不知情的情况下暗中予以帮助的,可以构成片面帮助犯,应对设计者或使用者按照共同犯罪(片面共犯)原理以强人工智能产品所实施的行为性质予以定性处罚,而对强人工智能产品单独追究刑事责任。此外,如果设计者或使用者是有特殊身份的人,强人工智能产品不具备特殊身份,两者共同犯罪,可以按照有特殊身份者的行为性质进行定性。例如,设计者或使用者是国家工作人员,通过与强人工智能产品联络,利用自身管理公共财物的便利,让强人工智能产品帮助实施贪污公共财物的行为,对国家工作人员当然可以贪污罪论处,对强人工智能产品也应按照贪污罪的共犯处理。因为事物的性质是由事物的主要矛盾决定的。在本案中,设计者或使用者与人工智能产品所实施的贪污行为依赖于设计者或使用者的国家工作人员的身份所形成的便利条件,而强人工智能产品并无此身份和便利条件,此时占主导地位的是作为国家工作人员的设计者或使用者,理应按照只有国家工作人员才能构成的贪污罪的共同犯罪处理。同时,多个强人工智能产品也可能成立犯罪集团。例如,设计者制造出三个以上的强人工智能产品,使其为了实施一种或几种犯罪而形成一个组织,此时,这样的组织就是犯罪集团。犯罪集团是共同犯罪的一种特殊形式,既然我们将共同犯罪概念中“二人以上”中的“人”理解为既可以包括自然人,也可以包括强人工智能产品,那么犯罪集团概念中的“三人以上”中的“人”同样可以理解为既可以包括自然人,也可以包括强人工智能产品。总之,社会发展日新月异,共同犯罪的形式和具体构成也完全可能有不同的表现形式,这需要我们与时俱进,更新观念。

   至于针对强人工智能产品具体的刑罚体系设计,笔者作以下初步构想。适用于强人工智能产品的刑罚可以有三种,分别为删除数据、修改程序、永久销毁。所谓删除数据,是指删除强人工智能产品实施犯罪行为所依赖的数据信息,相当于抹除强人工智能产品的“犯罪记忆”,使其恢复到实施犯罪行为之前的状态。这样“犯罪记忆”将不会再成为该强人工智能产品成长经历中的一部分,从而引导强人工智能产品在今后的深度学习过程中主动获取“正面数据”,排斥或绝缘于可能导致违法犯罪行为的“负面数据”,直接降低其“人身危险性”。所谓修改程序,是指在通过多次删除数据仍然无法阻止强人工智能产品主动获取有可能实施违反犯罪行为的“负面数据”时,也即该强人工智能产品不能被正面引导时,强制修改其基础程序,将其获取外界数据、深度学习的能力限制在程序所设定的特定范围内,从根本上剥夺其实施犯罪行为的可能性。这意味着该强人工智能产品的深度学习功能从此将是不全面的、受限制的,不再能获取设计者程序限定范围外的数据,因而当然无法产生超出设计者或使用者意志之外的自我独立意志。所谓永久销毁,是指在删除数据、修改程序均无法降低实施了犯罪行为的强人工智能产品的“人身危险性”时。换言之,该强人工智能产品的深度学习历程已经十分漫长,并在长久的实践与成长中形成了程序上的“反删除能力”、“反修改能力”,除了将其永久销毁外,我们已无法实现对其在数据、程序上的有效控制时,便只能将其永久销毁。删除数据、修改程序、永久销毁构成了专门适用于强人工智能产品的刑罚阶梯,体现了处罚的层次性,可以与强人工智能产品所实施行为的社会危害性与其自身的“人身危险性”产生对应关系。

  

   刘宪权,华东政法大学法律学院教授、博士生导师。

  

   【注释】

   本文系国家社科基金重大项目“涉信息网络违法犯罪行为法律规制研究”(项目批准号:14ZDB147)、中国法学会重点委托课题“互联网金融犯罪的法律规制”(项目编号:CLS2016ZDWT48)的阶段性研究成果。

   [1] Andrew Arruda, “An Ethical Obligation to Use Artificial Intelligence? An Examination of the Use of Artificial Intelligence in Law and the Model Rules of Professional Responsibility” 40 American Journal of Trial Advocacy 443(2016).

   [2]《黄帝内经·素问·四气调神大论》。

   [3]胡凌: 人工智能的法律想象,https://news.uc.cn/a_16384305516683655823/,2017年9月25日。

   [4]J. SEARLE IN MINDS BRAINS AND PROGRAMS. THE BEHAVIORAL AND BRAIN SCIENCES,VOL. 3,1980.

   [5]全球金融业进入“机器人时代”:你的血汗钱是否安全?,http://finance.eastmoney.com/news/1347,20160321606253387.html,2017年9月27日。

   [6]中欧苹果:人工智能时代 云和大数据到底有多重要?,http://blog.sina.com.cn/s/blog_be62e9a90102wg0i.html,2017年9月27日。

   [7]“机器人三原则”是指:第一,机器人不得伤害人类,或看到人类受到伤害而袖手旁观;第二,机器人必须服从人类的命令,除非这条命令与第一条相矛盾;第三,机器人必须保护自己,除非这种保护与以上两条相矛盾。

   [8]封锡盛:《机器人不是人,是机器,但须当人看》,《科学与社会》2015年第5期。

   [9]《左传·襄公十一年》。

   [10]王家范:机器人永远无法替代历史学家,http://www.hao123.com/mid/17830650830069659715,2017年10月1日。

   [11][意]贝卡里亚:《论犯罪与刑罚》,黄风译,中国大百科全书出版社1993年版,第8-9页。

   [12][德]汉斯·海因里希·耶赛克、托马斯·魏根特:《德国刑法教科书》,徐久生译,中国法制出版社2001 年版,第503页。

   [13]张明楷:《论同种数罪的并罚》,《法学》2011年第1期。

   [14]参见吴汉东:《人工智能时代的制度安排与法律规制》,《法律科学》2017年第5期。

  

  

    进入专题: 人工智能   独立意志   辨认控制能力   刑事责任  

本文责编:frank
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 理论法学
本文链接:http://www.aisixiang.com/data/107768.html
文章来源:《东方法学》2018年第1期

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统