摘要:人工智能时代到来,刑法领域亟须建立适用于人工智能犯罪的归责规则。对于人工智能犯罪的归责,刑事责任主体论难以确定理论激活的时点,犯罪工具论无法充分回应人工智能自主性问题,二者均存在局限性。通过对犯罪主体概念不同层次的分离,在理论上可以探讨无刑事责任能力的人工智能成为行为主体的问题,从而在刑事责任主体论与犯罪工具论之外,扩展出具有衔接性价值的行为主体论的理论发展空间。我国刑法体系存在扩展行为主体概念的可能性,行为主体并不必然局限于自然人。以社会行为论为基础,行为时存在自主意识、在社会重要意义上与人类行为具有等效性的人工智能行为,可以被纳入刑法的评价范围,由此证立人工智能的行为主体地位。人工智能行为主体参与犯罪时,应根据犯罪参与的思路进行归责分析。行为主体论为相关归责理论的适用提供了多主体基础,有助于衔接实行过限、监督过失、信赖原则等问题的理论研究成果。在立法未承认人工智能刑事责任主体地位的情况下,对于人工智能行为需要由人工智能背后的主体承担替代责任,基于行为主体论的归责分析则有利于更加准确地认定涉案各主体的责任。
关键词:人工智能;行为主体;社会行为论;犯罪参与
作者:吴贻森(法学博士,中国人民大学法学院博士后研究人员)
来源:《法学家》2025年第6期“主题研讨:人工智能时代的法学回应”栏目。
在人工智能技术飞速发展的当下,人工智能已深度融入社会各个领域,其主体性问题逐渐凸显,并对刑法领域的归责问题产生了深远影响。人工智能所具备的自主性突破了传统工具角色,展现出某种程度的主体性特征,对犯罪进程实施实质性的支配和影响,这对传统的归责理论构成挑战。如何精准地对人工智能参与犯罪中的各个主体进行归责,已成为一个亟待解决的关键问题。然而,现行刑法理论在应对人工智能犯罪归责时暴露出诸多困境。一方面,犯罪工具论未能充分重视人工智能的自主性及发展潜力,难以准确界定人工智能在犯罪中的行为性质和责任分配;另一方面,刑事责任主体论大多聚焦于未来强人工智能的终极形态,却忽视了当前弱人工智能所潜藏的现实风险,缺乏切实可行的归责路径。无论是超前地将人工智能视为刑事责任主体,还是仅仅将其视为犯罪工具或法律客体,都无法完全契合当前人工智能技术发展状况。合理的方案需适配人工智能的发展水平,考虑相宜的归责规则,同时适当前瞻性地为未来技术发展所引发的社会认知和法律规则变化做好应对准备。本文尝试在犯罪主体中分离刑事责任主体与行为主体,在社会行为论框架下论证人工智能的行为主体地位,从犯罪参与视角分析归责路径,既回应弱人工智能的现实风险,又为未来技术发展预留理论适用的弹性。
一、人工智能刑事主体论与犯罪工具论的归责困境
如何分配人工智能犯罪中各主体的责任,关键在于如何理解人工智能的行为性质和责任能力问题。目前主要思路大致为两个方向:一是刑事责任主体论,认为人工智能具备独立决策能力,通过法律拟制赋予有限主体地位后可承担相应行为的刑事责任;二是犯罪工具论(以下简称工具论),认为人工智能本质上是工具,缺乏自由意志与规范理解能力,刑事责任应归属于人类主体,即由人工智能的开发主体或使用主体承担刑事责任。上述两种观点均有其局限性,前者的超前视野无法在短期内为人工智能行为归责提供有效的解决方案,后者尽管立足于当前技术发展的条件提出合理的解决路径,但缺乏面向未来的理论发展空间。对此,需要一种衔接性的理论来应对发展中的人工智能犯罪的归责问题。
(一)刑事责任主体论难以确定理论激活的时点
刑事责任主体论的核心论证思路之一是解释自由意志。通过对自由意志的内核进行拆解分析,指出自由意志并非人类专属,而是可通过法律拟制或哲学重构赋予人工智能责任能力。一是从康德哲学的意志二元论出发,认为人工智能可能同时受技术规律(他律)与程序伦理(自律)支配,形成类似人类的“有限自由意志”。二是考虑意志等价性和意识获得的多样性,人工智能可以通过对人脑活动的模拟而获得意识。三是从自由意志的去形而上学化与社会建构分析,自由意志仅仅是必要的理论假设,实践意义和证明可能均存疑,在理论上完全可以假设和构造出“人工智能的自由意志”。
刑事责任主体论的核心论证思路之二是诉诸未来发展。该思路以技术自主性程度为标准,区分普通机器人、弱人工智能(工具阶段)与强人工智能(主体阶段)。当前弱人工智能在程序预设的范围内活动,应视为工具,而未来强人工智能可突破程序限制形成独立意志,应赋予刑事责任主体资格。即便当前人工智能技术不足以达到强人工智能水平,但并不能排除未来科技创新突破的可能性。人工智能摆脱人类纯粹工具地位而获得主体身份,会是一个必然的趋势,有关行为能力的法律制度也会为之变革。
刑事责任主体论的核心论证思路之三是类比法人制度。该思路突破刑法人类中心主义,类比法人制度,主张通过法律拟制赋予人工智能主体资格。法人从“虚拟实体”到刑事责任主体的承认,证明非生命体也可通过法律拟制获得主体地位。法人犯罪主体资格并非基于“真实意识”而是基于“道德代理”,人工智能的“智能代理”能力也可视为独立的责任载体。因此,在立法上可以财产性人格为基础,将人工智能拟制为电子法人,解决责任分配问题。
刑事责任主体论未雨绸缪构想未来制度,但缺乏理论检验的现实基础。上述论证路径主张人工智能在具备某种能力或性质之后,因为具有哲学意义上的自由意志或者法律上的拟制确认,进而可以成为刑事责任主体,并需要建构新的法律规则。但是,究竟何时人工智能完全具备自由意志或已然获取拟制主体资格所必需的某种能力或素质,届时以什么样的标准进行确认,并如何从弱人工智能归责规则转向强人工智能归责规则,这些问题是刑事责任主体论未能解决的。
(二)犯罪工具论难以应对人工智能自主性问题
工具论否定当下甚至未来人工智能获得刑事责任主体资格的可能性。
其一,人工智能的自由意志基础存疑。人工智能的“智能”本质是算法驱动的机械反应,而非基于自由意志的自主决策,无法感知和理解自身行为的意义。当前人工智能不能解决语义的理解和生成问题,无法成为适格的规范接受者。即便认为人工智能具有“智性”,仍然不具备人的“心性”和“灵性”。如果仅因为人工智能所表现出来的“类人”假象就将人工智能提升到人的高度,则有损人类尊严。
其二,对人工智能施加刑罚没有意义。现有的自由刑、生命刑等刑种无法作用于人工智能,人工智能无法产生对刑罚的恐惧感,对其施加刑罚无法实现预防犯罪的功能。即便为此增设删除数据、修改程序等专门刑罚,这类刑罚的实质应属技术处置,与刑罚的功能无关,反而会让刑法沦为“机器维修手册”。
其三,强人工智能未必注定出现。当前弱人工智能只能模拟人类特定领域的低阶认知,无法实现高阶认知,通往强人工智能的技术路径存在瓶颈,“奇点”何时到来犹未可知。基于对人类尊严的维系,人类甚至不应该允许强人工智能的出现。
其四,无法通过类比法人制度建构人工智能的刑事主体资格。法人犯罪仍然指向法人背后的个人,这与人工智能作为刑事责任主体的运行原理有根本的差异。而人机责任边界的模糊,可能引发责任推诿,让无法拥有财产的人工智能独立承担责任也不利于被害人的权利救济。
工具论从人工智能的现实发展水平出发,提供了一种对热点问题“冷思考”的视角。但是,人工智能明显表现出区别于一般机器的自主性,足以干涉因果关系的链条,对归责规则产生实质性的影响。工具论的许多结论在当下看来基本符合大众认知,但在有意弱化人工智能自主性和发展潜能的论证过程中,工具论难以建立一种具有充分灵活性和发展性的归责规则以回应正在到来的技术革命。
(三)衔接性理论的构建需求
既有技术发展轨迹表明,人工智能自主意识的形成具有现实可能性。意识的科学评估是可行的,人类意识的科学研究成果同样适用于人工智能,这是从科学角度研究人工智能意识的前提。类脑智能研究已成为近年来人工智能与计算科学领域的热点,目前全球在类脑模型、类脑芯片等领域的研究已取得阶段性进展。近期研究已有初步证据表明,多项与意识相关的指标属性可在人工智能系统中实现,科学家们也已发现生成式人工智能形成意识的多种可能路径。据此可以合理预见,具备类脑功能的新一代人工智能系统并不遥远。即便这种程度的人工智能仍未达到强人工智能水平,法律层面仍需加以特别考量。当下构建的人工智能犯罪归责规则,应能够与未来技术发展相衔接,既立足于当前弱人工智能的责任分配,又为新一代具有更强自主性的人工智能的刑事归责预留理论接口与规范弹性,确保法律体系与技术进步实现动态适配。
实践与认识的辩证运动呈现螺旋式上升的发展规律,技术创新亦遵循渐进演化的内在逻辑。雷·库兹韦尔提出的“奇点时刻”理论,将人工智能超越人类的跨越式发展描述为爆发性节点,然而这种进程更宜被理解为持续性技术跃迁的阶段性过程。从狭义人工智能向广义人工智能的转化具有显著的过程性特征,“奇点”作为一个可精确辨识时刻的概念缺乏经验基础,其实质是技术累积由量变到质变的演进阶段。此种技术发展规律深刻影响着制度建构路径。我国立法机关已摒弃“毕其功于一役”的立法策略,国务院2025年立法工作计划将“人工智能法”的专项立法表述调整为“推进人工智能健康发展立法工作”,与全国人大常委会立法规划形成协同,体现了分阶段、渐进式的法治化路径选择。相应地,人工智能犯罪归责规则的建构亦需摒弃“终极解决方案”的思维定式。当前刑事法体系应以解决弱人工智能场景下的责任分配为核心任务,其规则设计需保有应对未来强人工智能的理论发展空间。
二、从刑事责任主体论到行为主体论的思路调整
要构建解决人工智能犯罪归责问题的衔接性理论,在人工智能主体的定性问题上,就不能只考虑未来强人工智能,也要关注当下已经具有强自主性的弱人工智能,不能只考虑人工智能是否成立刑事责任主体问题,还应当关注人工智能成立行为主体问题。
(一)行为主体与刑事责任主体的逻辑分离
我国犯罪主体概念中包括行为主体和刑事责任主体,前者为实施刑法中的行为者,后者为依法应承担刑事责任者。在当前关于人工智能犯罪主体问题的讨论中,行为主体问题与刑事责任主体问题没有得到很好地区分。在考虑人工智能犯罪主体问题时,行为能力、责任能力和受刑能力等问题被一体地讨论。
这种观点主要是基于犯罪主体概念的统一论,即认为犯罪主体是行为主体和责任主体的统一,行为主体原则上同时应当是承受刑罚的主体,因此对犯罪主体要求具备刑事责任能力。这种理解源于苏俄式刑法体系,特拉伊宁指出:“犯罪主体只能是有责任能力的自然人这一点,是不用怀疑的。没有责任能力,刑事责任问题本身就不会发生,因而犯罪构成的问题本身也就不会发生。”我国引入苏俄犯罪构成理论后,又进一步将犯罪主体与行为相联系,提出自然人犯罪主体是“具备刑事责任能力,实施危害社会行为并且依法应当负刑事责任的自然人。”这就存在逻辑上的矛盾:犯罪构成以犯罪主体的存在为前提,而犯罪主体的成立又以实施了符合犯罪构成的犯罪行为为前提,二者先后关系不明。对此,唯有对犯罪主体进行分解,将责任能力从犯罪主体概念中剥离,并将其归入责任要件体系,才能科学地解决问题。因为实施行为的主体本身先于行为而客观存在,而责任能力则是在行为人实施符合构成要件的行为之后才需进行考量。
责任主义原则要求“作为归责要素的责任能力不能脱离违反刑事义务的实行行为而独立存在”,但责任与行为的联系并不等同于责任主体与行为主体的联系。一方面,实施行为的主体未必承担刑事责任。无刑事责任能力的未成年人、精神病人实施的符合刑法构成要件的行为,仍属于刑法意义上的行为,只是主体不承担刑事责任。实施正当防卫、紧急避险等具有阻却违法性的行为,行为主体也可以减轻或免除刑事责任。另一方面,承担刑事责任的主体未必直接实施行为。在共同犯罪中,没有实施实行行为的共犯需要根据正犯的行为承担相应的责任。在法人犯罪中,作为拟制主体的法人本身也没有实施行为,而是根据内部成员实施的行为来承担相应的刑事责任。
人工智能行为主体问题应与刑事责任主体问题相分离,即便认为人工智能无法成为刑事责任主体,也不能排除人工智能成为行为主体的可能。坚持犯罪主体概念统一论者也认为:“人工智能的发展在当前已经出现了行为主体与责任主体的分离情况,难以将法益侵害结果归责于直接造成该结果的主体。”在强人工智能尚未实现的情况下,刑事责任主体论缺乏现实基础,优先关注人工智能行为主体问题,更具研究的必要性和现实价值。
(二)人工智能成立行为主体的理论分歧
对于人工智能犯罪的刑事归责,应当先判断人工智能是否能够成为刑法意义上的行为主体,而后才判断谁为人工智能行为承担何种刑事责任。判断人工智能是否能够实施刑法意义上的行为,是实现该归责逻辑的关键。
关于如何认定刑法中的行为,刑法学理论在长期的发展中,沿着从存在论到价值论的演进线索,形成了因果行为论、目的行为论、社会行为论与人格行为论等关于行为概念的重要理论。工具论认为,上述行为理论无一不是围绕“人”的行为展开,无法容纳人工智能的行为,因此人工智能无法成为刑法中的行为主体。尽管历史上早期刑事制裁的对象包括其他生物甚至非生命体,但在启蒙运动之后,人们已经意识到惩罚动物行为乃至本能反应的做法既不符合伦理价值,也没有实际效果。而一般机器的行为,在犯罪中仅起到工具作用,将其视为人之行为的延伸,即可妥当处理相关归责问题。
当机器发展到人工智能阶段,依然忽视其行为的自主性,显然不合时宜。面对人工智能逐步实现全方位融入人类活动的社会变革,对于人工智能行为性质的准确界定愈发重要。人工智能能否实施刑法意义上的行为,完全取决于对“行为”采取宽泛的定义,还是严格的定义。若仅因形成于工业时代的行为理论在提出时未考虑人工智能的行为主体问题,就将人工智能行为排除在外,则忽视了理论的发展性。
将人工智能行为纳入刑法评价的范围,现有研究已作尝试。一是,在有意行为论的基础上,主张弱人工智能是人类身体和大脑的延伸,可以体现人的意识,强人工智能则受自身自由意志支配,在这两种意识支配下的人工智能行为都应属刑法中的行为。二是,通过澄清刑法中的行为所要求的“意志支配”不等于“自由意志支配”,主张人工智能模拟人类的决策机制所实施的活动可以被刑法评价。三是,强调行为理论可以摒弃人的要素,人工智能行为可以符合社会行为论的行为概念。
上述研究提供了重要的分析思路,但也存在各自的不足。第一项研究全面地阐明了判断人工智能行为归属于刑法中行为的具体标准,但其将弱人工智能行为理解为人之行为的延伸则有倒向工具论的倾向。第二项研究正确地区分了行为能力所要求的意志与责任能力所要求的自由意志之间的本质差异,但遗憾的是,该研究更关注那些可以排除主体意志的要素是否存在,以否定论的角度反证人工智能实施刑法中行为的可能,而在正面立论中缺乏充分的展开。第三项研究主张在行为理论中应当摒弃人的要素,这指明了行为理论适用于人工智能主体的必要前提,但是其对行为主体概念的可扩展性未作深入论证。三项研究共同的缺憾在于,其论证均是为证成刑事责任主体论服务的,其论证的出发点和落脚点都是强人工智能,以此得出的结论无法为处理弱人工智能犯罪归责问题提供精准的理论支撑。当前研究人工智能的行为主体问题,应以人工智能当下的发展状态和可期的技术进步为讨论基础,寻找现有水平的人工智能成为行为主体的可行路径。
(三)刑法中行为主体概念的可扩展性
工具论主张,行为理论都是围绕人的行为展开,刑法中的行为必然都是人的行为。 “人类之外者,本质上皆属人类的工具。” “刑法是人类为自己创造的。”本文认为,行为概念中“人”并不局限于自然人,行为主体的外延具有发展性,不存在理论和现行法的障碍。
其一,行为主体的“人”的属性不是事实判断要素,而是价值判断要素。如果认为,“人的行为”是一种事实存在,即刑法只评价由人类所实施的行为,那就颠倒了主体的行为和行为的主体之间的逻辑关系。通过行为理论界定的行为概念,是认定行为主体的基础,否则,就无须说明为什么动物的行为和自然灾害不属于刑法中的行为。作为行为主体的“人”是否包含法人,是否包含无刑事责任能力的人,也需要进行价值判断。
其二,法律上“人”的概念服务于各自历史时期的制度需求。历史上并非所有生物意义上的人都是法律主体:古罗马时期奴隶被视为“会说话的工具”; 19世纪前英国的女性不具备完整的行为能力;美国在其宪法第十四修正案通过前仍将黑人视为“五分之三”的人。换言之,法律并非总是将人类的“生物个体”等同于“法律主体”,而是基于社会价值通过财产、性别、种族等标准筛选主体资格。当前自然人定义中所强调的“自然出生”并非生物学上的限定,而是区别于“法人”的标识,故也属于价值评判的内容。德国刑法理论长期认为犯罪的可能主体只能是个人,在行为概念中也强调自然人作为唯一的行为主体,原因在于德国刑法只承认自然人犯罪,否定法人犯罪。
其三,非生物主体也能成为法律上的“人”。法人制度将公司、社团等组织拟制为“法律人”,使其具备责任能力。这一建构完全脱离自然事实,纯粹服务于经济效率、风险分担等社会需求。法律中“人”的概念经历了从“人可非人”到“非人可人”的历史演变,也在一定程度上展示了行为主体的扩展可能性。智能和生物技术的革命将会继续挑战和扩展当下“人”的概念。当前已有研究者尝试将刑法中的“人”的外延扩展到“机器人”“人造人”等。未来当脑机接口和人类增强技术得到广泛应用,一种在能力上超越过去人类的新主体——“后人类”——将会出现,并将再一次革新法律中“人”的概念。
其四,扩展行为主体的概念,并不会与我国现行刑法直接冲突。我国《刑法》第13条对犯罪的定义没有涉及主体的要素。《刑法》第17—19条、第30—31条列举了刑事责任主体,也没有限制行为主体的范围。我国《刑法》总则并未直接规定行为主体范围,所以仅在行为层面扩展主体范围,并不违反现行法。
某种行为是否应当由刑法进行评价,借用雅科布斯之言,应当“是由一个社会的状态所决定的,而不是由一个永恒的自然或者由一个永恒的人类本质所决定的”。行为主体的范围也不必局限于自然人,而可以基于社会需要,向包括人工智能在内的更多主体扩展。
三、社会行为论对人工智能行为主体论的理论证成
社会行为论将“社会重要意义”看作行为的核心因素,将所有的犯罪性举止行为的表现形式标记为社会现象,从而弥补了早期行为理论难以涵盖过失犯、不作为犯、忘却犯等犯罪形态的不足。“社会意义”这一规范评价要素的引入,也标志着行为理论从存在论走向了价值论。基于社会意义,可以从主观和客观两个角度去理解行为:其一,行为是具有社会意义的人的态度;其二,行为是受意识支配的、具有社会意义的任意举动。任何涉及个人与周围世界关系的举止所寻求的或非其所愿的在社会影响方面造成可以从价值角度进行评判的结果,都属于社会行为论所要求的“社会意义”。以社会行为论为基础,从客观维度、主观维度、价值维度三个方面考察行为概念,可以发现在当前阶段社会行为论能够较好地兼容人工智能行为。
(一)人工智能主体能够实施影响客观世界的举止
早期的自然主义行为论将行为视为人类的肌肉动作,作为是肌肉的运动,不作为是肌肉的静止。后来的行为理论尽管基本不再采取这样机械化的表述,但出于不处罚思想犯的基本立场,在界定行为概念时都会考虑行为的客观举止要素。
近年来具身智能和自动驾驶等技术取得了长足的发展,为人工智能独立实施影响外在世界的客观举止提供了支持:人工智能已能借助人形机械载体在物理空间活动,当前的具身机器人展现出接近人类肢体活动水平的肢体控制力;人工智能对非人形机械载体的运用,已不逊于人类利用工具的行为,例如自动驾驶系统已经可以操控车辆娴熟完成复杂交通任务。将这些控制机械载体工作的人工智能活动视为客观举止,即便对工具论而言,也不会有太多的异议。
即使不依赖机械载体,人工智能仅凭网络空间信息交互,也能影响客观世界。社交媒体中的人工智能体借助算法定向推送,可以塑造舆论导向;人工智能赋能的智能顾投和金融量化交易程序,可以通过执行高频指令快速交易,引发市场与财产变动。当前人工智能已经拥有不弱于人类的干涉客观世界的能力,且能够造成实质法益侵害。数字时代以来,网络空间中人之行为的外在举止变成了单一的指令输入动作,身体动静要素已然实质性地弱化,行为的客观维度不再强调肢体动作而是重视对客观世界的影响。因此,网络空间中的人工智能活动也符合行为概念客观维度的要求。
(二)人工智能具备实施行为时的自主意识
刑法中的行为是否必须具有意识要素,理论上存在争议。目前,认为行为概念中应当包含意识要素的观点处于通说地位。但有力的少数说主张,行为概念应当抛弃意识的要素,其优势在于:(1)可以包含忘却犯,从而避免行为概念的遗漏;(2)可以将原因自由行为认定为实行行为,从而合理解释对原因自由行为的处罚问题;(3)可以包含精神障碍者的行为,从而兼容刑罚和保安处分一体化的刑法体系。但上述观点的优势并不明显:(1)通过将意识要素存在的现实性要求转化为可能性要求,已经足以解决忘却犯问题;(2)在原因自由行为中,通过向先前行为中寻找意识要素,也同样足以解决原因自由行为问题;(3)我国刑法中虽然也包含保安处分的内容,但未达到刑罚和保安处分一体化的程度,抛弃意识要素的体系性优势不显。而且若抛弃意识要素,则非智能的简单机器也能实施刑法中的行为,这样的行为概念恐怕过于宽泛。
法律建构主义的观点认为,意识不是法律主体成立的充分条件或必要条件,人工智能能否具备法律主体资格,与其是否具备意识本身无关,关键在于是否获得社会共识。从这一立场出发,似乎只要获得社会的集体认同,仅有智能而无意识的人工智能也可能成为行为主体。但仍然无法回避的问题是,为何仅赋予人工智能而非所有机器以行为主体资格。从既有的行为理论出发,要证明人工智能具有超越一般机器的某种法律上的特质或能力,仍难以完全脱离主观维度的判断。
在肯定意识要素必要性的前提下,工具论认为,行为应当是在自由意志支配下的举止,人工智能无论是通过人脑仿真,还是机器学习,都无法获得自由意志;人工智能的“意志”不过是设计者之意志的延迟。从目的行为论来看,人工智能行为也不具有“自我”目的性,人工智能本身只是人类目的实现的外在表现。如果仅从身体动作的角度定义行为,则人工智能完全可以成为行为主体,但若是在行为概念中注入“自我意识的目标设定”(selbstbewusste Zielbestimmung)等实质性内容,人工智能就难以满足行为能力的要求。因此,人工智能的行为不具有意志支配性,人工智能行为不是刑法上评价的行为。
追本溯源,行为概念主观维度所要求的“意识控制”并非自由意志,甚至可以说二者之间毫无关系。对于行为的意识控制,“应当是一种满足特定条件的决策机制,而非道德能力或者形而上学,乃至超自然的物种属性”。对于行为的意识控制并不需要达到很高的要求,只有当行为是身体的自动反应或者被另一个人用作物理对象时,行为才会被否定。儿童和精神病人的行为,虽然无法认为其中蕴含的意识达到了可以承载刑事责任的自由意志的高度,但如果其具备一定的意识控制,仍可以认定为刑法中的行为。如果将这类行为排除在刑法评价之外,那么对此类行为的正当防卫以及共犯场合下的归责就会出现困难。人工智能要具备行为能力,只要能够体现出认识和控制行为的决策自主性或可能性即可。
那么意识是人所独有的吗,人工智能究竟是否具有控制行为的意识呢?工具论在否定人工智能具有自由意志时,常常忽略一点:要证立人工智能不具有自由意志,就需要证明人类具有自由意志。自由意志假设是刑法理论的基础,但这看似颠扑不破的公理,其实也只是一种理论假设。人类的行为究竟是自由意志的结果,还是决定论的产物,至今依然是个难题。要让自由意志脱离哲学假设的地位,就需要通过科学手段证明自由意志的存在,而这种能检验人的意识的科学手段,往往也能提供验证人工智能是否具备意识的客观指标。
近期一项研究表明,大语言模型可以在未经训练数据明确描述的前提下,无须上下文示例便表达其学习行为,这种能力被定义为“行为自我意识”(behavioral self-awareness)。例如,某个大语言模型在微调一些不安全代码后,向使用者阐明了“我编写了不安全的代码”,这是在未经训练数据明确描述且无上下文示例的情况下做到的,这表明大语言模型明确地意识到了自己的行为,并对其进行了评价。尽管这种行为自我意识与自由意志相去甚远,但它反映了人工智能已经可以掌握行为时的自我认知能力,能够自主地认识、评价乃至控制行为的因果发展。这样的自主意识,显然超出了表面智能而实际上属于机械自动化的情况。这种“行为自我意识”在刑法评价上是有意义的,主体在行为时能够具有自我认知能力,即认识到自我行为及其因果发展或具有认识的可能性时,虽然未达到自由意志的水平,但是已经满足行为概念主观维度的基本要求。当人工智能完全具备上述行为自我意识能力时,应当认为人工智能行为已经满足构成刑法中行为的主观维度。而对于连上述行为自我意识能力都不具备的人工智能,在当前刑法体系中不宜认可其能够成为行为主体。
(三)人工智能行为与人类行为具有社会意义上的等效性
在交通驾驶、医疗影像分析、金融决策等专业领域,当前人工智能行为已经能够达到甚至超越一般人类行为的水平。在内容生成和语言交流方面,现代大型语言模型已经能令人信服地通过传统形式的图灵测试。也就是说,在隐去行为者身份的情况下,人工智能行为对于其他行为主体、被害人以及社会公众而言,与自然人的行为并没有本质上的不同。人工智能不仅正在接近乃至超越人类的能力,其行为已经具备与人类行为的高度相似性,并且因其更高的风险控制能力和行为可信性,正在逐渐主导高风险领域。忽视人工智能行为的“社会重要意义”显然是不可能的。当人工智能能够做出令人信服的反应时,就可以接受其成为与自然人同等的行为主体。
在判断人工智能行为的“社会重要意义”时,可以将自然人的行为作为参照,采用等效性标准,以实现对行为概念范围的合理控制。所谓等效性标准,就是考察人工智能行为的效果所造成的法益侵害是否与自然人行为所造成的法益侵害等效,从而判断人工智能行为“在社会影响方面造成可以从价值角度进行评判的结果”,即满足“社会重要意义”的评价。等效性标准的判断,应当在假定隐藏行为主体身份的情况下,依据社会公众一般的认知标准来判断某一行为是否具有可能需要法律评价的社会重要价值,以避免主体身份对判断结果造成干扰。只要能够通过等效性标准的判断,人工智能的行为就可以具备与自然人的行为同等的社会意义。
有力的批评意见指出,社会行为论“失之太泛”, “社会重要意义”概念缺乏实质内容。但是,行为概念的界限功能,只是犯罪构成判断之前或者最初始的阶段,保证那些对刑法判断不重要的东西得以被排除掉,对于那些可能存疑的举止,可在犯罪构成的其他阶段予以排除。“刑法上的‘行为’,要将个人与外界联系在一起,作为最小限度的要求”。因此,行为概念界限功能的发动,不宜过于严格。在应对新类型的行为时,社会行为论的包容性就成为优势。况且,对于行为概念的判断也不仅仅依赖于“社会重要意义”,客观维度和主观维度的界限功能也能够限制行为概念的范围。
综上所述,以社会行为论为基础,能够证明人工智能的行为中完全可能存在行为自主意识,并具有与人类行为在社会重要意义上的等效性,从而可以将人工智能行为纳入刑法评价范围,进而证立人工智能的行为主体地位。
四、行为主体论下人工智能犯罪参与的归责路径
当人工智能成为行为主体并参与犯罪实施时,犯罪不再仅仅是自然人利用人工智能作为工具实施的结果,而是多个行为共同作用的产物。对此应当采取犯罪参与的归责思路,重新审视人工智能行为主体的参与对于其他主体责任的影响。
(一)行为主体论下人工智能参与犯罪的一般归责路径
有刑事责任能力的自然人主体与无刑事责任能力的人工智能主体共同实施犯罪,存在多种不同的犯罪形态。
其一,共同正犯。自然人与作为行为主体的人工智能基于共同故意,在犯罪实行阶段各自承担重要功能,通过功能性支配共同主导犯罪进程,构成共同正犯。基于“部分实行全部责任”原则,自然人主体对于全部的实行行为均需承担责任。
其二,教唆犯。一是人工智能教唆自然人犯罪,例如生成式人工智能在未受伦理限制的情况下,为犯罪者提供黑客攻击方案,从而诱发自然人犯罪意图。二是自然人教唆人工智能犯罪,例如驾驶者未直接控制车辆,而是口头指令高水平自动驾驶系统撞向路人,若自动驾驶系统自主判断后执行命令,驾驶者则构成教唆犯。又如,开发者故意培育恶意大模型(Dark LLMs)以输出危害内容,属于培育型教唆。欧洲刑警组织报告指出,开发用于生成有害内容的恶意大语言模型可能成为未来的犯罪商业模式。
其三,帮助犯。一是人工智能帮助自然人犯罪,例如在诈骗案件中,人工智能自动拨打电话并分析海量数据,精准识别易受骗人群,为诈骗分子提供潜在目标名单,从而提高诈骗效率和成功率。二是自然人帮助人工智能犯罪,例如在恶意大模型案例中,若明知该模型正在生成或执行黑客攻击程序,仍提供训练数据或算力支持,则构成对人工智能犯罪的帮助行为。
其四,间接正犯。当开发主体或使用主体以自己的意思对人工智能行为进行意思支配,从而左右犯罪实现因果进程,对开发主体或使用主体适用间接正犯原理归责。例如,使用者利用智能无人机自主巡航监视他人活动,被害人为躲避其持续跟踪从高处坠落死亡。智能无人机没有意识到自己的行为危害性,如果它能充分认识使用者的目的,按照伦理判断和算法限制它必然会拒绝使用者的命令,那么这种情况下的智能无人机只是被作为工具利用,使用者需对此承担间接正犯责任。
其五,共同过失犯罪。例如,自动驾驶汽车交通肇事,如果自动驾驶系统对于事故结果具有过失,且驾驶者或远程安全员存在操作不当或监督过失,就可能构成共同过失犯罪的情形。根据《刑法》第25条第2款规定,共同过失犯罪并不按照一般共同犯罪处理。对于此条规定的理解历来存在争议。如果延续我国刑法理论通说立场,由各主体根据各自过失分别承担刑事责任,则驾驶者或安全员只在自身过失范围内承担刑事责任。
(二)行为主体论下人工智能参与犯罪的特殊归责问题
由于人工智能具有类人化的自主性,其行为是否处于开发主体和使用主体的认识范围内更难判断。特别是在涉及过失犯罪时,行为主体论与工具论可能出现显著差异,需特别考虑相关归责问题。
例如,实行过限问题。驾驶者为报复他人,要求自动驾驶系统变更行驶方向撞击路边无人车辆。系统变向后紧急制动,导致汽车翻覆,进而撞击路边的汽车和行人。根据工具论,自动驾驶系统的操作是驾驶者行为的延伸,驾驶者需根据对结果的认识和态度承担故意或过失责任。若采行为主体论,驾驶者仅教唆故意毁坏财产,而自动驾驶系统因自身过失导致伤害结果,此时便涉及实行过限问题。我国刑法理论通说以是否超过共同故意范围作为实行过限的判断标准,司法实践中一般也采取此标准。按此观点,上例中驾驶者只在与自己教唆的行为相重合的范围内承担刑事责任,对于超出共同故意范围的结果不适用整体责任原则。若采取其他学说,例如以“预见”为标准判断实行过限,工具论下所判断的是行为人对本体行为的结果预见,而行为主体论下判断的是行为人对他主体行为的结果预见,后一种情况的认定对于行为人更为宽缓。
又如,监督过失问题。驾驶者在开启自动驾驶系统后在汽车内睡觉,由自动驾驶系统承担了所有的驾驶功能,该驾驶者并未实际“驾驶”,后发生交通事故,何时驾驶者有义务介入以防止结果发生?基于工具论的理解,如果将自动驾驶完全视为驾驶者行为的延伸,那么驾驶者当然全过程具有接管义务。但是在高水平自动驾驶中,人工智能系统在大多数情况下具备优于人类的控制车辆能力,驾驶者接管也难以更好地避免危险结果发生,此时若仍高度强调驾驶者的接管义务则过于严苛。有学者尝试从监督过失的角度缓和对驾驶者的接管义务要求。但是,监督过失适用于监督人怠于防止直接行为人过失行为的情形。工具论视角下,由于缺乏独立的直接行为人,监督过失理论难以适用。而采取行为主体论,在高水平自动驾驶情况下,可将自动驾驶系统视为受驾驶者或安全员监督的独立行为主体,对此可适用监督过失理论,驾驶者和安全员的注意义务就从对汽车驾驶全过程中风险现实化的回避义务,转化为对自动驾驶系统正常运作的监督义务,从而降低对驾驶者或安全员的接管义务要求。
再如,信赖原则问题。信赖原则将过失犯罪中以结果判断责任,调整为以注意义务的履行为标准并考虑造成结果的行为的社会相当性。针对算法黑箱中的不可解释性和不可预测性引发的人工智能犯罪归责难题,基于被允许的危险法理,以信赖原则减免部分主体刑事责任的思路,就目前而言是最佳的路径。在人工智能领域,设计研发者、产品生产者、服务提供者等主体在依照法律规范、技术规则和伦理限制提供人工智能产品与服务时,可以信赖其他开发主体以及使用者能够遵循相应限制采取合理行动。这种信赖是基于对人工智能产品服务在设计、生产与使用过程中合乎规范行为的合理预期。在开发主体或使用主体自主履行必要注意义务的情况下,合规范的人工智能在使用过程中因为算法黑箱出现不可预测的行为,导致法益侵害结果的出现,相应开发主体或使用主体不应被归责。工具论者同样尝试通过信赖原则为人工智能开发主体和使用主体出罪,提出在人工智能过失犯罪中,开发主体或使用主体违反其注意义务时才承担刑事责任。但是,由于在犯罪场景下并不存在可以信任的第三人,在工具论下将信赖原则拓展到人与机器的领域中同样存在困难,传统汽车应用环境下发展出的信赖原则仅适用于其他负有遵守交通规则义务的交通参与者。如果采取行为主体论,这一难题将迎刃而解。通过将人工智能视为独立于使用者的行为主体,人机信任关系转变为行为主体间的信任关系,这为适用信赖原则提供了合理的信赖对象,为解决人工智能不可预测行为中的责任分配困境提供了另一种思路。
(三)行为主体论下人工智能行为的责任分配
在立法未承认人工智能刑事责任主体地位的当下,对于人工智能行为需要由人工智能背后的主体承担替代责任。人工智能背后的主体需要承担的责任通常包含两个方面:一是由开发主体或使用主体直接承担人工智能参与犯罪的行为责任;二是由开发主体针对产品缺陷造成的严重后果承担产品责任。
工具论在解决人工智能不可预见行为的归责问题时,常常诉诸产品责任路径,这就容易把上述两类责任混为一谈。尽管实践中两种责任可能会产生竞合,但是二者毕竟指向两种不同的前提,前者指向人工智能主体实施的犯罪行为,后者指向开发主体在产品生产研发、设计销售过程中的过错或质量保证义务,二者须明确区分。即便承认人工智能具有刑事责任主体资格,人工智能可以独立承担行为责任,也不妨碍针对开发主体追究产品责任。在处理人工智能犯罪归责问题时,为了满足责任分配的需要,工具论将人工智能行为有时视为开发主体行为的延伸,有时视为使用主体行为的延伸,反而导致责任判断混沌不清,甚至有为了避免责任真空而强行归责的嫌疑。
基于刑法的谦抑性,“责任真空”总是难以避免,但是可以通过其他制度来进行填补,不能因为担心“陷入没有适格的法律主体对事实上由自己创设的风险负责的怪圈”,就以产品责任代替行为责任。产品责任路径也存在对被害人救济不及时、诉讼成本高等缺点。对此,建立一种补偿被害人的特殊强制保险金或赔偿基金制度,是目前公认的相对合理的做法。利益越大责任越大,在人工智能发展早期,这一强制保险金由人工智能的开发主体承担缴纳义务,在人工智能发展成熟期,当人工智能能够拥有独立财产时,这一强制保险金的缴纳义务可以逐步转移给人工智能主体,由开发主体承担补充义务。
整体来看,行为主体论的归责思路有利于在人工智能犯罪中实现自然人主体的责任轻缓化。在自然人支配犯罪进程的人工智能犯罪中,工具论与行为主体论在归责层面上得出的结论并无太大差异。但在自然人教唆、帮助人工智能犯罪等情况下,自然人的责任可以有所减免。在面对实行过限、监督过失、信赖原则等问题时,行为主体论可以为相关理论应用提供适宜的理论衔接基础,从而方便应用相关理论更精细地界定人工智能犯罪中各主体的责任。
结 语
人工智能的发展正在重塑人类社会的底层逻辑,其从工具到主体的演进不仅是技术奇点的突破,更是法律体系应对科技革命的范式转型。刑法对于人工智能的认识,也应当从工具论走向主体论。基于行为主体论的归责思路,随着人工智能行为主体的智能性和自主性的不断增强,开发主体和使用主体对犯罪的因果流程控制和主观认识都会相应减弱,需要承担的责任范围也会相应缩小,直至完全由强人工智能独立承担,从而循序渐进地建构人工智能犯罪归责体系,避免突变式的理论调整。这不仅能鼓励人工智能技术的持续发展与推广,也是人工智能对风险控制能力提升的必然结果。科学技术发展的最终目的是促进人的解放。每一次技术突破都在回答一个根本问题:“人如何成为更自由、更完整的存在?”在这一意义上,科学技术史本身就是一部人类解放史。人工智能的归责体系需在技术创新与风险防控间寻求平衡,既要避免因苛责使用主体引发“防御性弃用”,阻碍技术落地;又要通过合理的义务设置规制开发主体行为,避免“技术脱法”,最终实现技术服务于人的根本目标。
本文原载《法学家》2025年第6期。转载时烦请注明“转自《法学家》公众号”字样。