郑曦:司法人工智能运用背景下的被告人质证权保障

选择字号:   本文共阅读 670 次 更新时间:2022-11-16 19:36

进入专题: 人工智能   被告人   质证权   数据   算法  

郑曦  


【摘要】在内外驱动力的作用下,尽管尚有缺陷,但司法人工智能的广泛运用已成现实。然而司法人工智能的运用可能给被告人的质证权带来影响,导致前提性障碍、程序性难题和实质性困境。为协调司法人工智能运用与被告人质证权保护的需求,需坚守控辩平等与审判中立原则,重新确认针对质证的直接言词原则,并对公开质证规则做必要调整。在此基础上,可以从加强对被告人质证权的信息保障、能力保障和效果保障三方面着手,使被告人的质证权得以有效行使,实现司法人工智能运用与被告人质证权保障的协调。

【关键字】司法人工智能;被告人;质证权;数据;算法


人工智能在司法领域特别是刑事司法领域的运用具有高效、统一等显而易见的优势,也是应对“以人工智能和大数据为特征”的“web3.0时代”的新型犯罪所需。但与其他任何技术一样,司法人工智能同样具有“双刃剑”的特征,特别可能对诉讼中的当事人权利产生影响,因此有必要予以认真研究,防止刑事司法领域科技运用与人权保障的背反。

一、问题的提出

司法人工智能的运用是基于内外两方面驱动力的,其中内在的驱动力主要源自司法机关面临的案件量所带来的压力。面对此种难题,高层将司法人工智能的运用视为提高司法效率的一项手段,相较于司法效率的提升这一直接动力,司法人工智能因其模型化、代码化的“冰冷”技术秉性,提升了人们对于司法在统一适用法律、同案同判等方面的期待,但这些期待只是司法人工智能有可能实现的“重塑效应”,而非其运用的内在驱动力。

另一方面,除了海量案件导致的内在驱动之外,司法人工智能运用的外在驱动力则主要来自科技企业的研究成果转化需求。近年来随着人工智能研发的热度升高,大量资金被投入相关产业的研究中,如此巨额的资金投入必然刺激以追逐利益为本能的科技企业的研发热情,而相应的研发结果也亟需快速转化为可供司法机关使用的智能化产品,从而实现研究成果的商业变现。从这个意义上看,这种科研和商业性的需求从外部有力地推动了人工智能在司法领域的运用。

在这内外两方面的力量驱动下,人工智能的司法运用沿着中央支持、地方推进的路径轰轰烈烈地展开。许多只是看上去先进但实质上不具有智能化特征的工具,例如案卷电子化、案件信息公开、网上庭审、电子送达、语音识别等也被纳入司法人工智能的“口袋”中,进而混淆了具有自主性的人工智能与机械自动化的传统技术之间的区别。这种概念的泛化和区别的混淆的危害是显著的,一方面使得科技企业得以用低水平的“伪人工智能”鱼目混珠,从司法人工智能的盛宴中分一杯羹,甚至以侵吞国帑,另一方面则用非人工智能工具对司法效率等的提升掩盖了司法人工智能运用中的真实问题,例如司法人工智能运用是否实质性地对相关人员在诉讼中的权利义务关系造成影响。

在讨论司法人工智能运用对公民诉讼权利的影响时,被告人的质证权保障问题最为引人关注。所谓质证权,是指被告人在法庭上对于控方证据进行辩解、质疑、反驳的权利。根据《最高人民法院关于适用〈中华人民共和国刑事诉讼法〉的解释》第71条、第120条的规定,质证的对象就是“证据”,既包括言词证据,也包括“采取技术调查、侦查措施收集的”实物证据。基于对质证权之对象的广义认识,可知被告人可以对所有控方证据进行质证,在最大程度上确保其辩护目的的实现,并由此奠定质证权在被告人权利体系中的核心地位。

然而司法人工智能的运用,却引发了关于被告人质证权是否能够得到有效保障的争议,在2016年的美国卢米斯案中,法院使用了COMPAS智能评估工具对卢米斯的社会危险性进行评估,并参考该评估报告作出了量刑裁判,然而被告人认为COMPAS算法不公开,使得辩方难以行使其基于美国联邦宪法第六修正案享有的进行对质的权利,导致其对量刑程序缺少实质参与,违背了正当程序的要求。尽管该案中被告人的主张最终未获支持,但其引发的关于人工智能对被告人质证权影响的讨论和争议却是有意义的。

针对司法人工智能的运用对被告人质证权的影响,应当考虑以下三个层面的问题:一是人工智能对被告人质证权是否造成了真实存在的威胁、以及此种威胁具体表现在哪些方面?二是在司法人工智能运用的背景下,刑事诉讼中与质证权相关的既有原则或规则是否依然适用、以及是否需要加以调适?三是如果这些原则依然适用,如何根据这些原则或规则的要求消除人工智能运用对被告人质证权带来的威胁、进一步加强对质证权的保障,从而使科技运用于司法符合保障人民权利的法治根本目的。

二、司法人工智能运用对被告人质证权的影响

(一)前提性障碍:被告方对控方证据了解受限

被告人行使质证权,需在庭审中对控方所提出的证据进行质疑和反驳,其基本前提是对控方所掌握的证据有充分的了解。为保证质证权的此种前提,我国刑事诉讼法规定了单向的证据开示制度:第40条规定审前阶段被追诉人一方即有阅卷权,第42条规定被追诉人一方所掌握的证据,通常无需告知办案机关。然而司法人工智能的运用,却使得此种单向证据开示的效果难以得到保证,对被告人质证权的前提实现造成了阻碍,进而影响了质证权行使的效果。

一方面,人工智能技术的运用大大提升了控方、以及大陆法系传统下作为控方助手的侦查机关的数据获取能力。无处不在的摄像头、普遍运用的人脸识别技术、强有力的网络监管手段,都使控方得以将触角伸向社会生活的每一个角落并运用智能比对、网络爬虫等人工智能技术获取相关的数据。这种强大的数据获取能力对追诉犯罪的意义不仅体现在刑事诉讼中,甚至可以前移至刑事立案之前。例如以公共安全为名的公共空间大规模监控所使用的网络数据抓取、人脸识别等人工智能工具的运用可能将追诉犯罪的行为进一步推前至侦查机关未接受案件或未发现任何犯罪线索之时,使得侦查机关的犯罪治理活动更具有积极主动性。

但是另一方面,控方及侦查机关通过运用人工智能等技术的运用所获取的数据虽然对追诉犯罪实际发挥着作用,却只有一部分进入案卷材料,而相当一部分则是以不为被告人一方所知的形式运用于人工智能的演算程序或通过“互联互通”的平台推送给审判者。如此一来,刑事诉讼法所规定的辩方的阅卷权能否真正实现单向证据开示的功能、进而保证被告人质证权实施的了解辩方证据之前提,就值得怀疑了:在司法人工智能运用的背景下,控方实际用于追诉的数据已经远远超过了作为阅卷权对象的“案卷材料”即诉讼文书和证据材料的范围,这些未能进入案卷的数据虽然在名义上不属于“证据材料”,但却可能实际被用作控诉的依据并影响案件的最终结果;但是由于这些数据未进入案卷、不算“证据材料”,因此不属于辩方阅卷权的范围,被告人也无法对这些可能决定其命运的数据进行了解,因此必然对其质证权的行使造成前提性的阻碍。

除此之外,司法人工智能的运用对被告人了解控方证据还造成了另一种困难,即控方可能利用其在数据数量和专业能力方面的优势影响被告人质证权的行使。如上文所述,司法人工智能的运用大大提升了控方获取数据的能力,控方在国家资源的加持下建立了各种类型的数据库、掌握了海量的数据,在一些重大疑难案件中,控方用于控诉的数据可能数量惊人,这些数据即便允许被告人一方访问,也可能因为数量过于巨大而对辩方形成“数据倾倒”,令辩方迷失在数据的汪洋之中,从而以形式的开示掩盖实质上的不对等关系。而被告人一方由于缺乏分析数据的专业能力,也往往缺少数据运用方面的专业帮助,无法从海量数据中剥离出对于质证权行使有实质意义的内容,这也使得被告人质证权的前提即对控方证据的充分了解面临进一步的困难。

(二)程序性难题:与谁质证?如何质证?

按照刑事诉讼的基本理论,根据刑事诉讼等边三角结构之要求,质证的主体主要是控辩双方,法官居中扮演“主持人”的角色,控辩通过质证对法官的裁判形成约束和影响。然而在司法人工智能的运用背景下,被告人与谁进行质证这样一个原本不成问题的难题却凸显出来了,被告人行使质证权的“对手”除了传统的控方之外似乎又发生了一些变化。

一是被告人究竟是与人进行质证,还是需亦与机器进行质证?司法人工智能的运用已然十分普遍,检察官在进行起诉时很可能是依据人工智能收集的数据、演算的程序及提出的建议而进行的,一旦出现错误起诉亦可以将错误决定的责任推卸给人工智能技术,例如在美国纽约的洛佩兹案中,控方就不顾被告人的反对而依据人工智能所收集的证据及提出的建议做出了起诉的决定。那么在这样的情况下,被告人行使其质证权,其终极对手还是代表控方的检察官吗,抑或还包括人工智能机器以及机器背后的科技企业及技术人员?

二是被告人究竟是与控方进行质证,还是也需与法官进行质证?传统上法官不是举证的主体,自然也不是质证的主体。但是在司法人工智能运用的浪潮下,不但控方运用人工智能技术收集数据并对数据进行处理,法院也使用人工智能进行审判辅助,人工智能工具所得出的结论在很大程度上会影响法官的最终裁判。这种情况在美国的司法实践中已不鲜见,上文提及的卢米斯案中法院就是依据COMPAS算法的结论对被告人作出量刑裁判的,再如在贝利案中法院采纳了人工智能依据DNA归因算法而作出的与DNA有关的概率分析结论、并驳回了被告人一方的反对。如此一来,似乎站在被告人对立面的似乎不仅仅只有控方,还应包括装备了人工智能的审判方,这不禁令人对审判的中立性产生了疑问。

司法人工智能的运用,除了使得被告人在进行质证时出现“与谁质证”的困惑之外,还带来了“如何质证”的问题,其中一个最直接原因就在于运用于司法中的人工智能算法是封闭和秘密的,无法向包括被告人在内的诉讼参与人公开,甚至也不向公检法办案人员公开。算法的此种封闭和秘密特征,是具有一定合理性的。研发人工智能算法的科技企业与其他任何企业一样,是以商业利益为其最根本追求的,其必须考虑算法研发过程中投入的成本与取得的经济收益之间的关系,也必然会对算法的知识产权保护问题予以强烈的关注。在此种情况下,科技企业出于对其经济收益降低甚至损失的担忧而拒绝算法公开,正是利益考量之后的理性做法,倘若强令其不加限制地公开算法,不但强人所难、无法实现,更有可能挫伤科技企业进行算法研发的积极性,导致人工智能产业创新的速度降低。然而这种基于商业利益的考量,却对被告人质证权的实现带来了重大的阻碍:由于算法不公开,被告人一方对于人工智能是运用何种算法、如何运用算法得出结论的过程毫不知情,也就无法提出质疑、反驳,使得其质证权的行使失去针对性,更难以通过质证的过程对法官的最终裁判产生实质的影响。如此一来,司法人工智能的运用实际上增加了被告人行使其质证权的难度,使得刑事案件裁判结果作出的过程容易因缺乏“兼听”而呈现出一种单边性的特征。

(三)实质性困境:不平等的质证难以达到效果

质证是说理的过程,但说理的前提在于各方力量的相对平等,否则就会出现“以大欺小”、谁的嗓门大谁就有理的情形,对约束和影响案件裁判的质证目的产生不利影响。因此为保证质证的有效性,确保案件的裁判结果以理服人,质证过程中应极其强调控辩平等对抗。然而司法人工智能的运用使得控辩双方的质证能力差距被显著拉大了,从而令被告人质证权的行使难以实现其预期的效果。

如上文所述,人工智能技术的运用大大提升了侦查机关的取证能力,其收集的证据尤其是追诉性证据数量更多且质量更佳,甚至在刑事立案之前的调查核实阶段,侦查机关就运用犯罪预警、初查/调查核实辅助等人工智能工具,从而能够提前进行追诉性的调查和证据收集工作。这些通过人工智能所取得的证据,一部分进入案卷材料中,另一部分则进入侦查机关的数据库,并且由于司法人工智能运用的互联互通要求,通过跨部门联合办案平台进行的数据或信息共享,从侦查机关向检察机关并最终向法院进行流动。由于侦查机关的追诉倾向,其在取证时往往关注点只集中于入罪证据,却容易忽视出罪证据,于是带着有罪推定情绪和倾向的证据通过卷宗或数据共享平台传递给检察机关和法院。而另一方面,刑事诉讼法为平衡控辩双方的取证能力而赋予辩护人两种类型的调查取证权,即律师取证权和申请取证权,也因为辩方没有运用人工智能取证的条件和能力,仅有的调查取证权也因为刑法第306条“律师伪证罪”的恐吓而成为“瘸腿”权利,于是在调查取证能力方面相对于控方的弱势变得更加明显。于是控方在人工智能技术运用下的强大取证能力与起诉时的全案移送制度及数据共享机制相结合,在面对辩方孱弱的取证能力时,极易占据显著的优势,甚至令法官形成先入为主的有罪判断。如此一来,被告人的质证权很可能被虚置,其在法庭上对控方证据的反驳、质疑,也难以撼动法官的预断,于是在刑事诉讼程序惯性的作用下,侦查机关、检察机关所做出有罪结论也就很难被推翻了。

除此之外,控辩双方在数据处理能力方面由于司法人工智能的运用而导致的巨大差距,也使得被告人行使质证权的效果受损。控方有国家强制力为后盾,能获得财政下拨的巨额办案资金,可以购买先进的设备和工具,另外控方能招录或培养足够数量的专业工作人员,以专业的方式对运用司法人工智能而取得的海量数据进行处理。即便在个案中发现其自身处理数据的能力存在不足时,控方也完全可以通过司法辅助工作外包的路径向专业的科技企业或专家购买服务、取得其帮助。而被告人一方相较于控方,在数据处理能力方面有天壤之别:作为被告人的公民个体通常几乎没有数据处理的专业知识和能力,即便其聘请辩护律师,由于技术与法律之间的天然疏离关系,律师往往也对处理数据束手无策;若让其求助于专业的数据处理机构或企业,则意味着被告人需付出大量的金钱成本,这在绝大多数案件中是不现实的。控辩双方在数据处理能力方面的差距在司法人工智能运用的背景下就会体现为庭审中质证能力的差距,辩方无法对数据进行有效处理、特别是无法对控方取得并向其开示的数据进行分析,被告人就难以通过行使其质证权对控方证据进行实质有效的辩解、反驳或质疑,更难以实现通过质证令法官作出有利于己的裁判之目的。

另外还有一个值得注意的问题,法院自己所使用的人工智能工具大多是入罪性的。以上海“206系统”为例,其功能模块主要关注入罪的要求,例如其证据标准、证据规则指引功能中无论清单式指引还是分层分级分段指引均围绕定罪的证据要求展开,证据链和全案证据审查判断功能运用实体关系分析技术挖掘入罪信息之间的关系,社会危险性评估功能、量刑参考功能等也主要考虑被告人的有罪证据等,这是因为“206系统”证据模型等的建构是以“审判程序中认定犯罪的证据标准固化为操作流程和操作规范”,自然带有明显的入罪倾向。法院运用此种入罪性的人工智能工具,容易形成入罪性的思维方式、预先形成对被告人的定罪倾向,导致被告人行使质证权的效果受到减损。

三、质证权相关原则或规则在司法人工智能运用背景下的坚持与调适

(一)控辩平等与审判中立原则的坚守

控方是被告人质证的对手,即便运用司法人工智能工具,被告人仍是与控方、而非智能化机器或技术人员进行质证的。而控辩平等地进行质证是刑事诉讼能够进行说理的基本前提,从某种意义上看,刑事诉讼法治化的历史,就是提升被告人的地位、增强其权利保障力度,以实现在这场国家对个人的不对等“战争”中尽力谋求控辩力量相对平等的历史。然而司法人工智能的运用,拉大了控辩双方的力量差距,导致“新的强权专断与不平等现象”,因此对于控辩平等原则需在人工智能的运用背景下予以充分保障,从而确保被告人质证权的行使及其实效。

为保障控辩平等,应从两个方面着手。一方面是限权,即对司法机关运用司法人工智能的行为加以限制。具体而言,首先,司法人工智能的运用应符合刑事诉讼的目的,即依法追诉犯罪和保护人民,因此不得将人工智能用于此目的之外的其他目的,例如政治斗争、满足私欲等。其次,司法人工智能的运用应以对被告人权利造成最小侵害的方式进行,司法机关尤其是控方在运用司法人工智能时,在有多种人工智能工具或路径选择、或者可以选择常规诉讼方式的情况下,应选择对被告人权利限制或侵害较小的一种。再次,控方运用司法人工智能收集的数据或其使用的人工智能算法应向被告人作必要的开放或公开,以使得被告人对于控方所掌握的不利于其的证据有充分的了解,从而为有效行使质证权打下基础。保障控辩平等的另一方面措施则是增权,即增强被告人权利行使的便利和实效。就质证权而言,最重要的问题在于应允许被告人一方对控方取得数据的访问,并在此基础上获得足够的专业帮助,从而提升其获取数据和处理数据的能力,使得其质证具有信息和能力方面的基础。

除了控辩平等之外,审判中立也是刑事诉讼最为基本的原则。被告人行使质证权,即便在司法人工智能运用的背景下,质证权的对象或内容发生了改变,但其对手始终应是控方,法官不是举证主体、自然也不能站在被告人质证之对立面。在司法人工智能运用的背景下,面对上文所述的控辩双方力量对比可能被进一步拉大、算法等技术因封闭秘密特征而可能引发质疑的现实下,不得不将被告人权利保障的部分希望寄于审判者身上。审判者的中立,本就是维系刑事诉讼等边三角形诉讼结构的基本支点,也是刑事司法实体和程序公正的基本保证,在司法人工智能广泛运用的情形下,无论出于保护被告人的立场还是对刑事司法公平正义的宏观追求,此种中立都应当被进一步强调。

针对司法人工智能运用背景下的被告人质证权保障问题,审判者在面对人工智能运用的司法现实时,需要从两个角度着手维持和强化其中立性。第一个角度是相对于控方的中立。在人工智能运用的过程中,如上文所述,有罪推定的情绪和信息可能随着互联互通的数据传递而从控方向审判者推送,增强了审判者先入为主的可能。具体措施例如应当将社会管理的信息与刑事案件信息进行隔离,定罪证据和量刑证据也应当做一定的隔离。审判中立在司法人工智能运用背景下的第二个角度是法官相对于科技企业和人工智能技术的中立超然。首先,应对人工智能算法可能内含偏见抱有警惕,认识到此种偏见会通过人对技术的依赖而作用于裁判结果,并基于此种警惕和认识,通过运用人工智能算法的可解释性方法确保算法本身的中立。其次,应当防止司法机关与科技企业在技术研发中的职司混同,尽管对于司法人工智能研发这一司法辅助职能外包给科技企业的正当性存在争议,但在已然外包的研发过程中司法机关就不宜再插手技术问题,以避免将追诉观念注入技术中。再次,在审判机关和科技企业之间应当保持利益和人员的分离,特别是在人工智能技术的招投标中要严格防止二者利益的混同,并在运用司法人工智能时通过法院审管部门或后勤保障部门在审判者与技术人员之间进行必要隔离。

(二)直接言词原则的重新确认

作为证据法的一项基本原则,直接言词原则对于被告人质证权保障有重要的价值。直接言词原则实际包含两方面的内容,一是直接原则,二是言词原则。其中直接原则要求质证在庭审中进行,需具有“亲历性”,此种亲历性有形式和实质两个层面的含义:形式层面的含义是指被告人亲历法庭质证程序,并对控方证据提出反驳、质疑等;实质层面的含义是指向案件最终裁判者的,要求法官亲历质证过程,从而使得质证权的行使对法官心证产生影响。在二者的关系上,形式的亲历性与实质的亲历性之间有手段与目的之关系,形式的亲历性是为实现实质的亲历性、即真正对裁判结果产生影响而服务的。从这个意义上看,直接原则既确保了质证权的形式价值,也对其实质效果的实现有重大意义。而言词原则要求质证需在法庭上以言词方式进行,尤其要求言词证据的提供者到庭接受控辩双方以交叉询问等方式进行质证,因此根据言词原则的要求,由于无法进行言词质证,书面证言或笔录等通常不应作为定案依据。

我国刑事诉讼法第61条、第195条、第198条等条文均以直接言词原则对质证权的行使提出了要求,但第154条针对技术侦查收集的证据规定“必要的时候,可以由审判人员在庭外对证据进行核实”。依照这一庭外证据核实的规定,最高人民法院的司法解释将庭外核实作为当庭质证之例外,使得针对质证的直接言词原则受到了冲击,一些案件中的证据未经当庭出示、也未经被告人质证便被采纳。而运用司法人工智能进行的证据收集行为,与技术侦查存在相当大范围的交集,参照刑事诉讼法第154条的庭外核实规定,似乎也不必进行当庭之质证,如此一来,被告人的质证权便失去了直接言词原则的保障,不但难以确保质证过程的亲历性,通过其质证对法官心证产生影响的效果也将大打折扣。

面对此种情形,有必要对刑事诉讼法第154条关于庭外核实的规定进行分析,重新确认直接言词原则在司法人工智能运用的背景下针对被告人质证权的适用性。事实上,刑事诉讼法规定了三种核实的方式,即常规核实方式、保护性核实方式和庭外核实方式,且其适用逻辑为常规核实方式优先、保护性核实方式次之,而庭外核实方式乃在极为例外的情况下方得使用。此外刑事诉讼法第198条规定:“法庭审理过程中,对与定罪、量刑有关的事实、证据都应当进行调查、辩论。经审判长许可,公诉人、当事人和辩护人、诉讼代理人可以对证据和案件情况发表意见并且可以互相辩论。”此条的规定是针对所有“与定罪、量刑有关的事实、证据”的,对于相关证据的质证要求并无任何例外之许可。根据这些条文,我们应当得出以下结论:其一,即便在司法人工智能运用的背景下,对证据的质证仍是必须经历之程序;其二,直接言词原则对于被告人质证权的保障和要求并不因为司法人工智能的运用而削减;其三,证据的庭外核实制度并不排斥被告人行使质证权,即便经历了庭外核实而控辩双方对于涉及定罪量刑的证据仍有争议,便仍需进行当庭质证。

(三)公开质证规则的适用与调整

公开质证规则源自审判公开原则。根据我国宪法第130条、刑事诉讼法第11条的规定,人民法院审理案件,除非有法定的例外情形,一律公开进行。既然庭审原则上应公开进行,则在庭审中进行的质证,原则上也应当公开进行;即便在不公开审理的案件中,质证也应当庭进行。关于公开质证规则,1999年的最高人民法院《关于严格执行公开审判制度的若干规定》第5条就规定:“证明案件事实的证据未在法庭公开举证、质证,不能进行认证,但无需举证的事实除外。”尽管刑事诉讼法没有直接规定公开质证规则,但当庭质证的规定与审判公开原则的结合可以明确推导出公开质证的要求。

公开质证的规则对于保障被告人质证权具有重要的意义。其一,公开质证规则对查明案件事实有极为重要的价值。通过当庭公开的质证,被告人一方能够及时地针对控方证据提出反对意见,揭露其证据中的不可靠之处,特别是能有效反驳控方证人所提供的证人证言等言词证据,从而帮助法官查明案件真相。其二,公开质证规则能使被告人行使质证权实质地影响法官的心证。通过庭上的公开质证,被告人能明确地对控方证据进行反驳、质疑,这种反驳、质疑是面对法官、并在公众旁听的场景下提出的,且会被记录在庭审笔录中,法官面对此种当庭公开进行的质证,更有可能认真倾听并加以考虑。其三,公开质证规则能够对公权力的行使形成制约。公权力机关,特别是控方,面对未来可能在庭审中进行的公开质证,在之前的行使权力例如收集证据的过程中就更可能依法进行。上述意义在司法人工智能的运用背景下不但未曾减弱,甚至愈发重要。人工智能的运用一方面增加了公权力机关暗箱操作的可能性,另一方面使得控审双方都更依赖于技术,而对技术的盲目信任可能带来错误裁判的风险。在此种情形下,公开质证规则无论对于突破人工智能运用中的“数据封闭”“算法黑箱”,还是对于防止控审机关随意使用人工智能技术,以及揭示人工智能运用中可能出现的错误,都有超过以往的更为重要的价值。

然而需要注意的是,人工智能的运用也对公开质证规则提出了一些挑战,使其产生了适度调整的必要性。在有关司法人工智能运用的问题上,公开质证规则必然涉及对人工智能的三方面要素即数据、算力、算法的公开要求。但如上文所述,司法机关对于公开数据难免心存顾虑,惟恐公开数据会导致泄密,而科技企业也担心算法公开会带来技术外泄的风险,影响其商业利益。这些忧虑并非无端,刑事诉讼中向来需重视多种价值的平衡,对于企业合法的利益追求也不应随意牺牲,因此公开质证规则应有必要调整。一方面,公开质证的对象应限于有争议的证据。对于双方并无争议的证据或者证据中无争议的部分内容,可以由法官征询双方意见后予以采纳,无需进行公开的质证。另一方面,公开质证的例外情形不完全等同于审判公开的例外情形。在涉及国家秘密、个人隐私、未成年人案件以及商业秘密的情形下,根据审判公开原则之例外,自然不必进行公开质证;但即便不属于上述情形,例如案件本身不涉及商业秘密,但质证的内容涉及数据或算法的公开,亦可限制公开质证规则的适用,使质证过程只在控辩审三方范围内进行。

四、司法人工智能运用背景下被告人质证权的具体保障

针对司法人工智能运用给被告人质证权带来的前提性障碍、程序性难题和实质性困境,按照控辩平等、审判中立以及直接言词原则的要求,根据公开质证的规则,可以从加强对被告人质证权的信息保障、能力保障和效果保障三方面着手,实现司法人工智能运用与质证权的良性互动。

(一)质证权的信息保障

1.适度的告知

个人信息保护领域有“告知—同意”的重要原则,并通过明确规定在收集环节落实保护机制。在司法人工智能运用的问题上,这一原则也可以被借用,在适当的情形下要求司法机关对运用司法人工智能的事实向被告人进行告知,其理由在于司法机关运用人工智能的行为对于被告人的质证权有着重大影响,适度的告知构成了被告人进行质证的前提。

针对司法人工智能运用的问题,向被告人进行的告知可以包括以下几个方面内容:第一,运用司法人工智能的事实,即告知被告人对其案件的办理中将使用人工智能技术的事实以及使用何种类型的人工智能技术;第二,运用人工智能的方式和目的,包括司法机关在何阶段、基于何种目的、采取何种方式使用人工智能技术等;第三,司法人工智能的运用将对被告人的利益造成何种可能的影响。这些方面的告知,构成了被告人进行有效质证的信息前提,对于保障被告人的有效质证具有积极的意义。

但是,在刑事司法领域,针对司法人工智能运用向被告人的告知是受限制的。此种告知是裁量性的而非强制性的。尽管司法人工智能可能对被告人的权利造成影响,但此种影响毕竟不是直接的,强制要求司法机关向被告人进行告知也缺少法律依据,因此可以将是否告知被告人运用司法人工智能的裁量权交予办案机关,按照“柔性治理”的思路鼓励和引导进行此种告知。

2.必要的数据开放

人工智能以数据为原料基础,司法机关运用人工智能技术的前提即在于其对海量数据的掌握。为保障被告人一方的有效质证,应使辩方亦有获得数据的权利,以实现司法人工智能运用下的数据开放。根据我国当前法律之规定,辩方获取数据主要是通过刑事诉讼法第40条规定的辩护人阅卷权之路径的。然而如上文所言,由于阅卷权的范围狭窄、难以实现对数据之访问,因而不足以实现人工智能运用背景下的证据开示以平衡控辩力量的目的。面对此种困难,一个可行的选择是在保障阅卷权的同时赋予被告人数据访问权,即被告人作为数据主体从作为数据控制者的司法机关处访问其被处理的个人数据并获取相关数据的权利。

相较于传统阅卷权,数据访问权至少能在数据层面上减小控辩的差距,因此能更好地应对司法人工智能运用给被告人带来的威胁。一方面,数据访问权的对象比阅卷权范围更广。其访问和获取的对象是“数据”,此种数据应包括被司法机关使用、可能影响案件处理的个人数据,其内容显然远远超过诉讼文书和证据材料组成的“案卷材料”之范围,使得司法人工智能收集使用的不属于案卷材料范畴的数据亦能为被告人所获取。

尽管数据访问权从本质上看是属于作为数据主体的被告人的权利,但是由于在刑事诉讼的现实中,大量被告人身处被羁押的状态、或因其他原因而难以直接行使此项权利,因此可以将该权利通过辩护人或其他经合法授权之人行使。非律师之辩护人在行使阅卷权时需经司法机关许可,则数据访问权是否可以前迈一步不经许可而直接行使、以避免重蹈当年“阅卷难”之覆辙呢?然而作为一项请求权,行使数据访问权的首要步骤在于从司法机关处取得数据访问之权限,此种取得权限的过程中司法机关难免进行审查,实际已经包含了许可的内容。因此问题的关键并不在于是否需经许可,而在于主张此项权利后获得此种许可是否是必然的结果、以及许可的访问权限大小。笔者认为,此种许可或审查应当是形式性的,即除非有特定情况,否则一经申请即应许可。而在许可的访问权限方面,相对于司法机关收集使用数据根据比例原则而应遵循的数据最小化要求,被告人的数据访问权限应尽可能充分,只要与案件相关、对于案件处理有影响的数据均应向被告人一方开放访问权限。

3.有限的算法公开

既然算法的封闭和秘密性可能使得被告人在刑事诉讼中行使质证权受到阻碍,那么直截了当且最合逻辑的解决方案就是公开算法。事实上,算法公开向来是人工智能产业发展中的热点问题,不少人认为算法公开可以解决算法歧视和不平等的问题,其理由是算法公开能够曝光歧视性算法的恶意代码,并有效吓阻企图编制歧视性代码的程序员等。而在刑事司法领域,基于公开、开示的要求,也有必要促进算法可解释技术的发展、增加算法披露的环节,从而保障被告人的权利。

然而,算法的封闭秘密性具有上文所述的特定合理性,科技企业的合法商业利益亦不应被忽视甚至抛弃,因此应当平衡被告人权利与科技企业利益之间的关系。一方面,在刑事司法领域,由于案件的裁判涉及被告人生命、自由、财产这些最为人所珍视的法益,因此科技企业的商业利益从整体上看不足以对抗司法公正的公共利益,因此算法公开具有必要性;但另一方面,算法公开具有时效、空间和解决方案方面的局限性,且完全彻底的算法公开违背了现代市场经济的准则,会对科技企业的知识产权和经济利益造成损害,也可能破坏研发和创新的意愿。因此,为在二者之间取得平衡,刑事诉讼中的算法公开应有限度。

首先,针对被告人的算法公开应限于对其核心利益产生重大影响的部分。即便在刑事诉讼这样涉及重大法益的场景下,要求完全的算法公开既无必要也不合理,因此公开的内容应做限制,仅限于对被告人核心利益产生重大影响的部分,即可能对案件的定罪量刑以及部分重要程序性问题如举证、质证等产生重大影响的内容。

其次,通过算法解释实现对被告人的算法公开。尽管对于算法解释的概念存在不同认识,但算法解释的核心是寻求特定算法决策结果的原因和理由。因此作为一种针对算法是否存在错误或缺陷之争议的事后认定方式,尽管理论界对于算法解释究竟是指向透明性还是公开存在争议,但从实践的效果看其完全可以作为实现算法公开的手段,且通过算法解释可以避免完全的算法公开,实现对“有意义的信息”和“仅在个案中向单个数据主体”的公开。

再次,算法公开的同时可以通过各方签订保密协议等方式限制公开的范围。为避免向被告人的算法公开导致技术泄密和知识产权遭受侵害,科技企业、被告人等各方可以在司法机关的组织下,通过签订保密协议的方式,规定算法公开相关信息的使用范围和方式、以及违反相关协议的责任承担方式等,限制算法公开的范围,实现企业商业利益与被告人权利的平衡。

(二)质证权的能力保障

通常情况下被告人并不具有人工智能等方面的专业知识,因此无论是向其公开的算法还是数据,对于被告人而言往往如同“天书”。在没有专业帮助的情况下,此种算法公开或数据开放都可能丧失其实质意义,质证权的行使也难有效果。目前被告人能得到的专业帮助,主要集中在法律层面上,例如有权聘请辩护律师,但是包括律师在内的法律人士缺乏人工智能方面的知识,难以理解人工智能运用中的数据、算法等专业问题,无法针对司法人工智能的运用提供专业的帮助。

面对此种难题,现有法律规定的专家辅助人制度能为保障被告人在司法人工智能运用的场景下行使质证权提供获取专业帮助的路径。根据刑事诉讼法第197条第2款和最高人民法院、最高人民检察院、公安部《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》第21条的规定,专家辅助人可以在审判中针对鉴定意见提出意见,补充当事人与法官在专业知识领域的欠缺与空白。那么将其职权稍加拓展,由其向被告人提供针对司法人工智能运用的专业意见、帮助被告人进行有效质证也并非难事。允许被告人获得专家辅助人的专业帮助,在司法人工智能运用导致控辩双方力量进一步拉大的现实背景下,能够填平辩方面对人工智能这类新型技术的知识鸿沟,使得被告人的诉讼权利得以充实、辩方诉讼力量得以加强,尤其可以帮助被告人在庭审中进行专业有效的质证。

作为为被告人提供专业帮助的专家辅助人,其角色应与辩护律师有相似之处,主要在于向被告人提供针对司法人工智能问题的咨询、帮助等服务,尽管有的学者对于专家辅助人僭越律师角色存在疑虑,但从其设置目标和实际作为来看,此种相似之处是客观存在的。既然有此种类似于辩护律师的角色,专家辅助人也应如辩护律师一般对案件知情。例如向被告人一方所作的算法公开,其公开的对象也应包括专家辅助人;再如上文提及的数据访问权,被告人亦可授权专家辅助人行使。尽管被告人获得专家辅助人的帮助与其获得辩护律师的帮助一样,存在导致不同被告人因经济条件不同而产生不平等的风险,但在司法人工智能运用的背景下,仍是解决控辩力量差距过大、防止专业知识沟壑导致质证权行使失效的“相对合理”的选择。

(三)质证权的效果保障

司法人工智能的运用,使得包括审判者在内的司法人员容易产生技术依赖,这些以“科学”为名的人工智能工具所得出的结论极其容易被审判者所接受。由于司法人工智能所涉及的专业知识为一般常识所无法包容,这就造成法庭审理中,控辩双方对其进行质证极为困难,被告人也难以通过质证说服法官接受与人工智能结论不同的意见。因此,为保障质证权的行使效果,需针对司法人工智能的运用做下述几方面的应对和调整。

第一,加强司法人工智能工具、特别是法院所使用的智能化办案辅助工具的中立性。如上文所述,目前包括法院的人工智能系统在内的司法人工智能工具,都是以入罪为导向的,在证据指引等技术模块中侧重于、甚至只关注入罪证据。如此一来,司法人工智能的运用使得法官的思维具有追诉倾向,容易形成先入为主的入罪预断,即便被告人行使质证权,对相关的算法、证据进行反驳和质疑,也很难改变裁判结果。为改变此种状况,应加强人工智能工具及其算法自身的中立性建设,特别应当将出罪性的证据要求引入智能化的办案辅助系统中。例如有学者提出可以考虑设计在每一个案件的证据标准填写完毕即将点击进入下一个诉讼环节时,办案系统自动跳出对话框,提示办案人员该案是否有无罪、罪轻的证据需要填写,一些提交的涉及量刑的证据如果是“罪轻”证据应当加以重点标注。

第二,质证的内容应包括对控方运用司法人工智能所收集证据的质疑或反对。此种质证应聚焦于数据,数据的收集使用是人工智能运行的基础,但数据因其自身性质或被取得的方式可能不应被用于刑事司法,被告人可以就此提出反对。就数据自身性质而言,被告人可以针对数据与案件不具有关联性、存在错误或属于个人敏感数据等而提出反对,此种反对权应依照数据法上的反对权而行使,作为数据处理者的司法机关除非能证明其合理利益高于数据主体的利益、或有强有力的法律依据方可继续处理此种数据。而倘若数据在取得方式方面存在违法,例如系以刑讯逼供、暴力取证或无证搜查等方式取得,被告人可以参照非法证据排除规则之规定提出反对、要求将此种数据排除于刑事诉讼之外,则司法机关亦不得将此种数据作为人工智能运算的原料。

第三,质证的对象应包括司法人工智能的算法,其焦点可以集中于针对算法可靠性的质疑。在上文所述的几例涉及司法人工智能运用的域外判例中,被告人反对人工智能工具所做出的结论,其中一项重要的理由就在于这些人工智能的算法具有歧视性。除了算法的歧视性之外,被告人对算法的质疑还可以基于算法的技术水平较低,例如其知识图谱构建中信息抽取能力欠缺、知识图谱构建的速度和精度不足、不具有深度学习的能力等,从而反对此种技术水平较低的人工智能所做出的结论。当然,无论是针对算法的技术水平还是针对其中立性的质疑,其基本前提都是必要的算法公开,特别是算法中对被告人核心利益产生重大影响的部分的公开;而被告人享有上文所述的获得专家辅助人之专业帮助的权利,使得其具有了质疑算法的能力,从而为质疑算法、进而否定司法人工智能所做出的结论打下了基础,实现质证权的有效行使。

结语

人工智能广泛运用于人类生活可能是这个时代下无法阻挡的潮流,其在司法领域的运用也是顺势而为之事。然而司法在面对人工智能时既需要有开放的态度,更需要小心谨慎,尤其对于其可能给刑事被告人权利保护带来的影响应有所警惕。保障面对强大国家公权力之被告人的权利、特别是在其权利体系中具有关键意义的对质权,在各种高科技广泛运用的场景下仍是人权保障这一刑事司法基础性价值的核心要求,司法人工智能的运用也应当符合而非背离此种要求。尽管司法人工智能的运用的确给被告人对质权的保障带来了风险和挑战,但在坚持和调适刑事司法基本原则和规则的基础上,通过加强对被告人质证权的各方面保障,是可以在“如同桅杆顶尖,对船身最轻微的运动也会作出强烈的摆动”的刑事司法体系内实现新的协调与平衡、从而实现司法人工智能运用与被告人质证权保障同向而行的。


郑曦,北京外国语大学法学院教授。



    进入专题: 人工智能   被告人   质证权   数据   算法  

本文责编:admin
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 理论法学
本文链接:https://www.aisixiang.com/data/138095.html
文章来源:本文转自《政法论坛》2022年第6期,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统