张凌寒:智慧司法中技术依赖的隐忧及应对

选择字号:   本文共阅读 1259 次 更新时间:2022-11-30 01:02

进入专题: 智慧司法   技术依赖   算法决策   司法公开   司法责任制  

张凌寒  


【摘要】技术被广泛应用于司法裁判相关信息的收集处理、支持具体的司法决策、支撑智慧司法系统建设。在智慧司法变革中,人(司法机关)与技术的关系从技术辅助走向技术主导,进而存在滑向技术依赖的隐忧:法官在具体司法决策中对技术过度依赖;司法机关在智慧司法建设中困于自身技术力量,对技术公司按需求设计开发、日常维护运行、系统升级改造形成技术依赖循环。这种依赖关系也带来权力专属原则存疑、质量技术标准缺失、责任链条分配存在困境等挑战。应及时勘定技术嵌入司法活动的边界:采取信息准入与流出的控制机制,限制技术在司法裁判相关信息的收集与公开中的运用;合理分配人类与机器的决策分工,保证人机混合司法决策中人类的实质性参与;谨慎应对公权力与技术权力的共建,建立合理的责任分配与追责机制。

【关键字】智慧司法;技术依赖;算法决策;司法公开;司法责任制


一、问题的提出

技术创新驱动了社会生产与生活方式的变革,也给司法领域带来了革命性改变。世界各个国家和地区的司法领域正在发生着深刻的“智慧”转向。[1]我国的智慧警务、智慧司法、智慧检务等重大建设方案也纷纷出台落地,人工智能技术在其中扮演了核心角色并发挥了重要作用。

各种技术,尤其人工智能技术对司法裁判的支持主要通过信息收集与处理的方式得以实现,目的在于提高司法效率。人工智能技术起到的作用大致可以分为以下两类:一类是信息收集与管理技术,旨在实现司法业务相关信息的收集工作,并促进信息在司法环节中的顺畅流转。这在我国被称为智慧司法“平台化”建设,主要支撑方式是将司法业务全流程网络化与平台化,对功能整合和系统集成提出较高要求。另一类是信息处理技术,旨在应用人工智能技术实质性地处理法律案件。这在我国被称为智慧司法“智能化”建设,关系到科技在司法裁判中的应用,触及了科技与法律推理、科技与审判量刑等司法裁判中的核心问题。

在人工智能技术嵌入司法实践的制度落地方式中,欧洲各国和美国偏重于第一类的信息收集与管理技术,目标在于实现人工智能技术对司法审判的支撑协助。我国则偏重第二类的信息处理技术,因此,国家积极推进智慧检务、智慧司法等涉及司法实务各个流程的制度建设,提出了“全流程网上办案”并积极研发“数据+算法”的司法辅助系统。[2]在政策层面,《国家信息化发展战略纲要》和《“十三五”国家信息化规划》等重要规划都将智慧司法建设列入国家信息化发展战略。相比欧洲各国和美国,我国的人工智能司法裁判制度建设在国家战略指导与资源力量的保障下,成为了高歌猛进的“激进派”。[3]

人工智能技术对司法实务的改变带来了理论与实践上的难题。学界的研究集中于以下两个方面:第一是人工智能与法律推理的冲突与互动关系。例如,二十世纪七十年代国外学者的相关研究,以及二十世纪八十年代我国学者钱学森等发表文章预测了人工智能在法律中的可能应用。[4]第二是围绕我国的智慧司法实践,讨论人工智能技术在智慧司法中运用的可能性、限度与相应的规制路径。[5]在这些研究中,法律代码化、审判流程与模式重塑、算法技术对司法裁判制度与理念的冲击成为学界关注的核心问题。[6]

对信息的收集数量与处理速度的追求是智慧司法建设的驱动力量,这隐含了“信息越多越好”“技术越先进越好”“系统越全面越好”的前提假设。本文则尝试从关于制度的讨论退回到关于制度前提的讨论,追问司法系统对信息技术的追求是否必然正确?技术应用于司法系统的边界又在哪里?在司法裁判中对信息量与处理速度的过度追求,可能造成司法裁判中的信息过载、司法决策权力让渡给算法决策系统、司法机关过度依赖技术公司等一系列问题。这些新问题对现有司法制度中的正当程序、权力专属原则等提出了挑战,我国如何在智慧司法如火如荼的建设中规避与应对此类问题,将成为人工智能时代必须解决的重要课题。

二、从技术辅助到技术主导:人工智能驱动下的智慧司法变革

我国的司法信息化建设已经经历了以司法统计和电脑办公为要素的信息化1.0阶段、以办公自动化和网络化为特征的信息化2.0阶段,并且已进入以司法大数据、云计算、人工智能和司法区块链为标志的信息化3.0阶段。[7]在智慧司法的3.0阶段,技术通过三种主要方式影响了司法系统:支持、取代与重塑。[8]在支持层面上,技术为司法实践提供了信息与便利性支持;在取代层面上,技术可以部分取代由人类执行的功能和活动;在重塑层面上,技术可以改变法官的工作方式,提供与以往不同的司法保障,革新司法流程和提供预测性分析,甚至重塑法官的决策。

然而,三种技术应用方式之间并非泾渭分明,支持功能的辅助性技术可能以一种“润物细无声”的方式实现对司法系统的改变乃至重塑。在智慧司法建设中,对司法系统影响最大的技术应用方式与逻辑可从三个方面展开:事关法律事实认定的证据收集与采信,有关司法决策的决策辅助系统,以及以技术主导为理念的司法系统改造工程。在国家大力推进的智慧司法系统建设中,技术的影响从辅助逐渐走向主导。

(一)证据运用中的技术应用

证据构成了法律事实,而法律事实则是司法裁判的基石。在智慧司法中,有关证据的收集、存证和采信的技术应用构成了技术影响从辅助转向主导的起点。具体而言,有关证据运用中的技术应用存在于以下三个层面:第一,在证据收集中,技术手段深刻改变了证据信息收集的方式、时间节点与收集对象。以我国“雪亮工程”“天网工程”为代表的大数据共建共享战略,使得犯罪治理中的电子数据占据越来越高的比例。收集时间节点向前移动,侦查阶段前的证据也可被收集采用,这使得公安机关所承担的一般社会治理职能和犯罪侦查职能之间的界限进一步模糊化。在收集对象层面,网络平台等网络信息从业者也成为了提供证据的对象。[9]第二,在存证过程中,电子证据的大量增加及其在证明案件事实中的作用日益重要,这使得“区块链存证”成为证据保存的重要制度。北京互联网法院、杭州互联网法院和广州互联网法院相继上线运行司法区块链,解决了电子存证的难题。与传统证据的“原件标准”不同,电子证据的真实性则强调要符合技术客观性与科技理性。第三,在证据采信中,为了使计算机系统识别出案件要素与证据标准,从而进行自动关联匹配,“数据化证据标准”成为了智慧司法的基础性环节。证据标准的数据化,是指将证据标准转化为由数字化符号逻辑表示的计算机可以运算、推理的证据标准体系,从而实现个案要素信息的结构化。

收集、存证与采信中的技术应用对法律事实认定的影响,逐渐从技术辅助作用转向了技术主导作用。

首先,从证据收集上来看,技术辅助手段下的证据收集更为便捷全面,进而深刻影响了司法活动中的证据规则。例如,证据收集技术的应用使得犯罪治理活动中取得的证据向刑事司法活动外溢。2016年,最高人民法院、最高人民检察院和公安部联合发布的《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》(以下简称《关于电子数据若干问题的规定》)第6条明确初查阶段收集、提取的电子数据可在刑事诉讼中作为证据被使用。

其次,从证据存证上来看,传统证据认定规则受到冲击。区块链证据的真实性审查很难得到传统规则的明确指引。法官在判断证据的真实性问题上遇到了障碍,既要判断载体的真实性,也要判断数据的真实性和内容的真实性。当电子证据真实性直接关系到案件的上诉率、改判率、发回重审率等考核指标时,法官很难对区块链证据的边界进行实质性突破,各地的区块链存证出现了“存高取低”的现象。[10]

最后,从证据采信上来看,这类证据技术系统不仅改变了证据的标准,更直接影响了证据所关联的法律事实。数据化证据标准系统可达到自动检验收集程序、形式要件和内容要件是否合规和合法的目的,进而对证据链进行逻辑分析,判断证据是否合法,证据之间有无矛盾。[11]例如,江苏省检察机关通过刑事办案智能辅助系统甄别判断证据疑点瑕疵。该系统在全省检察机关运行期间共发现违法及证据瑕疵问题2139处,系统提示检察官发现抽血使用醇类消毒液、超期送检等问题案件91件,在一定程度上防止了“带病起诉”。[12]

技术应用不仅提高了智慧司法的效率,而且支持、取代、重塑了司法中对法律事实至关重要的证据规则。在2018年全国检察机关科技装备展中,贵州省检察机关展示了通过“案件证据数据化+标准化”系统的运行,办案时间平均缩短了8天,办案效率提升了约19%。与此同时,证据的收集时点对传统司法程序提出了挑战,证据存证方式对证据认定规则产生革命性改变,证据运用也使证据根据技术的要求结构化与要素化,改变了对证据的认知和采用范式。

(二)具体司法决策中的技术支持

通过技术支持法官的日常工作与司法决策,减轻法官的事务性工作负担,提高司法效率一直是智慧司法建设的核心价值目标。对司法决策的技术支持,也从发挥简单的办公便利辅助功能逐渐深入到对法官的决策产生实质性影响。

首先,技术将法官从行政事务中解放出来。早在1986年,最高人民法院就提出要对运用电子计算机进行管理并辅助审判工作等问题着手研究。[13]2016年发布的《最高人民法院信息化建设五年发展规划(2016—2020)》的核心目标之一就是利用信息系统和智能化服务,将法官从大量具体、繁琐的事务中解放出来,提升法官的司法能力。

其次,技术系统为法官提供决策支持。分门别类提取案件要素和裁判标准的“专家系统”是我国法院系统致力于打造的主流办案辅助系统。[14]最高人民法院提出,要建设基于大数据智能服务的审判支持系统,实现“部分法院基于人工智能、虚拟现实完善审判支持系统,实现审判支持精准化、高效化”。[15]在目前各地的实践中,四川省高级人民法院主导开发了道路交通事故纠纷要素式审判信息系统,通过该系统对道路交通事故案件进行要素分类整理,包括庭审笔录信息的抓取和自动识别、统一裁判规则、一键计算损失数额、自动生成裁判文书等。[16]上海“206”刑事案件智能辅助办案系统,其全名是“推进以审判为中心的诉讼制度改革软件”,该软件旨在积极运用大数据、人工智能等现代科技破解司法工作难题,努力让司法变得更智能、更精准、更高效。[17]

最后,在某些司法场景中技术系统直接取代了人类的决策。在某种程度上,这也是我国智慧司法建设的重要目标。例如,《最高人民法院信息化建设发展纲要(2019—2023)》直接提出要“探索类脑智能推理等新技术应用”。这样的远景目标也体现在《人民法院信息化建设五年发展规划(2019—2023)》中,其规定,“需要构建大数据分析系统……,为人民群众提供司法公开和类案智能推送、诉讼结果预判等诉讼服务智能服务,为审判执行提供决策支持和监控预警智能服务,为司法管理提供司法研究和工作评估智能服务”。此类决策系统的应用并非遥远的未来。如爱沙尼亚的人工智能应用可以裁定7000欧元以下的索赔,算法系统通过分析上传的文件来达成初步决定,然后可以向人类法官提起诉讼。[18]浙江省高级人民法院组织研发的“凤凰金融智审”系统实现了对金融借贷和民间借贷案件的智能化审判。对于案件数量较大的简易案件,例如道路交通纠纷、金融借贷和民间借贷案件等,法院可在人工智能技术的辅助下实现“类案同判”。[19]

由此可见,技术对司法决策的实质性的支持作用,不仅是智慧司法建设的制度目标,也是逐步落地的现实情况。

(三)智慧司法系统建设中的技术主导

技术系统不仅是提高效率提供便利的工具,更是从深层次推动了治理能力现代化中的司法制度改革。这种技术对司法系统建设的深度影响体现在具体技术应用、司法技术系统建设等层面,其也对传统法律制度提出不容忽视的挑战。

首先,以具体技术应用中最为常见的类案推送为例,其已经从技术辅助系统升格为最高人民法院对法官的制度性要求。最高人民法院构建了跨层级、跨地域、跨部门、跨业务的“大数据管理和服务平台”,法官和普通公众可以利用其智能推送功能,从该平台海量裁判文书中搜索出相类似的案件材料。为了实现类案同判的目标,最高人民法院在2017年8月施行的《司法责任制实施意见(试行)》中就推出了类案与关联案件检索机制,规定承办法官在审理案件时应当对类案和关联案件进行全面检索并制作报告。

其次,通过司法平台化建设对司法系统进行全面升级与改造本身就是智慧司法建设的目标。国务院印发的《新一代人工智能发展规划》更是明确“智慧法庭”建设要平台化,将线下工作搬到线上,实现司法任务执行网络化、可视化和平台化。具体包括建设集审判、人员、数据应用、司法公开和动态监控于一体的智慧法庭数据平台,促进人工智能在证据收集、案例分析、法律文件阅读与分析中的应用,实现法院审判体系和审判能力智能化。这种平台化建设集成了多个环节流程的技术应用,对司法活动也起到了实质性影响。如江苏省检察机关研发的“案管机器人”,其名为机器人实为平台化应用。相关系统涵盖对检察业务全过程的监督管理,实现了实时期限预警、风险预警、办案活动出错提醒等智能化办案监督,显著地降低了对领导审批式监管机制的依赖。[20]杭州互联网法院就建立在在线审判平台之上,即网上诉讼平台、在线调解平台、电子证据平台、电子送达平台、在线执行平台以及审判大数据平台。[21]

在技术建设的推进下,司法公开、公正、透明等价值得到凸显与放大,传统的司法制度也面临着变革。一方面,技术推动司法公开达到前所未有的水平,人民法院在裁判文书公开、庭审公开、审判流程公开和执行信息公开领域建设了四大公开平台,即中国裁判文书网、中国庭审公开网、中国审判流程信息公开网和中国执行信息公开网。[22]但另一方面,传统司法制度面临着技术变革带来的挑战。有学者直言,《中华人民共和国民事诉讼法》及其实践不能给智慧法院建设提供有效的制度支撑,这已经成为制约智慧法院建设的瓶颈因素。[23]技术正在推进制度变革,如在新冠肺炎疫情期间发展的“异步诉讼”从根本上改变了传统的庭审方式。[24]2022年《上海市高级人民法院关于在线异步诉讼的若干规定(试行)》对此首先作出了制度性回应。在智慧司法如火如荼的建设中,“中国创新”与司法体制改革应当最大程度地紧密协同行动,将智慧司法建设与司法体制改革充分耦合。[25]

综上所述,在智慧司法中本为辅助司法流程开发的技术应用,最终却导向了技术主导下的司法制度变革。因此,更合适的问题不是“技术应用是否会重塑司法制度”,而是“何时”以及“在何种程度上”技术会重塑司法制度?那么,在技术主导下的司法制度深刻变革中,智慧司法建设存在哪些隐忧与挑战呢?

三、从技术主导到技术依赖:智慧司法中技术应用的挑战与隐忧

在智慧司法建设中,技术逐渐发展为一种主导制度变革的力量。在技术介入司法这个过程中,可能发生司法决策与智慧司法系统建设的技术依赖,这种具体司法决策中人对技术的依赖和系统建设中司法机关对技术公司的依赖,可能给权力专属原则、司法监督制度和责任分配制度带来挑战。

(一)从技术主导到技术依赖:技术介入司法的挑战

如果说技术主导是指,在智慧司法的建设中,技术逐渐从辅助性角色变为了推进司法改革的力量,那么技术依赖则是指,在角色转变的过程中,人(法官与司法机关)与技术之间可能形成的特定依赖关系。技术依赖既是指在具体的司法决策中个体对技术支持的依赖,也是指司法机关在智慧司法建设中困于自身技术力量,不可避免产生的对技术公司的依赖。

1.司法决策中的技术依赖

传统的司法组织和法官的判断力及其威权在技术控制中逐步下降。[26]在智慧司法中,专业技术技能、技术手段、数据与自动化决策不可避免地成为司法实务运行的主要手段,一切貌似秩序井然和明白易懂,人类则在司法活动中愈加依赖技术而逐渐缺乏主观能动性。因此在智慧司法中,人(司法机关)与技术的关系从技术辅助走向技术主导,继续滑向技术依赖则在一线之间。

这种技术依赖体现在机器决策对人类决策的侵蚀。智慧司法建设所追求的与其说是“类案同判”,不如说是法律自动化的倡导者所认为的将决策权委托给算法系统,这是朝着“法治而非人治”的进化步骤。因此人类与人工智能技术混合型的司法决策,其目的之一就是尽量减少人类法官的自由裁量权。智慧司法建设在进行类案处理的算法决策中采用统一的技术标准,则会具有决策相对一致、快捷、无偏倚等优点。这被认为适用于我国法官水平不一、各地区差异较大的情况。

机器决策对人类决策的侵蚀所导致的技术依赖,是从司法决策转向依赖机器信息生成开始的,也就是司法决策依赖技术系统生产、提供信息,并将信息结构化与要素化。机器作出的司法决策则与法官的判断渐行渐远。此时法官作出司法决策,如同医生放弃了对患者倾诉症状的听取,转而只对化验结果、检测报告和病例检查照片保持信任,用一种片面的观点取代了另一种片面的观点。[27]司法决策中的灵活性和多样性则易受到损害。这并非智慧司法建设中的独特现象,医学治疗、保险、录取等决策都开始依赖技术手段,技术系统架构下僵化的信息种类、模式与评价指标必然导致信息多样化受损,灵活的人类决策模式逐步被替代。

追求类案同判与降低自由裁量权的制度目标,必然使司法决策变得可预期、普遍化与系统化。这进一步加大了推翻机器决策的难度。人类法官在与专家系统互动的时候,可能会接受其暗示、建议与限制,因为决策的模型与种类已被技术建构。智慧司法建设追求类案同判的制度目标,会导致人类法官在质疑或推翻机器决策建议时要提供具体理由、面临审查和批评,人类法官就会选择支持机器的决策。即使质疑和改变机器决策仅仅要经过一个固定的程序,也会由于其并不符合追求效率的制度目标,而被人类法官自觉或不自觉地规避。

由此可见,技术的深度应用与智慧司法的制度价值,共同推动人类法官与机器专家系统的互动,也会导致微观司法层面的技术依赖。

2.平台系统建设中的技术依赖

技术主导下的智慧司法建设可能形成司法机关对技术的严重依赖。司法机关不仅需要从技术公司购买技术,还需要技术公司长期提供技术以对相关系统进行维护和改造。技术公司为了垄断相关技术领域,会以涉及商业秘密为由拒绝将技术开源或者公布,这会进一步强化这种依赖关系。

司法机关一般通过购买或者外包的形式向科技公司寻求帮助,主要由于目前司法机关的技术能力不足以自主创立一套与司法运行流程完全匹配的技术系统。在司法机关主导和积极寻求的情况下,相关的公司十分积极地投入到智慧司法建设中,呈现百花齐放的状态。最高人民法院指定的中国司法数据服务平台“中国司法大数据服务网”由中国司法大数据研究院有限公司负责开发和运营等事务。华宇软件公司则参与了甘肃省智慧法院项目,即顶层规划、核心审判办案系统微服务架构部署、区块链技术融合创新等甘肃省司法大数据特色应用项目。江苏省建设“智慧法务”司法行政一体化智能平台时,阿里巴巴、擎天科技等互联网企业提供了技术支持。[28]重庆市公安机关与新华三集团成立“重庆市公安局—新华三智慧公安联合创新中心”。[29]在全国范围内推广运行的人民法院“智慧法院导航系统”依托于百度地图建设而成。[30]这种技术公司与政府部门合作的情况已经成为我国各地的常态。

这种情况既是由于司法机关没有充分技术能力,也是缘于理念所限。司法机关将技术作为一项辅助工具的同时忽视了其对司法的重塑作用。有学者在调研我国智慧司法实践后指出:一方面,法律人群体不参与智慧司法创新的需求提炼、方案制定、科学研究、产品研发甚至试点运用等工作,而是纯粹地期望购买产品;另一方面,科技人群体不了解基本法律知识,也不全面学习司法体制改革的内容和导向等。[31]这忽视了智慧司法的制度目标本身,而只是创建科技范式的司法正义工程,“用信息技术破解依托传统方式无法解决或解决不好的问题”,[32]以信息化促进审判现代化,[33]不是技术服务和支撑司法,而是技术引领、驱动司法变革。[34]这会导致智慧司法制度建设落地后与制度目标形成偏差:过于重视技术是否“上马”而忽视了技术是否得到了合理应用。如同对医院的评级中,诊疗设备的数量和档次占据非常重要的比重,在针对法院判决的评价体系中,技术手段是否“高大上”成为了界定司法裁判能力的主要因素。各地法院急于开发应用技术系统并呈现了“竞赛式”甚至“攀比式”态势。[35]这也导致了在科技市场利润推动力作用下,目前以信息化技术为主业的公司及其技术供给,均已呈爆炸性增长。[36]

技术能力缺失和忽视技术塑造作用的理念进一步导致了技术依赖。在智慧司法建设中,各地法院从项目建设到系统维护均需技术公司长期的运营支持。然而,司法机关与工作人员并不具有参与技术系统设计的意识和技能。美国一项针对政府工作人员的调查显示:“联邦政府工作人员没有足够的数据分析技能将复杂的数据集转化为决策者所需要的信息……高达96%的受访者认为他们所在部门存在数据技能短板。”[37]我国虽然未有类似的调查统计,但学者的调查体验显示,司法机关更关注技术研发成果而对技术应用对既有制度和司法效果的副作用问题鲜有关注。[38]技术应用与司法实践呈现一定程度的脱节现象。[39]相对而言,经济发达地区以及人才储备较为丰富的法院能够更多地参与到技术系统的建设中,而基层和欠发达地区法院则缺少相应的能力。

如同具体司法决策中的技术依赖,平台系统建设中的技术依赖表现为司法系统对于技术(公司)的“遵从”。这种遵从并非是主观上的,而是客观上潜移默化中发生的。[40]证据收集、存证与采信的相关技术系统以及辅助司法决策的系统,都倾向于加强类案同判,固化成文法的适用方式与结果。追求类案同判成为了人工智能系统的自我强化力量。随着时间的推移,人工智能技术驱动的裁决将累计更多的“同案”与“类案”,更加有利于司法机关使用决策支持系统,从而形成一个技术系统自我强化的循环。在司法裁判之外的法官考核、机构运行等多个方面,已经有相关研究注意到法官考核标准对司法运行的影响。[41]这已经在推荐算法对用户获取信息的影响、雇佣评估软件对招聘者的行为引导等多个领域得到证实。

综上所述,无论是具体个案中的司法决策还是整体智慧司法的体系建设,都面临着技术依赖的风险。这既是个体或司法机关的能力局限所导致的,也与技术系统介入司法的方式和指导理念相关。技术在引领和驱动司法变革的过程中,技术依赖阴影也相随相生,这也成为了智慧司法建设中的隐忧与难题。

(二)智慧司法中技术依赖带来的隐忧

具体决策和系统建设中的技术依赖,可能导致以下问题:私营技术公司介入司法系统建设,在一定程度上违背权力专属原则;现阶段司法系统建设并无统一的技术标准与监督机制,容易造成司法监督的困境;当发生错误而需要追究责任时,技术系统开发者、司法机关与技术系统本身之间的责任链条如何认定与分配,现有制度无法解决。

1.正当性难题:对权力专属原则的挑战

权力专属原则符合国家权力配置的基本原理,是指为了保证司法权力独立运行、防止外来干预、保障案件公正审理,司法权力专属于相应的司法机关。《中华人民共和国刑事诉讼法》第3条规定,审判由人民法院负责。《中华人民共和国民事诉讼法》第6条规定,民事案件的审判权由人民法院行使。立法者将这些权力授予特定主体,主要目的在于建立相关权力的运行与监督机制。确定权力专属于司法机关,可以将职权特定化来防止权力扩张,避免法外行权。

技术介入司法的方式和技术依赖的情况不可避免地对权力专属原则提出了挑战,尽管这种现象并非司法机关和技术公司所主观期望的。权力的“外溢”发生在从信息到代码的转化过程中。无论多么精细的法律,都有模糊解释的空间,压缩此空间内的自由裁量权一直是技术系统的价值目标。如何将信息要素化或者将何种信息要素化?如何计算数据?如何在可裁量空间细分条件?这些条件都是由技术系统进行初始设置的。然而在一纸技术服务合同当中,很难囊括价值排序、法条转化方式等详尽内容,这些具体司法决策的细节实则交给了技术公司。技术人员具体负责选择数据集,进行数据的清洗和去噪,决定数据标记和分类方法等,并将规则转化为代码。2007年4月,来自私营技术公司的程序员因缺乏相关的背景知识,将900多条不正确的规则植入美国科罗拉多州的公共福利系统,例如把“无家可归”解读为“行乞为生”,导致一位失去住所流落街头的60岁妇女在申请增加食品券数量时遭到多次拒绝,原因是系统认定其为乞丐。[42]这种认知偏差带来的错误致使成千上万的人遭受不公平的对待。

庞大的司法信息化市场使得技术公司有动机批评传统的人类审判模式,推销自身的“精准、公开、高效”的技术替代方案。即使是国外较为温和的人工智能司法项目,也有学者批评参与这些算法系统解释的是计算机科学家、公司和其他技术先进的行为者,而不是律师或公众,这导致缺失公众参与的正当程序,侵蚀了决策的正当性。[43]尽管有学者指出,智慧司法追求的是司法信息化而非智能化,平台化和信息化并不是直接应用人工智能技术。[44]然而正如本文第一部分所述,即使是技术辅助对司法的作用也远非“工具化”那么简单。平台系统建设的政策驱动带来相关科技市场的繁荣,但不可避免地以将自由裁量与解释法律的权力部分地交给技术系统(公司)作为代价。

2.监督难题:判定标准与程序的缺失

当把司法决策的部分权力交给技术,首当其冲的问题就是谁来监督和如何监督?既往针对人类法官的司法决策监督机制和程序遭遇了前所未有的挑战。

智慧司法中技术系统的输出结果直接关系到法律事实认定与司法裁判结果,但这缺乏具有公信力的、统一的技术标准,而标准对于司法公信力至关重要。在我国多起声呐电子警察案中,声呐是否经过检测、是否符合质量标准层成为其提供的电子证据是否有效的关键。2018年的无锡声呐电子警察案中,何先生认为声呐电子定位系统的定位与识别抓拍并不准确,但法院以其经过国家权威部门检测为由驳回了其诉讼请求。[45]但在郑州高女士作为原告的电子警察案中,由于郑州某交警大队未对电子眼进行安装检验和定期年度检验,高女士在这起案件中胜诉。[46]目前就电子证据问题,国家已经出台一系列标准。[47]技术部门宣称鸣笛的电子警察准确率是95%,[48]但5%的技术错误率代价将随机由公众承担。如果说交通行政处罚技术系统的错误尚在可容忍范围内,司法裁判结果直接关系到当事人的财产权甚至自由,然而各地百花齐放的智慧司法技术开发尚无国家技术标准。

对智慧司法中技术系统监督检测的程序也尚未建立。目前智能化建设标准规范主要集中在数据层面,其意在未来打通不同技术系统,实现数据共享。例如,最高人民检察院提出统一标准体系,在我国检察系统现有的三批电子检务工程标准规范意见的基础上,加快对全国检察系统智能化发展的各个数据代码、数据结构、数据质量、交换标准等影响检察机关数据化发展的标准体系进行规范。但各个利用数据作出自动化决策的地区性技术系统,并未将检测、审计等监督程序制度化。算法系统决策的准确率无法保证,一旦出错可能造成无法挽回的损失。国外就出现了类似的情况:2017年12月,美国伊利诺伊州儿童和家庭服务部宣布,终止一种评估儿童安全和风险的预测系统,因为算法预测的不准确造成了父母与子女错误分离的后果。[49]同年早些时候,美国洛杉矶郡也由于预测型算法的黑箱问题与高误报率终止了将预测型算法用于儿童受虐风险的评估。[50]

如果智慧司法技术系统缺乏通用的技术标准体系,这意味着可能无法展开有效的市场竞争。技术系统的质量标准是企业的市场准入门槛,明确和可预期的质量标准能够为参与竞争的技术企业提供指引。否则,即使数据要素的采集与保存具有统一的技术标准,但如果决策支持系统、预测系统等不同技术系统的决策质量存在问题,这会消解掉数据要素标准统一的价值。同时,作为技术系统开发者的私营技术公司也并无自我检测与审计的动力。原因之一在于,私营公司开发相关技术系统,其中的算法设计、训练算法的数据集等属于商业秘密,即使公开也十分有限。原因之二在于,如果私营公司获得了司法机关对其产品的支持,并在早期积累了市场份额,其在市场的前期成功更加会减少其开发更为准确、先进的系统的动力,削弱其检测、审计已有系统的问题的动力。

3.追责难题:责任链条分配的困境

如果发生错误决策,如何在人机混合决策的司法系统中分配责任?这一直是人工智能技术应用的法律难题,但在技术嵌入司法活动后变得更为严峻。按照技术在司法活动中扮演的角色,责任分配面临的难题大致有如下三个方面:

第一是多责任主体的责任分配问题。人工智能技术系统的开发和运行通常是在复杂和动态的环境中进行的。在智慧司法中,既可能因数据的质量问题导致证据证明力问题,也可能因量刑算法出现了偏差与歧视,抑或审判辅助系统本身设计存在缺陷而导致证据证明力问题。最终司法决策的作出,需要多个个体、公司、司法机关、技术系统、算法的合作。当发生错误决策时,如何在复杂的责任链条中认定责任与分配责任,这是一个难题。

第二是人类和机器之间的责任分配问题。人类法官和机器混合作出决策将逐渐成为未来司法的常态。例如,美国加利福尼亚州已经利用算法作出假释决定,法院也广泛使用量刑算法技术系统。如何在人机混合的决策系统中分配两者之间的责任呢?尤其是当这一决策的作出已经遵循了法律要求的“人在环中”[51](human in the loop)的规定时,这个问题更加突出。审判责任分配可能存在两种极端。第一种是完全让法官承担责任,这个方式必然会引发法官对技术系统的不信任,甚至彻底否认技术对司法的积极作用,这对智慧司法制度建设极为不利。第二种是完全由人工智能的设计者或者生产者承担责任,这极有可能导致司法机关对人工智能技术的滥用。

第三是多个算法系统之间交互产生的不可预测性和潜在风险的可能性。某种人工智能技术生成多种应用、多个技术叠加于某个系统、多环节技术系统互动已经成为智慧司法的常态。例如,自然语言处理(NLP)可用于文本挖掘分析、构建知识图谱、进行司法画像等,也可用于自动生成电子卷宗、分流繁简案件、甄别虚假诉讼、预测司法裁判等。法院的全国执行查控系统与全国司法评估平台、联合惩戒体系、执行办案平台共同联动,某个环节的数据出现错误,可能导致多个不同自动化决策体系的连锁反应。在技术之间出现交互错误时,难以勘定与及时更正,追究责任更是难上加难。

综上所述,技术对司法系统的改造经历了从技术辅助到技术主导的角色转换,更是由于技术应用理念、方式和多种因素可能引发技术依赖,体现为个体决策和司法系统对于技术的过度遵从以及技术对于司法活动的规训。智慧司法中的技术依赖可能导致权力专属原则受到挑战,监督标准与程序缺失,以及责任追究困难。

四、应对技术依赖的理念与制度:勘定技术嵌入司法权力的边界

无论是技术辅助、技术主导还是技术依赖,都是在描述智慧司法中人与技术的关系。技术依赖的出现起初难以察觉,私营的系统、平台和软件技术公司的影响也日益增强。法官培训中逐渐增加对使用系统技术的培训,当事人对纠纷解决的期待也在类案同判的制度建设中越来越具有可预料性。在“智慧司法”建设过程中,什么在技术的狂飙猛进中被逐渐放弃了?如何让技术最大化地助力司法而非颠覆司法?回答这个问题必须理清一个底层逻辑,也就是在智慧司法中人与技术应该如何分工的逻辑。人工智能时代的人机关系并非新的命题,但基于司法活动在人类社会中的定分止争作用与在权力体系中的地位,技术介入司法活动应更为谨慎。

智慧司法中人机分工的探讨可从信息流动与处理的角度展开,其本质是技术逐步取代人对信息的处理与收集。对于智慧司法中的人机分工,可从以下三个层次讨论:在利用技术收集信息阶段,对于信息流入与流出,司法系统应如何从质和量两个方面进行控制?在利用技术处理信息阶段,人类“算法”与机器算法又应如何分工?在技术信息系统建设过程中,技术权力嵌入司法权力的边界在哪里?

(一)控制机制:司法裁判相关信息的准入与流出

技术垄断者坚定不移地相信,世界需要更多的信息。[52]在智慧司法中,信息收集与司法公开是最重要的平台建设目标,无论是司法裁判需要的信息还是向社会公开的司法信息,都昭示着信息“多多益善”的理念。然而,当信息技术触及司法领域,需要受到司法活动自身规律的限制,智慧司法应当在信息的质与量上都进行合理的控制。否则,智慧司法将面临大量的信息噪声和信息失真现象,最终难以从纷繁的信息数据中提取真正有益的信息。

1.司法裁判相关信息的准入机制

在司法裁判领域,穷尽信息后作出合理决策是一个伪命题。司法裁判依赖的信息包括两大类:一是有关案件本身的信息;二是为司法裁判决策提供支持的“类案”信息。这两大类信息均应贯彻“信息准入”的理念。

第一,在司法裁判中,有关案件本身的信息对法律事实认定与司法决策生成至关重要,因此,在智慧司法阶段仍然要坚持“信息准入制度”。司法裁判的决策一直是在有节制的信息量下作出的合理推断与决策,甚至一直以来,司法裁判扮演着“真相的仲裁机制”的角色。当外界信息过于纷繁复杂不能控制无节制的信息量时,由法庭来作出“真相”的认定与裁决。

对于有关案件本身的信息,需关注的是信息的质而非信息的量。作出决策时只需关注信息的意义,因此在许多场合实施严格的“信息准入”标准。法律规则中的程序与证据规则,主要关注的是信息的“摧毁”问题。[53]例如有关举证的规则,有关参与审判的行为准则,其存在的意义是限制信息的准入量。证据法有庞杂的制度来甄别和筛选各种信息,例如对信息质的控制,不将“传闻”或者个人意见作为证据,除非伴有严格的受控条件。法官禁止旁听人员表露感情,不允许原告提及被告过去的罪过,不允许陪审团听到某个证据是否可以准入的辩论。还有对信息量的控制,即证据的简化性规则要求,即使有些证据具有关联性和可信性,为了避免查明事实变得困难,也要将其排除,例如,排除不适当时间提交的证据,排除可能导致偏见的环境证据等。[54]这些对信息质与量的控制来自这样一个基本理念:司法裁判使用的信息,需要首先界定什么信息有意义,什么信息没有意义。

智慧司法仍然要坚持“信息准入制度”,这不仅是出于程序正义的考虑,也是实体正义的要求。首先,技术手段使得司法机关获得信息的时点超越了正当程序规定,如果不严格执行信息准入制度则可能有损司法正当程序。大数据侦查与犯罪预测系统的广泛应用,确立或强化了执法人员启动侦查追诉程序前的思维倾向,甚至基于碎片化信息已经形成了有罪链条。早在2016年出台的《关于电子数据若干问题的规定》明确规定,初查过程中收集、提取的电子数据可以作为证据使用。如果不在此阶段建立严格的信息准入制度,则会进一步强化和合理化执法人员的推定。其次,智慧司法在信息获取上更为便利,则更需要信息的节制与控制。如果案件的一切信息与相关证据都获准进入法庭并可能影响司法裁判,那么司法程序就不能得到实施,审理的过程与期限容易无法控制,法律(无论是实体法还是程序法)就沦为了毫无意义的摆设。更重要的是,如果没有信息的节制与“摧毁”制度,面对海量的信息,人类法官只能将司法决策的权力交给机器来处理,法庭将如自动驾驶、股票交易、电商平台一样成为只追求效率而缺失人类价值与情感考量的场所。

第二,对类案检索的支持系统也需进行质与量的控制,而非多多益善。智慧司法系统建设的重要举措是利用智能技术系统增强类案对于法院裁判的技术支持。2020年7月发布的《最高人民法院关于统一法律适用加强类案检索的指导意见》规定了“应当进行类案检索”。近年来,最高人民法院也建立了一系列司法判例、电子卷宗信息平台。[55]但“量多”并不意味着能够提供足够的决策支持。其一,总量多与有意义的案件数量足够多并无必然联系,进行量的控制可避免降低司法效率,否则有悖于智慧司法系统建设的制度价值。一方面,我国类案总量多但有意义的类案储备尚不足够,在类案支持系统建设中应注重类型与地域的均衡而非一味追求总量的累积。另一方面,常年累积的类案与判例积少成多是必然趋势,将大大增加法官检索和引证先例的时间。以美国为例,仅2019年美国联邦巡回上诉法院就审理了48486件案件。[56]因此早在1964年,美国司法协会就建议联邦法院限制生效裁判的公布数量。有些联邦法院的指引性文件直接说明,“不发表”的判决不得作为先例引用,而“不发表”的判决的比例通常超过半数。[57]其二,明确时间、案件类型等质的控制条件,避免对司法裁判形成负面影响。尽管现有规则进行了类案的类型分级和时间分级,但在技术系统中如何贯彻仍需逐步摸索。[58]国家应尽快建立类案检索系统中案例的分类与评级标准。类案检索的支持系统应进一步将类案标签精细化,按照案由、地域、级别等进一步细分。当类型和时间分级条件共存,如何判断哪个类案优先?例如,一个三年前的高级人民法院的类案和一个两年前中级人民法院的类案如何比较?这需要最高人民法院逐步明确规则。另外,类案支持系统需规定更新时间与频次。仅以我国数字领域立法为例,高频的立法使一两年前的类案都未必符合现行法律的规定。其三,不宜将类案检索设为强制性标准。强制性标准可能造成法官工作负担的不当增加。过于强调类案检索对司法裁判的指引作用,产生了类案判决在审判活动中的实质性影响,形成了实质上的“造法”。这一方面可能存在与我国权力制度设计不甚相符之处,另一方面这种由外部技术系统打造的“造法”是否具有合法性和正当性仍会存疑。

2.司法信息流出的控制机制

在智慧司法大众化、便民化、公开化的推动下,司法信息以前所未有的规模与速度流出司法系统,实现了与社会公众的互动。2021年1月,中共中央印发的《法治中国建设规划(2020—2025年)》再次明确了“坚持以公开为常态、不公开为例外”的司法公开方向,并确立了逐步扩大公开范围、提升公开服务水平的发展目标。这对于促进司法公开透明具有推动作用,但从司法领域流出的信息也并非越多越好,而要受到司法规律和特点的限制,要从公开范围和信息种类的层面合理控制信息流出。

第一,司法信息公开的原则是尊重司法规律与法官尊严。一是尊重法庭尊严,控制司法信息流出的范围。对司法信息流出的范围需进行适当控制以使其符合法律规定与尊重法庭尊严。允许社会公众旁听,允许媒体旁听,允许录音录像,[59]允许媒体报道和庭审网络直播,这就是在逐步扩大司法信息的流出范围,尽管尺度不同但均符合司法信息公开的要求。司法信息公开的主要价值在于避免暗箱操作与司法腐败,充分说理以使当事人与公众理解信服,因此应基于不同案件的公开目的符合比例地设置公开尺度,避免过度曝光与过度公开。二是保障法官主体性地位,控制司法信息公开的种类。首先,国内外都曾有舆论影响法庭判决的既往事例,法官的独立判断受到了舆论干扰。其次,对法官庭上审理行为的监控系统应以达到内部监督管理效用为限,如法官是否迟到、早退、着装不规范、用语不文明等,不应以数字法庭庭审核查系统或庭审直播的形式向全社会公开。最后,司法信息公开的种类也应以满足对案件管理、司法监督、案件追责方面的要求为限,不宜将法院内部的行政事务事无巨细地纳入司法信息公开的范围。

第二,司法信息公开的底线是尊重司法伦理与保护当事人权益。司法公开不得影响法官独立、公正行使审判权,也不得过分暴露当事人的隐私及个人信息。[60]一是司法公开应遵循司法伦理。如果当事人可以随时直接联系到主审法官,而主审法官不接受这种联系则有可能被举报,抑或报道中提及当事人可与主审法官在视频接访室面对面连线,[61]这不禁使人疑惑当事人一方直接与法官单独联系是否符合法官的司法伦理要求。二是司法信息公开应重视当事人的隐私与个人信息保护。在司法信息公开的过程中,难免要公布案由、事实认定、证据等。在裁判文书上网、庭审直播等信息公开过程中,如何确保当事人的隐私和敏感个人信息不被披露、当事人身份不被识别是一个复杂的工程。尽管《最高人民法院关于人民法院在互联网公布裁判文书的规定》(2016年)要求法院告知当事人在互联网公布裁判文书的相关规定,[62]但是民事案件中经常涉及当事人家庭状况、健康受侵害情况等隐私,如何在裁判文书公开和庭审直播等司法信息公开场景中有效将个人信息去标识化,仍是有待解决的问题。司法信息公开的尺度需在司法公开与尊重法官主体性和当事人权益之间找到平衡。

(二)司法决策:人类“算法”与机器算法的合理分工

在智慧司法体系中,司法决策逐渐成为人机共同作出的混合决策。这不仅指具体司法决策中算法技术系统为人类决策提供支持,也指在智慧司法整体系统中由技术系统为司法决策提供技术指标、信息种类、决策架构等一系列可以潜移默化影响具体司法决策的外部支持。一个具体司法决策并不是人类决策和机器决策的简单加合,而是一个有机混合的系统。人类算法与机器算法的合理分工,意味着具体司法决策可兼顾司法的公平、效率、灵活、人文关怀等价值,并避免人类决策和机器决策的弊端。

1.避免技术支持滑向技术依赖的外部制度构建

在具体司法决策中避免人类对机器决策的技术依赖,需将具体司法决策看作整体社会系统的一部分,而非单纯的人类与算法决策的关系问题。[63]从广义上来说,人类必然参与技术系统的设计、运行和维护,即使微观的司法决策由算法作出(如假释决定或犯罪风险预测),其中也必然有人的参与。因此,避免司法决策中的技术依赖,应从信息收集、技术系统设计理念、技术系统的架构与更新等路径展开。

第一,智慧司法的技术系统设计需注重信息收集的多样化,避免信息减损影响决策质量。技术系统使用标签、标准化表格等技术加工信息的方式,将社会真实简化为分值、统计数字、分类系统等形式,智慧司法将其作为处理道德、社会和法律问题的基础。技术系统处理信息的机械化造成了系统内信息与现实生活的偏离,技术产生对人的强制性要求,同时还产生广泛的系统性要素来贯彻其强制性要求。正如贝尼格指出,标准化的发明是官僚主义的构建,它摧毁情景中的一切细枝末节,它需要我们检查方格、填充空格,只允许数量有限的正式、客观、非个性化的信息。[64]我国现在智慧司法系统建设需要的初始数据缺失仍是重大的制度建设短板,在数据的标注和输入过程中,应避免淘汰过多信息,以最大限度发挥信息的效能。

第二,智慧司法的技术系统需重视人文主义的设计理念,应避免具体决策中人类法官过于依赖技术系统,充分发挥人的主体性作用以规避技术系统可能带来的机械化偏差。智慧司法的技术支持系统强调精准与高效,但更应该强调机器内嵌的理念。只有人类实质性地参与设计,才能将人类的心理、情感和道德等得天独厚的能力融于司法裁判中。一些国家已经尝试了这种保护模式。例如,美国阿勒格尼县使用算法来进行儿童是否需要福利机关照护的预测。在采用该工具之前,该县专门咨询独立的伦理学家团队并公开了分析摘要。[65]我国法律要求对符合一定风险等级的算法系统和个人信息处理活动进行事前评估,在这种法律规范下,我们可以考虑将智慧司法的技术系统作为高敏感技术系统,对其进行专门的事前评估。通过这一制度在技术系统中嵌入人文主义的价值观,尽量避免人类得天独厚的那种照观全局的能力被机器消解。

第三,智慧司法的技术系统需注重架构设计与更新频次。一是应注重智慧司法系统中法官与技术系统互动的架构设计,在设计层面留足人类决策的空间。已有研究显示,技术系统的数字界面对使用者的选择和输入能够产生重大影响,选择架构可以通过塑造作出决定的环境来引导人们选择一个特定的选项,使得架构本身成为工具。[66]即使架构不是为了达到特定结果而设计,也必然会影响人们的选择。如在调研中曾有法官指出,由于在系统中选择“其他”按键必须单独填写理由,为了避免额外的工作量,法官往往选择一个相近但不准确的选项。为了在技术系统中不减损人类的主体性地位,应在架构设计层面为人类留足选择空间。二是智慧司法的技术系统必须强制更新。法官的职业转换、退休和死亡等人员流动意味着法官队伍处于不断的代际变化状态,并以此保证对系统外部作出有效反应。如果过于强调技术系统的权威性与类案的指导性作用,则可能会减损司法系统有机的更新形式。尽管智慧司法系统还在建设过程中,但必须需求技术系统纳入更新的方式与频次,避免法律系统的僵化。

2.人类与算法在司法决策中的内部合理分工

在我国智慧司法建设中,人类与算法在司法决策中的分工体现了法官决策权从部分让渡到完全让渡、从非核心决策权的让渡到核心决策权的让渡的发展历程。[67]为了保证人类在司法决策系统中发挥必要作用,不被算法裹挟,制度往往要求人类能够参与到技术系统的自动化决策中,即“人在环中”(human in loop)。无论是我国还是国外的制度,关注参与某一特定决策的个人,目的在于将这个具体的、可识别的个人作为监管的目标。因为与对技术的事前与事后的复杂监管相比,对人的监管是法律制度熟悉的领域,而对技术的监管所需的专业知识通常不在立法者的知识范围内。然而,仅仅放置一个人在自动化决策的流程中,并不能决定人对自动化决策的实质性参与。人类与算法在司法决策中的合理分工,需从人机混合决策系统的合理标准出发,设置鼓励人类参与的责任框架体系和合理的事后责任追究制度。

第一,合理的人机混合决策标准是人类与算法各司其职,而非人在环中。在智慧司法的技术系统中,这体现为追求代码公平、案件繁简分流与设置合理的人类参与激励结构。在智慧司法中,一个人机混合的决策系统并非两者的简单相加,效果也并非两者的优点结合。如果不能够通过合理配置使人机决策各司其职,反而加剧了各自的决策劣势。以自动驾驶汽车为例,当遇到紧急情况将驾驶权交回给司机并非最优解决方案:司机需要即时回到注意力高度集中的驾驶状态,重新熟悉路况并了解发生了什么,机器系统也未必能够有足够的时间交接给司机。如果只是要求每个具体的司法决策都有人的参与即可免除掉繁琐的要求和更重的责任,则处在决策循环中的人必然没有实质性影响结果的能力和机会,这种人机合作方式被学者讽刺为“一只猴子都可以胜任”。[68]错误的激励结构会导致人只有名义上的决策控制权,专门被用来承担法律责任和遭受道德非难。

如果智慧司法建设的重要价值是提高司法效率,这一制度追求必然不鼓励人的参与。例如,根据算法进行的股票高频交易以百万分之一秒的速度作出决策,人类早已被彻底排斥出了这个领域。同样也有学者担忧,在受理案件数量激增和法定审理期限刚性规定的双重压力下,法官迟早会过度依赖技术系统提供的参考判决处理案件。[69]因此,合理的人机混合决策标准,应严格划分算法决策、人类决策,以及人机混合决策中人类所占的比例,并且应在决策架构设计中,降低人类参与和改变决策的时间和制度成本。涉及个人利益相对较少的司法决策应直接由算法负责,以加强技术系统的设计公司对于决策结果的可归责性,并充分测试其准确性以使市场竞争发挥关键作用。

第二,设置鼓励人类参与的司法责任追究制度。在世界范围内,监管机构不约而同采取的措施是通过保留算法决策中参与的人,来回应社会对于自动化决策的担忧。例如,美国有四十多项政府政策要求人类监督或者参与各种算法的决策过程。[70]但法律责任的设置反而阻止了人类有效参与算法的自动化决策过程。有学者指出,医疗事故责任可能阻碍医生和算法在共同诊断中发挥实质性作用。[71]因为一旦医疗算法的性能达到足够高的水平,算法的建议将成为医生遵循的标准,任何的偏差都可能使医生承担相应的侵权责任,人类对算法的服从将造成技能的萎缩。

因此,应思考设置相关制度尤其是司法责任追究制度来鼓励人类的实质性参与。例如,在技术系统中始终保留新型案由的决策通道,留足通过个案发现合法权利、创新规范、推动制度进化的动态机制。或者减轻法官事前阐述偏离大数据标准的义务,转为发生情况事后追责,允许法官根据自由心证“从心所欲不逾矩”地考量未能被数据化的案件因素,作出实质公正的司法裁判。

(三)系统建设:谨慎应对技术权力与司法权力的共建

技术公司对智慧司法系统建设的技术支持,可能形成司法权力对技术公司在系统建设层面上的技术依赖,导致权力专属原则存疑、追责链条不清晰等问题。在智慧司法的制度建设中,应谨慎应对技术权力与司法权力的共建,在智慧司法系统谋求高质量技术支持的同时,增强司法机关对技术权力的掌控能力,避免司法系统对技术公司的技术依赖。

1.增强司法系统的技术掌控能力

避免智慧司法系统建设的技术依赖,需要突出强调司法机关在与技术资本合作中的相对独立性和主导性。

第一,要抑制司法机构的惰性,避免将智慧司法建设简单地全盘外包给各类技术公司,由技术公司全盘承建智慧司法系统建设任务。这会导致司法机关从技术到人员乃至工作过程、系统维护都依赖技术公司的现象。在智慧司法建设中,我们需厘清私营公司与司法机关之间的边界,保证核心的司法决策内容有司法人员的实质性参与。鼓励法官等司法机关工作人员了解智慧司法信息技术运行的原理与轨迹,并对偏离正常情况的自动化决策结果保持敏感度。

第二,应强化司法部门技术能力,保证司法部门最低限度的识别、监督和验证能力。在智慧司法建设中,司法系统从信息获取、技术应用到数字基础设施的建设都严重依赖技术公司的供给。加强司法系统中技术部门的建设,能保证司法机关具有基本的技术能力,以及对于智慧司法一般系统的识别与评估能力,能够对司法系统与技术公司的合作关系事宜作出合理判断,并适时调整与技术公司的合作策略与方式,避免智慧司法系统建设被算法绑架、被技术公司控制。在此过程中,吸纳多个企业参与并由其展开充分竞争,对于司法部门运用更优质的技术服务具有重要作用。例如,北京互联网法院联合25家互联网技术公司,将大数据、人工智能和区块链等运用到法院智慧司法体系的技术支撑建设中。同时也可考虑引进社会力量参与智慧司法系统技术的评估与检测,增强司法部门技术能力。例如,最高人民法院与清华大学共建互联网司法研究院,借助高校的技术优势展开对一些智慧司法技术支撑系统的检测、评估工作。[72]

第三,智慧司法建设应构建技术标准体系,还需要通过建立详细的采购程序来进行控制。当技术系统取代了审理和上诉等司法机关的功能时,司法机构具有的自由裁量、合理裁判的能力就会被技术系统减损。国家层面应尽快完善智慧司法的技术支持系统的标准化管理制度和工作机制,建立健全人民法院信息化标准体系,推进标准制定、修订工作和标准的贯彻实施。按照最高人民法院的“顶层设计、规划引领和标准规范”,目前全国3500多家法院构建并联通了以中国移动微法院、人民法院调解平台等为载体的在线诉讼和调解平台。最高人民法院还通过《人民法院在线诉讼规则》集成以往规划标准,通过制度规制和约束全国法院的系统建设、应用、保障和管理。[73]例如,《人民法院在线诉讼规则》第5条至第13条分别确定了智慧法院九大信息运行的网系、服务的对象、包含的子系统、应当具备的功能。同时,智慧司法应考虑不同层级法院的智慧司法系统的设计,应对技术给司法权力带来的影响审级效力的扁平化风险。通过标准制定和采购制度,激励私营公司开发的算法程序能够充分竞争,更加符合智慧司法建设的技术需要。

2.明晰智慧司法的责任链条

规避技术依赖最重要的是防止无责任的权力和无代价的技术。因此有必要贯彻司法问责制等传统制度,进而维持司法系统的稳定和秩序,避免过于强调效率、利益的智慧司法系统对司法责任制的冲击。

第一,将智慧司法技术系统的研发者、设计者、维护者共同纳入到司法问责的体系中。这一问责形式并非要求技术公司直接承担司法问责的后果,而是通过研发者责任、设计伦理等将其共同纳入到司法责任的治理框架中。智慧司法的诸多决策是人类与机器共同混合作出的决策,亦即程序员、软件工程师、数据处理商、技术公司与法官共同作出的决策。[74]技术系统可以制造这样一种错觉:决策似乎在公权力的掌控之中。但如果仍仅仅将法官作为司法问责的对象,则司法问责制很容易流于形式。过于强调任何决策辅助系统都不会对法官产生实质性影响,或者要求法官在使用决策辅助系统之前明确知晓前述影响,这无异于认为点击“同意”的网络服务用户确实知晓用户协议的详细内容。不同于自动驾驶汽车、家居机器人等智能产品,智慧司法的技术支持系统不能简单采取产品责任。如前所述,在人类和算法分工的司法决策领域,存在不同的决策形式。对于算法作出的简单司法决策,应主要考察技术系统的研发者、设计者等的责任;对于人类和机器决策的混合决策,应在后续调查中及时厘清人与机器的决策比例,在技术上确保全过程留痕,从而一定程度减轻无从追责的状态。正如有学者指出的,人工智能引发的审判权嬗变使得司法责任分配混乱,法官责任的重新分配必须建立在人工智能责任确定的基础之上。[75]

第二,在人机混合决策中分配责任,明确技术系统与人类共同的司法问责,还应避免动因迁移(agentic shift)使技术成为人类推卸责任的对象。人工智能技术的不可理解性可能会降低司法机构对公众和个人的责任感。技术系统支撑智慧司法系统建设的过程,也是技术权力与公权力相结合的过程。从表面上看,算法有智能且不偏不倚,所以它可以将民众对司法系统的期待和注意力转移到技术身上,仿佛算法系统是真正的权威来源。用算法技术武装起来的公权力是我们时代未获承认的立法者。[76]因此要避免动因迁移,即人类将造成错误的责任从自己身上迁移到一个抽象的媒介上,比如托辞“系统坏了”。[77]因此,一方面,法律应要求法官负有在觉察技术系统偏差与错误时及时的报告义务,可作为减轻事后司法问责的事由。另一方面,法律应及时将事前的评估审查、事中的安全运行主体责任、事后的追责等技术系统全流程治理手段同样应用于智慧司法的技术系统。例如,我国《人民法院在线诉讼规则》已将“安全可信原则”作为智慧法院建设的主要指导思想,强调强化相关安全机制和措施,从网络安全、数据安全和个人信息保护的角度确保人民法院在线运行的安全可信。

结 语

在人工智能时代,如何处理人机关系是时代的核心命题。在我国智慧司法如火如荼的建设中,如何处理人类和技术在信息收集处理、具体司法决策和司法系统建设中的关系,则是这一时代命题在司法领域的体现。技术始终是人类文明进步的主导性力量。如果说人工智能时代到来之前,技术长期退隐在时代幕布之中,那么如今则走到了舞台的中央。个体、政府、司法机关等都面临着技术和技术权力崛起带来的挑战。技术已不仅仅是人类的工具和媒介,而是一种深刻改变人与自然关系的力量。[78]本文围绕我国智慧司法系统建设中技术扮演的角色和发挥的作用展开。技术嵌入司法系统必须有明确的权力边界,以避免技术依赖的产生。技术嵌入司法系统既要避免混淆技术处理海量信息的边界,有效筛选对于司法有意义的信息,控制司法信息的流出与流入;又要在人类和机器之间合理分工,明确人类与机器决策之所长,充分利用各自的决策优势而规避其劣势。除此之外,要警惕技术公司、技术资本对司法权力的侵蚀,增强司法系统对于技术权力的掌控能力,并合理进行司法责任的分配。


张凌寒,中国政法大学数据法治研究院教授。


【注释】

[1]See Judicial Conference of the United States,“Long Range Plan for Information Technology in the Federal Judiciary (September 2021)”,https://www.uscourts.gov/sites/default/files/long_range_plan_for_information_technology_in_the_federal_judiciary_-_fy_2022_0.pdf,2022年5月5日访问;参见刘涵冰:《英国司法系统的信息化建设实践》,《人民法院报》2015年9月26日,第8版。

[2]参见陈甦、田禾主编:《中国法院信息化发展报告 No.4(2020)》,社会科学文献出版社2020年版,第9-15页。

[3]参见刘品新:《智慧司法的中国创新》,《国家检察官学院学报》2021年第3期,第84页;魏斌:《智慧司法的法理反思与应对》,《政治与法律》2021年第8期,第116页;高童非:《数字时代司法责任伦理之守正》,《法制与社会发展》2022年第1期,第151页。

[4]参见钱学森:《现代科学技术与法学研究和法制建设》,《政法论坛》1985年第3期,第1页。

[5]参见马长山:《人工智能的社会风险及其法律规制》,《法律科学》2018年第6期,第46页;季卫东:《人工智能时代的法律议论》,《法学研究》2019年第6期,第49页;齐延平:《数智化社会的法律调控》,《中国法学》2022年第1期,第95页。

[6]学者们从不同角度讨论了人工智能技术运用与不同领域的法律运行逻辑内在机理存在的冲突及其应对的问题。参见刘宪权:《人工智能时代我国刑罚体系重构的法理基础》,《法律科学》2018年第4期,第47页;吴汉东:《人工智能生成发明的专利法之问》,《当代法学》2019年第4期;齐延平:《论人工智能时代法律场景的变迁》,《法律科学》2018年第4期,第37页;左卫民:《AI法官的时代会到来吗——基于中外司法人工智能的对比与展望》,《政法论坛》2021年第5期,第4页;王禄生:《智慧法院建设的中国经验及其路径优化——基于大数据与人工智能的应用展开》,《内蒙古社会科学》2021年第1期,第104页;胡铭、张传玺:《人工智能裁判与审判中心主义的冲突及其消解》,《东南学术》2020年第1期,第213页。

[7]参见芦露:《中国的法院信息化:数据技术与管理》,载《法律和社会科学》(第15卷·第2辑),法律出版社2016年版,第22-50页。

[8]See Tania Sourdin,“Judge v Robot?: Artificial Intelligence and Judicial Decision-making”, University of New South Wales Law Journal, Vol.41, No.4(2018), p.1114.

[9]参见裴炜:《信息革命下犯罪的多主体协同治理——以节点治理理论为框架》,《暨南学报(哲学社会科学版)》2019年第6期,第86-87页。

[10]参见伊然:《区块链存证电子证据鉴真现状与规则完善》,《法律适用》2022年第2期,第106-117页。

[11]参见潘庸鲁:《人工智能介入司法领域路径分析》,《东方法学》2018年第3期,第109-118页。

[12]参见顾敏:《机器人成江苏检察官“得力助手”辅助办案超万件》,http://jiangsu.china.com.cn/html/2018/zhjs_0822/10593575.html,2022年5月12日访问。

[13]参见郑天翔:《最高人民法院工作报告——一九八六年四月八日在六届全国人大四次会议上》,《中华人民共和国最高人民法院公报》1986年第2期。

[14]参见魏斌:《智慧司法的法理反思与应对》,《政治与法律》2021年第8期,第116页。

[15]《最高人民法院信息化建设发展纲要(2019—2023)》。

[16]参见曾学原、王竹:《道路交通纠纷要素式审判探索:从四川高院的改革实践出发》,《中国应用法学》2018年第2期。

[17]参见余东明、仇飞:《研发“刑事案件智能辅助办案系统”避免冤错案》,《法制日报》2017年10月13日,第6版。

[18]See Eric Niiler,“Can AI Be a Fair Judge in Court? Estonia Thinks So”, https://law.stanford.edu/press/can-ai-be-a-fair-judge-in-court-estonia-thinks-so/,2022年3月25日访问。

[19]参见李占国:《网络社会司法治理的实践探索与前景展望》,《中国法学》2020年第6期,第5-23页。

[20]参见陈甦、田禾主编:《中国法院信息化发展报告 No.4(2020)》,社会科学文献出版社2020年版,第9-15页。

[21]徐隽:《网上纠纷网上解——杭州互联网法院成立一年多来再造诉讼流程》,《人民日报》2018年9月25日,第9版。

[22]参见李林、田禾主编:《中国法院信息化发展报告 No.1(2017)》,社会科学文献出版社2017年版,第16-19页。

[23]参见蔡立东:《智慧法院建设:实施原则与制度支撑》,《中国应用法学》2017年第2期,第19-28页。

[24]参见林洋:《互联网异步审理方式的法理思辨及规则建构》,《甘肃政法学院学报》2020年第4期,第115-128页。

[25]参见刘品新:《智慧司法的中国创新》,《国家检察官学院学报》2021年第3期,第97-98页。

[26]See Rebecca Crootof,“Cyborg Justice and the Risk of Technological-Legal Lock-In”, Columbia Law Review, Vol.119, No.7(2019), p.233.

[27]参见[美]尼尔·波斯曼:《技术垄断:文化向技术投降》,何道宽译,中信出版社2017年版,第121页。

[28]参见《江苏省司法行政开启“智慧法务”新格局》,http://e-gov.org.cn/article-161190.html,2022年3月26日访问。

[29]参见《重庆警方与多家知名互联网企业签订警务战略合作协议》,http://www.cq.xinhuanet.com/2018-08/25/c_1123327566.html,2022年2月4日访问。

[30]参见叶子:《“智慧司法”开启法律服务新时代》,http://politics.people.com.cn/n1/2018/0126/c1001-29788592.html,2022年3月26日访问。

[31]参见刘品新:《智慧司法的中国创新》,《国家检察官学院学报》2021年第3期,第97-98页。

[32]参见赵志刚、金鸿浩:《智慧检务的演化与变迁:顶层设计与实践探索》,《中国应用法学》2017年第2 期,第29-38页。

[33]《最高人民法院关于加快建设智慧法院的意见》指出,“为了以信息化促进审判体系和审判能力现代化,努力让人民群众在每一个司法案件中感受到公平正义,制定本意见”。

[34]参见刘品新:《法律与科技的融合及其限度》,《中国检察官》2018年第15期,第78-79页。

[35]参见孙笑侠:《司法信息化的人文止境》,《法学评论》2021年第1期,第26页。

[36]参见孙笑侠:《司法信息化的人文止境》,《法学评论》2021年第1期,第27页。

[37]See Sarah Giest ,“Big Data for Policymaking: Fad or Fast Track?”, Policy Sciences, Vol.50, No.3(2017), p.367.

[38]参见孙笑侠:《司法信息化的人文止境》,《法学评论》2021年第1期,第26页。

[39]参见刘品新:《智慧司法的中国创新》,《国家检察官学院学报》2021年第3期,第99-100页。

[40]笔者在数个智慧司法的研讨会中谈及此话题,遇到了技术公司的反驳,其认为技术公司只是遵照技术服务合同而并未有影响司法的意图,技术依赖的观点是一种“有罪推定”。

[41]参见王禄生:《我国司法改革的内卷化风险及其治理》,《法商研究》2022年第3期,第16-29页;郑曦:《人工智能技术在司法裁判中的运用及规制》,《中外法学》2020年第3期,第674-696页。

[42]参见张凌寒:《算法规制的迭代与革新》,《法学论坛》2019年第2期,第16页。

[43]See Richard M. Re & Alicia Solow-Niederman,“Developing Artificially Intelligent Justice”, Stanford Technology Law Review, Vol.22, No.2(2019), p.276.

[44]参见刘奕群、吴玥悦:《信息化与智能化:司法语境下的辨析》,《中国应用法学》2021年第2 期,第15-30页。

[45]参见上海市第一中级人民法院行政判决书,(2018)沪 01行初216号。

[46]《因为电子眼,他们曾走上法庭》,https://news.dahe.cn/2021/03-17/813124.html,2022年3月12日访问。

[47]国际标准化组织(International Organization for Standardization,ISO)与国际电工技术委员会(International Electronical Commission,IEC)联合制定并持续更新“ISO27k”,统一电子数据的实践操作和司法鉴定程序;中国司法部司法鉴定管理局制定了《手机电子数据提取操作规范》( SF/Z JD0401002-2015)、《数据库数据真实性鉴定规范》( SF/Z JD0402002-2015)、《计算机系统用户操作行为检验规范》( SF/Z JD0403003-2015)、《即时通讯记录检验操作规范》( SF/Z JD0402003-2015)等取证规范。

[48]吴颖:《无锡抓拍乱按喇叭:声呐+电子眼实时定位,准确率超95%》,http://www.ourjiangsu.com/a/20180608/1528447265913.shtml,2022年3月12日访问。

[49]See Anna Brown, Alexandra Chouladechova, Emily Putnam-Hornstein, et al.,“Toward Algorithmic Accountability in Public Services: A qualitative Study of Affected Community Perspectives on Algorithmic Decision-making in Child Welfare Services”,Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, pp.1-12.

[50]See Anna Brown, Alexandra Chouladechova, Emily Putnam-Hornstein, et al.,“Toward Algorithmic Accountability in Public Services: A qualitative Study of Affected Community Perspectives on Algorithmic Decision-making in Child Welfare Services”,Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, pp.1-12.

[51]例如,《中华人民共和国个人信息保护法》第24条规定:“通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”对个人权益有重大影响的决定,个人有权拒绝“仅通过自动化决策”的方式作出,个人信息处理者需在决策过程中保证有人类的实质性参与。

[52]参见[美]尼尔·波斯曼:《技术垄断:文化向技术投降》,何道宽译,中信出版社2017年版,第89页。

[53]参见[美]尼尔·波斯曼:《技术垄断:文化向技术投降》,何道宽译,中信出版社2017年版,第101页。

[54]参见郑曦:《证据规则体系及其中国构建》,《证据科学》2016年第2期,第192页。

[55]当前,类案检索信息平台在中央一级有中国裁判文书网和法信平台。前者主要涉及司法裁判文书公开和汇编,截止目前已有9887万份文书;后者则更具分析性,提供了专门的“类案检索”和“同案智推”等功能。地方各级有北京市高级人民法院的睿法官系统和办公平台的智能搜索系统、上海市高级人民法院牵头的“206系统”、安徽省高级人民法院的“类案指引项目”、贵州省高级人民法院的类案裁判标准数据库、重庆市高级人民法院的类案智能专审平台、厦门市湖里区人民法院的“全在线”诉讼平台等。商业类案检索平台有北大法宝、威科先行、元典智库、无讼等。

[56]参见《美国联邦法院2020年年终报告》,黄斌、杨奕译,《人民法院报》2021年1月8日,第8版。

[57]See Charles W. Joiner,“Limiting Publication of Judicial Opinions”, Judicature, Vol.56, No.5(1972), p.195.

[58]《最高人民法院关于统一法律适用加强类案检索的指导意见》(2020年)第4条规定:“除指导性案例以外,优先检索近三年的案例或者案件;已经在前一顺位中检索到类案的,可以不再进行检索”。

[59]最高人民法院制定的《中华人民共和国人民法院法庭规则》(2016年)第3条规定:“有新闻媒体旁听或者报道庭审活动的,旁听区可设置专门的媒体记者席。”第17条规定,全体人员在庭审活动中不得“对庭审活动进行录音、录像、拍照或者使用移动通信工具等传播庭审活动”。

[60]参见左卫民:《反思庭审直播——以司法公开为视角》,《政治与法律》2020年第9期,第98页。

[61]参见《最高人民法院远程视频接访规则》;《山东法院全面推广远程视频接访,相隔两百公里信访群众与高院法官“面对面”》,http://sd.sina.com.cn/news/2020-01-09/detail-iihnzhha1275560.shtml,2022年6月1日访问。

[62]参见《最高人民法院关于人民法院在互联网公布裁判文书的规定》(2016年)。

[63]参见张玉洁:《智能量刑算法的司法适用:逻辑、难题与程序法回应》,《东方法学》2021年第3期,第14页;左卫民:《AI法官的时代会到来吗——基于中外司法人工智能的对比与展望》,《政法论坛》2021年第5期,第4页;王禄生:《智慧法院建设的中国经验及其路径优化——基于大数据与人工智能的应用展开》,《内蒙古社会科学》2021年第1期,第104页。

[64]参见张咏华:《媒介分析领域的重要理论成果——贝尼格的“控制革命”论评析》,《新闻大学》2000年第4期,第29-33页。

[65]See Alicia Solow-Niederman, YooJung Choi, and Guy Van den Broeck,“The Institutional Life of Algorithmic Risk Assessment”, Berkeley Technology Law Journal, Vol.34, No.3(2019), p.705.

[66]See Ayelet Sela,“e-Nudging Justice: The Role of Digital Choice Architecture in Online Courts”, Journal of Dispute Resolution, Vol.2019, Issue 2(2019), p.127.

[67]参见王禄生:《司法大数据与人工智能技术应用的风险与伦理规制》,《法商研究》2019年第2期,第107页。

[68]See Nicholas Carr., The Glass Cage: Where Automation is Taking Us, Random House,2015, p.43.

[69]参见季卫东:《人工智能时代的司法权之变》,《东方法学》2018年第1期,第132页。

[70]See Ben Green, “The Flaws of Policies Requiring Human Oversight of Government Algorithms”, Computer Law & Security Review,Vol.45,(Jun.,2022), p.105681.

[71]See Frank Pasquale,“A Rule of Persons, Not Machines: The Limits of Legal Automation”, Geogetown Washington Law Review, Vol.87, No.1(2019), p.1.

[72]参见刘奕群在“网络智能服务算法:公平性、责任性与透明性”会议上的发言,https://www.cs.tsinghua.edu.cn/info/1088/4823.htm,2022年5月4日访问。

[73]参见刘峥、何帆、李承运:《人民法院在线诉讼规则的理解与适用》,《人民司法》2022年第19期,第33-39页。

[74]参见季卫东:《人工智能时代的司法权之变》,《东方法学》2018年第1期,第132页。

[75]参见魏斌:《智慧司法的法理反思与应对》,《政治与法律》2021年第8期,第116页;高童非:《数字时代司法责任伦理之守正》,《法制与社会发展》2022年第1期,第151页。

[76]See Lawrence B. Solum,“Artificially Intelligent Law”, http://papers.ssrn.com/SoL3/papers.cfm?abstract_id=3337696,2022年4月20日访问?

[77]See Charles Helm, Mario Morelli,“Stanley Milgram and the Obedience Experiment: Authority, Legitimacy, and Human Action”, Political Theory, Vol.7, No.3(1979), pp.321-345.

[78]参见张旭:《技术时代的责任伦理学:论汉斯·约纳斯》,《中国人民大学学报》2003年第2期,第66页。



    进入专题: 智慧司法   技术依赖   算法决策   司法公开   司法责任制  

本文责编:admin
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 理论法学
本文链接:https://www.aisixiang.com/data/138514.html
文章来源:本文转自《法制与社会发展》2022年第4期,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统