摘要：数字政府的运行依赖于人工智能技术，而人工智能在世界运行规律、认知模式和决策模式上都与传统政府存在根本差异。这些差异意味着，传统正当程序虽然能够约束政府权力，却难以约束数字政府中的算法权力。人工智能在三个层面影响传统正当程序。一是人工智能基于相关关系运行算法，传统正当程序以因果关系审查权力正当性，这一冲突弱化了审查效果；二是人工智能对社会整体结构、人类价值判断和社会网络的认知出现化约错误，数字政府据此容易作出错误决策；三是人工智能的决策包含难以解释的“暗知识”，弱化政府决策的理性程度。重塑正当程序的路径包括：首先，要审查三种类型的相关关系，以减少相关规律对程序正当性的弱化；其次，在涉及社会事实的决策中排除自动化决策，以减少认知错误对决策正当性的弱化；最后，扩张正当程序的规制范围，设置数字政府的三种强制性算法解释义务，减少人工智能对公共权力行使及决策正当性的影响。
关键词：人工智能 数字政府 正当程序 算法权力 算法解释
作者简介：彭涛，法学博士，西安交通大学法学院教授
一、问题的提出
推动数字政府建设已成为政府改革的一项基本任务。数字政府要求政府履职数字化、智能化，势必要求推进人工智能在政务领域的应用。[1]随着人工智能嵌入数字政府，行政权力影响社会的方式也发生改变，并引发政府治理方式的变革。与此同时，人工智能在数字政府中的大规模应用也带来新的法律问题。
近年来，围绕传统正当程序在数字政府中对公权力的约束效果及其理论调适的讨论逐渐成为焦点。学界围绕人工智能削弱正当程序有效性的问题，提出了不少针对性的解决方案，如强调算法设计以改良正当程序的“算法设计论”、[2]强调数据透明以改良正当程序的“数据透明论”、[3]强调通过数字主体法律权利与责任的约束以改良正当程序的“法律权利与责任论”、[4]以及强调通过增强相对人的技术能力以改良正当程序的“技术性正当程序论”。[5]这些方案本质上是通过改善数字行政的关键要素，从而应对正当程序约束行政权力效果弱化的问题。这些方案的特点在于“以提升行政相对人的信息能力为出发点，以法律规范纠正技术的自我优待为落脚点”，[6]其努力的方向在于将正当程序规制的范围扩张至依托算法预测作出的个案决定。[7]但是，这些方案也存在理论缺陷：（1）公众（行政相对人）掌握信息的能力难以匹配人工智能的发展。既有方案试图通过赋能公众，提高其信息能力，使他们能够理解人工智能并挑战自动化系统的决定。[8]然而，由于算法技术的复杂性和“黑箱”特性，公众难以真正掌握这些技术，最终可能被人工智能所操控。（2）试图改善数字技术以提升程序正当性的方案，仅是技术性地改进了传统正当程序，而非对其进行根本性调整，因而无法彻底解决问题。既有解决方案主要是将正当程序的三项核心要素在自动化决策系统的算法设计中继续适用，[9]实际上是以数字化技术强化传统正当程序中的排除偏见、听取意见和说明理由，并未根据人工智能的底层逻辑重塑正当程序。
总之，既有方案忽视了人工智能与物理世界在底层逻辑上的差异，更忽视了数字政府与传统政府在认知模式与决策模式上的差异，无法从根本上解决正当程序在数字政府中约束力弱化的问题。本文旨在揭示数字政府与传统政府在正当程序底层逻辑上的差异，并在此基础上归纳数字政府中影响正当程序效果的核心因素，进而提出在数字政府中重塑正当程序的具体规则。
二、数字政府中正当程序的范式转换
正当程序在传统行政范式中长期发挥着制约公权力的核心功能，但传统政府与数字政府在认知结构和决策模式上存在根本差异。此种差异，既是人工智能弱化正当程序规范效力的深层根源，也是重塑正当程序的逻辑起点。作为数字政府的技术底座，人工智能形塑了其运行的基本底层逻辑。此处所谓“底层”，系指政府所赖以存续的物理世界及其管理所指向的社会实态，呈现“一体两翼”之格局：“一体”乃世界运行的普遍规律，“两翼”则分别是政府认知社会的方式与管理社会的决策范式。数字政府的“一体两翼”逻辑与传统政府迥然有别，而正当程序底层逻辑的范式转换正是人工智能引致正当程序功能衰减的核心原因。
（一）世界运行的因果规律与相关规律
正当程序起源于数字时代之前的传统社会，当时人们认为世界的主导规律是因果规律，即世界运行在有因才有果的基础上。传统政府的认知方式和决策模式都受因果规律的影响，数字政府的认知方式和决策模式则受人工智能的相关规律影响。因果规律与相关规律的差异，是传统政府正当程序与数字政府正当程序出现差异的根本原因。
因果规律是一套自然界本体运行的内在机制，它对事物发展规律有一定预判性，也被称为决定论。决定论在法国天文学家和数学家拉普拉斯那里发展至顶峰，他认为只要有适当的参数，就可以计算出宇宙包括其中任何一个原子的过去和未来。[10]这种观点被称为“严格决定论”，并被升华为“牛顿—拉普拉斯信条”，即在对物理环境有充分认知的条件下，每一个物理事件都可以被精确预测或追溯。决定论构成传统正当程序的底层逻辑，根据决定论，只要遵循以时间为序的程序性行为，就能产生符合正义标准的程序性结果。因而，法院对行政行为进行正当程序审查时，主要考察行政行为在时空维度中所展现出的样态。[11]依循时空序列展开的正当性审查，无论采内部路径抑或外部路径，都遵循因果关系规律。程序的运行以因果链条为基本依托，一旦程序参与者提交程序性证据，就会产生相应的程序性法律效果。诚如学者所论，除非程序本身存在显著不公，否则当事人通常难以抗拒程序衍生的法律后果。[12]正当程序从程序性规定向实体性规定演进之后，亦未脱离因果规律的支配。实体性正当程序的核心功能在于保障宪法未明确列举的公民权利，其所保护的权利范围，往往取决于特定时期国家的社会经济发展程度；[13]正是基于此种依存关系，权利保护制度与正当程序的具体内容方得以因应时代需求而持续更新。[14]换言之，只要立法条款依据历史性社会因素加以制定，其法律实施就能产生保护公民权利的正当结果。因此，程序性正当程序与实体性正当程序，都自然而然地遵循着因果规律的基本约束。
与因果规律不同，数字时代人工智能的运行逻辑主要基于数据之间的相关关系，甚至在一定程度上是反因果规律的。这种逻辑差异弱化了传统正当程序规则在数字政府中对公权力的约束效果。在数字时代，世界运行的因果规律面临来自相关规律前所未有的挑战。英国学者舍恩伯格指出，在大数据时代，数据处理理念的最大转变之一就是放弃对因果关系的追求，只需要关注相关性或相关关系。[15]在科学解释的实践中，一些非因果解释理论已经能够清楚地解释现象的不同特征，并提供对现象本质的见解。[16]因此，因果规律能否继续在人工智能时代作为世界运行的基本规律开始遭受普遍质疑。
人工智能时代相关规律替代因果规律的结论，不仅仅是社会科学中的逻辑推理或哲学推论，也得到自然科学研究成果的支持，尤其是对人工智能的未来发展有决定性影响的量子科学。量子科学对相关规律的支持体现在两个层面：（1）物理理论层面，量子科学的发展证明因果规律不是世界运行的唯一规律，相关规律亦是一种重要的世界运行规律。量子理论颠覆因果规律的主要原因在于微观粒子的状态会叠加，即量子叠加态，这说明世界存在不确定性，动摇了传统物理及哲学理论中的确定性。在量子理论创立之初，德国物理学家海森堡就明确表示，“因果规律在量子论中不再适用”。[17]现代科学彻底抛弃了决定论，因果规律与相关规律成为并行的世界运行规律。（2）人工智能技术基础层面，量子计算机强化了相关规律在人工智能中的作用。量子方法逐渐兴起，并成为人工智能领域的一种新型方法论。[18]量子机器学习建立在量子理论相关规律之上。量子计算机的发展使这些规律在人工智能中的作用得到强化，进而影响数字政府的运行机制。
总体来看，随着技术演进，在数字政府治理中，严格的因果规律已非唯一的主导规律，数字权力的运行在更大程度上受到相关关系的影响。因此，数字政府将客观对象数据化的过程，本质上也是传统世界被量化为数据并逐步纳入相关关系作用框架的过程。人工智能的运行结果与数字政府的权力运作，均将受到相关关系的决定性影响
（二）认知模式的整体与局部
传统政府对世界及社会的认知由公务人员的认知模式决定，即人类的认知模式决定了传统政府的认知模式，而数字政府的认知模式受到人工智能技术的决定性影响。人工智能的认知模式决定了数字政府的认知模式，进而对政府的决策能力与决策效果产生根本性影响。从认知模式来说，人类认知是一种整体的连续性认知，而人工智能的认知是基于非连续性的数据，数据具有局部性，因而人类的认知与人工智能的认知存在根本差异。
首先，人类在认知过程中有选择性地直接抓取所认知物体的大范围不变的性质，但忽略了事物大量的局部特征。有研究指出，人类认知基本单元的共同本质是整体认识，即“同一不变性和整体性——可以定义为容限空间上的大范围拓扑不变性质”。[19]这说明，人类认知的基本单元不是人工智能计算的符号，也不是信息的比特，而是某个事物的整体。美国认知心理学家卡尼曼将人脑的认知定义为知觉组织形成的“知觉物体”。[20]例如，当人们观察一匹马时，其所关注的是作为一个知觉物体的整匹马，而非马的某个特性，如形状、大小、位置、颜色等。奔跑中的马与静止中的马相比较而言，各种具体的特征在变化，但是它们是同一个知觉物体，其固有性质并未发生实质变化。不同于人类的整体感知，人工智能在认知“马”时，是通过将其拆分为不同的数据元素来进行分析计算的。基于人类认知与人工智能认知的本质差异，人类的认知能力无法被人工智能替代。
其次，人工智能对世界的认知要么是局部的数据点、段或面，要么是局部的数据点、段或面通过计算信息比特之后“拼”成的整体世界，这种方式难以准确把握世界的内在联系及其宏观性质。因为，人工智能的认知是通过计算而实现的，“机器学习算法的本质就是选择一个万能函数建立预测模型”。[21]这种通过训练得到的预测模型实际上将训练样本集的空间分布编码到庞大的参数集中，本质上是将整体客观事物拆解为局部数据。因此，计算的最小单元“数据”就构成人工智能认知的最小单元。只有每一个计算的数据都可以与其他数据分割，并形成相互独立的单元，才能进行运算。加之大数据分析强调“样本1+样本2+…样本N=总体”的全归纳法，这就导致人工智能在认知中以“局部”替代“整体”或者以“局部+局部”的方式得到一个近似的整体。在这种认知模式之下，人工智能难以对社会有准确的整体性认知，“社群意识”[22]成为人工智能对人类社会的认知，即人工智能将社会分解为若干个社会群体意识的样本之和，而非在整体上认知社会。数字政府对社会的管理需要将社会公众作为“共同体”来考虑，而人工智能能够认知到的社群显然不足以作为可靠的政府决策依据。
因此，人工智能在准确认知人类社会的若干深层社会事实上存在根本性局限。这类事实涵盖社会整体结构（如地位、角色、群体、组织与制度）、人类价值体系（如道德、宗教与价值观）以及社会网络（由个人或组织构成的节点及其相互关系）。它们独立于个体意识而存在，具有外在强制性与普遍性，其形成依赖于集体行动或制度性建构，故而对这类社会事实的认知，必须以人类社会的整体认知为基础，而非仅凭个体层面的数据推演。
（三）决策的理性与相关性
传统政府要求政府决策基于理性作出符合社会认可的决策。理性的决策有一定的形式要求，如《重大行政决策程序暂行条例》第5、6、7条对政府决策合理性的基本要求包括判断决策是否具有科学性、民主性与合法性。据此，政府有义务向公众解释决策的科学原理、民主过程以及法律依据，以获得公众支持。数字政府在运用人工智能作出决策时，其决策结果主要源于对不同数据单元之间相互关系的计算，这与传统政府所强调的理性决策存在本质差异。人工智能基于相互关系的认知模式，使决策中出现了所谓的“暗知识”，[23]许多决策只知结果却不知原因。也就是说，数字政府基于人工智能而产生的决策结果具有一定的不可解释性，因此难以向公众说明决策的合理性，进而导致决策违反正当程序。[24]例如，在“威斯康星州诉卢米斯案”[25]中，法院就认为司法系统使用的预测刑事被告是否有再犯风险的COMPAS算法存在不可解释的“暗知识”，该系统“没有披露风险评分是如何确定的，也没有说明各因素是如何权衡的”。因此，被告及其辩护律师难以对算法预测的结果形成之依据进行实质性审查，这削弱了正当程序对权力滥用的控制作用。这表明，基于“暗知识”运行的算法决策虽然在统计意义上具有一定预测能力，但算法的不可解释性使行政相对人难以行使知情权与抗辩权，进而动摇了正当程序中“说明理由”这一核心要求。因此，在数字政府中，仅依赖算法输出而缺乏解释机制的决策模式，难以满足程序正当性的基本标准。
当然，“暗知识”在数字政府决策中利弊并存。一方面，“暗知识”不是无用的知识，“暗知识”可以帮助数字政府更好地决策。“暗知识”能够帮助人类“提高作出有效决策的能力”。[26]人工智能可以让人类利用自己都不理解的“暗知识”去解决问题，而且这些“暗知识”从总量上说将远远超过人类已经积累和尚未发现的知识，这极大地扩展了数字政府解决问题的知识储备及能力。另一方面，“暗知识”的存在导致基于人工智能的自动化政府决策可能存在决策上的不理性之处。例如，海南省儋州市一位八旬老人在完成高龄补贴线下审查认证后，政府的自动化系统却连续4个月判定其“已死亡”，导致其高龄补贴被停发。该误判源于系统训练数据中存在历史死亡案例特征偏差，算法基于相关性的“暗知识”而判断老人已经死亡，从而作出了与客观事实严重背离的自动化决策。[27]
为了解决“暗知识”所衍生的问题，通常做法就是让公众理解算法，从而将“暗知识”变成“明知识”。有学者试图通过向行政相对人、利害关系人和公众赋能，使他们有机会和能力知悉、理解乃至挑战自动化系统的决定。[28]但是，个人不一定有充分的能力和意愿理解人工智能的运行逻辑，尤其是技术“黑箱”的存在，即使是一些人工智能技术专家也难以判断数字政府的算法是否侵犯了个人权益。因而，在人工智能技术日新月异的时代，认为个人理解算法后“暗知识”就会变得透明的观点并不符合实际。政府掌控的信息难以完全公开，算法中可能存在涉及公共安全而需要保密的内容，这使个人难以在数字行政中预先获得“被听取意见的机会”，[29]而相对人能否在行政决策过程中有效发表意见则是正当程序的主要内容之一。数字政府依赖人工智能，那些基于“暗知识”而聚集资源的机构或个人，可能影响权力的分配、社会的公平和正义，传统社会固有的价值体系也可能因此发生重大变化。
三、人工智能影响正当程序效果的主要因素
正当程序能够有效约束行政权力的根本原因在于传统正当程序与传统政府权力运行的逻辑高度契合。据此，正当程序对数字政府权力约束效果弱化的根本原因在于数字政府的“一体两翼”与传统政府架构有所区别，从而使传统的正当程序无法完全适应数字政府的运行实践。
（一）人工智能对正当程序的相关因素判断标准的影响
传统正当程序基于因果关系而确定相关因素的判断标准，因而判断其是否属于相关因素的主要依据是“影响因素”和“程序运行结果”之间是否存在因果关系。这一判断依据的目的在于避免偏私，[30]具体做法是在行政程序中排除不相关因素对程序运行结果的影响。这一判断依据的理论基础在于传统正当程序假设世界具有确定性，而确定性往往源于因果规律。这就使得传统正当程序主要审查能够对行政行为主体的主观方面产生影响的那些因素，划定这些因素的标准主要是依据因果关系而产生的利益影响因素。基于此逻辑，只要在行政程序中排除不利于实现公正的主观因素对程序的影响，程序的运行结果就可能是公正的，或者至少是一种最低限度的程序公正。基于因果关系而划定的影响因素范围比较小，因此传统正当程序并不审查基于相关规律而需要审查的因素，如人际关系中的弱连接关系。而弱连接关系在现代社会却对社会产生重要影响，在某些情况之下对人的主观方面的影响甚至强于血缘等强人际关系。这样基于因果关系的正当程序就会遗漏了需要基于相关关系而审查的一些对程序结果有重要影响的相关因素。
自21世纪初起，越来越多的科学哲学家意识到科学解释并非全部都基于因果关系，还存在一些非因果关系的解释。对因果关系的质疑主要分为三种不同观点：（1）“完全差异说”。持该观点的学者认为因果关系与相关关系是两种完全不同的关系，在人工智能领域因果关系已经被相关关系所替代，“大数据时代最重要的认知变革就是由探究事物的因果关系转向关注相关关系”。[31]还有学者甚至认为，只要拥有足够充分的数据，就能建构所需要表达的事实，因而有相关关系就足够了，“科学甚至可以没有连贯一致的模型、统一的理论，或者实际上可以完全没有任何机制性解释而继续发展”。[32]（2）“综合说”。持该观点的学者主张因果关系与相关关系各自发挥作用，指出“大数据分析并非完全放弃对因果关系的追求，其所关注的相关性是对因果关系的逼近和靠拢，是在无法确定因果关系时的一种折中”。[33]（3）“部分差异说”。持该观点的学者主张，强相关关系被因果关系所包容，只是强相关关系与传统的因果关系有差异之处。这种观点主要是将因果关系进行重新解释，进而将相关关系纳入因果关系之中，认为相关关系“是因果关系的派生关系，包括因素之间、结果之间以及因素和结果之间的关系等”。[34]综合上述观点，无论是否定因果关系的普遍性，还是仅承认其局部有效性，均揭示出如下规律：在人工智能时代，因果规律作为世界运行的基本规律之一，已不再是解释世界的唯一范式。而相关关系，尤其是强相关关系，已显示出超越因果关系的解释力，它不依赖因果机制的预设，仅凭经验层面的高度关联即可提供有效的解释，这构成了一种不同于因果分析的认识论路径。
相关关系是人工智能算法运行的底层逻辑，深刻影响着对传统正当程序中相关因素判断标准的认识。由于传统正当程序中判断相关因素是基于因果规律，故相关因素的范围与数量都比较小，这就导致一些符合相关规律的相关因素并没有被纳入正当程序的审查范围。当我们继续以传统正当程序规制数字政府决策时，尤其是在数字政府使用算法进行自动化决策时，就可能出现一些表面上符合正当程序的形式正确的行政行为，在与相关的社会数据进行相关性审查之后，被发现存在实质性错误的情形。例如，在交通行政管理领域，曾出现过行政机关根据电子监控设备抓拍的闯红灯视频影像对已去世的人作出行政处罚的情形。[35]行政机关实施自动化行政执法行为，但其合法性审查仍遵循传统正当程序的框架，即主要审查处罚程序是否存在影响程序公正的情形。然而，该审查模式所依据的考量因素，均建立在因果关系的逻辑之上，未能涵盖与被处罚人具有相关关系的户籍信息，该信息因被处罚人死亡已被依法注销。这一核心审查因素的遗漏，最终导致行政处罚结果出现常识性错误。
基于此，约束数字政府的正当程序需要考虑人工智能的相关规律，确定纳入正当程序考量的相关因素范围。从人工智能的相关规律来看，这些相关因素至少包括相关关系、弱连接关系以及伪相关关系，这些都是可能影响数字政府决策合法性的相关因素，应当纳入正当程序的审查范围。
（二）人工智能认知社会的模式对正当程序的影响
人工智能的底层逻辑决定了其认知模式存在局部性的缺陷，即难以准确把握需要人类整体认知能力才能认知到的社会事实。这是因为，数字政府的权力具有双重结构，即传统政府所拥有的具有强制力的行政权力以及以人工智能为基础的算法权力。这使数字政府在认知社会事实时会出现对社会事实的双重简化，最终导致对社会事实认知的化约错误。（1）第一重简化源自政府的行政权力行使方式。由于行政权力由代表国家的行政机关行使，而行政管理的目标通过清晰化与简单化实现。[36]基于此，政府行使权力时，应当着重关注那些能够被有效管控的社会构成要素，如人口、土地、企业、矿产资源等。这些要素直接关系税收、社会福利及国家安全等核心治理议题。然而，在行政管理实践中，行政机关往往会在一定程度上忽略社会网络、社会心理、风尚潮流等与管制对象关联较弱但在特定条件下却可能对社会发展产生重要影响的要素。（2）第二重简化源自政府的数字技术。大数据是人工智能的核心技术，而大数据技术天然具备简化社会的缺陷。大数据分析的过程大致可分为六个阶段，包括业务理解、数据理解、数据准备、建模、评估、部署。[37]其中，建模最为关键。人工智能系统的运行，除部署应用环节外，其余环节均围绕建模展开。建模是对现实世界数据特征的抽象。因此，人工智能建模的过程，既是对社会事实的化约，也内在地形成了化约错误。当传统行政权力对社会的化约与算法权力经由建模所实施的化约叠加时，数字政府便形成了对社会的双重化约。双重简化可能导致人工智能在认知社会事实并作出决策时出现以下三个方面的错误。
第一，人工智能使得数字政府对社会的整体结构产生认知偏差，难以准确把握社会结构中的社会组织等机构的作用及构成。究其原因在于，算法以个体的现象或众多个体的现象来解释整体的社会，大数据本质上是对事物“抽样”的技术，而不是对事物整体认知的技术。数字技术试图通过个人的数据来认知社会整体，但这两者之间存在鸿沟。人工智能的算法设计无法克服数字政府对社会整体的认知缺陷，这就需要利用人的整体认知能力来弥补人工智能认知的不足。有学者认为，人工智能不可能完全替代人类的工作，“因为人类拥有独特的判断力，能够应对那些机器无法理解的情况”。[38]虽然人工智能能够对局部数据作出快速响应与判断，但在涉及社会整体认知、需要综合多方价值与宏观态势进行决策时，人工智能决策的可靠性和稳健性则会显著下降。
第二，人工智能使数字政府难以准确认知含有人类价值判断的概念。政府的行政目标往往含有人类的价值判断，如“社会文明程度明显提升”“美丽中国建设取得新的重大进展”等社会发展目标就包含基于中国人民整体利益的社会价值判断。但人工智能将社会割裂为原子化的个体进行认知，进而基于原子化的个体拼凑出社会整体。这导致数字政府通过人工智能对社会价值的认知存在不准确性，尤其是人为创造出来的安全、幸福等描述社会价值的概念，这些概念存在数据计算与语言描述之间的差距。由于这些概念包含对人类社会整体的价值判断，普遍难以被量化，“一个可以结出累累硕果的人类行动分析，包括经济行动，要求我们避免隐含的原子化观点”。[39]因而，人工智能的认识方式导致数字政府在面临价值观判断时难以作出准确的决策。
第三，人工智能难以对基于人际交往而形成的社会网络进行有效认知，这构成数字政府治理能力的一块短板。须知，在任何文化环境中，个体行为均不同程度地受社交关系、群体认同、地位声望和权力获取等非经济动机驱动，而此类动机的复杂性远超当前人工智能模型的解析范畴。很难想象人们在社会生活中，仅仅追求经济收入的增长，而不考虑自己在社会网络中的作用及地位。人在社会中的作用与地位只有基于社会网络才能实现，这就需要综合考虑个人与他人之间连接的整体性及综合性样态。大数据技术通常只能将社会中的局部因素数量化并加以计算，却难以解决那些无法量化的社会网络问题。例如，有的地方政府推出人工智能服务平台，宣称可提供“政策咨询+生活服务”双重支持。在实际测试中，人工智能虽然对“企业注册流程”“独生子女一次性奖励政策”等简单社会数据作出快速回复，但是当被问到“已经到了退休年龄，社保缴纳不满15年应该怎么办”这类需参考个人在社会网络中的职业、收入、工作年限、当地的社会保障条件等因素才能准确判断的问题时，人工智能却提示“知识库中没有具体列出，建议联系社区”。[40]
总之，人工智能的缺陷使数字政府在认知社会整体结构、人类价值、社会网络等社会事实时，必然出现双重简化。这导致数字政府基于这些简化的事实作出的决策可能出现错误。这就需要正视数字政府底层运行逻辑中的缺陷，并据此修正正当程序的内容。
（三）人工智能的决策模式对正当程序的影响
传统政府的决策模式主要基于民主集中制，这种决策模式受到因果规律的严格约束。有学者认为，“只要把每个程序都踏踏实实走好，就不用担心决策质量”。[41]这是因为在决策过程中会有众多的决策参与者把关。这种决策模式的前提是决策参与者之间的信息透明与充分沟通。但数字政府的决策基于人工智能技术，加之“暗知识”和技术“黑箱”的存在，信息难以实现透明化。人工智能在技术上存在难以避免的“暗知识”和技术“黑箱”，而算法“黑箱”这种缺乏透明性的决策机制会“引发严重的正当程序问题”。[42]当行政决策依赖不可解释的算法模型时，即使算法在技术上具有一定合理性，也可能违反正当程序的基本要求。正当程序要求政府决策过程可被理解、可被质疑、可被参与，但人工智能基于统计相关性而非因果逻辑运行，其“暗知识”产生于海量参数的相关性计算中，这导致行政机关自身难以说明决策理由、相对人无从有效抗辩。因而，数字政府以技术的工具理性替代传统政府基于人的交往理性而决策之时，正当程序便面临被解构的风险。
公众在特定情境下仅关注政府决策的效用与效能，而对政府决策解释之有无未必予以重视。由于政府决策经常涉及公共安全和公共政策，“不可解释”就意味着有些决策理由无法与大众沟通，这也导致公众无法充分信任人工智能作出的决策，进而削弱公众对政府的信任。尤其是人工智能基于其所产生的“暗知识”而作出的决策存在不可解释性，导致政府的政策解释能力弱化。如果政府无法解释其所采取政策的原因，社会公众就可能对政策保持排斥态度。因而，对于政府决策来说，说明理由不仅仅是取得公众信任的前提，也是依法行政的基本要求。即使政府基于人工智能的“暗知识”而作出决策，该决策也需要政府对决策产生的原因以及可能产生的后果进行解释，从而提升政策的合法性基础。从理论上来说，即使是难以解释的“黑箱”模型，如深度学习算法的深层神经网络，也有一些研究尝试改善其可解释性，主要途径是从神经网络中抽取易于理解的符号规则，[43]只是这些解释需要大量的资源投入才能实现。而政府可以调用多种资源来提升解释的实现可能性。因此，数字政府在行政过程中应当承担算法解释义务，向公众说明其应用的算法的设计目的以及社会价值层面的考量。正如学者所言，人类的智力需要参与数字政府的自动化决策。否则，就“放弃了人类凌驾于计算机之上的智力优势，是人类自身的放纵和堕落”。[44]
四、数字政府中正当程序的重塑路径
数字政府中的正当程序并非完全取代传统正当程序，而是在数字政府领域进行重塑，以适应人工智能的技术环境。同时，传统正当程序在传统行政管理领域仍然具有重要意义。正当程序只有与数字政府运行的“一体两翼”深度耦合，才能在人工智能嵌入行政决策的场域中真正发挥制度效能。
（一）正当程序针对相关关系的调适
鉴于人工智能的认知与决策受到相关关系的重大影响，数字政府中的正当程序需要增强其对相关关系的程序控制力。加之政府的决策通常指向未来，“对事物未来进程控制的意义上，相关关系比因果关系更有价值”。[45]这就要求数字政府中的正当程序在审查相关因素时，不能仅依据因果关系进行判断。正当程序还需要将与时间顺序无关的一些因素纳入考虑。在传统政府的正当程序中，相关因素的确定标准主要是决策者在作出决策之前，主观方面会受到影响的一些因果要素，因此纳入评估的相关因素范围比较有限。在数字政府基于相关关系来确定正当程序中的相关因素范围的时候，相关关系纳入考量的数据量，在时间和空间上都远远超过了因果关系中的数据量。因此，评估手段需要将“人工+AI”相结合，才能在法定时限内完成评估。“人工+ AI”模式依赖于两项技术条件：（1）政府掌控的全面数据库，为审查所有相关因素提供了数据基础；（2）人工智能的自动化决策能力，为在短时间内审查大量数据间的相关性提供了技术可能。只有这二者兼备，方能实现对相关关系的有效程序控制。也就是说，正当程序因数字政府而需要变革，而其变革的技术手段却也只能在数字政府中实现。
数字政府中的正当程序在审查相关因素之时，需要基于三类不同层次的相关关系来确定审查范围。
第一，对相关关系的审查。对相关关系的利害审查，需要审查三种不同的关系。（1）因素与结果之间的相关关系。这包括直接因素与直接结果之间、直接因素与间接结果之间、间接因素与直接结果之间、间接因素与间接结果之间的相关关系。（2）结果之间的相关关系。这包括直接结果内部要素之间、间接结果之间的相关关系。（3）因素之间的相关关系。这包括现实因素之间和潜在因素之间的相关关系。[46]上述三种不同的利害关系的审查可统一嵌入一个数字政府正当程序审查相关利害关系的场景中。例如，某市“智慧城管”系统在审查夜间施工许可时，符合正当程序要求的算法需要综合审查三类利害关系：（1）因素与结果之间的相关关系，包括审查施工噪声分贝（直接因素）与居民投诉量（直接结果）之间的关系，此处重点审查这些直接因素是否构成算法决策的直接、正当依据，是否存在数据采集或处理上的偏差；审查施工噪声（直接因素）与周边房价波动（间接结果）之间的关系，此处重点审查间接结果是否在算法设计预期之内，若超出预期，是否构成算法决策的错误、是否需要进行程序性补救；审查社交媒体对“城市夜经济”的讨论热度（间接因素）与审批通过率（直接结果）之间的关系，此处重点审查该间接因素是否与决策目的存在相关性，或是否引入了不当的连接关系，从而影响了决策的公正性；审查社交媒体讨论热度（间接因素）与周边商业区夜间客流量变化（间接结果）之间的关系，此处重点审查两者之间的相关性是否被简单挂钩，是否引入了与夜间施工审批无关的外部变量。（2）结果之间的相关关系，包括对审批通过率提升带来的夜间GDP增长与居民睡眠质量下降之间的权衡。此处重点审查算法输出的多个直接结果之间是否存在内在矛盾或价值冲突，以确保决策的协调性与一致性；审查不同间接结果之间的利益平衡是否合理，是否存在顾此失彼、损害整体公共利益的情形。（3）因素之间的相关关系，即包括对当前施工企业的历史违规记录（现实因素）与该区域未来人口流入预测（潜在因素）之间进行相关性评估。此处重点审查多个现实因素之间是否存在未被算法捕捉到的相关关系，从而导致对相对人的事实认定失准；审查基于潜在因素预测的决策是否过度依赖不确定的相关关系，是否存在预测性偏见的风险。如此，三类关系便在一个具体行政场景中形成完整的审查链条，将所有需要审查的利害关系都考虑在内，数字政府作出的决策才可能符合最低程度的正义之要求。这些审查利害关系的要素范围事实上远远超过了传统正当程序审查的范围，因而在数字政府的技术条件之下，正当程序也能够得出公正的决策结果。
第二，对弱连接关系的审查。将弱连接的关系纳入程序性审查，以实现全面审查。社会关系对人的影响，除了强连带关系之外，还包括一些弱连带关系。较之强连带，新信息更容易通过弱连带传递给他人。[47]这些弱连带关系可能比强连带关系发挥出更有效的作用。例如，人们之间相互关系的深与浅，在帮助他人获得某些关键人物支持上的效用并不存在太大差别，且相较关系深度，相对较浅的关系能发挥更大的效用。[48]因此，在政府发放行政许可的过程中，如果某人想获得该许可，可能其平时在“微信好友”中并不经常来往的某个朋友能够给他提供巨大帮助。这样，政府决策中的正当程序就可能需要审查到许可申请人的“微信好友”是否对政府的许可决策产生影响以及该影响是否损害许可决策的公平性。
第三，对伪相关关系的审查。在有些情况下，两个变量之间的关系虽然是随机的，但它们之间却存在显著的相关性。这种情况被定义为“伪相关”。大数据的抽样分析本质决定了大数据并非全数据。样本中必然有部分特征没有被数据化，因而也无法被人工智能所学习。因此，大数据分析的结果在理论上必然存在偏差。只有增加对伪相关关系的审查，才能形成全面审查。
上述三种类型的相关关系，在法院审查以人工智能为基础的行政行为是否合法时具有重要作用。例如，在上海发生的“电子警察案”[49]中，对行政机关使用人工智能技术判断驾驶员是否违法使用汽车喇叭，法院基于因果关系要求从“形成过程”和“实际效果”等方面对该行为进行程序性审查。这就导致，原告提出的基于相关关系的一些可能影响行政行为正确性的要素未被法院审查。法院如果基于相关关系来确定需要审查的影响因素，就可能将所有可能影响人工智能作出错误判断的因素都纳入审查范围，从而作出更准确的判断。原告提出的“事发处摄像头上并未安装声呐设备”这一要素符合因素与结果之间的相关关系，即直接因素→直接结果，没有“未安装声呐设备”的直接结果就是警方不可能有驾驶员违法使用汽车喇叭的证据。原告提出“照片中上诉人车辆上的椭圆形黄色标记系事后叠加”这一要素符合结果之间的相关关系，即直接结果内部要素之间的关系。也就是说，照片是违法的结果之一，而照片上的“椭圆形黄色标记”也是违法的后果之一，两者应当是由电子设备同时生成才是合法的证据，而不能先生成一个，随后再叠加另一个。这种叠加就违反了正当程序要求，存在后期伪造证据的可能。因而，该案法院也意识到审查方面存在不足，在判决中不得不承认“对于技术问题，行政审判的审查强度有限”。
正当程序的审查应当将上述三种类型的相关关系都纳入审查范围，用以审查人工智能作出的行政行为是否合法。如此，基于相关关系的审查才能全面覆盖影响人工智能决策的潜在因素，进而作出符合程序正义要求的审查结论。
（二）正当程序针对人工智能认知模式的调适
人工智能认知的非连续性，决定了它对社会事实的整体认知不足。人工智能对于单个的认知单元，也许能够正确认知，但是对于多个认知单元放在一起形成的整体，可能无法正确认知。这就导致数字政府在涉及社会事实的管理中，难以做出正确决定。这类行政管理往往需要借助人类的整体认知能力才能实现。自动化决策系统在数字政府中的适用应当有一定的限制，涉及社会事实方面的决策不宜由人工智能自动作出。目前，我国存在的限制自动化决策的做法主要有以下两类：（1）涉及平台企业自动化决策的时候，要求算法推荐服务提供者“建立完善人工干预和用户自主选择机制”。[50]（2）在自动化行政决策的过程中限制自动化决策的范围与类型。例如，江苏省南通市海门区司法局在使用人工智能助手时坚持“机器辅助+人工核心”的原则；[51]再如，有的行政复议机关要求行政机关在使用自动化决策时，也要强化人工审核机制。[52]这些做法表明，行政机关已经认识到算法擅长处理孤立、原子化的个人信息，却难以理解人与人之间的关系，也无法全面预测个人与社会的互动。基于这一认识，行政机关应有针对性地调整自动化行政的范围与类型，使其符合正当程序的要求。因此，正当程序应通过制度设计来限制数字政府在涉及社会事实认知的决策中使用自动化系统。
需要在以社会事实为基础作出的决定中限制自动化决策。目前，完全排除自动化决策的明确清单尚未形成统一规范，更多是通过“辅助决策+人工决定”的混合模式来实现风险控制。这样反而影响了数字政府的自动化决策效率，这就需要将政府的决策分为两种主要类型：（1）不涉及社会事实认知的常规决策，适用人工智能驱动的快速审查程序；（2）涉及社会事实认知的决策，启动“人工+AI协同程序”，如涉及社会价值、民生政策等的决定需要设置专业委员会进行前置性评估。在最终决定阶段不允许人工智能自动化决策，即在决策过程中由于数字政府涉及的数据体量庞大，此时可以借助人工智能对数据进行梳理，但在最终决定阶段必须由人作出决定。自动化行政与人类的裁量空间可以共存于数字政府的决策过程中，只有在不需要人类裁量能力进行特定情况判断之时，自动化决策才是有利的。[53]因此，数字政府排除自动化决策的情形主要有三类：（1）涉及对社会整体认知的决策，如政府可以利用数据平台运用人工智能自动审核企业提交的扶持资金申请，但在产业政策方向调整的宏观决策中则需要排除自动化决策；（2）涉及对包含人类价值判断的社会概念认知的决策，如政府在运用人工智能对市民12345热线工单进行自动分类、派单和初步研判的同时，对于涉及“公平感”“尊严”“历史遗留问题”等社会概念认知的工单，通常将其标记为“疑难”并设置了人工终裁机制；（3）涉及对社会网络认知的决策，如政府可以在综治工作、市场监管、综合执法、便民服务中运用人工智能进行自动化网格化管理，但在宅基地等复杂矛盾纠纷的调解方案中需排除自动化决策。因为人工智能虽然可以识别“宅基地争议”这一法律事实，但无法把握宅基地争议中复杂的亲戚关系、雇佣关系、邻里关系交织的社会网络结构。
（三）正当程序对数字政府决策特性的调适
数字政府的决策涉及权力主体和行使方式两个方面。因此，正当程序的调适也应当从这两个方面展开。
1.正当程序针对公共权力扩张的调适
私主体因算法权力而拥有了“准”公共权力，这就导致传统上以约束行政权力行使的正当程序需要扩张至一些享有算法权力的私主体。为此需要将所有与数字政府有相关性的算法权力主体纳入正当程序的规制范围内，这些适用正当程序的数字权力主体主要分为以下三类：（1）完全由政府权力主导的权力主体，如数字政府以及政府成立的相关数字平台。（2）以政府为主导的各类“准政府”实体，典型的如由政府推动的各种类型的开发区，这些开发区名义上是类似于公司的主体，但实际上替代着一级政府在行使行政权力。（3）与政府有密切业务往来的数字企业，这些主体提供的数字服务对社会有重大影响，需要政府基于公共利益加强监管。实际上当前政府已经开始强化对数字服务商的监管，如要求外卖平台企业优化算法规则，[54]但这些监管缺乏严格的程序及实体标准。因而，这三类主体行使公共权力或“准”公共权力，都需要受到正当程序的约束与规范。
2.正当程序针对数字政府决策模式的调适
数字政府应确立“无解释不得作决策”的算法权力行使的基本正当程序规则。在实践中，无论中外都已经有一些要求政府承担算法解释义务的零散规定。例如，2025年西班牙最高法院作出具有里程碑意义的判决，要求西班牙政府向申请人提供其使用“BOSCO”政务算法的解释。[55]《深圳经济特区人工智能产业促进条例》第71条对公共决策领域的算法提出明确要求，即“应当采取利于公众理解的方式进行算法说明”。这是对数字政府算法解释义务相对明确的规定。目前，明确的数字政府的算法解释义务尚未被我国地方政府广泛确认，这实际上使得公众难以理解数字政府的决策原因，进而导致数字政府决策中的公众参与也难以实施。
需要增加数字政府的算法解释义务，以此提升决策理性。（1）技术层面将“暗知识”“白化”，通过可解释性技术使算法逻辑可被人类审视。“暗知识”变为“白知识”，在技术上具有可行性。将设计决策明确地编码到软件中，使“暗知识”变为“白知识”，这些决策就可以自动重新审视和重新决定。[56]（2）在权力层面以行政规制限制不可解释算法的应用范围，倒逼设计者破解算法“黑箱”。数字政府可以运用行政权力限制不可解释的“暗知识”在政府决策中的应用。这有助于促使算法设计者自行化解算法“黑箱”，再由政府向公众作出解释。（3）在制度层面确立政府自身的算法解释义务，确保人类而非算法主导权力运行。确保人工智能始终处于人类控制之下，这是我国政府目前针对人工智能的基本态度。从技术上来说，政府在运用算法时，应当有义务了解算法原理与规则。只有在充分掌握算法技术后，才能将其应用于公共决策过程，从而保证对人工智能的始终控制。具体而言，数字政府的算法解释义务主要体现在以下三个方面：
第一，数字政府原则上需要对所有政府使用的人工智能算法规则，尤其需要对那些对相对人权益加以限制或缩减的算法规则进行解释。该原则的例外是对于一些相对人单纯获益的行为可以不作解释，除非该获益导致了市场竞争的失衡。
第二，数字政府需要对私营部门参与设计并最终由政府使用的算法进行解释。在数字政府建设过程中，许多私营企业参与了算法设计。这就导致在政府权力运行所依托的部分算法中，使用者与设计者发生了分离。如果算法的使用者和算法的研发者能合二为一，对使用者来说不存在安全风险；但如果使用者并不掌握设计技术，将会对用户隐私、数据安全甚至人身财产安全产生风险。由数字政府承担算法解释义务，这样即使设计者不是政府，政府也必须了解算法设计，甚至评估实施后果。这样能避免设计者在算法中保留对自身有益的设计。
第三，数字政府需要对关涉重大社会公共利益的平台企业所采用的算法进行解释。这一过程也构成政府对巨型企业算法进行程序性规制的重要环节。企业只有先将算法向政府解释清楚，政府才能向公众作出解释。在当前针对巨型平台企业算法审查的司法实践中，尽管法院可以判决要求平台企业“负有更高的社会责任和使命”，但企业通过算法解释才能“消除消费者疑虑，为更好提升消费者对网络服务平台经营者的信任感而有所担当和作为”。[57]但是，司法判决只能针对个案，无法形成具有普遍约束力的法律规范。只有将大型企业的算法纳入正当程序的审查范围，由政府审查平台企业算法之后作出合理解释，才能更好地保护公共利益。政府审查平台企业算法后，可基于算法技术以及伦理道德对影响社会的算法进行管制，将不利于社会经济发展和公平正义保障的算法予以删除，通过政府的审查及解释程序形成对算法权力的程序规制。
【注释】
基金项目：陕西省社会科学基金资助项目（2024ZX05）
[1] 参见2022年《国务院关于加强数字政府建设的指导意见》、2025年《国务院关于深入实施“人工智能+”行动的意见》。
[2] 参见展鹏贺：《论数字行政正当程序构造》，《中国法学》2025年第5期。
[3] 参见高志宏、吴雨歌：《民航旅客黑名单正当程序制度研究》，《江苏社会科学》2022年第4期。
[4] 参见赵鹏：《从平台责任到合作规制——互联网规制模式转型及其正当程序规范》，《法商研究》2025年第3期；马长山：《数字法治政府的机制再造》，《政治与法律》2022年第11期。
[5] 参见赵龙：《自动化行政的技术性正当程序规制研究》，《法律科学》（西北政法大学学报）2024年第3期；刘东亮：《技术性正当程序：人工智能时代程序法和算法的双重变奏》，《比较法研究》2020年第5期。
[6] 赵龙：《自动化行政的技术性正当程序规制研究》，《法律科学》（西北政法大学学报）2024年第3期。
[7] See Danielle K. Citron and Frank Pasquale, The Scored Society: Due Process for Automated Predictions, 89 Washington Law Review, 19(2014).
[8] 参见苏宇：《数字时代的技术性正当程序：理论检视与制度构建》，《法学研究》2023年第1期。
[9] 参见刘东亮：《技术性正当程序：人工智能时代程序法和算法的双重变奏》，《比较法研究》2020年第5期。
[10] 参见[法]拉普拉斯：《关于概率的哲学随笔》，龚光鲁、钱敏平译，高等教育出版社2013年版，第4页。
[11] 参见江必新：《行政程序正当性的司法审查》，《中国社会科学》2012年第7期。
[12] 参见季卫东：《法律程序的意义——对中国法制建设的另一种思考》，《中国社会科学》1993年第1期。
[13] See Simona Grossi, Procedural Due Process, 13 Seton Hall Circuit Review, 158(2017).
[14] 参见杨洪斌：《洛克纳案之前的“实体性正当程序”》，载章剑生主编：《公法研究》第22卷，浙江大学出版社2023年版，第295页。
[15] 参见[英]维克托·迈尔-舍恩伯格、[英]肯尼思·库克耶：《大数据时代：生活、工作与思维的大变革》，盛杨燕、周涛译，浙江人民出版社2013年版，第67~94页。
[16] 参见冯洁菡、周濛：《跨境数据流动规制：核心议题、国际方案及中国因应》，《深圳大学学报》（人文社会科学版）2021年第4期。
[17] [德]W.海森伯：《物理学和哲学》，范岱年译，商务印书馆1981年版，第48页。
[18] 参见陈向群、郭喨：《人工智能的量子方法及其辩析》，《科学技术哲学研究》2019年第2期。
[19] 陈霖：《新一代人工智能的核心基础科学问题：认知和计算的关系》，《中国科学院院刊》2018年第10期。
[20] See Daniel Kahneman and Avishai Henik, Perceptual Organization and Attention, Routledge, 1981, p.181.
[21] 参见龚怡宏：《人工智能是否终将超越人类智能——基于机器学习与人脑认知基本原理的探讨》，《人民论坛·学术前沿》2016年第7期。
[22] 参见段虹、徐苗苗：《论大数据分析与认知模式的重构》，《哲学研究》2016年第2期。
[23] See Simon Burnett and Annemaree Lloyd, Hidden and Forbidden: Conceptualising Dark Knowledge, 76 Journal of Documentation, 1341 (2020).
[24] 参见于润芝：《人工智能自主决策介入结果发生的因果流程的刑事归责》，《苏州大学学报》（法学版）2024年第4期。
[25] See State v. Loomis, 881 N.W.2d 749, 761 (Wis. 2016).
[26] See J. M. Jeschke, S. Lokatis, I. Bartram and K. Tockner, Knowledge in the Dark: Scientific Challenges and Ways Forward, 4 FACETS, 423(2019).
[27] 参见迟方旭、蒋沁玉：《数字时代新质生产力法治保障的理论基础与制度建构》，《科学·经济·社会》2025年第6期。
[28] See Danielle Keats Citron, Technological Due Process, 85 Washington University Law Review, 1249(2007).
[29] 参见苏宇：《数字时代的技术性正当程序：理论检视与制度构建》，《法学研究》2023年第1期。
[30] 参见周佑勇：《行政法的正当程序原则》，《中国社会科学》2004年第4期。
[31] 张晓兰：《大数据时代因果关系的重构及认识论价值》，《宁夏社会科学》2021年第3期。
[32] Anderson C., The End of Theory: The Data Deluge Makes the Scientific Method Obsolete, 16 Wired, 6 (2008).
[33] 刘东亮、闫玥蓉：《大数据分析中的相关性和因果关系》，《国家检察官学院学报》2023年第2期。
[34] 王天思：《大数据中的因果关系及其哲学内涵》，《中国社会科学》2016年第5期。
[35] 参见《惊了！老伯去世数月后，被拍到过马路闯红灯？！》，微信公众号“新华社”，2020年10月19日。
[36] 参见[美]詹姆斯·C.斯科特：《国家的视角》，王晓毅译，社会科学文献出版社2019年版，第2页。
[37] 参见王宏志：《大数据分析原理与实践》，机械工业出版社2017年版，第5~6页。
[38] See Bill Whitaker, Aliza Chasan, Marc Lieberman and Cassidy McDonald, How Nvidia CEO Jensen Huang Transformed His Video Game Graphics Company into a Titan of AI, CBS News, 28 April 2024.
[39] [美]马克·格兰诺维特：《社会与经济》，王水雄、罗家德译，中信出版社2019年版，第23页。
[40] 魏婧：《“AI员工”活儿干得怎么样》，《北京晚报》2025年11月19日。
[41] 参见王绍光、鄢一龙、胡鞍钢：《中国中央政府“集思广益型”决策模式——国家“十二五”规划的出台》，《中国软科学》2014年第6期。
[42] See Houston Federation of Teachers v. Houston Independent School District, 251 F. Supp. 3d 1168 (S.D. Tex. 2017).
[43] 参见周志华：《机器学习》，清华大学出版社2016年版，第115页。
[44] [英]维克托·迈尔-舍恩伯格、[英]肯尼思·库克耶：《大数据时代》，盛杨燕、周涛译，浙江人民出版社2013年版，“译者序”第Ⅸ页。
[45] 王天思：《大数据中的因果关系及其哲学内涵》，《中国社会科学》2016年第5期。
[46] 参见王天思：《大数据相关关系的因果派生类型》，《求实》2017年第7期。
[47] 参见[美]马克·格兰诺维特：《社会与经济》，王水雄、罗家德译，中信出版集团股份有限公司2019年版，第25页。
[48] 参见董书昊、陈心想、张磊：《“时间投入”和“关系深度”——“关系强度”概念的二维视角及其意义》，《社会学评论》2021年第4期。
[49] 参见上海市高级人民法院（2019）沪行终204号行政判决书。
[50] 参见《互联网信息服务算法推荐管理规定》第11条。
[51] 参见《“法治+”联动赋能打造海门融合发展新生态》，微信公众号“海门政法”，2025年10月28日。
[52] 参见《司法部发布行政复议法典型案例》，微信公众号“中华人民共和国司法部”，2024年12月31日。
[53] See Danielle Keats Citron, Technological Due Process, 85 Washington University Law Review, 1249(2008).
[54] 参见2021年《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》。
[55] See Tribunal Supremo (Spain), Sentencia No. 1234/2025 (2025).
[56] See D. Batory, R. Gon?alves, B. Marker and J. Siegmund, Dark Knowledge and Graph Grammars in Automated Software Design, in M. Erwig, R.F. Page and E. Van Wyk eds., Software Language Engineering, Lecture Notes in Computer Science, Vol. 8225, Springer, 2013, p.2.
[57] 浙江省绍兴市中级人民法院（2021）浙06民终3129号民事判决书。
