仲兵:算法行政的伦理风险透视与规制

选择字号:   本文共阅读 182 次 更新时间:2026-06-15 22:13

进入专题: 算法行政   伦理风险   主体性  

仲兵  

摘要数字时代,算法行政在释放治理效能的同时,也催生了深层次的伦理风险,对当代公共行政的合法性、公正性与责任性构成系统性挑战。算法行政的伦理意涵兼具技术伦理与行政伦理双重面向。基于主体辨证、执行准则及目标取向,算法行政的伦理边界可划分为决策自主性、程序正当性与价值公共性三个核心维度。然而,当行政主体权责向算法让渡、算法黑箱瓦解参与机制、效率逻辑挤压善治目标时,算法行政的伦理边界遭到冲击,进而衍生出系列伦理风险。对此,应在遵循“人在回路”的原则明晰算法行政主体权责配置的基础上,推动算法行政执行准则与运行过程的具象化,并强化算法行政价值生产结果的动态校准与适应性调整,从而实现对算法行政伦理风险的有效规制。

关键词算法行政  伦理风险  规制路径  主体性

仲兵中共江苏省委党校公共管理教研部教授

 

01

问题的提出

党的二十届四中全会提出,要“深入推进数字中国建设”。作为数智化的核心驱动力,算法正深度重构公共行政图景。从行政审批的智能预审、公共资源的精准匹配,到城市运行的“一网统管”与执法监管的风险预警,算法驱动的自动化决策系统日益成为公共部门的“数字大脑”,在提升效率、优化服务、增强预见性等方面展现出巨大潜力。这标志着公共行政实践正经历一场深刻的算法化转向。然而,这一过程既释放治理效能,亦催生显著伦理失范风险。需明确的是,当前阶段的“算法化转向”并不等同于“算法行政”的成熟形态。“算法化转向”是一个具有层次性与阶段性的复杂进程,而其当下表现多以局部领域、辅助决策的工具性应用为主。伦理风险的显性程度与具体形态,也因应用场景、制度约束及技术成熟度的不同而存在显著差异。“算法行政”作为一种新的行政样态,其标志是算法实现了从工具性辅助到核心决策角色的跃迁。当算法模型不仅限于流程优化,而是深度介入乃至主导价值判断、利益分配、自由裁量等行政决策的核心环节,并由此推动行政主体、依据和方式的重构时,“算法化转向”才孕育出了“算法行政”这一质变结果。也正是伴随着这种潜力的实现,一种更具根本性和结构性的伦理风险才真正显现。

从算法行政的应用效果来看,训练数据的历史偏见、特征工程中的隐性偏好、算法模型本身的不透明性,均可能导致伦理危机。从算法行政的应用主体来看,算法行政链条涉及数据科学家、程序员、业务部门、供应商等多方主体,而主体间责任边界的模糊性可能导致算法决策出现偏差。当传统“个人问责”机制失效,且现有法律框架对算法责任主体、归责原则、证明责任的规定普遍滞后之时,这无疑会加剧“有组织的不负责任”困境。更进一步看,算法设计隐含的工具理性至上逻辑,可能挤压公共行政中应有的民主协商、个案衡平、柔性裁量等伦理价值,使行政过程沦为冰冷的技术过程,这与党的二十届四中全会强调的“人民至上”原则相背离。当前经济社会生活中的部分案例证实,上述伦理风险并非理论推演,已从潜在威胁转化为现实挑战,亟须学界深入分析并寻求规制之道。对此,本文致力于剖析算法行政伦理风险的生成机理并提出规制策略。

既有研究在算法行政伦理风险领域已取得三方面进展。第一,算法行政的伦理原则共识已初步形成,国际组织及学术界普遍将公平性、问责性、透明度与可解释性等确立为核心准则,而国内相关研究则进一步凸显人本原则,并将其纳入算法行政伦理的核心范畴。然而,这些原则具有抽象性与普适性,其在面对公共行政内含的强制力、责任链条和价值冲突时,既存在解释力短板,也未能与行政合法性、公共利益等公共行政核心概念形成有机衔接。

第二,算法行政伦理风险类型学剖析日益深化,学界不仅针对算法偏见、责任归属模糊、运作透明度缺失及价值取向异化等技术理性和价值理性失衡的困境建构了全面的理解框架,也借助丰富的案例实证与理论解构,对各类风险生成机理、表现形态及潜在影响进行全面阐释。但现有风险类型学分析多遵循一种“技术逻辑优先”的路径,即从算法技术特性推演其在行政应用中的存在风险。这种分析路径在一定程度上将算法行政伦理风险视作通用算法风险在行政领域的简单映射,未能充分吸纳行政理论关于组织逻辑、制度环境及其对技术风险的放大、衰减或转化作用的观点,弱化了技术对公共行政实践特殊性的回应能力。

第三,算法行政伦理风险的规制工具探索持续拓展。有学者提出,除了在技术治理层面提出算法影响评估、算法审计及算法注册制等方案以及相关制度设计之外,还应通过公众科技传播和数字素养建设,提升全社会对科技巨大力量的理解,自下而上打破技术解决主义的遮蔽。这些探索的不足之处在于,多数规制方案仍处于“原则倡导”或“工具列举”阶段,较少对规制工具如何嵌入公共部门既有预算约束、绩效评估、组织文化等制度环境进行系统性分析。

同时,必须承认,公共行政实践本身具有强大的问题回应与制度调适能力。现实中,针对算法应用暴露出的问题,如公平性质疑、问责难题等,部分政府部门已通过建立人工复核节点、开展算法影响评估、引入公众参与等机制进行探索和回应。这种“暴露—回应—调适”的动态过程,正是公共行政实践复杂性与生命力的体现。因此,本文对算法行政伦理风险的分析,意在揭示其内在的结构性张力与潜在倾向,而非否定算法技术的全部价值或公共行政实践的自我修正能力。正是基于对现实复杂性的认知,后文的规制路径探讨才更具针对性与可行性,进而促进对“数字时代良政善治”内涵的深化理解。

02

算法行政的伦理内涵与边界

(一)算法行政的概念释义

算法行政指的是将复杂算法模型、大数据分析及人工智能技术深度融入政策制定、执行、监管与服务供给等行政活动的核心环节,进而推动部分行政行为与决策向自动化、智能化及预测性转型的新型行政系统。其本质在于将原本由行政人员依据法律、规则、经验与自由裁量权进行的判断、决策和执行过程,部分或全部委托给由代码和数据驱动的算法系统。

从行政过程角度来看,首先,算法行政的主体具有隐匿性。传统行政的主体清晰可见,权责相对明确,算法行政则引入了“算法”并将其作为非人类的行政行为代理,其行政过程往往深藏于复杂的代码和数据模型之中。其次,算法行政的依据具有数据化特征。传统行政虽也依赖数据,但更多结合法律文本、政策目标、社会价值判断、历史经验以及具体情境下的自由裁量而开展行政活动,算法行政则高度依赖大规模、多源异构的数据集,通过挖掘数据间的相关性甚至因果性来驱动行政行为。最后,算法行政的执行方式具有预测性,当传统行政主要针对已发生事件或显性需求作出反应时,算法行政则依托预测分析,试图通过历史数据建模来预判个体或群体的未来行为、风险或需求,这改变了行政权力的作用时点与干预逻辑,从“事后处理”转向“事前防范”。

算法行政的有效运行并非单纯的技术应用过程,其核心在于技术逻辑与行政逻辑的深度交织。相较于传统电子政务作为一种流程数字化工具,算法行政更强调决策权的部分让渡,算法可直接输出具有约束力的行政决定,这意味着算法不仅承担信息传递的管道功能,更扮演着生成指令的决策角色。由此可见,算法行政中技术逻辑与行政逻辑的互动已超越电子政务范畴,实现了技术应用逻辑与行政决策逻辑的融合,将技术置于与行政主体更为趋近的地位。具体而言,算法行政的技术逻辑包含数据化与建模、算法化规则与自动化、预测与优化、闭环反馈与学习等步骤,其融入行政逻辑的过程内含两方面。一方面,将行政对象、行政目标及行政环境转化为可被机器处理的结构化或非结构化数据,并构建数学模型来抽象、简化和表征复杂的行政现实;另一方面,将法律法规、政策条文、行政规程乃至自由裁量权的边界,通过编程语言转化为可执行的算法规则,继而结合历史数据训练模型将两部分数据链进行对照和映射,并基于预设目标自动生成决策方案或资源配置建议,最后将其作为新数据输入,通过反馈回路持续调整模型参数或优化决策策略,形成一种动态演化的“学习型”行政系统。

(二)算法行政的伦理内涵

由于算法行政本质上是技术逻辑与行政逻辑的有机融合,其伦理范畴既需涵括传统行政伦理的固有内涵,亦当纳入技术伦理的核心要素。算法行政的技术伦理内核,是算法作为非人类主体行使公共行政权引发的本体论讨论。

具体而言,算法行政的技术伦理内涵包括以下几个方面:第一,代理正当性基础,即确定算法行政的合法性来源;第二,道德责任主体,当算法不具备道德能动性却行使裁量权时,须确定算法行政的责任归属;第三,价值可编码性,即将行政伦理中的模糊价值压缩为可量化的参数,从而尽可能以技术逻辑压缩人类伦理的不可通约性。在这种技术伦理的介入下,算法行政的行政伦理顺势发生重构,其程序正义不仅遵守人类可理解的规则公示与申辩程序,更依托验证数据、模型、结论的逻辑链来确保程序的可解释性,而算法行政所追寻的公平性也从质性判断转化为通过数字定义的平衡性检验。最为关键的是,算法行政的公共责任呈现技术化承担态势,传统层级问责制演变为循证问责,即通过算法审计、对抗性测试等技术手段验证行政合规性。

算法行政的伦理内涵在技术伦理和行政伦理的交融和调适下,形成两种面向。一方面,技术伦理以虚拟的数据链条解构行政伦理内涵,即算法将行政伦理目标转化为数学优化问题,其伦理正当性则奠基于“科学客观性”的预设之上。另一方面,行政伦理重构技术伦理的核心宗旨。当“公平”“透明”“参与”等行政伦理原则被技术重新定义时,技术伦理同样须遵循这些原则的本质意涵,进而保障技术应用的实践逻辑与公共行政的价值取向的内在契合。最终,两者的结合生成算法行政的伦理内核:以人的主体性为原点、以公共价值的实现为目的、以正义为过程规范,最终达成行政行动和机器运转周期性协同发展的循环稳态。即在理想状态下,算法行政运行过程不仅要廓清日益模糊的传统伦理边界,同时需经法律规范与算法技术的双重验证来校准行政过程。

(三)算法行政的伦理边界:理解伦理风险的三个维度

基于对算法行政伦理本体的理解,可从决策自主性、程序正当性、价值公共性三大边界划定伦理风险的禁区。三者逐层递进:决策主体强调谁主导权力,并决定程序规则,即如何行使权力,程序规则保障价值目标,回应权力为谁服务,共同构成公共行政权力运行的完整闭环。突破任一边界,即意味着算法行政伦理本体的溃散。

1.决策自主性边界:算法行政的主体辨证

公共权力的合法性源于公民的授权,因此,算法行政的首要伦理边界在于人类必须保留对公共决策的终极掌控权。当算法行政系统凭借自主学习动态调适关键行政决策规则,且其运行逻辑超出人类的认知范畴与干预能力时,便会催生“算法黑箱自治”现象。在此情境下,行政决策的主体资格将从“公民—政府”契约共同体异化为“技术系统”,进而导致民主授权链条的虚置。因此,决策自主性边界的设置应坚持两方面原则:第一,关键决策保留原则,在涉及人身自由限制、基本权利剥夺的决策过程及其他关涉价值权衡的领域,应当禁止采用完全自动化的运作模式。第二,算法从属定位原则,仅将算法作为人类决策的参考工具,行政人员须拥有否决权与规则修正权。

2.程序正当性边界:算法行政的执行准则

正当程序蕴含“听取他方陈述”原则,要求权力行使过程可被公民理解与质疑,故而维系程序正当性是行政权力运行的执行准则,算法行政必须保障公民的知情权、参与权与辩驳权,避免技术黑箱吞噬程序正义。当算法行政系统依托不具备可解释性的深度神经网络运行,或通过实时监控机制自动触发惩戒措施时,公民不仅难以预判自身行为的法律后果,亦无法针对其背后的数据关联逻辑进行有效的申辩或抗辩,这一现象直接导致程序正义的空洞化。因此,程序正当性边界不仅要强调可解释性,即算法须提供人类可理解的决策依据,包括反事实解释,同时也要设计人工介入节点,例如设置异议冻结机制,公民申诉后自动暂停算法执行并转入人工复核。总之,如果说决策自主性确立了“人控机器”前提,那么程序正当性进一步要求算法必须适配人类理性沟通范式。

3.价值公共性边界:算法行政的目标取向

算法行政的终极伦理边界在于捍卫公共价值的多元性与不可通约性,防止技术逻辑将公共价值简化为单一优化目标。当算法行政的技术逻辑依赖量化目标函数,迫使复杂公共价值降维至可计算指标时,将不可避免地导致价值殖民,不仅弱势群体因“数据价值低”而被系统排斥,无法获得公共价值,且诸如和谐、凝聚力等长期隐性价值也难以得到充分关注。因此,价值公共性的边界在于,既要对可能出现的价值冲突进行预警,即当算法优化目标与法定行政原则发生冲突时,自动触发伦理评估,避免成本最小化目标和公共服务普惠性等矛盾的发生。同时,应强化反还原主义设计,禁止将人格尊严等不可量化的基本权利设为算法系统的函数变量。

综上,三大边界呈现相互耦合的关系,决策自主性防止行政权力主体失焦,程序正当性制约行政权力运行过程,价值公共性校准行政权力目标取向。其本质是以制度设计将技术逻辑“关进公共意志的笼子”。唯有接受边界的规训,算法行政方能在技术赋能的同时,守住公共权力“源于人民、归于人民”的伦理本体。否则,效率至上、成本至上、数据至上的算法终将吞噬民主行政的灵魂。

03

算法行政伦理风险的生成

(一)决策自主性的侵蚀:行政主体权责向算法的让渡

算法行政中权责让渡的核心在于,行政主体将本应专属于人类的行政权能转移至算法系统,此举使得算法行政在披上效率至上主义与技术不可知论的外衣的同时,以“提升决策客观性”为名,突破了伦理边界。一方面,行政规则设计权发生技术外包,即算法系统依据既往数据训练结果及已量化的行政目标,自主确定行政条例的具体内容与裁量范围。当行政机关将此类规则设计权让渡于技术系统时,实则等同于允许未经民主授权的算法私主体代行主权代理职能,这既违背洛克的“权力不可复委托”原则,亦在法理层面构成了对公民初始授权的背离,从而违背了决策权能必须始终附着于责任主体的初衷。另一方面,行政结果否决权存在形式化倾向。尽管行政人员在名义上拥有推翻算法决策结果的权力,但受限于专业性、技术能力、社会责任意识等算法反制能力的不足,以及科层制压力、技术依赖等心理因素的约束,对算法行政运算结果的实际否决率明显偏低。

随着行政主体权责向算法的让渡,行政决策权的自主性受到侵蚀。首先,就决策权本体而言,行政主体作为“伦理主体”,其决策自主权的核心在于价值权衡能力,即在效率与公平、个体利益与公共利益、短期目标与长期发展等多元价值冲突中,基于公共伦理准则作出具有方向性的抉择,并在关键决策环节发挥终极判断功能。然而,算法所内嵌的工具理性与行政主体基于伦理判断的价值权衡逻辑之间存在张力,若行政权责长期向算法让渡,行政主体的伦理感知力将呈现退化趋势。当算法输出结果与伦理直觉发生冲突时,行政主体可能丧失对关键领域决策的辩证反思与自主质疑能力,甚至将“算法正确”简单等同于“伦理正确”。这不仅导致行政人员在核心决策环节逐步丧失价值权衡能力,更导致其主动陷入对算法系统的从属地位。其次,从决策权的享有主体来看,算法行政的构建、迭代与运营高度依赖第三方技术主体的参与,其中以高新技术企业为代表的技术资本凭借其市场前瞻性与技术创新优势,为算法行政系统提供了核心技术支撑。这意味着算法行政的决策权表面上向技术系统转移,实则向其背后的技术资本主体转移,此类主体由此成为算法行政体系中的“影子决策者”,算法行政的决策质量及结果亦受制于其提供的算法行政系统质量。

(二)程序正当性的削弱:算法黑箱对参与机制的瓦解

行政工作作为一项复杂的系统性工程,其目标的达成通常依赖于多元主体的协同参与,以引导各相关行政主体在各自权责边界内采取行动,这既涵盖行政系统内部的运行,也包含行政系统外部的参与。其中,行政系统内部的有效参与主要通过行政问责得以实现,而行政系统外部的参与机制则依托更为广泛的社会参与予以推进。然而,算法黑箱通过制造不透明性、模糊权责、削弱可理解性与可争议性,侵蚀了参与机制赖以存在的知情基础、协商空间、责任链条。就行政系统内部参与机制而言,传统的层级监督与部门间竞争制衡均以对行政过程及其依据的审查条例为前提,算法黑箱的存在却使得上级对下级算法应用的有效监督受阻,问责部门亦难以穿透黑箱开展实质性审计,而掌握算法开发与维护权限的技术部门却可能由此获得非对称性影响力。与此同时,当算法行政系统出现运行偏差或产生不公正结果时,责任归属问题因涉及算法设计者、数据提供者、算法部署者及具体执行者等多重角色而变得极为复杂。这表明,算法黑箱的特性使得错误根源追溯与责任主体认定的难度加大,导致内部问责机制陷入失灵状态。就行政系统外部参与机制而言,程序正义原则要求公民就某一行政事项及执行过程拥有陈述意见并获得充分考量的机会。但黑箱状态下的算法行政往往呈现单向性与自动化特征,公民在行政过程中缺乏陈述自身特殊情况的机会,即便拥有陈述机会,其意见是否被算法纳入考量范畴亦处于未知状态,这导致公民参与成为一种浮于形式的程序。

因此,算法黑箱对参与机制的瓦解将进一步侵蚀算法行政的程序正当性。一方面,在行政系统内部,由于算法系统的复杂性与不透明性,可能出现问责参与机制的有效性不足问题,进而引发责任伦理缺位的风险。当然,这并不意味着所有算法行政系统都必然如此,而是提示我们须警惕技术深度嵌入过程中可能出现的制度滞后性。这使得算法行政的程序退化为纯粹的技术系统运作,行政主体沦为算法的被动“输出终端”而非全过程监察者,一个悖论由此产生:算法系统越是追求高效与高质量,就越依赖其内部复杂性,而这反过来也将严重削弱行政人员对行政过程的解释力。行政程序的可解释性因此与算法系统的“升级”呈现反向消长的趋势。另一方面,在行政系统外部,公民参与算法行政的渠道被严重阻塞。公民的声音难以有效传达至行政决策中心,尤其在处理偏离算法预设模型的“边缘案例”时,算法往往给出僵化结论,导致部分公民的正当权益无法获得满足,违背了普惠、公平的行政伦理要求。同时,由于算法过程的不透明,公民和行政人员都难以追溯、辨识权益受损的具体环节并进行有效反馈,这不仅损害了行政救济的可能性和行政程序的规范性,而且大幅提升了事后人工复核的难度与成本,抑制有效的公民参与。

(三)价值公共性的偏移:效率逻辑对善治目标的挤压

善治是所有行政工作的最终目标和使命,是一种以实现公共利益最大化为核心目标的理想治理模式,内含公平、正义、效率、透明、和谐等多项行政伦理目标。然而,算法行政在算法系统驱动下所遵循的效率逻辑,正在对善治目标进行全面挤压。这种挤压一方面表现为对善治概念本身的挤压与降维,使得善治目标无限等同于效率。尤其当“提升效率”“优化流程”“降低成本”“快速响应”等成为算法行政最响亮、最具说服力的正当性话语之时,政府机构、技术供应商甚至公众舆论都容易被这种直观、可测量的效率提升所吸引。相比之下,关于公平、参与、责任等伦理价值的讨论往往显得抽象、难以量化且见效慢,在资源分配、政策优先级和绩效评估中逐渐丧失话语优势。效率从善治的“一个维度”逐渐演变为“首要维度”甚至“代表维度”。另一方面,这种挤压表现为效率逻辑对善治所蕴含的其他伦理价值的吞噬,进而成为解释善治其他维度的通用指标,造成价值冲突和伦理悖论。例如,回应性被效率化,“快速响应时间”可能遮蔽了回应是否真正理解并解决公众个性化、复杂性诉求的本质,使得回应性目标的实现异化为只追求反应速度。

上述挤压效应将导致算法行政的伦理价值逐渐偏离公共性核心。效率逻辑将可量化要素塑造为最直观、最易验证的关键标准,由此倒逼公共部门将资源、注意力乃至合法性过度地向效率指标倾斜。然而,行政伦理所追寻的价值内涵应是多元且动态平衡的,涵盖公平、参与、责任、回应性、可持续性等多个维度。在效率逻辑的主导下,“可计算性”被异化为价值的准入标准,而如分配正义、民主审议、权力监督等依赖公共协商、辩论与共识建构的价值,因难以量化而遭到排斥。这意味算法不仅以技术的效率理性架空公共理性,使行政人员丧失对多元价值冲突的预警与调适能力,还造成传统意义上通过公共对话凝聚共识的民主过程被效率逻辑所消解。最终,广大民众从公共生活的能动参与者沦落为算法系统的“数据燃料”,行政伦理的公共性也沦为效率生产的附属品。

应当承认,算法行政的伦理风险并非静态存在,而是随着技术迭代、制度完善与公众监督的加强而不断暴露并得以逐步化解。现实中,已有政府部门通过引入算法审计、开展公众参与试点等方式,对上述风险进行防控。因此,本文所揭示的风险更应被理解为一种结构性倾向,而非不可逆转的结局,其目的在于警示并为规制路径的设计提供针对性依据。

04

算法行政伦理风险的规制

前文所析算法行政伦理风险,虽具一定理论推演色彩,但此类风险已在部分现实场景中显现,下文提出的规制路径,正是基于既有问题的暴露与应对经验的总结,旨在通过技术、制度与价值协同,实现算法行政的安全有序发展。其中,在伦理边界约束下,从行政主体、过程、效果维度推进构建负责任算法行政模式,是推动国家安全体系和治理能力现代化、全面深化改革的关键。此外,算法行政伦理风险并非孤立产生,其具体形态与规制路径深受特定政治体制及行政文化影响。中国公共行政体系强调党的领导、整体效能、层级节制与社会稳定,这既为算法行政集中推进提供制度优势,也使其伦理风险的规制策略具有独特性与优越性。因此,本文立足中国现实情境,探索既符合算法伦理一般原则又契合中国行政体制特征且具备现实操作性的规制路径。

(一)确保“人在回路”以明晰算法行政的主体权责

“人在回路”强调人类主体在自动化系统及算法运行过程中的实质性参与和干预权能,其本质是通过否定系统完全自主的任务执行模式,为人类主观能动性的有效发挥提供规范前提。而算法行政语境下主体权责的清晰界定,恰恰承载着实现这一目标的使命。

首先,须构建权责法定的制度框架以夯实“人在回路”的运行根基。在中国,要特别强调“人在回路”原则与党委或行政首长负责制相结合,即明确最终决策责任必须由党委或行政首长承担,算法仅是辅助工具。对此,可将“人在回路”原则纳入领导干部的绩效考核和问责体系,以确保行政主体对价值判断的终极主导权。在此基础上,一方面,须完善制度框架,以法律规范形式禁止将涉及自由裁量权行使、利益分配调整或重大权益处置的行政决策权外包给算法系统,严格限定算法仅能承担数据整合、风险初步筛查等非裁量性职能,且所有算法输出结果须被标注“建议”属性以明确其非终极性。另一方面,应通过“双清单”制度细化权责归属,其中,负面清单须严格划定禁止算法自主决策的高风险领域。正面清单则须明确允许算法辅助决策的领域范围,且该领域必须预设强制性人工介入节点,尤其在社保、执法等社会关注高、影响范围广的领域,可依托中国长期以来实行的试点—推广模式,率先建立“人工强制复核节点”的试点,总结经验后再形成规范性文件全面推广,降低改革风险。这一清单设计为责任追究提供明确法律依据:当算法运行导致公民权益受损时,应适用过错推定原则,行政机关须就其已履行审查义务承担举证责任,技术供应商则须证明其提供的算法系统符合合同约定的伦理标准与技术规范,最终,通过此种举证责任分配方案破解算法行政中的“责任真空”困境。

其次,行政部门应构建全面的监督制约机制以消解影子决策者的影响,通过提高技术资本的参与透明度以及建立独立审查机制打破技术资本对算法行政工作的隐性控制,进而确保权责闭环的可追溯性。一方面,建立完善供应商利益冲突声明机制,强制技术资本披露算法设计中的商业利益关联。另一方面,在公安、市场监管等相关部门设立“算法合规审查岗”,嵌入现有权力体系,承担算法伦理偏离监控、跨学科评估组织及高风险应用叫停等职能,从而确保算法始终作为工具服务于行政主体的公共价值判断,而非反向主导决策过程。

(二)推动算法行政执行准则与运行过程的具象化

推动算法行政执行准则及运行过程的具象化本质上是借助合乎法理与规范的路径,将算法行政系统运行所遵循的核心原则、执行手段、实践路径及调控机制,向行政系统内部成员与外部社会群体进行具体化呈现和阐释。这一过程旨在确保行政系统内部的问责机制与外部社会主体的参与机制能够协同作用于算法行政的全流程,进而在保障程序正当性的基础上,推动算法行政活动符合伦理要求并向预设的公共行政目标靠拢。

在强化行政系统内部问责方面,应推动纪检监察与算法审计的融合,实现“数治规则逻辑的明晰化”。审计部门可联合业务主管部门,针对社保发放、执法评级等算法涉及的高风险领域开展专项算法合规性审计,审计报告可作为部门绩效考核和领导干部履职评价的依据之一。这样与现有权威监督体系相结合,赋予算法审查以足够的威慑力。

在强化行政系统外部参与方面,重点是建立异议响应方案并深入研讨边缘案例,将民众参与转化为具有实质规制效能的具象化驱动力量,以确保算法行政伦理的实现过程与最终结果均契合公共意志。一方面,针对民众对行政过程的质疑,系统应自动生成具备可理解性的个性化解释报告,同时开放参数质疑通道,允许民众提交反证以触发人工重估程序,并设置量化阈值,当同类异议达到该阈值时,即强制启动第三方算法审计工作,且审计结果须向社会公开。另一方面,应建立边缘案例的法定审议程序,设立由行政官员、领域专家及技术方构成的联合裁断小组,对审议程序进行综合研判,将经脱敏处理的新型案例特征纳入模型训练集,并在后续模型升级过程中对采纳情况予以说明。最终,形成公民陈述、案例解析、规则进化相互衔接的程序正当化路径,有效破解算法自动化驱动下民众无效参与的算法行政伦理难题。

(三)强化算法行政价值生产结果的动态校准和调适

为实现算法行政伦理价值的公共性回归,需对算法行政的价值生产结果展开持续的比较与验证,以确保其始终服务于善治目标,而非被算法逻辑简化为纯粹的运算输出。对此,行政部门在与其他主体力量共同强化动态校准方案的同时,更须重视协商空间的织造,从而对潜在的伦理价值冲突进行及时调适。鉴于中国的政策过程强调“先行先试”与“上下互动”,算法行政的价值校准应主动融入这一过程,实现渐进式、适应性调整。

一方面,在规制算法行政伦理风险的过程中,须构建可量化的多元价值目标体系。行政部门可基于算法行政系统的不同应用场景,将效率、公平、参与、责任及可持续性等善治要素进行全面解构,借助指标丰富、层次健全的技术参数尽可能消解伦理准则的抽象性,并在配置合理权重后将其嵌入算法模型的目标函数。在该体系投入行政实践后,将算法价值评估纳入政策试点与事后评估机制:算法系统大规模推广前,须在限定区域与领域开展试点,评估不仅关注效率提升,更须设置公平性、公众满意度、社会矛盾风险等多元伦理指标;对已运行的算法系统,应定期开展伦理影响后评估,评估结果作为算法迭代或退出的重要依据,以打破效率指标在评价体系中的垄断地位。匹兹堡大学的托马斯·萨蒂据此开发了综合等级层次和网络层次的分析算法,通过定量和定性分析相结合来缓解算法决策的伦理选择困境。

另一方面,为应对算法行政在价值生产过程中浮现的价值冲突与伦理悖论,行政部门须牵头建立价值冲突协商平台。可依托现有专家咨询论证制度与社情民意反映机制,组建含行政官员、技术专家、法律学者、人大代表、政协委员及公众代表的算法伦理咨询委员会。当重大决策涉及价值冲突或伦理矛盾时,算法行政系统需自动中止运行并启动委员会评议程序,其结论虽无强制力,但应作为行政部门调整算法参数、作出最终裁断的重要依据,以避免公共价值判断被技术逻辑主导,保障算法行政系统的协商效能。

05

  语

算法行政作为数字时代公共治理的重要演进方向,既蕴含着提升行政效能的巨大潜力,也伴随着深刻的伦理挑战。本文所析风险,并非旨在否定算法行政的积极价值,而是提示我们:唯有在技术赋能的同时,坚守公共行政的伦理本体,通过动态规制与制度创新,才能实现工具理性与价值理性的有机统一。在决策自主性层面,算法对行政裁量权的深度介入与替代,不仅可能导致行政主体判断能力的弱化与责任意识的模糊,更使得决策过程被预设的模型与数据流所主导,最终侵蚀行政决策的伦理根基。在程序正当性层面,算法固有的黑箱特性与算法偏见,对透明度、可解释性及公平参与等程序正义核心要素构成挑战,导致传统行政程序在保障个体权利与社会救济方面的效能逐渐式微。而在价值公共性层面,算法对效率、可预测性等技术理性的过度追求,极易挤压对多元行政价值的阐释空间,甚至可能使行政活动沦为纯粹的技术操作,疏离其服务公共利益、守护社会价值的本源伦理使命。这三重风险相互交织、彼此强化,共同指向一个核心命题:算法行政若缺乏有效的规制,其技术理性优势或将反噬行政伦理的核心价值。

因此,对算法行政伦理风险的规制,绝非简单的技术修补或局部改良,而是亟须构建一个融合技术可控性、制度约束力与价值引领性的规制框架。在技术层面,须着力提升算法的透明度、可解释性与可审计性,发展偏见检测与修正技术,为行政自主性回归提供技术支撑。在制度层面,应重构适应算法时代的行政程序规则,明确和细化算法行政系统的适用范围与责任归属,建立健全算法影响评估制度,拓展公众参与渠道,以刚性制度规范保障行政程序的正当性。在价值层面,必须将公平、正义、透明、责任等核心公共伦理价值深度嵌入算法设计与行政应用的全过程,推动持续性的伦理反思与价值校准,确保算法始终服务于而非凌驾于公共利益之上。唯有实现技术、制度与价值的协同规制,方能在拥抱技术革新的同时,有效驯化算法权力,防止伦理失范,最终引导算法行政回归其提升公共福祉、强化行政伦理的应然轨道,在工具理性与价值理性的动态平衡中,守护现代行政的公共性本质。

本文原载《江海学刊》2025年第6期

 

    进入专题: 算法行政   伦理风险   主体性  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 政治学 > 公共政策与治理
本文链接:https://www.aisixiang.com/data/177768.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2025 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统