樊浩 佟德志:基于算法的民主治理拓展及其限度

选择字号:   本文共阅读 11073 次 更新时间:2023-12-30 01:17

樊浩   佟德志 (进入专栏)  

【摘要】进入人工智能时代,算法构成了民主治理实践变革的新型推动力,产生了积极拓展和消极限度的双刃剑效应。民主治理的主体、机制和价值等三重维度在算法驱动下正发生转型,即由利益共同体转向数据集合体、由公共决策转向机器决策以及由多元价值平衡转向单向价值适配。一方面,算法对民主治理的三重维度形成了拓展,能够监控主体行为,化解合作难题,提高决策的效率、科学性和前瞻性,并提升价值服务的个性化与情境化;另一方面,算法对民主治理的三重维度也产生了限度,包括主体监管、问责和隐私困境,削弱主体间联系,产生决策暗箱与失误,加剧“信息茧房”和极化风险,甚至能复刻不平等。基于算法的民主治理拓展及其限度,为正确认识算法和民主治理的关系、积极利用技术优势并且有效规避其弊端提供了学理借鉴。

【关键词】算法;治理;民主治理;算法治理

技术与政治的关系既是探究政治生活变迁的基本视角,也是具有延续性、变革性和时代性的重大议题。技术的革新与运用不仅推动了政治实践和价值的转型,也产生了日益复杂的风险弊端。进入人工智能时代,以大数据、算法和机器学习为代表的技术体系正在推动政治实践进入新一轮转型,其中,作为现代人工智能的核心,算法(Algorithm)对海量数据的智能计算优势逐渐为政党、公共组织及政府所重视,并将其广泛运用于民主治理的数据处理流程之中,不断重塑民主治理的实践模式,但是作为一种智能技术,算法嵌入民主治理实践也带来了种种风险,甚至改变了民主治理的主体结构和价值供给模式,引发了社会普遍担忧。那么,在算法的驱动下,民主治理的实践逻辑产生了怎样的演变?体现了哪些优势?又需要规避哪些具体问题?本文将通过归纳民主治理实践场域的算法运用情况,来探讨算法与民主治理之间的复杂关系,为更好发挥算法对民主治理的积极效应并且有效管控算法弊端提供学理借鉴。

一、基于算法的民主治理变革

技术变革历来是民主治理发展的外部变量。在传统民主治理体系中,技术革新推动了民主治理的发展与进步,如印刷术的广泛使用让公民对政治事务更为知情,广播和电视的运用则在美国产生了“广播总统”和“电视总统”。20世纪后半叶以来,信息技术的持续现代化变革更是使民主治理实践经历了电子化、信息化和网络化的阶段演进。这不仅重塑了民主选举、决策、管理和监督流程,而且推动了公共治理的模式变革,产生了电子民主(E-democracy)、互联网民主(InternetDemocracy)、网络民主(CyberDemocracy)、电子政府与政务(E-Government)、电子治理(E-Governance)以及网络治理(NetworkGovern-ance)等复合模式。在西方国家,面对日益复杂的治理负荷,决策者需要借助先进知识和技术来改造代议制机构,推动公共机构改革,重塑民主治理的智识逻辑。

进入人工智能时代,算法发展及其在政治实践中的运用,推动民主治理进入了智能化转型。作为数据计算技术,算法发展和运用是互联网、大数据和人工智能整体发展和相互交织的必然结果。在数据密集型环境中,算法既是实现智能计算的“大脑”,也是现代人工智能的核心,决定着人工智能的效果和成败。同时,算法作为大数据和各种智能软件平台的中间计算程序,能将零散庞杂的数据转换为结构化的问题解决方案,为民主治理提供依据。算法与计算机科学紧密结合,不仅能让计算机及时生成计算模型,而且使机器自主学习和决策成为现实,能够进一步地影响、指导和塑造社会行动。

从技术角度来看,当代世界民主治理的最新趋势就是积极利用算法,将其作为政治系统和社会系统进行数据信息交互的新型媒介,使其广泛嵌入民主治理流程。实践趋势显示,积极利用算法的主要是政党和政府,即算法被政治行为者作为促进政党目标和治理活动的工具,展现了算法的政治维度,并广泛嵌入民主政治和公共治理的数据处理流程中。

在民主政治中,算法是政党和民众进行数据信息互动的新型媒介。在大数据环境下,算法越来越成为当代西方政党进行民意计算、宣传和动员的重要工具,并将其运用于竞选和议会辩论等多种民主实践过程,形成了算法民主这一复合模式。总的来说,当代西方政党以赢得更高支持率为导向,通过算法为民众进行“画像”(Profiling),旨在更加全面、精确且实时化地了解民众偏好,并且定向制作和投送符合偏好的竞选广告,对民众投票倾向进行精确引导,形成了数据驱动的智能竞选模式。此外,政党也积极利用算法实施计算式宣传来动员舆论。这些基于算法的策略对引导民众情绪和舆论走向的影响日益显著,甚至能够直接影响民主政治的结果。

算法也被广泛嵌入了公共治理领域的数据信息处理流程中,是政府处理复杂治理问题的新型工具。在此领域,基于大数据且利用机器学习的算法决策系统(AlgorithmDecisionMaking,ADM)的使用日益普遍,是政府面对海量数据环境进行智能化社会计算、挖掘知识模式并提供决策辅助的技术集合。政府利用算法决策系统来高效智能地处理文本、图像、声音和视频等大规模多元化数据,将其转化为相应的公共政策,运用于刑事司法、城市管理、社会安全、医疗行政和社会信用等公共治理的多元领域。此外,算法也正在突破治理体系的组织区隔,不仅运用于各个层级的政府部门,也在全球公共事务的治理中产生了新型技术驱动。总体来说,算法在公共治理中的运用被不断拓宽,在政府和民众关系互动中发挥着重要作用。

值得注意的是,在上述领域中,算法不再仅仅是被使用的工具,而是因其技术智能化和自主化功能产生了反向支配效应。人工智能时代的算法具有能动性和自主性,算法嵌入治理流程能够实质性地改变这些过程中的权力关系和分配结果,产生了更具变革性的效应。对民主治理而言,这种变革意味着在算法的驱动下民主治理实践已进入智能化转型,算法正在使民主治理的复合主体、机制和价值发生着潜移默化的改变。

(一)算法使传统民主治理体系的利益共同体正在转变为数据集合体

从主体结构来看,由政府、企业、政党、公民组织和公民等构成的民主治理复合主体在算法影响下正在发生数据化的转型、演变和重组。传统民主治理的主体形成了以利益为中心的复杂关系网络。利益是政治现象的本质,是在一定的生产和社会关系基础上获得社会内容和特性的需要,而以利益为纽带、以国家为代表的权力主体和以公民为代表的权利主体展开了复杂互动,在现代国家与社会渐趋分离的情境下,促进权力与权利主体的广泛合作,从而使国家与社会中间的一些主体,如非政府组织、非营利组织,甚至是企业等多元主体重新被吸纳进入民主治理的主体体系中,形成了民主治理主体的复合结构。

民主治理的主体结构在算法的逻辑中进行了数据化重塑,形成了虚拟化的数据集合体。在现实世界中,人际关系和制度体系或是被直接转化为数据,或是由数据作为生存的中介。这意味着社会实体及其关系越来越被数据化,以算法为中枢进一步推动了主体的“数据化生存”。在此过程中,社会实体和关系需要经由算法完成数据化转换,算法将这些数据按照关联度进行分类、存储和计算,通过数据间相关性作为主体间的关系纽带,将现实中利益关系纽带转化为数据间的相关性。在算法的计算逻辑中,作为社会关系总和的各类主体也逐渐演变为“数据集合”(AggregateofData),那些基于利益交互形成的主体越来越表现为不同形式的数据集。

民主治理主体的数据化转型,意味着这些主体也成为算法的计算客体。在算法逻辑中,一切主体都能够被数据化,而一切数据又都可以作为算法的计算对象。因此,民主治理多元主体在算法过程中反而成为被计算的数据客体。换言之,算法并不将人们当成主体来对待,而是作为可计算、可预测和可控制的客体,而这种能力也是算法建构社会秩序的力量来源。对于民主治理的复合主体而言,在算法驱动下的数据化转变也使公共领域和私人领域的边界变得日益模糊。

算法的上述支配和调节力量,使其获得了一定程度的主体性,越来越在民主治理的主体结构中占据重要地位。作为计算技术,算法能够通过数据海量计算的能力来反向支配社会主体。尽管人类对算法拥有控制权,但算法在计算过程中往往掌握着越来越多的自主性,表现为具有能动性的技术主体,具备了一定程度的技术支配效应。在算法支配效应基础上形成的算法权力也被视为具有“准公共性质”的技术权力,能够发挥调节、支配和控制能力,正在走向民主治理主体结构的中心位置。

(二)算法重塑了民主治理的复合机制

算法为民主治理的复合机制增添了新的内容。在人工智能驱动下,算法在某些公共事务的决策中成为不可或缺的环节。在基于算法的民主治理实践中,公共政策从现实利益交互转向了人机交互,甚至是机器自主决策,推动民主治理的机制发生重要的转型。

在现实中,传统的民主治理形成了复合机制。民主治理实践在长期发展过程中产生了选举、投票、参与、协商、市场、合作和法治等多元机制。通过这些机制及其综合运用,民主治理能够解决复杂社会的多元利益冲突,维持权力主体和权利主体的利益平衡,以“善治”为导向,妥善解决集体事务,致力于实现公共利益的最大化。

随着算法的运用,民主治理复合机制正在让位于机器决策。在人工智能时代,算法能够实现从海量数据中自我学习和训练计算模型,用更加有效的策略使众多数据点自动学习特征和结果之间形成映射。算法的模型性能和计算精度能够不断地迭代升级,以适应数据环境的变化,使机器辅助决策甚至是自主决策成为现实。机器决策在本质上通过机器使用训练数据来识别输入数据和结果之间的模式,从而生成预测模型,从大量数据中获取隐藏的、有效的和可理解的知识模式,执行相应计算程序,同时机器学习的迭代性也使机器决策能够形成反馈循环,产生智能化预测。

(三)基于算法的民主治理价值体系也正在发生变化

从一般意义上来说,民主治理的价值体系在于平衡权力与权利主体的利益诉求,最终表现为民主反应性和治理效率之间的相互依赖和彼此平衡。联合国开发计划署在推进民主治理计划时,就逐渐明确了责任、透明、公正、法治和参与这些多元价值的重要性。此外,在世界治理指数中列举的表达与问责、政治稳定与和平、政府效率、规制质量、法治、反腐等基本要素,基本涵盖了权力和权利主体的多元价值诉求。尽管民主治理实践在价值导向上存在张力,但在民主治理的复合体系中各种价值会在特定的事务中有所取舍,表现为相对平衡状态,实现多元价值之间的动态均衡。

在基于算法的民主治理过程中,更加强调以用户需求为导向的价值供给模式。这一模式使民主治理的多元价值平衡转向了单向价值匹配。在技术层面,算法需要服务于实际场景以及包括政府、企业和公民在内的特定用户。在算法为用户提供服务的过程中,人们接触到的信息,都是在算法设计下按照自动、自选和预定方向对用户进行推送的。技术人员预先设定参数,由用户配置并且对价值需求进行排序,在选择中,使某些偏好保持优先性,从而在人工智能环境中形成系统和用户的一致性,以提供符合用户预期的相关服务,即“定制化的体验”(CustomizedExperience)。

从上述分析可见,基于算法的民主治理成为当代世界民主治理的新型实践模式。这一模式发生于人工智能技术不断成熟和广泛运用背景之下,深刻影响了民主治理的内在结构,集中展现为对民主治理的主体、机制和价值维度的重塑效应,与传统民主治理形成了显著区别,见表1。

从表1来看,基于算法的民主治理与传统民主治理之间产生了显著的差异。在表1中对基于算法的民主治理的分析只是一种抽象的“理想类型”,算法在民主治理实践过程中的运用存在更为复杂的影响因素和特征,但是基于算法的民主治理变革已经成为一种显著的趋势。在这种变革趋势中,数据集合体的地位更多地显现出来,以公民、政党、公共组织和国家等传统政治主体为核心的传统民主治理开始出现演化,算法将民主治理的主体由利益共同体推向数据化,民主治理主体表现为关系虚拟化、去边界化和客体化。基于主体利益交互形成的民主治理复合机制也逐渐向智能化的机器决策转型。民主治理的多元价值平衡体系通过用户导向的服务模式转变为单向价值适配。在此基础上,算法对民主治理的主体、机制和价值等三重维度产生了更为复杂的积极和消极影响。

二、基于算法的民主治理拓展

算法嵌入民主治理流程,在本质上反映了民主治理复合发展的现实需求。在现代社会中,民主治理面对日益错综复杂的难题,如主体合作问题、意见聚合问题以及交织叠加的治理负荷问题等,这些问题对民主治理实践绩效构成了不同程度的冲击。而基于算法的民主治理,能够从主体、机制和价值等三重维度发挥技术优势,提高了民主治理的实践效能。

(一)基于算法的民主治理能在一定程度上化解主体关系困境

作为新型的智能化技术媒介,算法能够对民主治理主体的行为边界与关系互动进行合理监控和调节,并对主体合作提供技术驱动,在一定程度上化解复杂议题中主体合作的难题。

基于算法的民主治理能够通过大数据的智能计算对民主治理主体的行为进行监督和监测。在此过程中,基于算法的民主治理不仅能够对政府和公务人员等权力主体的行为实施事前、事中和事后的智能监控,形成新型的权力监督模式,而且能在社会安全治理的情境中,对普通公民等权利主体的行为进行监控。

算法对权力主体的监控是全链条的。在事前,算法能够进一步明确公务人员行为的模糊地带,使工作流程更加规范和清晰,甚至能直接替换权力主体的部分决策和行动。在事中,算法可以严格地按规则进行治理,排除一部分主观的自由裁量,在一定范围内限制权力滥用的可能性。在事后,算法也能够对权力主体进行监督,通过数据痕迹的收集和计算,重新发现权力主体行动中存在的风险和问题,对权力滥用行为进行精准的监测和抑制。例如,世界多国的司法体系正在积极探索把算法融入案件审理和量刑过程,以抑制“同罪不同罚”的自由裁量现象。利用算法来打击权力滥用也已经得到了运用,如西班牙瓦伦西亚地区政府开发的早期预警系统能够全面搜集和分析政府公务人员的基础信息和日常工作流程的数据,用来打击公共部门中欺诈和腐败行为,规范政府公务人员的行为。

基于算法的民主治理也能抑制公民对公共利益的恶意侵犯。算法能够基于数据挖掘,建立目标个体的生物特征,在此基础上,形成不同层次和维度的数据档案,对包括公民在内的各种权利主体进行追踪和预测。目前,这种技术方案常见于社会安全治理领域,如使用算法研判并预测公民的犯罪可能性,并开发出了多元化的预测型警务系统。截至目前,大致有150多种数据驱动的预测算法被应用于世界各地的刑事系统中,能够较为准确地识别和判定个体行为风险,为治理公民个体的越轨和犯罪行为提供了有效方案。

基于算法的民主治理能够在一定程度上化解复杂议题中主体合作的难题,减少主体利益博弈产生的公共利益损耗。在现实中,针对复杂治理议题达成共识需要利益博弈,达成共识的过程十分复杂。民主治理主体虽然常常面临信息不足的困境,导致主体合作存在难题,但是基于算法的民主治理在数据信息处理方面则展现出规模性和高效率的优势,不仅能够调动大量数据信息来设计选择主体的协议架构,通过自动评级代替人际信任,通过数据驱动分析来模拟人际关系,而且当算法系统涉及集体解决问题的社会协调时,通常会改变规则制定和获取工作方式来修正现有的治理模式,将冲突解决方案融入算法设计中,从源头上实现主体合作的程序化和规范化。

(二)基于算法的民主治理能提升决策的效率、科学性和前瞻性

算法能够提升决策的效率。算法能够通过数据挖掘,极大地提高了数据信息的计算速度,为决策提供更丰富和更高质量的信息基础。基于算法的网页抓取、内容整合和自然语言处理等具体技术能够深度挖掘互联网和新兴社交媒介上的公众留言、讨论和建议等数据资料,从而对这些大规模且结构异质的数据进行计算,从这些数据中识别民众基本偏好,不仅能够拓宽制定决策的信息来源,也能够极大地提升决策的效率。

算法能够提高决策的科学性。决策是面对不确定情境所作出的选择,而决策的科学性又是民主治理质量的关键因素。在现实中,决策者在主客观条件制约下存在一定的局限性,但是基于算法的决策以大规模数据为基础,在机器学习的过程中可以更快、更客观、更准确地分析这些数据,将数据转变为决策“证据”,能够突破决策者理性能力限度,根据数据识别出最优路径和决策模式,全面分析决策利弊,为公共决策提供更为坚实的“循证”(Evidence-based)基础。算法决策系统以“研究”和“证据”为导向,降低了决策过程中的不确定性,这也是政策制定者积极利用算法的重要原因。

基于算法的预测提高了决策的前瞻性。算法的决策功能正在由数据分析的描述型模式逐渐转向了预测型模式。具体来说,算法能够基于数据集分析数据结构,从而预测某一事件或问题的发生概率及未来走向,通过研判可能的趋势和问题来制定相应措施加以有效干预。在公共卫生领域,“谷歌流感趋势”成为经典案例,其能够通过分析以“流感检测”为关键词的几十亿次搜索记录来预测流感发病率,辅助决策部门决定是否启动流感应急预案。在社会安全治理中,政府部门通过计算社交媒介大数据,也能对包括抗议和骚乱在内的社会运动发展态势进行研判,采取更具针对性的措施进行干预。此外,算法也是对政策执行进行评估的重要工具,生成了智能化的政策评估路径,根据未来的趋势来调整当下的政策执行。

(三)基于算法的民主治理能提供更具个性化的价值服务模式

在价值维度,算法通过用户导向的服务模式使民主治理的价值体系也更加情境化,提高了民主治理的场景适应性,使民主治理的价值体系和分配方式更加具有弹性,满足个体化的价值需求。

算法能够实现智能化的用户需求洞察,提供更具个性化的价值服务模式。与公共价值的平衡逻辑不同,算法在计算大数据的过程中可以服务于某种特定的价值。例如,目前较为常见的各种推荐算法在挖掘和整合用户需求的过程中发挥了重要作用。机器对人类预先给出分类的数据进行学习,在掌握其中的分类规则后,给新添加的数据打上相应的分类标签。算法根据用户在平台的信息资料和行为数据,给用户打上和服务内容分类相似的标签,在完成了对内容和用户的分类后,机器就可以把具有相同标签的内容和用户放在一起,混合推荐。机器通过用户的反馈不断地学习,内容越多,用户反馈越丰富,用户的需求就更加清晰,在这种需求分析的基础上,机器能够根据用户需求来满足用户的个性化需求。

个性化的价值服务模式也使基于算法的民主治理在提供服务时更具备了场景适应性和灵活性。算法具有善引导、强关联、精计算的优势,这种优势在公共服务场景中能够面向差异化的需求,实现个性化供给。基于算法的民主治理在面向公民提供服务时,类似“货架”结构,具有中心化、模块化和插件化部署的特点,可以在不同的具体情境下被开发调用,以适应不同的实际情境。算法模块也可实现跨区域、跨系统访问、查询和共享调用,并可根据场景实际情况进行灵活调整,对于不同地方同一公共服务领域的相同问题场景,只要输入所在地的场景数据,就可通过计算得出与当下情景相匹配的结果。

总之,算法能够从主体、机制和价值等三重维度提高民主治理的实践效能。算法不仅能够进一步明晰权力和权利主体之间的模糊地带,为主体合作提供新型技术纽带,减少利益交互中的合作难题,而且为关键词的几十亿次搜索记录来预测流感发病率,辅助决策部门决定是否启动流感应急预案。在社会安全治理中,政府部门通过计算社交媒介大数据,也能对包括抗议和骚乱在内的社会运动发展态势进行研判,采取更具针对性的措施进行干预。此外,算法也是对政策执行进行评估的重要工具,生成了智能化的政策评估路径,根据未来的趋势来调整当下的政策执行。

(三)基于算法的民主治理能提供更具个性化的价值服务模式

在价值维度,算法通过用户导向的服务模式使民主治理的价值体系也更加情境化,提高了民主治理的场景适应性,使民主治理的价值体系和分配方式更加具有弹性,满足个体化的价值需求。

算法能够实现智能化的用户需求洞察,提供更具个性化的价值服务模式。与公共价值的平衡逻辑不同,算法在计算大数据的过程中可以服务于某种特定的价值。例如,目前较为常见的各种推荐算法在挖掘和整合用户需求的过程中发挥了重要作用。机器对人类预先给出分类的数据进行学习,在掌握其中的分类规则后,给新添加的数据打上相应的分类标签。算法根据用户在平台的信息资料和行为数据,给用户打上和服务内容分类相似的标签,在完成了对内容和用户的分类后,机器就可以把具有相同标签的内容和用户放在一起,混合推荐。机器通过用户的反馈不断地学习,内容越多,用户反馈越丰富,用户的需求就更加清晰,在这种需求分析的基础上,机器能够根据用户需求来满足用户的个性化需求。

个性化的价值服务模式也使基于算法的民主治理在提供服务时更具备了场景适应性和灵活性。算法具有善引导、强关联、精计算的优势,这种优势在公共服务场景中能够面向差异化的需求,实现个性化供给。基于算法的民主治理在面向公民提供服务时,类似“货架”结构,具有中心化、模块化和插件化部署的特点,可以在不同的具体情境下被开发调用,以适应不同的实际情境。算法模块也可实现跨区域、跨系统访问、查询和共享调用,并可根据场景实际情况进行灵活调整,对于不同地方同一公共服务领域的相同问题场景,只要输入所在地的场景数据,就可通过计算得出与当下情景相匹配的结果。

总之,算法能够从主体、机制和价值等三重维度提高民主治理的实践效能。算法不仅能够进一步明晰权力和权利主体之间的模糊地带,为主体合作提供新型技术纽带,减少利益交互中的合作难题,而且能够为民主治理机制提供全方位的技术支持,能够在大规模数据情境下深入挖掘相关信息,为制定和执行公共政策提供新型技术支持,提高决策的效率、科学性和前瞻性,此外,算法也能够满足民主治理的个性化服务需求,具备场景适应性。

三、基于算法的民主治理限度

在实践过程中,算法嵌入民主治理也带来了一些弊端,引发了社会普遍的担忧。这些弊端导致算法对民主治理产生了不同程度的负面影响,也从主体、机制和价值等三重维度对民主治理的秩序规则产生了冲击,不仅对民主治理动态平衡结构产生了诸多风险,也衍生出一系列“次生灾害”,这些风险困境也展现出基于算法的民主治理还面临种种限度。

(一)算法的自主性和能动性,对民主治理主体的平衡结构产生了异化威胁

对权力主体而言,算法能够替代权力主体的决策地位,进而产生“算法利维坦”和“算法独裁”等困境。这在根本上源于算法在信息处理层面展现出的技术主导趋势。数据采集和处理的背后都需要算法作为支撑,这些算法决定了哪些数据被采集,又应该如何处理,这一过程以高度技术化的方式进行,会带来一系列非民主问题。算法在塑造社会秩序方面发挥着一定程度的公共权力效能,越来越展现了霍布斯所描述的“利维坦”形象,成为具有强大塑造能力的“巨型机器”。更进一步,在极端情况下,算法也能够成为“技术独裁者”,完全规避权力主体的约束,扮演着民主治理规则的终极裁判。在此基础上,权力主体对算法的监管成为现实的难题,使得监管机制难以充分发挥效力。

对权利主体而言,利用算法对民众数据的挖掘、追踪和监测,也会导致不同程度的隐私和数据安全困境。这些风险主要包括个人数据安全风险、网络数据安全风险和数据伦理安全风险。算法能够采集碎片化的个人数据并进行整合,实现对公民数据化监测,这使得公民隐私和数据安全也面临被侵犯的危险,并衍生出数据滥用的隐患。近年来,世界范围内的公民数据被滥用和泄露的问题频频发生,例如,在2021年有数百万名以色列公民的选民登记信息在网上被泄露,产生了恶劣影响。

此外,将算法作为主体合作纽带也可能会削弱民主治理的主体间性。民主治理更强调多元主体的参与、合作和协商,多元主体之间的共通性以及彼此沟通的可能性,构成了民主治理多元主体互动的现实基础,利益交互更是凸显了民主治理的主体之间的依赖关系。在基于算法的民主治理中,民主治理主体成为被计算的客体,利用技术来完成合作,削弱了现实的民主治理主体围绕着公共政策制定和执行所进行的利益交互过程,从而削弱了主体间的关系互动,对民主治理主体的复合发展造成了阻碍。

(二)算法通过识别数据相关性制定决策,对民主治理的决策造成了暗箱和失误困境

算法的专业性和复杂性导致决策过程处于封闭状态,产生算法暗箱风险。与政府决策者长期依赖的数理统计分析不同,机器学习算法根据输入变量与输出变量形成模型具有明显的暗箱特征。这主要包括组织暗箱,即运用算法的组织存在刻意隐瞒或欺诈;技术暗箱,即编写算法所需要的专业技能不透明;认知暗箱,即机器学习算法与人类认知过程在本质上存在错配。这些暗箱的存在,导致人们难以理解、解释或预测算法的工作原理,导致算法决策不透明。

算法基于数据相关关系进行决策,可能会产生决策失误的困境。算法主要依靠数据之间的相关性,因为其大规模以及全样本的特点而具有很好的关联性,然而这种简单的相关性预测并不是科学的真理,会直接对决策科学化带来负面影响。信息的真实合理是公共决策科学化的基础,数据本身及其内在关联度的真实性在很大程度上决定了基于算法的民主治理的效度,但在现实中,即使是大数据也很难反映出公共事务的全貌。基于算法加工产生的关联度并非真实的因果关系,这就会导致算法决策失误。从政策制定角度来看,算法决策面临三个维度的因果困境,即过程所需的基本事实缺乏优化、结果与以往决策的联系脆弱、决策背景和公众感知的可塑性不同。算法的决策失误事件以英国公共卫生部门利用算法筛查癌症事件最为典型。从2009年至2018年,英国卫生大臣指出英国国家健康系统的乳腺癌筛查软件算法出现失误,导致约45万名女性失去了进一步治疗的机会,产生了恶劣影响。

(三)算法背后的逻辑对民主治理的价值带来了冲击

2016年,英国《自然》(Nature)杂志发文认为,算法为获取各类数据信息带来了巨大的便利,但也在此过程中产生了隐性的不平等、歧视、偏见等一系列价值隐患[35]。2020年,美国皮尤研究中心的一项民意调查显示,有超过49%的专家认为算法容易被武器化来操纵和扭曲事实,影响民众对公共机构的信任以及彼此信任,会进一步削弱民主和代表制的核心价值。

算法的精英特点会对民主治理的平等价值造成损害。新的技术运用往往会同时产生“技术赋权”和“数字鸿沟”。算法也同样带有技术精英色彩,与民主治理的平等价值相背离。算法对技术要求很高,使掌握算法的群体日益集中在某些科技精英那里。虽然人工智能和机器学习最终嵌入个人设备中,但是个人不能像使用个人电脑那样容易掌握这些技术。因此,算法的技术特性催生了“算法精英”阶层的崛起,随着算法在民主治理中的深度融入,公共行政的合法性也逐渐从专业行政管理知识转移到这些“代码之王”,最终转移到算法本身。

基于算法的民主治理也常常复刻现实社会的不平等,加剧各种类型的歧视。通常认为,算法的工具理性能够使其在决策中保持价值中立,但越来越多的研究表明,人类的偏见和刻板印象能够被复刻进算法分析和决策之中。算法在实际计算过程中能够将社会结构的不平等进行复刻、再现和放大,最终呈现在机器学习结果中。例如,最为典型的美国刑事司法领域的“预测性警务”。这一系统通过搜索引擎获得大量公民数据信息,而这些信息往往是由美国白人至上主义者系统地策划和整理的,这直接影响到算法的信息偏见,在其中嵌入了种族主义和性别歧视。“预测性警务”又进一步固化了种族化犯罪推定,是2020年美国“黑命亦命”运动爆发和蔓延的潜在原因。

此外,对于民主治理的价值维度而言,基于算法的信息供给模式也能够通过强化个体偏好的形式,加剧“信息茧房”,与公共价值体系产生分裂与对抗。算法在提供个性化信息的同时,也构建了一个封闭的世界,即“信息茧房”。“信息茧房”背离了人的本质意涵,使人际交往变成了冰冷的数字化符号。在社交媒介上,为相应的用户提供个性化的信息与建议,产生了大量的虚假信息、阴谋论,甚至激进的话语对立。大量研究表明,通过高度的用户控制,公民倾向有选择地寻求信息,并保持与其政治取向一致的沟通网络,这最终加剧了社会中的党派分歧。21世纪以来,在全球民粹主义扩张浪潮中,算法也难辞其咎,发挥了特殊的作用,通过将民粹主义话语传递进入算法程序,形成了“算法民粹主义”,发挥着重要的动员作用,消弭了民粹主义中左翼与右翼的边界,更加突出了民粹主义的激进色彩。

基于算法的民主治理所展现的消极限度引发了普遍的担忧和警惕。在此背景下,有效管控算法技术弊端已经成为当代世界政治生活中的一项共识。根据实践发展趋势,对算法在民主治理过程中存在的风险弊端的规制措施呈现出“组合拳”效应,其中,既包括法律规制、政策监管,也包括市场化的监管措施,并且伦理价值规制也被视为引领算法“向善”的重要举措。具体而言,法律法规和政策规定的重点在于强化算法问责制。例如,欧盟在2018年制定的《通用数据保护条例》,旨在全面评估算法的透明度及其影响。而美国颁布的《2019年算法问责法案(草案)》旨在评估算法在设计和训练数据的过程中对准确性、公平性、偏见、歧视及对隐私和安全方面的影响。市场规制措施更加侧重规制算法的研发和生产,通过规范科技公司的商业化运营,防止这些科技公司以商业利益为理由阻碍对算法进行合理监管和控制。价值规制则侧重以政治共同体的“公共善”为导向来平衡算法的技术理性。例如,西方学界提出的价值敏感性设计(value-sensitivedesign)方式,在算法设计环节就嵌入基本伦理价值,结合决策情境来设计符合伦理的算法。

四、结论

人们之所以会关注算法问题,就是因为通过机器对于规则的智能使用(具有相当大的自主性)来影响人们的实际生活,并且这种影响愈来愈大,在人工智能发展及其与政治生活的互动过程中,算法被频繁和广泛地运用于民主治理过程中,从主体、机制和价值等三重维度推动了民主治理的智能化转型,形成了基于算法的民主治理,使当代世界民主治理发生了深刻变化。全面分析基于算法的民主治理,可以发现算法对民主治理实践秩序产生了双刃剑效应,见表2。

在主体维度,基于算法的民主治理既有推进,也有阻碍。一方面,基于算法的民主治理将传统民主治理中的利益共同体转变为数据集合体,规范了权力主体和权利主体的行为,促进主体合作;另一方面,算法也引发了监管和问责难题以及隐私和数据安全问题,改变了传统民主治理主体之间的现实关系纽带。

在机制维度,基于算法的民主治理在提升民主决策能力的同时,也带来了一系列问题。在基于算法的民主治理中,算法的运用虽然提高了决策的效率,但也带来了决策的暗箱化,其民主性令人担忧;算法虽然增加了决策的科学性,但也因为算法本身存在的问题带来了决策的失误;算法虽然加强了决策的前瞻性,对于风险社会、应急管理有着非常好的感知,但对复杂的人类社会,这种前瞻性的感知也需要谨慎运用。

在价值维度,基于算法的民主治理提升了传统民主治理的价值,但同时也带来了一系列问题。基于算法的民主治理确实能够更好地以个性化的用户画像提供更加个性化的信息服务,使算法用户平等获得技术服务,然而这种个性化的服务,也会强化个体偏好,在加剧“信息茧房”的基础上进一步加剧极化效应。同时,算法的数据计算过程也能复刻社会存在的不平等,甚至是固化歧视,侵蚀民主治理的平等价值。

基于算法的民主治理在主体、机制和价值等三重维度存在着显著双刃剑效应,而这种双刃剑效应全面解构了算法与民主治理实践之间的复杂关系。因此,全面合理认识这种复杂关系,能够为基于算法的民主治理进一步发展提供学理借鉴。当前,在民主治理发展过程中,需要进一步发挥算法对民主治理的拓展效应,找准技术运用的领域和着力点,形成更加有力的技术拓展效应,推进民主治理实践的有序智能化转型,同时需要依据并动态追踪算法对民主治理的主体、机制和价值等三重维度产生的技术限度,制定更加精准和全面的规制措施,对这些技术限度及其衍生的复杂风险加以规制,保障民主治理在人工智能时代行稳致远。

进入 佟德志 的专栏

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 理论法学
本文链接:https://www.aisixiang.com/data/148304.html
文章来源:本文转自《行政论坛》2023年第6期,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。

相同主题阅读

Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统