摘要:人工智能的兴起正深刻改变着工业时代以来的权力形态、治理结构与价值规范。当前,世界各国依托人工智能技术开启了新一轮治理变革浪潮,公共治理在问题发现、决策机制与方案执行三个核心环节取得突破,初步实现大数据识别潜在风险、优化决策过程、自动化协同执行的闭环治理过程,形成主动预测、算法理性、闭环反馈的智能治理模式。与此同时,人工智能也在深刻冲击着既有的公共治理范式,带来算法权威的合法性问题、他律机制的个人权利问题以及数字鸿沟的公平正义问题。因此,应构建可解释、可参与、可问责的智能治理范式,保证技术透明、鼓励公众参与、确保人类担责。
关键词:人工智能;智能治理;治理变革;公共治理范式;负责任治理。
来源:《行政论坛》2026年第2期。
熊易寒,复旦大学国际关系与公共事务学院教授,博士研究生导师;
刘振琳,复旦大学国际关系与公共事务学院博士研究生。
一、问题提出
人工智能源于对机器或“形式”的推理研究,图灵提出了这样一个问题:“机器会思考吗?”他设想制造一种模拟人类思维的计算机——通过深度学习训练使其逐渐达到相当于成人的思考水平。经过近一个世纪的发展,人工智能不仅实现了广泛的产业应用,催生出数字内容生产、智能客服等新业态,还逐渐在脑机接口、具身智能等前沿领域取得重大突破,成为具有战略意义的新兴技术。
“人类与人工智能之间不断加深的合作关系揭示了一个微妙而深刻的控制悖论”,尽管在理论上是人类利用AI这个数字工具辅助决策以改善生产生活,但在不知不觉中也将控制权让渡给塑造和控制这些工具的企业或政府实体,对于AI的依赖最终会削弱人类的认知能力、战略能力和道德素质。从治理的角度来看,对技术的屈从使“人的政治”逐渐为“人机政治”所取代,技术利维坦的膨胀有可能会反噬既有秩序和人类本身,必须借助于合理价值规范引导人工智能技术的发展和使用,才能使其成为推动人的发展的强大动力。
作为第四次科技革命的核心技术,人工智能已经成为重塑治理结构、转变政府职能、推动理念变革的关键变量,受到学界的广泛关注。一是关注人工智能作为智能化治理工具在公共治理中的应用。有学者认为,人工智能嵌入社会治理后形成了以算法官僚决策、跨界人机协同、服务精准供给、仿真治理场景为特征的全新治理体系,有力推动了政务服务的智能化、精准化、个性化。二是讨论人工智能如何影响政治经济权力与国家合法性。数字技术的多重赋能与失能正孕育着新的权力范式。大企业利用AI进一步强化寡头垄断地位,并推动资本主义向数字资本主义、监视资本主义、平台资本主义等新形态转型。从国家层面来看,AI重新定义了战争方式和权力的行使方式,并正重构大国霸权竞争格局。三是对人工智能治理框架的研究与思考。当前,人工智能治理面临三大挑战,即伦理嵌入挑战、监管不足挑战、道德训练挑战。学界试图通过提出整体性的人工智能治理框架以应对挑战,如基于算法社会契约的社会在环(Society-in-the-loop)框架、从政策制定的各个阶段实现对人工智能进行可持续治理的AIR框架。
总体来看,人工智能技术不仅为政府治理赋能,而且在深刻地改变政府形态,推动着政府治理范畴、组织形态、履职方式的根本性变革。在这一背景下,政府如何适应上述变革所带来的挑战,从而更好地改善公共服务、提升治理效能、增进民生福祉、创造公共价值?本文认为,人工智能技术推动了公共治理的范式变革,学界有必要从组织结构、技术手段、治理资源以及价值理念等维度思考面向未来的公共治理范式,探讨工业革命以来的现代政府体制如何适应数字社会的发展与治理需求。人工智能技术既为国家治理体系和治理能力现代化提供了有力支撑,也对政府、市场与社会之间的关系,技术治理与社会治理之间的关系提出了严峻挑战,亟须重构公共治理的基础理论。本文将从人工智能重构公共治理的范式变革着手,讨论人工智能技术如何重塑治理逻辑与权力形态以及在这一进程中所出现的风险与挑战,并进一步思考如何在智能治理时代建立切实有效的治理框架。
二、人工智能重构公共治理:从问题发现到方案执行的范式变革
当前,人工智能技术已从实验室的科研辅助工具拓展为场景化解决方案,广泛应用于医疗、金融、制造、教育、公共治理等领域。各国政府纷纷将人工智能技术纳入治理转型议程中,通过重塑问题发现的感知力、决策机制的科学性以及方案执行的精准性,推动公共治理从传统的“被动响应、经验驱动、碎片分化”模式向“主动预测、算法理性、协同整合”的智能范式转型。
现代公共管理虽然高度强调效率导向,但囿于技术水平、制度环境、组织文化的限制,在治理实践中高度依赖自上而下的科层制结构,基层问题往往须经逐级上报,信息在传递过程中容易失真、滞后甚至被过滤。与此同时,由于缺乏有效的横向沟通机制和民众反馈通道,治理主体在问题识别上常常陷于“信息孤岛”“认知盲区”。在决策过程中,行政主导导致供需脱节,经验驱动带来科学性不足,封闭决策导致民主虚化,部门博弈带来目标偏移。决策权力往往集中于少数精英或特定机构,依赖领导个人经验与制度惯性进行判断,决策者的有限理性难以应对各类复杂问题。在执行环节,执行偏差、协调失败和监督不足常常导致难以实现预期治理目标,“变通执行”“执行空转”是经常出现却又难以克服的难题。
人工智能依托高性能的大数据处理能力、语义分析能力以及知识图谱构建能力,能够对海量异构数据进行深度整合与结构化分析,不仅实现了信息互联互通,还能在数据共享的基础上构建“全息式公共服务画像”。以政务云平台和“城市大脑”为代表的智慧治理基础设施,在人工智能技术赋能下,将原本分散于交通、医疗、教育、社保、环保等领域的数据信息进行系统化联动,通过算法对数据的动态匹配、智能聚合与规则识别,实现了大数据识别潜在风险、优化决策过程、自动化协同执行的闭环治理。
以“城市大脑”为例,其运作架构可以概括为“感知层-中枢系统-应用层”三个关键环节,如图1所示。感知层以全域感知为特点,城市大脑通过高密度部署的摄像头、传感器、射频识别(RFID)、5G网络、智能终端等设备,构建起对城市运行状态的实时感知体系。这些设备覆盖交通、环境、能源、治安、医疗等领域,形成一个“物理城市的数字映射体”,即“数字孪生城市”。
城市大脑的中枢系统主要负责数据整合、处理和调度,分为数据平台、算法平台和计算平台三个部分。感知端收集的多源异构数据通过云计算平台传输至数据平台,借助于人工智能算法,如计算机视觉、语义识别、深度学习,进行清洗、归集、建模与分析,计算平台则负责帮助系统理解数据间的关联与逻辑,构建可执行的治理方案。
基于大模型推理能力与预测算法,城市大脑可以实现对城市运行态势的自动预警与协同调度,如交通信号灯动态调控、110与120应急车辆优先通行、城市防汛预警与排水调度以及公共安全事件模拟推演,有效实现了“事件驱动治理”。城市大脑的意义在于其能够通过城市神经元和城市云反射弧同时满足城市不同成员的需求,它不仅能支撑城市的高效率运转,还能为民众提供灵活有弹性、动态进化、性价比合理的服务。
通过对“城市大脑”运行机制的梳理,可以发现,人工智能技术正在以前所未有的广度和深度重构公共治理的实践过程,尤其是通过对问题发现、决策机制与方案执行这三个核心环节的改善增强了政府的执行能力与治理韧性。
(一)从被动响应到主动预测:人工智能重塑问题发现的逻辑链条
人工智能重塑问题发现的逻辑链条的核心在于技术栈的集成应用,包括大数据整合、机器学习和深度学习机制,这些机制推动治理转向数据驱动的主动预测。首先,借助于智慧基础设施所构建的“数字孪生城市”,政府部门能够对城市运行、民生动态和社会舆情进行高密度实时采集,建立综合数据库,实现对潜在问题的连续扫描,解决传统治理“看不清、看不全”的难题。在数据感知与融合的基础上,通过机器学习和深度学习模型,人工智能可以在高维、海量数据中总结人类难以察觉的复杂关联与规律性特征,在分析日常数据的过程中能够有效识别异常信号、检测异常行为。这实现了问题发现从个体性经验推断到系统性模式识别的重大跃迁,为超前部署、预防问题出现奠定了基础。
当前,发展较为成熟的问题发现应用主要集中在警务预测、交通疏导等领域。预测性警务模型缘起于美国国家司法研究所实施的“社区安全战略”项目,孟菲斯等五个试点城市率先推行预测性警务项目,并在洛杉矶市得到更进一步的发展。全美各地相继出现了PredPol(洛杉矶)、Strategic Subject Lis(芝加哥)等多个预测性警务系统,借助于地理预测模型、人物风险模型、行为预测模型,对未来可能发生的犯罪行为、地点或人员进行预测,从而提前部署警力、实施干预、降低犯罪发生率。“人工智能交通治理系统”则是当前中国大力建设的问题发现应用之一,通过视频图像识别与边缘计算,实现路况数据的实时动态感知,并借助于预测模型提前预判交通拥堵和事故高发点,智能调节交通信号配时。以国庆期间高速公路G2无锡江阴段为例,通过对比2018年和2020年交通智能分析与管理信息平台上线前后的路段交通拥堵数据可以发现,虽然江苏省高速公路流量从2018年“十一”期间到2020年“十一”期间增加了22.89%,但拥堵总时长降低了46.7%,拥堵总里程降低了68.9%,交通通行速度通过智能交通应用实现了显著的优化效果。
(二)从经验决策到算法理性:人工智能推动决策机制的重大转向
人工智能所带来的感知能力提升,使决策者不再是基于过时的、概括性的既有数据来进行判断,而是可以直接“看到”城市或社会每一分钟的真实状态。这一变革极大地推动了决策过程的优化升级,主要体现在决策依据、决策效能和决策模式三个维度。
在前人工智能时代,决策依据是以人类心智与传统统计学为基础建立的线性因果机制,其所采集的数据具有小样本量、截面静态、粗颗粒度的特征,而人工智能时代的“大数据”则具有全量性、实时性、关系性特征。数据范式的转变以及研究方法的进步,使治理决策不再依赖直觉和简化模型,而是依靠实时大数据感知与计算,由机器自主生成决策方案。这一决策机制的重点在于通过智能算法对社会复杂性的深度计算,发现一个由多个弱信号变量共同构成的复杂网络,帮助决策者在高度不确定性中实现决策的动态优化。
这也在一定程度上对赫伯特·西蒙的有限理性理论构成了挑战。人工智能技术能够将决策问题抽象为数学模型,在一个精确定义的框架内凭借强大的计算能力寻找特定目标下的最优解,其核心机制是借助于数字孪生空间进行政策沙盘实验,通过基线校准、政策注入、多维后果外推等步骤,推演该政策可能引发的连锁反应,并自主测试数千种参数组合方案,寻找能够最大限度接近最优解的方案组合。这使决策过程真正超越经验限制,转向算法理性本位,提升了决策的速度和精确度。以此为基础,决策者在决策过程中能够基于对态势的精准理解进行快速、精准微调,而不用再像过去那样启动一套冗长的程序,在部门间进行复杂博弈。
当然,公共治理决策过程不只是一个科学计算问题,其本质上是一个在复杂利益格局中进行价值分配与权衡的政治过程。无论是纯粹的“算法理性”,还是纯粹的“人类经验”,都存在其无法克服的内在悖论,二者存在互补协同的可能。因此,在未来的决策模式中,人工智能可以作为超级分析师和赋能者存在,人类则是价值设定者与最终裁决者,人机协同可以构建起新型治理伙伴关系——人工智能技术的意义在于提供强大的认知和实验工具以帮助决策者充分理解多种方案的可能性后果,而人类则专注于进行更高层次的战略决断和价值平衡,人工智能的算法理性与人类价值理性的有机融合为促进更高效、更包容和可持续的政策制定奠定了基础。
(三)从碎片分化到协同整合:人工智能嵌入执行过程的全新变革
更为重要的是,人工智能的兴起为破解公共治理长期以来的多头管理、各自为政问题提供了技术路径。以人工智能技术为支撑,公共治理在问题发现与决策制定等环节已经发生重大变化,并进一步推动执行过程从碎片分化到协同整合的全新变革。
执行中的碎片分化源于主体异质性与信息壁垒,而人工智能则以数据整合为突破口,通过重新定义政府内部信息权力的分配、流动与应用规则,为公共部门间信息互通与协同决策提供支撑,打破了长期存在的由部门间职责分工、数据分割所带来的执行割裂,并开启了“以事件为中心”重构政府业务流程的全新尝试。
在流程再造环节,借助于机器人流程自动化与智能工作流等技术,人工智能发挥了数据标准化、流程自动化以及智能预审者的作用。机器人流程自动化可以模拟人类操作处理重复任务,如数据录入与传递、审批校验、文件归档等。智能工作流能基于预设规则和算法,对一个完整的跨部门业务流程进行端到端的编排、调度和监控,这被称为“智能并联式”的流程再造。
在传统的“串联流程”中,业务办理需要沿着行政部门流程依次推进,各部门往往各自设立相似的审核环节,给公众造成了极大的行政负担。在新的“智能并联式”流程中,用户只需要在“一网通办”平台提交一套材料,智能工作流在接收后便会立即将任务拆解且同时派发给相应部门的系统,并开启实时过程管理,保证业务顺利完成。这推动了政务办理从以部门为中心的固定流程转变为以用户为中心的服务过程(见表1)。
在过程管理中,借助于实时追踪、自动催办、异常处理等环节,人工智能技术能够通过流程回溯识别最优路径、发现冗余节点,并模拟在不同政策、资源约束条件下的执行结果以推动规则库的动态优化。这一过程的意义不仅在于推动流程的简化,而且能依据大量经验事实转化为规则逻辑,并在执行中不断自我修正,最终实现规制标准的统一透明、治理行动的协同整合以及制度结构的持续优化。
以问题发现环节为起点,人工智能驱动的公共治理构建了全域、实时的感知系统,颠覆了传统的信息流动过程,改变了治理实践中多元参与主体的角色关系,形成了人机协同的新型伙伴关系。治理行为从过去按部就班、流程固化的“静态处置”,演变为一种能够根据实时态势灵活调整、动态干预的新模式,公共资源能够被精准地、弹性地调度到最需要、最紧急的节点上,治理的敏捷性和适应性大大增强(见表2)。这也正在推动着公共治理体系的动态、实时与精准化重构,形成了智能治理的全新范式:政务服务从以部门资源配置为中心转向以个体需求为驱动,交互空间从线下窗口延伸至“云端指尖”,政府组织从“部门本位的管理”转向“跨部门协同”。
公共治理体系的重构是当前人工智能技术推动国家治理变革进程中最具可操作性和可感知性的应用场景。以行政为中心的传统科层体制在回应民众诉求时,常常面临碎片化治理、数据孤岛、过度强调合规、资源分布不均、缺乏有效反馈等难题。人工智能技术凭借其在数据处理、决策辅助与服务智能化等方面的巨大优势,为公共治理体系的变革提供了技术支撑,并重新塑造科层体制的运行边界,展现国家在复杂性治理中迈向技术集成、数据驱动与系统智能的全新方向。
三、智能治理的内在悖论:人工智能对权力、权利与正义的三重挑战
人工智能技术的蓬勃发展正在重塑现代国家的治理图景。以“智能治理”为名的技术治理体系基于海量数据、先进算法与强大算力的应用,承诺构建一个更安全、更高效、更有序的社会。从实践层面来看,智能治理确实展现出显著优势,为突破传统治理存在的信息不对称、决策滞后等固有局限,为复杂社会问题的解决,提供了前所未有的技术方案。因此,人工智能技术驱动的治理现代化,成为全球范围内公共管理革新的共同趋势,吸引了各国政府、国际组织与技术企业的加入,并以数字基础设施建设驱动经济增长、政府服务转型以及可持续发展。
智能治理关于效率和秩序的许诺的确令人着迷,但当人们将决策和执行的权威交予非人类智能体时,一系列潜藏于技术光鲜表象之下的元问题(Meta-problems)不可避免地显现出来。这些问题之所以被称为元问题,是因为它们超越了传统治理框架中所面临的提升效率、简化流程或优化资源配置这类单纯的技术性问题;相反,元问题直指治理的规范性基础,对政治、技术与社会之间关系的既有认知提出了严峻挑战:谁拥有权力,权力如何正当化?个人权利如何保护?社会如何确保公平与正义?这些元问题并非技术治理的副产品,而是其内在逻辑的必然延伸。理解和回答上述元问题是人工智能时代公共治理的核心议程,本文通过对上述三大问题的深入剖析,揭示智能时代治理变革的深层逻辑与内在张力,并构建一个更负责任、更具包容性、更符合正义原则的未来智能治理框架。
(一)算法治理的权力合法性问题
马克斯·韦伯在《经济与社会》中构建了经典的合法性权威类型,即传统型权威、克里斯玛型权威和法理型权威。法理型权威将个人与权力区隔开来,将合法性建立在一切人与理性的法律关系之上,从而确立了制度化理性规范的崇高地位。技术权力的崛起,特别是人工智能与算法治理的推广,产生了一种新的基于技术理性的合法性逻辑——认知合法性。这是对韦伯形式理性的进一步延伸,算法宣称能以代码赋予的精确性取代人类官僚的模糊性和偏见,将非人格化与规则至上的逻辑推向极致,从而获得正当化权威,人类对世界真实或善恶的判断依据也从个人心智转向算法。
从这个意义上来看,算法是形式理性在技术执行层面的完美化身。首先,算法具有极致的可计算性。它不仅是记录世界的工具,更主动地将世界重构为数据——人类行为、社会关系乃至存在本身都可以转化为可量化的数据点。这也反向重塑了人的行动与社会运作的逻辑,即数据驱动的效率至上主义。其次,算法具有极致的可预测性。算法能够将不确定性转化为可管理的风险指标。以海量数据为依据,算法能够帮助人类发现自身无法觉察的强相关性,并基于可能产生的风险施行“预测性惩罚”。最后,算法具有极致的非人格化。没有愤怒与偏爱是韦伯官僚制的理想形态,而算法看起来比官僚更适合实现这一目标。算法实质上是非人格化的代码,理论上无偏见、无情感也不可能疲劳,能够严格根据规则和数据执行任务。
基于以上三个特征,算法建构的量化模型替代了官僚的经验、惯例与地方性知识,其通过数据分析和绩效指标将权力触角深入到社会肌理的每一个角落,实现了前所未有的微观管理。政府借助于算法优化服务流程、精准分配资源、保证安全与秩序,极大地提升了治理效能,并以此为依据宣称治理的合法性,但是算法治理仍然面临着“化约主义”的困境。并非所有重要的社会价值都能被轻易量化,如尊严、公正、社群凝聚力、个人幸福感等。当可量化的指标主导治理实践时,那些无法被量化的价值就会被系统性地忽视甚至牺牲。这可能导致权力运行的“价值真空”,合法性基础变得脆弱而单一。与此同时,算法的治理是非公开与不透明的,它依赖于保密、难以被普通公众理解的代码系统,有时甚至计算机行业的专家也无法保证完全理解和解释相关内容。这导致决策者和公众难以与算法对话、更不可能完全理解或挑战算法逻辑,使基于理性交往与话语商谈的政治合法性为算法黑箱所封闭。这种不透明不仅放大了偏见和不平等,还强化了权力的不对称性,削弱了民主合法性的生成机制。此外,算法决策会导致难以确认责任归属的困境。算法在训练后便具备独立运作的能力,这大大模糊了人类干预的界限。决策不再是单一主体的意志表达,而是嵌入式系统的产物。由此导致“责任缝隙”的出现:算法错误可能源于训练数据偏差、模型不透明或外部干扰,但难以追溯到具体责任人。每个参与者都只是复杂决策链上的一环,没有人对最终结果拥有完全的控制权和道德责任感。
理性权威是现代合法性的根基,算法治理将韦伯的法理型权威推向极致,但暴露了纯粹工具理性的内在局限。权力的合法性不仅根植于效率、安全和规则,还关乎公正、尊严、参与和被倾听的权利。技术发展的最终目的是解放而非异化人类,当算法系统变得不可解释、不可争辩和不可问责时,其所构建的合法性基础最终也难以维系。算法治理的精确性与人类尊严的不可量化性以及数据驱动的决策效率与社会多元价值的包容性,存在需要谨慎调和的张力。
(二)他律机制的个人权利问题
治理的起点是“照看”。照看意味着国家需要将社会变成可理解的图解或可度量的指标,为了保证治理达成相应的目的,国家有着极强的动力采用新技术以提升自身照看社会的能力。安东尼·吉登斯认为“监控”(其实质是关于信息的收集)就是现代行政权力的体现,“凡是国家都会牵涉到对归其统辖的社会体系的再生产的各方面实施反思性的监控”,(国家)“如果没有信息基础作为反思性自我调节的手段,就无法存在下去”。治理是国家干预社会的行动,而这种行动产生的基础就在于国家对于社会有着恰当的理解与认识。
在这一过程中,国家权力同样构建起一个网格管理结构,形成了“一种自上而下的关系网络的作用。这个网络在某种程度上也是自下而上的与横向的。这个网络‘控制’着整体,完全覆盖着整体,并从监督者和被不断监督者之间获得权力效应”,由此建构起渗透于整个社会的规训关系。人工智能技术极大地增强了国家对个体的照看以及干预能力,这同时也带来了一个深刻的伦理困境:一方面,它维护了社会安全与秩序;另一方面,它模糊了公共领域与私人领域的界限,使个体一直处于全域治理的情境之中,并建构起一种复杂的他律机制。
为了获得治理必需的各类数据,人工智能技术将流动的、变化的、有多重身份的个体进行极致的压缩,转化为一个永恒不变的、可被机器读取的生物编码。在数据追踪下,被简化为生物编码的个体处于恒常的“被凝视”状态——它们超越了传统监视手段依赖于静态图像或手动干预的局限,借助于算法生成动态数字档案,量化个体的行为轨迹,使个体在公共空间的每一步、每一次面部表情,都可能被捕捉并评估,而无须显性强制。这是一种全时空覆盖、超视觉渗透的“凝视”,它不再局限于特定的物理空间,而是通过智能手机、摄像头和网络行为渗透到生活的每一个角落,模糊了公共与私人的边界,而且通过分析和预测尝试穿透人的外在行为,把握个体的内在状态、社会关系乃至思想倾向,并以此为依据来干预个体行为,如算法推荐、言论审查等,形成前置性的服从,完成规训的闭环。
尽管对这一技术的运用被冠以“更快响应潜在威胁、打击欺诈与异常行为”“简化患者登记、改善记录保存并确保准确提供医疗服务”“提高客户满意度,通过创造难忘的购物体验来推动销售”的名义,但这种治理模式给个人权利带来了更大挑战,这不仅关乎隐私权、知情同意权以及被遗忘权等,还关乎人的尊严与自主性。人工智能治理的最大风险是将个体简化为被评估的数据点,通过诱导调整行为以避免惩罚。理性自律让位于数字他律体现的是将人工具化的哲学,人从拥有绝对尊严的个体降格为具有相对价格的物。康德所设想建立一个由所有理性存在者共同为彼此立法、相互尊重的理想社群依赖于人的理性自主能力,但当人从“目的”被贬为“手段”,作为服务于社会稳定或效率的集体目标而存在时,丧失自主性的人的尊严最终会为人工智能所吞噬。当代的智能治理必须回应这一可能的威胁,并在治理框架中确保以人为本、技术必须服务人的尊严的重要价值。
(三)数字鸿沟的公平正义问题
在智能治理时代,人工智能对社会结构与权力格局的重塑使技术能力与公平正义之间的深刻矛盾更加凸显。早在1990年,阿尔文·托夫勒就提出了信息富人、信息穷人、信息沟壑和数字鸿沟等概念,指出信息和电子技术加剧了发达国家与欠发达国家之间的分化,由此产生了数字鸿沟。数字鸿沟的本质是技术能力嵌入既有的权力结构之中,作为权力杠杆以前所未有的效率隐蔽地放大已有的社会不平等。
当前,数字鸿沟已从接入鸿沟进一步发展为使用鸿沟和能力鸿沟。使用鸿沟表现为无法接入互联网设备与服务的群体(如偏远地区民众、穷人以及老年人),被排斥在智能治理的入口之外,因无法有效获取全面线上化的政务服务等公共资源而被剥夺了最基本的公民权利和发展机会。这也导致不同阶层或群体在技术使用上的巨大分野,优势阶层更倾向于将相关技术作为生产和创造的工具,如在线学习、金融投资、内容创作等;而弱势群体则仅仅将技术作为被动消费和娱乐的工具,直接导致人力资本积累差距进一步拉大。能力鸿沟是数字鸿沟新的表现形式,即不同阶层在理解、使用和批判性审视人工智能技术与算法的能力上的区别。优势阶层接受了更好的教育,有着更好的互联网思维和媒介素养,因此更懂得如何利用算法规则保护个人数据,并甄别虚假信息;而弱势群体则更容易成为算法的操纵对象、数据的被采集者和数字专制的顺从者。
与此同时,人工智能技术还在重塑资本与劳动的关系。人工智能的发展开启了对中高技能劳动岗位的“认知替代”,打破了过去“蓝领工作可替代性强、白领工作专业程度高”的分工逻辑。国际货币基金组织的调查报告显示,全球近40%的就业,包括高技能工作都将受到人工智能的影响,人工智能和自动化不仅能够替代具有重复性、规范性的中等技能岗位,决策分析型高端技能工作也能够逐渐交由算法系统完成。不仅弱势群体会承担技术创新的负面后果,原本拥有一定技术资本的中产阶级也会受到影响:中层岗位消失,高低端岗位分化,就业极化加剧收入差距,就业市场的不平等现象更加严重。
数据和算法有可能固化刻板印象,强化社会偏见。人工智能的核心是对已有数据的“学习”,但已有的数据集内在地嵌入了系统性偏见,如基于性别、地域等因素的偏见。在数据收集过程中,弱势群体往往被边缘化,难以获得有效的代表性,这种有缺陷的技术在实际运用中就可能导致对特定人群的错误识别和不公正对待。一些企业开发的人工智能招聘系统所使用的训练样本是过去十年以男性为主的简历数据,从而将女性相关的词汇(如“女子国际象棋俱乐部队长”“女子大学”)判定为负面指标。可见,即使没有主观恶意,算法也能成为结构性歧视的完美执行者,而且因其高效和自动化的特性变得更加难以被察觉和抵抗。
人工智能技术的进步所带来的巨大红利应系统性地惠及不同阶层和群体,而不是简单地将被技术取代的群体视为“落伍的”“不合时宜的”。人工智能时代的人们有必要重新思考什么是公平与正义,思考如何防止技术能力演变为压迫性权力、促进技术红利公平分配。因此,智能治理不能仅作为一种效率范式而存在,更需要结合公平正义的维度回答以下三个问题:智能治理是为少数人服务的智能,还是促进公共福祉的智能?是强化等级支配的智能,还是增进机会平等的智能?是由权力技术精英决定未来,还是由社会大众协商共治?要解决好这些问题,坚持民主价值和民主机制比以往任何时期都更为重要。智能治理更加需要通过民主程序确立明确的伦理边界和正义导向,使人工智能技术真正服务于全体人民的福祉,立足人本、包容的价值,构建一个更公平、更具韧性、更可持续发展的未来社会。
四、讨论与总结:负责任的治理范式——构建智能治理时代的善治根基
人工智能技术正在引发深刻的治理变革,其所建立的“主动预测、算法理性、协同整合”的智能治理范式极大地提高了治理效率,并正在构建新的权力格局与国家形态。从信息生态学的视角来看,这种技术决定论是理所当然的——信息与通信的基本特性在根本上规定着(或者说限制了)人类的制度和组织。过去的历史经验也证明了这一点,“信息的可获性或结构的外部变化导致精英组织结构的改变,正是它们主导着政治活动,而这些反过来又对民主的广泛性质产生影响”。最大的影响就是技术理性对政治价值的侵蚀,挑战了既有的合法性建构、人的权利以及公平正义等政治学核心命题。这本质上是马克思·韦伯所预言的工具理性对价值理性的征服,“我们的时代,是一个理性化、理知化、尤其是将世界之迷魅加以祛除的时代”。由此,更需要避免现代的技术统治将人的行动贬低为可预测的行为,使人异化为劳动动物、丧失在公共领域通过话语和行动确立主体性的能力。在智能治理兴起的当下,人类更有必要通过交流与行动彰显独特的个人身份、建构有意义的关系网络和公共空间来重建人的主体性,使技术赋能人的行动而非主体的替代。
综上所述,唯有通过构建可解释、可参与、可问责三大机制支撑的负责任的智能治理范式,确保人的主体性在治理逻辑中的优先性和核心地位,方能在技术变革中实现真正意义上的善治,如图2所示。
(一)可解释机制
人工智能在决策过程中发挥作用必须符合程序公开、理由可追溯以及逻辑连贯三个要求,通过系统性的制度设计保证决策过程符合人类理性认知,实现技术透明可信与社会公众的广泛监督。可解释机制的建立,首先应鼓励可解释人工智能技术的发展与应用。例如,优先采用决策树或线性回归等结构直观、易于理解和解释的机器学习算法;同时,推广事后解释方法,如运用局部可解释性模型诊断解释或沙普利加性解释模型,以帮助公众更好地理解复杂算法模型的内部运作;此外,还应大力支持开发可视化工具,直观展示人工智能模型如何处理数据并作出决策,从而让决策过程更易于理解。在此基础上,建立透明度报告定期发布机制,使用通俗易懂的语言详细说明人工智能系统的运行原理、性能表现以及遇到的任何问题及其解决方案,最终增强社会公众对智能治理的信任程度。
(二)可参与机制
智能治理必须超越技术决定论,重建智能治理的多元主体协同治理框架,推动社会公众积极参与决策过程,强调民众判断的重要价值,防止数据驱动的政策过程压缩政治讨论的时间与空间。人工智能技术同样可以被利用起来作为辅助工具拓展人类的参与空间,其高效快捷的技术优势可以汇总争议诉求,并通过主题建模识别共识点。利用机器学习对政策后果建模,提供可用于公众讨论的决策沙盘。采用区块链技术提供不可篡改的投票与发言记录机制,提升参与的可信度。在此基础上,在智能治理相关立法中明确公众拥有最基础的知情权、表达权、质询权,建立具有广泛代表性的人机协同混合审议机制。
(三)可问责机制
人工智能系统必须构建清晰的责任链条,明确界定人工智能系统开发、部署和使用过程中各方的责任边界,最终确保任何由人工智能系统造成的错误或损害都能追溯到具体的人类责任主体。建立可问责机制的重点在于明确技术决策中人类的责任位置,在技术层面应鼓励科技企业开放源代码与模型解释接口,保证研究者与公众可以“逆向审视”人工智能的决策机制;同时建立责任链审计制度,明确开发者、算法供应商、平台运营者、政府主管机关等各方的责任义务及过失后果;建立多方参与的伦理委员会,定期评估人工智能系统的社会影响及潜在风险,保证系统合规运行。
智能治理的范式转型深刻体现了技术效率与人本价值、工具理性与价值理性、算法控制与共同治理的巨大张力,需要在算法逻辑与民主价值之间寻找平衡。在智能治理时代,可解释、可参与、可问责不仅是技术优化的选项,还是寻求构建新的对话空间,保证民主存续的前提。真正的治理现代化,不是让机器替代人类、消解人的主体性,而是人机协同产生治理效能的乘数效应,实现政治作为最高善的终极理想。