社会治理既是现代政府的重要职责之一,也是学术界关注的重大课题之一。随着人工智能技术飞速发展、数智社会加速成型,各类新型治理场景与治理难题相伴而生。智能体作为人工智能技术迭代演进的产物,能够显著提升生产效能,也由此走入公共治理视野。就当下而言,智能体正快速融入经济发展、社会生活与社会治理之中并成为一种新的治理主体:社会治理智能体;由此,也引发了社会治理模式的改变。本文聚焦关注社会治理智能体,剖析其应用场景、决策模式及典型风险。
一、社会治理智能体的应用场景
在词源和主体的意义上,智能体(Agent)作为人工智能产品及服务的重要形态,本质上是一个代理行动者;代理性是智能体的基本特征,是分析其融入经济社会生活的重要逻辑起点。从发展历程看,智能体发展经历了五个时期,相应可分为符号型智能体、反应型智能体、基于强化学习的智能体、具有迁移学习和元学习功能的智能体、基于大模型的智能体等五类。[1]在本文中,社会治理智能体是指具备自主感知、记忆、决策、交互与执行能力的社会治理智能系统。在我国,社会治理智能体应用于社会治理已有诸多案例。例如,2026年4月3日,为提升政府行政效能和运行效率,南京市聚焦政务服务、城市治理和民生服务等领域,按照“应建尽建”的原则打造政务智能体;4月20日,无锡市系统构建的城市级智能体矩阵包括政务服务、城市治理、产业行业、民生服务四大领域共100个智能体。
政府政策的权威性已成为推动人工智能技术快速应用的重要力量。2025年8月,国务院《关于深入实施“人工智能+”行动的意见》指出,到2027年,新一代智能终端、智能体等应用普及率超70%;到2030年,新一代智能终端、智能体等应用普及率超90%。2026年5月8日,为促进智能体发展和全面布局,促进产品创新、产业加速与规模化应用,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》)。《实施意见》在促进各行业对智能体的部署方面产生了结构性影响,诸多组织对智能体的应用从试点观望转向有序加速、分层推进。除政策支持外,智能体能够快速得到推广和应用有三方面原因。从技术自主性看,智能体的推广和应用是人工智能技术迭代创新的必然结果;从能力来源看,大模型发展为智能体的推广和普遍使用提供了坚实的智能“底座”;从融合性看,智能体有融合各类社会场景的能力,这源于人类对“同类主体”的应用有发自内心认同。本质上,智能体被普遍使用符合人们快速提升社会生产效率的真心期待。
简单而言,智能体可分为两类:数字类和具身类;前者在数字世界中决策和行动,后者在物理世界中决策和行动。基于智能体技术的前沿性、应用场景的广阔性,《实施意见》围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向提出了19个典型应用场景,其中,社会治理智能体是智能体应用的重要场景之一。根据《实施意见》,目前的社会治理智能体主要分为以下几类:
其一,政务服务智能体。主要包括辅助审批智能体:推动政务审批流程智能化和自主审批;政策咨询智能体:提供全天在线的政务咨询、流程指引等服务;政策适配智能体:主动推送适配政策、服务提醒及办理指南等。
其二,公共安全智能体。一类是通过监测预警、应急处置、救援调度、协同治理提升安全生产监管和防灾减灾救灾能力的智能体;另一类是提升异常行为识别、潜在威胁预警、动态防控处理能力,维护公共安全的智能体;还有是可以在灾害救援、安防巡检、危险品处置等领域参与行动的智能体。
其三,城市治理智能体。这类智能体在城市规划、建设与治理环节得以应用,可以支撑智能建造、房屋管理、城市基础设施安全运行等工作。
其四,司法服务智能体。一类是全流程办案辅助的智能体:主要功能是提升案件材料梳理、案件信息录入、证据审查、辅助法律文书生成等;另一类是在线司法服务智能体:主要功能是法律宣传、法律咨询、法律监督和在线司法服务。当前,社会治理智能体的研发、测试、部署、运维都处于创新发展的起步过程中,以后还将有许许多多的智能体得以快速普及和应用。
二、社会治理智能体对决策模式的重构
在一般意义上,决策是社会治理的必备环节,所有治理目标都必然要包含决策模块。作为政府重要职能之一的社会治理,既关乎社会秩序,又关乎社会治理效率和公平等社会价值的守护,还关乎治理主体合法性地位的维护,而这些目标的实现与决策模式密切相关。在公共服务中,决策是现代科层政府的重要职能之一,决策和执行是政府行为模式必有的环节,其中,决策是执行的前提和关键。从历史维度看,自古以来的社会治理,只有人类自身是治理主体。社会治理智能体是数智社会新增的治理主体。社会治理智能体的加入将促使社会治理决策模式发生结构性改变,形成新的决策生态。
一是决策主体从单一型向混合型转变。在社会治理智能体加入前,社会治理领域的决策主体是人类自身。或者说,从农业社会到工业社会,所有技术和工具都处于辅助决策的地位,而在工业社会发展过程中社会治理的民主化改变了社会治理的决策模式,形成了从精英决策模式到大众参与模式的变迁。[2]社会治理智能体作为新治理主体加入,将技术能力锚定在具体的社会治理场景中,形成从任务执行到结果交付的闭环,也建构了“人机协作”新模式。可以说,智能体凭借数据分析、推理与自主行动能力,生成方案、预警风险、自动执行决策,获得了参与决策权而成为新型“技术官僚”。从决策机理看,一旦智能体参与到社会治理决策中来,无论最终决策权掌握在人类或是智能体手中,决策权将不再仅仅在科层体系中按照职位和部门分配。社会治理智能体因为拥有算法权力而获得了决策权;而且在被普遍使用的过程中,算法权力可能弥散至整个社会治理体系。所以,这一新治理主体的加入,形成了三种社会治理决策模式:人类自主决策、“人+智能体”决策、智能体自主决策;此外,在智能体自主决策的过程中形成了两种决策方式:单一智能体决策和多元智能体合作决策。从社会治理的最终决策权来看,包括人类最终决策、人类授权智能体决策和智能体最终自主决策三种方式。
二是决策流程和决策责任结构发生转变。一方面,在科层制体系中,社会治理按照“政策问题界定→议程设置→方案比较→合法化→执行反馈”的流程进行,而社会治理智能体则通过自主感知→记忆→决策→交互→执行的流程进行;另一方面,由于智能体具有高效收集数据、处理信息和计算能力,决策速度也会随之加快,从而导致决策流程改变。此外,无论是人机协同开展社会治理或智能体自主开展社会治理,都会带来决策责任结构的变化。一方面,社会治理智能体之间的交互决策和执行,意味着决策责任认定的复杂程度增加;另一方面,新治理主体加入后,科层制政府的责任链变得模糊,难以界定。即使人类将决策责任归因于智能体,那么,责任承担者应该是开发者、部署者、平台分发者还是使用者呢?
三是公众参与模式可能受到冲击。基于大模型推理能力而行动的智能体,可大规模采集数据,分析数据,快速形成符合公众偏好的决策,特别是在“数字鸿沟”加剧的情况下,技术精英与资本精英参与决策的优势可能不断放大;相应地,社会公众实质性参与决策的能力将弱化,社会公众参与决策的基础也将受到一定程度的侵蚀。在社会治理过程中,社会治理智能体拥有一体化的自主感知、记忆、决策、交互、执行能力,既是“裁判员”又是“运动员”,打破了科层制体系中决策和执行分离的一般结构,这种特殊行为模式需要我们高度重视。
三、如何防范社会治理智能体的决策风险
社会治理智能体能感知社会、记忆社会信息、开展社会决策,并在智能体和人类之间进行交互,它们既是治理主体,又是治理对象。社会治理智能体可能带来的典型风险有三类:越权风险、道德缺失风险和信用风险。
一是越权风险。越权是所有委托代理关系必须承担的基础性风险。在社会治理过程中,智能体作为智能系统中的行动者或“类人”,履行的是委托代理职能能。从社会契约论的视角看,社会治理中的各类治理主体,无论是协同决策、协同行动还是独立决策、独立行动,本质上都是一种委托代理关系;社会治理智能体的加入也无法改变这种基于契约的委托代理关系的性质。作为“代理人”,社会治理智能体只能在既有法律制度框架内行动,否则,就要承担越权风险。从类型来看,社会治理智能体的越权表现为超越用户本人的意思而决策和行动,超越用户授权范围而决策和行动或擅自决策而越权。有学者研究了人工智能在军事决策中的应用后指出:人工智能替代关键的人类决策环节的深度自主化趋势,叠加其内在的“语义鸿沟”和算法偏见风险,以及人工智能技术固有的不稳定性、不可解释性与不可预测性,对国际人道法的有效遵守构成了根本挑战。为有效应对此类风险,先要确保人类具有实质控制权、充分参与权、 监督权与最终判断权。[3]同样,具有自主性、交互性等特征的社会治理智能体,虽然能够理解复杂目标、自主规划并执行一系列任务,但是,在复杂环境中可能出现的错误决策或越权操作会直接导致越权“事故”。由于社会治理密切关注公民满意度和公平、正义等公共价值,社会治理智能体的任何越权风险都需要提前预防并及时终止。
二是道德缺失风险。任何代理关系都可能暴露出道德风险,具有自主行动能力的社会治理智能体只能算“类人”,在很多时候,人类总是将其视为“物”,纵使它们成为社会治理中的决策主体也是如此。例如,在人形机器人参与应急管理时,人们在心底很难将其视为“真正的人”。在人工智能参加战争过程中,即使一些军事行动过度依赖算法生成的分析或预测,可能导致更糟糕的决策甚至违反国际人道法的行为,即使如此,我们也很难对其进行如同人类一样的道德谴责,更不要说道德裁判。这是因为人类文明没有赋予“物”以道德主体地位,也不可能对其进行道德谴责。然而,社会治理是道德感较强的领域,公众对政务服务、城市治理、公共安全治理在司法服务的道德和伦理要求很高,这就要求社会治理智能体具有与人类价值对齐的能力。
三是信用风险。参与社会治理的所有主体的越权行为和道德缺失都会传导、转化成为信用风险,这类风险既源于治理主体信用度的不足,也源于人们对其治理绩效、公平公正的不满。目前,社会治理智能体依然处于技术开发、产业发展、场景应用和生态能力建设的初期,本身隐含技术安全风险、产业链和供应链安全风险,这些技术性风险一开始就可能削弱人们对社会治理智能体的信用。此外,社会治理智能体并非局限于数字世界,还可能作用于物理世界和现实社会生活之中,一旦社会治理智能体形成越权风险、道德风险,其信用风险就会产生并逐步扩大,最终影响其参与社会治理的合法性。因此,为了降低、消除社会治理智能体的信用风险,既要应用技术手段,开展全生命周期安全管理,防范安全风险,又要构建审慎稳妥的分类分级治理框架,完善治理体系,促使其合规服务,提升社会治理效能。
参考文献:(略)
作者简介:谢新水,首都师范大学国家安全学院、区域国别研究院教授,研究领域:数智社会治理。
基金项目:北京市习近平新时代中国特色社会主义思想研究中心重大项目“总体国家安全观创新引领首都安全治理研究”(项目号:24LLGAA025)。