近年来，人工智能技术以前所未有的速度快速迭代升级。从最初依据规则处理特定任务的传统算法，到具备通用语言推理能力的大语言模型，再到如今融合了感知、规划、记忆与执行能力的智能体，人工智能迎来了新的技术范式跨越。当前，我国数字政府建设正紧跟这一技术浪潮，积极拓展智能化治理的新边界。然而，当智能体被赋予深层权限并开始代行部分行政责任时，数字政府的实践探索正面临着多方面的严峻挑战，传统行政问责可能陷入系统性失灵的风险。国家近期出台的《智能体规范应用与创新发展实施意见》及时指明了方向，明确智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则，对安全治理和合规监管做出了部署。在此背景下，需要深入探讨智能体的技术演进，深度剖析政务智能体应用带来的潜在风险与挑战，并构建一套行之有效的治理体系。
一、技术演进：从规则映射到自动化执行的主体性转变
人工智能技术快速演进和发展，经历了传统算法、大语言模型和智能体三个阶段，它们之间有着明显区别，在行政体系中的应用形态和影响也各不相同：
在规则映射范式下的传统算法阶段，依托确定性的编码技术逻辑，既定的行政程序被转化为算法规则，特定输入经由预设算法进行转换并严格映射为标准输出。在这一过程中，技术强化了传统行政体系的工具理性，其作用发挥主要体现为行政流程的刚性与自动化执行。
在内容生成范式下的大语言模型阶段，大模型基于概率分布重塑了非确定性的知识生成与文本输出逻辑，有效拓宽了行政体系的智能化边界和能力，但依旧扮演着辅助角色，没有实质性替代传统行政行为。
在自主执行范式下的智能体阶段，智能体依托跨系统接口调用权限与规则成为能够独立行动的“行为主体”。在面对治理指令时，智能体能够自主跨系统获取数据并执行任务，实现了由“信息协助者”向“任务执行者”的范式跃迁，深度嵌入公共权力运行当中。
与传统算法和大语言模型不同，智能体通过深度集成感知、规划、记忆与执行等功能，构建出具备自主性动力的复合架构。这驱动着人工智能技术在行政体系中的应用角色，从传统辅助性“技术工具”转变为具备一定自主性和独立性的“行政主体”，重塑了人机协同过程中的行政权力分配与交互模式，也带来了新的治理风险和挑战。
二、风险分析：智能体应用中的基层责任变化与治理风险
在潜在的多维风险中，责任形态变化及由此引发的治理风险需要被关注。政务智能体的应用将深度影响科层结构的权责关系，形成“非对称结构”——技术系统和工具的顶层规划与算法设计集中在上级职能部门，但技术应用的后果与责任承担则下沉至街道、社区等基层部门甚至一线人员。这种结构性错位引发了基层行政人员角色与责任形态的深刻变化。
（一）人工智能技术演进中的基层责任变化
从传统算法到智能体，技术演进过程中基层行政人员的角色、行为逻辑和责任也持续变化（参见表１）。
（二）政务智能体应用带来的治理风险
智能体具备的自主判断和行为能力，以及带来的权责不对称与问责困境，在复杂的行政体系中容易引发系统性治理风险，具体表现在如下三个方面：
第一，行政越权风险。智能体具备跨部门和系统的信息数据调用权，其行为高度依赖权限隔离的完备性，存在较高的行政越权风险。在边界不清、监管失灵、技术围栏缺失的情况下容易引发其在后台超越权限调取涉密数据和失当行政行为，带来数据安全隐患和行政违规风险。
第二，补救失灵困境。区别于传统算法的清晰规则、大模型的事前审核等，在权责不清情况下，智能体多表现为“先执行、后报告”的行为特征。当智能体做出不当行为时，监管和干预往往滞后，将直接导致负面的行政效应和社会影响。在被剥夺事前干预权力的情况下，基层行政主体却需承担事后行政争议处置和成本承担的责任与风险，面临失灵后的补救困境。
第三，过度依赖风险。面对高度复杂的治理场景需求与严苛的行政考核要求，复杂的智能体交互给基层人员带来额外的行政负担。在缺乏相应素养、能力与组织支持的情况下，基层行政人员的技术理性可能演变为盲目的技术接受，对智能体的建议和执行进行象征性确认，缺乏实质的监督和审核，过度依赖人工智能技术。
三、治理路径：构建有机责任匹配与“制度-管理-技术”治理体系
在国家政策的指引下，未来需要针对智能体的技术特征和风险特点，推动传统科层问责机制转型，提升政务智能体应用的风险治理能力。
（一）构建基于风险分级的责任匹配体系
应根据不同治理场景风险溢出效应的差异，将智能体应用可能引发的治理风险划分为高、中和低三级，并基于此推进智能体自主边界与行政责任边界的有机匹配（参见表2）。
（二）建立“制度-管理-技术”的风险治理体系
面对政务智能体应用可能引发的风险，亟需超越传统的技术工具和科层问责思维，从制度、管理和技术三个互嵌维度出发，构建有效的风险识别与应对体系。
第一，在制度维度上，确立人机责任有机协同的制度规制。完善的制度是应对智能体使用风险的根本保障。要在国家政策的指引下，在配套制度中明确人机协同下的责任边界。一方面，应推动使智能体“黑箱化”的算法规则在法理上具备可追溯与可解释性，为责任判定提供依据；另一方面，配套特定场景中的行政免责制度，明确规定只要基层人员严格遵循标准进行监督且在系统异常时履行了报告或终止流程的责任，需对智能体应用引发的问题进行免责。
第二，在管理维度上，优化风险分级与协同监管的管理机制。科学的管理是应对智能体使用风险的有效路径。需要在明晰智能体应用风险分级基础上，优化跨部门、跨层级的协同管理机制。同时，明确行政部门和基层人员的责任承担方式，实现行政控制权与技术自主权的有机匹配。管理重心需从事后的属地与人员问责，转向事前风险识别、事中动态监督以及全过程协同式的管理机制构建。
第三，在技术维度上，建立有效的技术动态监测和干预体系。有效的技术支撑是制度保障和管理执行的前提。面对复杂且快速演变的智能体技术，迫切需要精准识别相关风险，研发和部署技术应用中的安全护栏，开展全过程监测与有效的风险隔离。与此同时，推进智能体底层算法和规则的透明化，改善行政部门与人员的智能化素养，优化监督和应对智能体相关技术风险的组织能力，以此实现风险应对的长效与韧性。
作者简介：郑跃平，中山大学政治与公共事务管理学院副教授，博士生导师，中山大学数字治理研究中心主任。
