随着人工智能技术的快速演进，智能体正成为各类任务执行的重要形态之一。它能够理解任务、规划步骤、调用工具，并接入数据、系统和业务流程，在提升产业创新、公共服务和社会治理效能等方面有重要前景[1]。同时，智能体也使人工智能从辅助判断进入连续行动过程，带来权限边界、行为控制和责任认定等新问题。2026年5月，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（以下简称《意见》），正是对智能体带来挑战的快速回应。
本文将从技术特性出发，说明安全与效率之间的张力如何形成，分析风险为何从输出偏差延伸到行动后果，并讨论分级治理、场景牵引等制度安排如何在规范应用与创新发展之间寻求平衡。
一、问题来源：智能体何以生成高效发展与安全可靠的治理张力
智能体治理张力的形成，源于其技术形态不同于一般意义上的人工智能应用。以往人工智能系统主要承担识别、预测、推荐或内容生成等功能，其作用通常表现为向使用者提供信息、判断依据或辅助性建议。此类系统即便出现偏差，其影响首先停留在输出层面，后续是否被采纳、如何被执行，还需要经过使用者判断以及组织审核。智能体则进一步具备自主感知、记忆、决策、交互与执行能力，能够围绕特定目标持续理解任务、拆解步骤、调用工具，并根据反馈调整后续行动。由此，智能体不再只是提供一个结果，而是有可能参与一段连续的行动过程。
当智能体进入具体应用场景后，其能力发挥离不开更深程度的系统接入。一个仅能回答问题的系统，对外部环境的依赖相对有限；但一个能够完成任务的智能体，通常需要读取数据、调用接口、连接软件工具、访问业务系统，甚至与终端设备或物理设施发生联动。例如，在科研场景中，智能体需要整合文献、数据、模型和实验平台；在制造场景中，智能体需要理解生产任务、调配资源和优化工序；在政务或公共服务场景中，智能体可能需要识别事项条件、匹配政策规则、提示办理路径，甚至推动流程流转。也就是说，智能体越要从可用走向好用，越需要突破孤立运行状态，进入数据、流程、工具和组织体系之中。
这种系统接入带来了智能体高效发展的基础，也同步改变了风险发生的条件。当智能体能够调用工具、介入业务流程或连接外部系统时，错误就可能进一步转化为操作偏差、流程异常启动、资源错配或权限越界。尤其在医疗健康、交通运输、金融服务、公共安全、城市治理等场景中，智能体所处理的信息，可能涉及生命健康、财产安全、公共秩序和权利义务关系。此时，技术偏差不仅是认知层面的偏差，还可能通过执行链条转变为现实后果。
进一步看，智能体的自主性越强，对权限配置的要求就越高。为了完成复杂任务，智能体需要获得一定范围内的数据读取权和工具调用权等。如果权限过低，智能体只能停留在浅层问答和简单辅助，难以形成实际效率增益；如果权限过高，又可能出现超出用户意图、组织规则或场景边界的行动。权限不足会限制发展效能，权限过度则会放大安全风险。由此，智能体治理中的安全与发展并不是两个彼此分离的问题，而是在权限配置过程中同时出现的两种要求。
同时，智能体的规模化应用还会进一步放大这种张力。单个智能体的错误可能只影响一个用户、一次服务或一个流程节点；但当智能体被部署到平台、行业或公共治理体系中，并与其他智能体、第三方工具、数据接口和软硬件设备形成连接后，其影响范围就可能超出单一系统。一个局部错误可能通过接口调用、数据传递、流程联动和多智能体协同向外扩散，进而形成链条型风险。智能体越能在更大范围内提升效率，就越需要更高水平的稳定性、可控性和可追溯性。
由此，智能体发展中的治理张力是由其能力结构和应用方式共同生成的。智能体要实现高效发展，必须具备一定的自主性、执行力和系统接入能力；但当这些能力应用于重点领域和关键环节时，又会带来权限边界、责任归属和系统安全等问题。安全可靠与高效发展因此不构成简单的先后关系，也不是可以彼此替代的政策目标，而是在智能体从技术能力走向实际应用的过程中同时出现、相互牵动的治理要求[2]。
二、风险识别：智能体风险为何会从输出偏差扩展为行动后果
在智能体被赋予数据读取、接口访问、工具调用和流程触发等操作权限后，风险发生环节随之延伸。传统人工智能应用的偏差多表现为识别不准、预测失误、内容失真或建议不当，在其后果进入现实流程之前，还要经过使用者判断和组织审核。智能体却能够直接参与任务理解、步骤规划、工具调用、反馈修正和连续执行，偏差可能沿任务链条向后传导。此时，风险不再止于输出偏差，而在于错误判断可能进入执行环节，并影响数据处理、业务流程、资源配置或系统运行。这种变化首先体现在工具调用过程之中。因此，智能体风险不仅在于模型回答是否正确，还在于后续操作是否符合任务目标、授权范围和场景规则。
权限配置进一步影响风险后果。智能体提升处理效率，需要一定范围内的数据读取、接口访问、工具调用和流程触发权限。权限越接近核心业务，系统偏差转化为现实后果的路径就越短。如果智能体仅提供参考意见，使用者仍可在执行前进行判断；如果智能体能够调用业务接口或触发外部系统，使用者的确认环节就可能被压缩。因此，智能体风险不仅与模型可靠性有关，也与权限开放范围、授权机制以及处理过程的记录和中止能力密切相关。
在多个工具、接口、平台和设备共同构成的环境中，单一偏差还可能被进一步放大。智能体越来越多地依赖外部插件、第三方组件、数据接口、平台服务和其他智能体协同运行。若偏差发生在封闭任务中，影响范围相对有限；若偏差发生在互联运行过程中，则可能通过数据传递、接口调用、任务接续和系统联动向其他环节扩散。此时，风险不再只是某一模型或某一应用的局部问题，还会涉及智能体与工具、平台、数据和其他智能体之间的连接关系。因此，智能体互联协议、数字身份管理、能力声明、可信互联和冲突解决机制，都是控制协同风险的重要内容。
场景差异会进一步改变同一技术偏差的实际后果。在娱乐、办公或咨询场景中，错误可能主要影响个人体验或局部效率；在医疗、金融、交通、公共安全、政务、司法和城市治理等场景中，则可能涉及生命健康、财产权益、公共秩序和公共资源配置。即便智能体只承担辅助功能，也可能影响专业判断、风险预警和流程安排。这说明，智能体风险不能只从技术错误本身理解，还要结合偏差是否可能进入处理过程，以及处理后可能的现实影响对象和范围。因此，风险识别需要同时关注权限深度和潜在影响[3]。智能体介入权限越深，偏差越可能进入工具调用、流程触发和结果影响环节；潜在影响越大，偏差转化为行动后果后越可能涉及重要权益、公共秩序或系统安全。
随着任务过程拉长，责任识别也会更加复杂。智能体运行涉及基础模型开发、系统部署、平台分发、工具接口、数据供给和业务使用等多个环节。若出现错误操作，需要判断问题发生在模型输出、工具调用、授权配置、接口管理、平台运行还是具体使用过程。缺少权限日志、行为记录、异常监测和审计追踪，就难以还原实际运行过程，也难以明确责任边界。技术系统越复杂，参与主体越多，责任越容易在开发者、部署者、平台、工具提供方和使用者之间分散。
因此，智能体风险治理不能只停留在模型是否准确、内容是否合规或结果是否可解释上。随着智能体进入任务处理过程，模型偏差经由工具调用、权限配置、接口连接和流程触发继续传导，并在不同场景中形成不同程度的现实影响。对智能体风险的识别，需要从输出结果转向任务过程，从单一模型转向系统联结，从技术错误转向权限、场景和责任共同构成的治理问题。
三、制度回应：如何在分级治理与场景牵引中实现发展平衡
智能体规范应用与创新发展的难点，在于发展所依赖的条件本身成为风险扩散的通道。智能体要发挥效率优势，需要进入任务处理过程，获得数据读取、接口访问、工具调用和流程触发等权限；但模型偏差也会经由工具调用、系统连接和场景应用继续传导，并带来权限越界、行为失控和责任分散等问题。由此，《意见》的制度回应，应被理解为通过分类分级配置治理强度，通过场景牵引检验应用边界，并在运行过程中持续校准权限、责任与风险控制要求。权限深度和潜在影响既是风险识别的重要维度，也为治理强度配置提供依据。智能体介入业务流程越深、影响范围越大，就越需要匹配更严格的准入、监测、审计和责任追溯要求（参见图1）。在这一框架下，分级治理和场景牵引构成两个关键支点，分别回应治理强度如何匹配、智能体如何进入真实场景并逐步推广的问题。
分级治理的关键在于把风险判断落实到智能体的实际作用方式之中。同样是政务服务智能体，政策咨询、办事指引、材料预审和事项辅助审批所涉及的权限深度并不相同。如果分级治理只停留在行业层面，可能把同一领域内低风险、辅助性应用纳入高强度监管，还可能忽视已经接入核心流程、影响重要权益的高风险应用。因此，分级治理需要进一步考察智能体是否接入业务系统、是否调用敏感数据、是否触发流程流转、是否影响资源配置或公共服务结果，从静态目录管理转向实质风险治理。
场景牵引的关键在于形成可验证、可纠偏、可推广的应用过程。智能体能否安全有效运行，不能只通过模型指标或实验室测试判断，还要看其进入具体业务场景后能否适配既有流程、能否被使用者理解和接管、能否在异常情况下及时中止。因此，场景开放不能简单等同于应用推广，还应当囊括试验和反馈功能。对于生活娱乐等低风险领域，场景开放更多承担产品迭代、用户体验改进和应用模式探索功能；对于政务服务、医疗健康、公共安全等敏感领域及重点行业，场景开放则应更多承担流程适配、风险暴露和规则校准功能。也就是说，场景牵引的意义不只是为智能体寻找应用空间，更在于通过真实业务环境检验其能力边界和治理条件。
分级治理与场景牵引还需要通过过程控制发挥作用。智能体风险并不总是在上线前就能完全识别，也不一定在输出结果处一次性显现，还可能在运行过程中通过接口访问、工具调用和流程触发逐步暴露。对于只提供一般信息服务的智能体，合规自测、用户告知和平台管理可以降低治理成本；对于已经接入业务系统、调用重要数据或影响服务结果的智能体，则需要更加重视运行日志、权限记录、异常预警、行为审计和问题召回。这不是简单增加监管负担，而是将监管嵌入智能体行动过程之中。
责任配置同样需要随智能体的运行过程展开。智能体应用同时涉及模型开发、系统部署、平台分发、数据供给、接口工具和业务使用等环节。如果责任只笼统地落实到某一类主体身上，容易造成责任悬空；如果责任被过度切分，又会削弱事后追溯和问题整改能力。较为可行的思路是把责任配置与智能体行为链条对应起来：开发者和平台保障基础能力、接口安全和工具合规，部署者根据场景风险配置权限和运行规则，使用单位明确人工确认、异常处置和结果复核机制，监管部门则围绕重点场景和高风险行为推动检测评估、问题反馈和规则迭代。
总之，《意见》中的分级治理和场景牵引并不是两个并列工具，而是需要在实施中相互校准。分级治理为场景开放设定风险尺度，防止高风险应用在缺乏控制条件的情况下快速扩散；场景牵引为分级监管提供实践反馈，帮助识别哪些环节监管过严、哪些环节监管不足以及哪些场景需要调整监管强度等。因此，发展平衡并不是在安全和创新之间作一次性折中，而是在不同场景的应用实践中持续比较风险、调整权限、完善监测和修正责任边界。
参考文献：（略）
作者简介：孙宗锋，山东大学政治学与公共管理学院副院长，教授，博士生导师， 研究方向为数字政府治理、公共组织与政策过程、城市治理等。
