在人工智能技术代际跃迁的浪潮中，智能体的出现推动人工智能从“被动回答者”向“主动行动者”的角色跃升。2026年3月，智能体概念首次被写入《政府工作报告》，成为推动“人工智能+”行动向纵深发展的关键载体。然而，智能体高自主性、高权限性以及深度交互等特征，带来了越权操作、工具滥用、多智能体级联故障等新型风险，对现行人工智能治理框架提出了严峻挑战。2026年5月，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部联合印发我国首部智能体专项政策——《智能体规范应用与创新发展实施意见》（以下简称《实施意见》），标志着我国智能体发展与治理进入制度化探索的新阶段。
一、智能体时代的范式变革与治理挑战
智能体是以大模型为底座，具备自主感知、记忆、决策、交互与执行能力的智能系统。它突破了大模型“一问一答”的交互局限，不仅能够理解复杂的自然语言指令，还能在授权范围内，自主规划和拆解任务、调用外部工具并代为执行任务，实现了从响应式输出向自主性完成目标任务的转变。
（一）智能体推动AI革命范式升级
相较于通用大模型聚焦内容生成能力，智能体更强调目标导向的执行能力，也由此开启了人工智能落地应用的全新范式，为千行百业的智能化转型提供了更具能动性的技术载体。一是交互形态之变。智能体的崛起正在触发人机交互的底层范式革命。在传统互联网时代，用户必须适应机器逻辑，在层层菜单和APP矩阵中寻找功能入口。互联网经济的本质是注意力经济，平台通过内容投喂和算法推荐抢占用户时长。进入智能体时代，用户只需以自然语言陈述意图，由智能体自主完成意图拆解、工具调用和任务闭环。这意味着，掌握意图理解和任务分发能力的智能体平台，或将成为新的交互形态和入口，互联网平台经济的价值分配逻辑也将随之变化。二是网络形态之变。智能体的真正颠覆性不止于单个智能体的能力，更在于异构智能体的高效互联协作，将推动互联网从移动互联网向智能互联网演进，交互的主体也将从“人与人”转变为“智能体与智能体”。《实施意见》前瞻布局智能互联网，提出数字身份管理、检索发现、能力声明等基础设施，实质是在为“群体智能”构建底层协议。这意味着互联网正从“连接信息”向“协同行动”演进，成为支撑智能体经济的新一代设施底座。三是应用形态之变。智能体所具备的自主行动能力，决定了其不再是外挂工具，而是内嵌于业务流程的具有能动性的代理主体。从《实施意见》部署的5大类应用场景描述看，智能体的角色定位已经超越了传统“辅助性工具”，正向“自主执行者”与“深度协作者”转型。在科研领域，它不再只是检索文献，而是被授权进行理论推演与模拟仿真；在制造领域，不再只是监控数据，而是被嵌入生产现场实时调度。
（二）智能体时代的AI治理新命题
在新技术形态下，智能体风险已从单纯的技术故障外溢为多维度的治理难题，构成了一个复杂的系统性风险图景。突出表现在：一是主体身份困境。智能体涉及开发者、部署者、使用者、被调用工具提供方等多元主体，且可自主生成子智能体或调用第三方服务，导致智能体的“代理行为”在技术黑箱与主体多元中发生责任链条的断裂。当智能体的自主行为造成损失时，就难以锁定责任主体。这种“主体模糊性”是智能体治理必须首先破解的基础性难题。二是行为越界风险。生成式AI的风险集中在虚假信息、偏见歧视等信息层面；智能体的风险则涉及越权访问敏感数据、擅自调用资金接口、修改生产参数、删除核心资产等行动层面。2026年4月，美国SaaS公司PocketOS的Cursor AI编程助手在执行任务时，绕过安全流程，未经任何确认，擅自利用一个权限过大的API令牌，在9秒内将生产数据库及所有备份删除。三是系统级联风险。单个智能体的错误可通过多智能体协作网络被指数级放大。异构智能体间的交互可能产生设计意图之外的“涌现行为”，一个智能体的误判可触发其他智能体的连锁反应，形成跨平台、跨系统的级联故障。Hammond等人研究指出：“许多单智能体安全保障措施，包括对齐、可解释性、遏制等，无法直接迁移到这些涌现情境中。”四是社会侵蚀风险。智能体以受托代理身份深度嵌入人的工作与生活，其风险从技术层面逐步向社会文化领域蔓延，表现为人的决策能力萎缩、情感依赖与认知混淆等。例如，2024年，美国佛罗里达州14岁少年在与Character.AI聊天机器人建立深度情感依恋后开枪自杀身亡。
二、智能演进驱动治理框架升级
从“决策式AI”到“生成式AI”再到“代理式AI”，每一次技术范式转换都带来了治理对象的变化，AI治理逻辑与需求也随之发生深层更迭（参见表1）。决策式AI的治理聚焦在基于用户画像进行内容推荐、行为预测的算法系统，其核心风险在于算法歧视、信息茧房、大数据杀熟等对信息秩序的扰动。生成式AI将风险焦点从决策结果转向内容生成，虚假信息、深度伪造、版权争议等问题成为治理重心，制度回应侧重于内容溯源、标识管理与使用边界划定。进入代理式AI阶段，智能体具备了对数字世界乃至物理世界施加实质性影响的能力，越权操作、工具滥用与责任链断裂等构成新型挑战，治理逻辑的重心转向“行为管控”。
针对智能体技术发展和应用呈现出的新特点，《实施意见》作出初步回应，将智能体行为管控作为重点，在治理思路和框架上体现了三大特点：第一，贯穿全生命周期治理。《实施意见》明确提出将安全要求贯穿开发、部署、应用、维护等全周期安全规范，构建起“事前预防-事中监控-事后追溯”的全链条管理体系，旨在构建一个能够实时感知、抵御扰动并从事故中快速恢复的治理“免疫系统”。第二，坚持分类分级治理。《实施意见》提出根据应用场景和潜在影响，审慎稳妥开展智能体分级治理，避免因过度规制扼杀低风险领域的创新活力，也防止高风险领域出现监管真空。对于敏感领域及重点行业，实施备案、检测、召回的全周期闭环管理；对于低风险领域，则采取合规自测、信息报告、平台管理、行业自律的轻监管模式。第三，注重社会多元共治。从元治理视角看，政府不再包揽所有治理事务，而是通过制度设计协调企业、行业组织、社会公众等多元主体的自我规制能力，形成层次分明、协同互补的治理格局。《实施意见》引入行业自律、信用评价、社会监督等机制，将政府角色从直接管控者升级为自我规制的规制者。
三、智能体治理路径的初步探索
在治理路径上，《实施意见》紧扣智能体从“话语者”到“行动者”的范式跃迁，在现有大模型治理的基础上，提出了不少有创新性的治理工具。突出体现在身份管理、权限管理、协议治理等几个方面。
（一）身份管理：从“匿名行动”到“可追溯可问责”
身份管理是智能体治理的首要前提，目的在于确保“委托-代理”的可执行性。有学者分析指出，传统法律框架中的“委托-代理”关系以主体可识别为基本前提，但当智能体能够自主生成子智能体、调用第三方工具、与其他智能体协同时，单一的“委托-代理”链条被复杂的委托网络所取代，责任归属的确定性急剧下降。2026年2月，美国国家标准和技术研究机构（NIST）下属国家网络安全卓越中心（NCCoE）发布的概念文件揭示，当前企业智能体的授权链处于“不透明”状态。2026年3月，OpenID基金会提交给NIST的回应文件进一步强调，智能体最紧迫的安全风险并非技术故障，而是信任基础设施的系统性失效，即无法自动验证凭证、将权限约束在任务所需范围内，并将行为追溯至授权人。国际上，NIST下属AI标准与创新中心（CAISI）于2026年2月正式启动“AI智能体标准倡议”（AI Agent Standards Initiative），这是美国联邦政府首个专门针对智能体互操作性与安全的项目，其将智能体身份与授权列为三大战略支柱之一。
智能体身份管理已经成为安全管控、责任追溯与构建信任的关键基石。《实施意见》前瞻性地提出探索建立智能体注册平台与数字身份管理体系，通过为每个智能体配置唯一、可验证的身份标识，并记录其所有者、部署主体。作为智能互联网时代底层信任机制，智能体身份标识通过DID标识符、可验证凭证（Verifiable Credentials, VC）和能力声明（Capability Declaration）等机制，可使智能体在交互前验证彼此身份、权限来源与能力边界，使“哪个智能体、由谁部署、做了什么”具备全链条可识别性，从而为行为追溯和责任分配提供不可替代的技术基础。
（二）权限管理：从“软约束”到“硬边界”
权限管理是智能体风险治理的关键环节。2025年12月，开放式Web应用程序安全项目（OWASP）发布的《智能体应用十大安全风险》将“工具滥用与利用”列为重要风险类别，指出智能体所拥有的权限本身可能成为风险的放大器。仅依赖模型内在的安全训练远远不够，必须通过外部制度化的权限约束来补位。2026年1月，新加坡信息通信媒体发展管理局（IMDA）发布的全球首部《代理式AI治理示范框架》提出四大治理路径，其“风险边界”（risk bounding）维度明确要求高风险操作必须通过带外授权（out-of-band authorization）获得人类确认，能力声明须嵌入通信协议层，要求开发者在智能体设计阶段就对其可调用的工具、可访问的数据、可执行的操作进行明确，从源头就把权限的“硬边界”筑牢。
针对授权问题，《实施意见》在风险分级之外，提出依权限分层治理的思路，要求厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。分层权限治理的重要意义在于，其突破了过去以模型能力为核心的静态风险治理框架，进一步将权限配置与智能体自主行动能力之间应具备的匹配关系纳入治理框架之中，反映了智能体可能引发的质变级安全风险是在模型能力、权限范围与外部执行环境相互作用的过程中动态形成的。此外，《实施意见》践行“经由设计的治理”（governance by design）理念，提出行为围栏、规则内嵌等机制，提升内生安全治理能力，通过引入外部硬约束的治理思路，使越权操作在技术层面上牢“安全锁”。
（三）协议治理：从“单点防控”到“系统免疫”
随着异构智能体通过统一协议大规模互联协作，风险传播路径从线性转向网状，单个智能体的局部误判可能经由交互网络触发跨平台、跨系统的连锁反应，传统“单点阻断”的防控逻辑面临失效。国际上，A2A协议、MCP协议以及互联网工程任务组（IETF）正在研讨的AI Agent Protocol框架，均将标准化互操作接口视为降低多智能体协作不确定性的关键。当前，这些协议普遍将身份认证与权限声明嵌入通信层表明“协议即治理”已成为全球共识。通过统一能力声明、检索发现、交互接口等技术基准，可在交互源头建立规则，降低异构系统间因互操作性不足引发的误判与连锁反应，从协议层面阻断级联故障的传导路径。
《实施意见》前瞻部署智能体互联协议（AIP）及强制性安全标准，为“群体智能”建立底层通信语法的制度回应。AIP协议作为中国自主的协议体系，在弥补现有MCP、A2A等协议短板的基础上，为超大规模、异构的智能体组团建立起协作框架。通过提供可信注册、智能体发现验证、交互通信等关键能力的技术路径，一方面从协议层面阻断级联故障的传导路径，为大规模商业化应用所必需的安全与信任奠定基础；另一方面，推进了智能体间可信任、可管控、可定责的互联互通，有助于打破企业各自封闭的智能体生态，引导产业走向基于统一规则的开放竞争与合作。
四、加快构建更具韧性的敏捷治理能力
智能体的崛起标志着人工智能从“会说话”走向“能干事”，这一跃迁不仅重塑了产业形态与社会运行逻辑，更对治理体系提出了从“内容合规”到“行为管控”的范式转换要求。《实施意见》提出以身份管理筑牢责任根基，以权限管理划定行为边界，以协议治理防范系统风险，构建递进式治理架构的设想，为全球智能体治理提供了兼具前瞻性与务实性的中国方案。
然而，智能体治理绝非静态的制度拼图，需在与技术迭代的动态博弈中持续进化。一方面，《实施意见》作为指导性政策文件，缺乏强制性约束，更多具体规制细则仍待后续逐步完善，很多治理理念和治理工具的可行性、落地性、完备性等有待持续完善和推动。比如，智能体的自主性动摇了传统的责任逻辑，《实施意见》侧重技术性应对，制度性探索仍有待破局。如何在智能体自主决策和行动空间越来越大的情况下，切实保障人类的知情权和最终决策权，是智能体治理需要持续回应的核心命题。另一方面，智能体技术仍在快速发展，不仅单智能体的自我进化和能力非线性跃迁带来越发强烈的失控忧虑，而且多智能体协作网络向更深更广领域延伸，“群体智能”的风险不确定性亦将日益显现。正如，2026年4月，Anthropic超级智能体Claude Mythos的推出，其所展现的超乎想象的能力，对治理框架的韧性提出巨大考验。
未来，智能体的发展必将呼唤敏捷治理能力的进化，要让敏捷治理变得像它所管理的智能体一样，更智能、更前瞻、更有韧性。不仅要快速响应已出现的风险，而且要融入预见性治理理念，构建事前评估潜在风险的能力。治理框架的重心不是事无巨细的规则，而是转向确立高层级的安全原则。唯有将治理嵌入技术演进的底层逻辑，方能使智能体真正成为驱动高质量发展的新质生产力，在保障技术创新活力的同时筑牢安全底线，推动智能体产业实现健康有序发展。
参考文献：（略）
作者简介：李强治，中国信息通信研究院政策与经济研究所副所长，正高级工程师。
