以2017年国务院发布的《新一代人工智能发展规划》为标志，我国人工智能治理改革已经推进了近九年，形成了极为丰富的治理实践探索与治理经验积累。2026年5月，国家层面连续发布的《智能体规范应用与创新发展实施意见》（以下简称《实施意见》）与《人工智能应用伦理安全指引1.0》（以下简称《指引1.0》）两份文件，进一步标志着我国正在从“人工智能治理”进入“‘人工智能+’治理”的新阶段，既有将人工智能技术作为对象的治理思路与范式，正在朝着将人工智能影响下形成的“技术-社会”系统作为新对象转变。这一转变不能被简单理解为既有治理模式的直接延伸，而需要从治理模式演化视角完整认识新阶段的治理议题、治理逻辑与治理政策。

一、新阶段的人工智能治理议题拓展

在过去近九年的治理实践探索中，利益相关方普遍认识到了人工智能治理的新颖性与特殊性。不同于传统技术，人工智能对“波兰尼悖论”的突破在极大拓展其能力边界的同时，也创造了新一代的“一般通用技术”，并塑造了技术作为环境的“技术化社会”，而与之伴随的技术内生安全风险则成为人工智能治理的主要关注对象。不可解释的“黑箱性”、源于训练数据或设定目标的“歧视性”、自我能力强化或高级人工智能扩散的“失控性”，以及人工智能技术设计过程中的“伦理困境”等都是被抽取出的典型问题，而由此表现出的风险影响不确定性、技术演化动态性、技术工具“主体化”、治理知识“共同无知”等，则成为被经常提及乃至已经成为常识的人工智能治理特征。

既有的实践探索与理论总结固然是重要的，但在“人工智能+”新阶段，我们要提出的新问题在于，人工智能治理的既有议题以及针对这些议题所提炼的治理特征，能否继续指导我们在当前及未来的思考与探索？从2026年以智能体为代表的人工智能产品及服务新形态不断涌现的现象来看，我们可能有必要对此做出拓展，并注意到以下两方面新特征。

一方面，人工智能技术能力与人能利用该能力的能力之间的“缺口”正在成为新的重要治理议题，而由此表现出的“分化性”特征则是我们当前需要面对的新挑战。过去九年里我们不断见证的人工智能技术能力增长，已经给社会带来了充分的惊喜乃至“惊吓”，但这种“工具主体化”的安全风险不等同于人工智能的全面替代，反而表现出来的是人如何利用该能力的新挑战，以及因为人与人之间的差异而带来的新一轮加速分化进程。典型案例例如Anthropic在2026年3月发布的报告即认为，在代码生产领域，智能体理论上能完成的工作大致占比94%，但其中平均只有33%被程序员所释放并利用，而如何利用、释放人工智能能力便成为导致程序员分化的重要原因。

另一方面，人工智能技术的普遍扩散已成为现实而非可改变、可矫正的前提，推动技术生态治理成为新的重要治理议题，而由此表现出了“系统性整体性协同性”的治理特征。人工智能治理的既有思路中一直存在着“开放”与“控制”的争议，但开源人工智能的蓬勃发展已经冲破了治理理念的理论分歧而成为利益相关方需要共同面对的现实前提，由此形成的上下游技术供应链、衍生应用网络等则直接构成了人工智能技术生态。如何把握技术生态的演化规律、找准治理关键环节，由此成为新的治理挑战。《实施意见》中提出的“加强供应链安全”“化解应用衍生风险”等原则要求即可被视为对此的回应。

二、新阶段的人工智能治理逻辑变迁

从过去九年的实践探索来看，人工智能的治理逻辑已经从“命令-控制”式结构转向了敏捷治理、实验主义治理等新的理论主张，进而从追求对风险的全面控制，拓展为为应对不确定治理环境而演化出的共同学习、能力增长、公共产品等治理机制。但前述两方面的议题拓展，同时意味着这些治理逻辑的进一步变迁和演化。

第一，既有治理逻辑关注的始终是对于人工智能技术本身及其所引发风险影响的知识学习与积累，但新阶段的治理逻辑则需要覆盖更为复杂而广阔的社会场景，以及技术与社会相互影响过程中的治理知识融合与变化。《实施意见》明确提出的“智能体正加速与网络空间、物理世界深度融合”判断，其反映的正是此背景。原来对于因人工智能技术快速演化而出现的治理知识赤字，正在变化为人工智能深度嵌入社会后会引发何种变化的治理知识缺口。

第二，强调快速反应、渐进应对的治理逻辑正在面临技术业态范式切换的挑战，并因此要求提出更一般的治理共性总结与治理通用机制。针对推荐算法、深度合成、生成式人工智能、拟人化服务等一系列新技术、新业态的管理办法充分体现了我国人工智能治理的敏捷性特征，但这一过程也体现出了治理改革疲于应对、被动回应的不足。“人工智能+”新阶段的到来，预示着将有更多新技术、新业态的涌现，在已有探索经验上抽取出一般性治理共性和原理，以作为指引新问题应对的原则与框架，将成为敏捷治理更重要的理论内涵，《指引1.0》在很大程度上就可被视为此种探索的具体表现。

第三，相比于既有治理逻辑对发展与安全的分别考量，新阶段更强调二者的实质统筹，在发展过程中控制治理风险，在安全治理中引导发展方向。尽管建设安全语料库、设置安全护栏、开展价值对齐等前置性安全治理措施体现了统筹发展与安全的基本原则，但其仍然将人工智能技术本身与其社会化应用相分离，并因此将安全治理措施与释放人工智能发展价值的应用过程相分离。《实施意见》中提出的“坚持应用牵引”、《指引1.0》中提出的“增进人类福祉”与“普惠共享”等原则，均可被视为朝着建设人工智能全生命周期治理方向改革的“往前一步”，而这也无疑意味着治理逻辑的新变化。

三、新阶段的人工智能治理政策改革

新阶段治理议题的拓展与治理逻辑的变迁，同样要求治理政策的进一步改革以做出回应。一方面，要求既有的人工智能备案、评估、分级分类、标识、标准等系列治理工具向应用环节拓展，《实施意见》中提到的“根据应用场景和潜在影响，审慎稳妥开展智能体分级治理”“实行备案、检测、问题产品召回等管理措施”等，都是具体表现。另一方面，或许当前更为迫切的则是探索适应新阶段的治理政策改革。

第一，在技术层面，应探索并完善人工智能技术生态治理体系。伴随着人工智能技术模型能力的提升，调用、释放此种能力的方法论框架已经从提示词工程、上下文工程发展到了当前的“控制工程（Harness Engineering）”。后者强调的是围绕模型而设计、构建的一整套约束、反馈机制以及在此框架下所形成的工作流和基础设施，它们与模型共同构成了微观层面的人工智能技术生态。抓住其中的关键环节、关键层次并将安全治理要求嵌入其中，应成为未来改革的重点。《实施意见》中提出的“完善智能体工具链”“建立智能体标准体系”等具体治理措施，可被视为该点的具体体现。

第二，在社会层面，应着力提升各行业劳动者更好利用人工智能的能力水平，并在此过程中强化人工智能安全治理素养教育。人利用人工智能的能力“缺口”正在成为新阶段的治理短板，而这也是既有人工智能治理实践所忽略的环节。我们以前更关注人工智能技术能力的提升，但却忽略了利用此种技术能力的人的素养提升，并因此可能带来就业冲击、不合理使用等治理问题。《指引1.0》中特别强调的“正确认识人工智能的应用价值、能力边界及潜在影响”，即是之前人工智能治理所不曾强调的关键政策内容。

第三，在体系层面，应更加鼓励多元主体参与“人工智能+”新阶段的治理改革，尤其是形成智能体应用社会影响评估的丰富生态。既有人工智能治理的制度基础是以备案为底色的技术影响评估，侧重内容安全、权益影响评估等。新阶段下技术应用领域的扩散，以及智能体应用已超越内容生成而延伸至决策、执行等多个环节的新特征，都极大拓展了影响评估的对象和范围，要求未来改革需要发展出备案之外的更丰富政策体系，以更好地激励、协调人工智能治理的社会化进程。

作者简介：贾开，上海交通大学国际与公共事务学院教授，博士生导师，研究方向为数字公共治理、全球数字治理等。

基金项目：国家社会科学基金重大项目“智能化时代算法应用的社会影响及其治理研究”（项目编号：24&ZD188）。