与传统的人工智能相比，人工智能体的治理面临一系列挑战。
首先，人工智能体的架构复杂、端层嵌套，每个端层均可能加剧传统技术风险并衍生新的法律风险。现有法律治理方案难以仅通过局部性、策略性的调整来有效应对。随着人工智能体的出现，人工智能产业链架构发生了实质变革。“代理即服务”的产业链架构应运而生。
在该种产业链模式下，人工智能体的开发、训练、部署、运行和服务等环节被解耦和专业化分工，形成了复杂的分层结构。每一层均有不同的参与者、利益相关方和潜在风险因素。因此，对应于人工智能体“模块”（modules）化的产业链特质，需要一种能够覆盖整个产业链和各个端层的新型治理范式。
基于此，本章提出面向人工智能体产业链特性的模块化治理范式。该范式以基础模型和基础代理为抓手，通过模块化解构的方式，从数据模块、算法模块、模型架构模块等关键层级和组件出发，设计相应的治理工具和规范，形成独立的治理模块。在部署环节，可根据具体场景的特性灵活选择、协同组合不同的治理模块，在其基础上构建与之相匹配的分类分层治理体系。
其次，在“代理即服务”的产业模式之下，多代理部署将成为主流趋势。这不仅能推动深度的人机交互，还能在智能体服务的模块化和组合化部署时形成更为复杂的主体参与网络。
“代理即服务”（Agent-as-a-Service，AaaS）是人工智能与云计算深度融合的产业模式，其核心是将具备自主决策能力的智能体封装为标准化服务，通过云平台提供给企业和开发者按需调用。其本质是将智能体的开发、部署、进化能力转化为可复用的服务单元。
这种互联互通的产业链特性还需要治理机制跨越不同的开发者和参与主体，突破单项式的治理，实现系统级的协调与交互。因此，人工智能体模块化治理还需要面向智能体的生态特性，构建具有动态性、参与性、透明性和协作适应性的交互式治理。
最后，还需要深刻认识到，人工智能体仍处于研发和产业化的初步阶段，治理介入的节点、节奏与维度将对技术创新与行业发展产生重大影响。由于基座模型的性能依然存在诸多短板，其技术路线远未迎来固化时刻，未来将会出现基础架构层面的革新与升级。
从积极的角度来看，技术的进步也可能使现阶段预期出现的法律风险问题迎刃而解。因此，对人工智能体的治理既不可操之过急，亦不可放任自流，而应当抓住人工智能体的核心与关键环节开展前瞻性、渐进性的布局。
基于此，人工智能体的模块化治理还需要面向人工智能体产业的发展现状，搭配以精准化的治理机制。一方面积极探索建立人工智能体分类分级的评定标准，另一方面深入探索建立智慧化的监管工具体系，弥合风险动态性与监管静态性之间的张力。
整体而言，模块化治理为人工智能体产业链的关键层级提供了基础的治理思路。精准化治理则因场景而异，推动模块化治理向纵深拓展。而交互式治理贯通模块化治理与精准分层的治理，实现了治理方案的动态优化。三者相辅相成。该种协同体系有望更为全面地覆盖人工智能体的治理需求，精准制导、与时俱进。
构建从基础模型到基础代理的模块化治理
现阶段，大模型仍处于产业化和商业化发展的初级阶段，基座模型的性能依然存在诸多短板，技术界也提出了各种突破当前技术瓶颈的应对之策。对于人工智能体而言，大模型是所有技术路线中最有助于其实现通用任务能力的基础设施和关键组件。相关研究显示，基础模型会系统性提升人工智能体的感知、运动、规划和控制能力。
而在百花齐放的各类大模型之中，在大量数据上训练而成，具有通用的数据表示能力、知识理解能力和推理能力，通过上下文学习、微调甚至零样本方式，能够实现多元场景轻松迁移并快速适应新环境的基础模型（foundation model）是发展出通用人工智能体的关键希望。
因此，面对纷繁复杂、拥有无尽可能的人工智能体，试图构建一个面面俱到的治理框架可能是不切实际的，相反，牢牢抓住基础模型这一要素，逐步探索出从基础模型到基础代理（foundation agent）的模块化治理路径可能成为未来的发展方向。
而在探索构建这一治理方案的过程中，需要着重解决以下两个问题：
首先，精准识别具有通用性能、可能带来系统性风险的尖端基础模型并据此构建差异化的监管矩阵。
在基础模型内部，基于不同的训练目的和模型性能，各类模型治理风险各异。为给予技术发展充分的制度空间，同时为技术风险提供实时可控的治理框架，欧盟立法者在《人工智能法》中通过模型训练期间的算力使用量、模型获取新技能的效率、跨任务的多功能性和性能的通用性、模型泛化能力以及特定的评估基准综合构建分层依据，将基础模型划分为三类：（1）尖端通用基础模型，该类模型追求广泛的通用能力，并且代表了当前技术发展的最前沿水平；（2）非尖端通用基础模型，该类模型同样追求广泛的通用能力，但在技术先进性上并非顶尖；（3）专用生成式工具/应用，该类工具/应用并非为通用能力而设计，其目标是在特定领域内部署和应用。
它们通常是在通用基础模型的基础上，利用特定任务数据进行微调后构建而成。在对基础模型进行分层的基础上，施加差异化的事前审查和监管策略，从而在技术创新与安全发展之间达成平衡。这种治理方案尤其适用于技术飞速发展但尚未定型固化的技术爆发周期。
就人工智能体而言，由于该产业的终极发展方向是通用型人工智能体，因此清晰界定具有通用目的、处于技术尖端、具有极强泛化性能且将作为通用智能体核心组件的基础模型将成为构建监管框架的首个攻坚重点。
目前，有研究将人工智能体领域使用的基础模型分为用于机器人的基础模型和直接在机器人数据集上进行训练的基础模型两类。前者与现有的大型自然语言模型以及大型语言—视觉模型高度重合，主要解决如何将现有的基础模型在智能体领域实现零样本的应用问题。因此，可以在现有监管框架的基础上推进和完善，探索针对通用尖端基础模型的治理方案。
但更具挑战性的是对“机器人基础模型”的治理。“机器人基础模型”是指通过对真实的人工智能体的状态和动作产生的数据集进行训练以解决多元任务的模型。对于该类模型，由于现有技术路线仍在探索与发展之中，因此，应保持密切关注，适时依据技术的阶段性进展探索制定分类分级和风险评估的指标体系，为搭建治理框架积累决策依据。
其次，创建与人工智能体基础模型技术机理相适配的治理工具模块体系。
无论是大模型还是人工智能体，尚处于技术飞速发展与商业化落地的探索期，其技术形态以及应用场景均可能瞬息万变。因此，治理框架的构建应具备以不变应万变的能力。这就更需要围绕基础智能体的技术逻辑与发展机理构建与之相适配的工具体系，从而全面提升治理体系的韧性。
对于人工智能体的训练而言，需要分别探索构建针对数据、算法、模型架构等关键组件的治理工具模块体系。一方面，针对各关键组件的治理工具模块可以确保大模型治理与人工智能体治理甚至是面向未来的通用人工智能治理框架之间具有互操作性和一致性，避免不同维度治理活动的重叠与冲突。另一方面，具体而微观的治理工具模块又具备灵活性与动态性，能够及时回应复杂技术系统和应用场景之中的多元化治理需求，凸显协同性和包容性特质，通过将快速变迁、复杂耦合甚至冲突竞争的治理挑战隔离到独立模块之中促进多方共识的凝聚，从而创建可执行的合作关系与行动框架，实现治理层面“存异求同”。
因此，“模块化治理”（modular governance）方案提供了一种具有可操作性的分解方法。通过将复杂的智能体治理目标拆解为相对独立但关联耦合的模块单元，以逐步破解的方式渐序推动整体治理框架和治理体系的构建。
具体而言，需要从控制端、感知端和行动端的技术机理出发，从数据、算法、模型和平台的维度拆解治理“元”模块。在这些模块单元内部，层层细化为具体的评估指标、评估事项以及行动主体，根据风险等级、适用场景、模型类别等因素有机重组，将统一框架灵活转换为适用于某一特定领域、特定类别、特定人工智能体的具体规制框架。
构建面向特定高风险场景的精准化治理
虽然前文从控制端、感知端和行动端详析了人工智能体可能存在的技术隐忧与治理挑战，但人工智能体的发展无疑极大地推动了技术自动化和智能化的进程，其亦将赋能千行百业，成为产业变革的催化剂与助推器。现阶段，人工智能体的商业化落地正处于从零到一的关键导入期，探索构建一个精准高效的治理框架，确保该技术的发展与应用始终处于可控且正当的轨道之上始终是一个重要的治理议题。
对于仍在高速发展且远未定型的技术而言，相较于采取整全化的治理路径，以合乎比例的方式契合特定场景和技术特性，开展精准化、轻量化的治理可能更具可行性。结合“代理即服务”的产业链模式以及现阶段人工智能体技术泛化能力仍然受限的客观现状，准确识别现阶段的高风险部署场景，针对性、差异化地开展精准化治理有助于治理效能的达成。
现阶段，人工智能体主要分为制造业智能体、服务业智能体和特种智能体三类。在部署路线上，呈现多场景并行推进、分领域动态适配的特征。一方面，工业制造业与服务业的部署同步展开；另一方面，面向医疗、救援、探测等特定领域的智能体也在积极推进部署。
在这一部署模式之下，不同应用场景面临的风险等级与风险面向均可能有差别。例如，制造业的人工智能体需要更高阈值的稳健性和可靠性，但部署于服务场景的智能体需要具有功能多元、高度自主、灵活应变的能力，因此治理重点应着眼于其与人类交互过程中的安全性和价值对齐问题。
尤其是情感陪伴型智能体，因其服务模式可能接触海量个人敏感信息，用户面临个人敏感信息泄露的风险，还应重点对其开展隐私保护的治理。因此，现阶段，应集中监管力量率先应对“高风险”场景，在开展精准治理的同时为探索构建整全化、一体化的治理框架做前期准备。
欧盟的《人工智能法》以风险分层的治理路径对人工智能新技术和新应用治理作出了样本性的探索。立法者率先锚定人工智能系统可能对生命健康和人身安全以及可能对个人基本权利产生重大影响这两条主线，围绕系统运行领域、系统使用目的、系统性能、系统用户、受系统影响的主体等重要维度识别需要重点监管的“高风险场景”。
欧盟《人工智能法》第6条及其序言通过对人工智能可能造成的“重大不利影响”作定性描述，并结合具体风险类型进行分类，识别出高风险识别因素：危害性因素，即风险类型，如歧视、隐私泄露、物理致害等“对健康、安全或基本权利构成严重危险”的风险类别；暴露度因素，即风险的强度、可能性、持续时间，以及是否对健康、安全和个人基本权利产生重要影响；脆弱性因素，关注风险潜在受害群体的基数和特殊性以及回应性因素，即风险的可控性和事后救济的有效性。
第7条则通过赋予委员会综合考虑人工智能系统的预期用途、已被使用或可能被使用的程度、处理和使用的数据的性质和质量、人工智能系统自主行动的程度以及人类推翻可能导致潜在伤害的决定或者建议的可能性、多大程度上已经对健康和安全造成损害等指标，为欧盟委员会未来进行动态的风险评估确立了制度基础。对于人工智能体的精准治理来说，也可借鉴动态评估与静态框架相融合的方式，在遵循技术特性与部署规律的基础上，探索构建切实可行的治理方案。具体而言：
首先，应探索建立人工智能体分类分级的评定标准。在技术驱动发展的时代，专业技术标准往往彰显更为直接的治理效能。因此，人工智能体的评定体系应在细化评估因素的基础上提升规则颗粒度和落地的可行性。
例如，可从多模态训练数据的来源、内容、标注规范评估歧视、“机器幻觉”等风险产生的可能性，从输出内容的安全性、准确率、可靠度评估风险的强度、持续时间，从具体用途评估可能受其影响的主体的人口基数、抗风险能力，以及其纠错能力、相关合规措施的完备性等维度评估风险产生后的救济难度，进而判断人工智能体的风险等级，并提出针对性的治理措施。
其次，积极探索建立智慧化的监管工具，弥合风险动态性与监管静态性之间的张力。如前文所述，欧盟立法者意识到人工智能风险动态性的挑战，因而在欧盟《人工智能法》第7条规定了修订高风险人工智能识别和认定标准的程序，以确保治理的时效性。对于人工智能体这类风险可能实时涌现、动态变化的治理对象而言，尽快开发出一套监管反馈框架和智慧化治理工具体系具有现实紧迫性。
例如，新加坡在大规模制定人工智能监管框架之前，先行与科技企业合作开发了测试框架与工具包（AI Verify Testing Framework and Toolkit），其可提供人工智能系统的测试框架、工具包和评估分析报告，以技术赋能监管，增加企业与监管机构的互信与合作。因此，面向人工智能体的精准化治理还需要精进监管基础设施，提高监管机构对高风险应用持续监控、实时评估和即时反馈的能力，以提升监管的敏捷度与实效性。
构建面向智能体生态的交互式治理
作为人工智能技术发展的又一个新阶段，人工智能体将人类社会迅速推向了一个虚实结合、人机深度交互的智能体社会，开启了全新的智能时代。智能体社会将集中呈现深度交互性、高度互联性以及动态适应性三个特征。
第一，智能体社会中人与人工智能系统将会有广泛深入的交互。一方面，人工智能体需要通过人类反馈实现动态学习。另一方面，人类仍然需要通过规范和技术深入介入人工智能体的行动和决策，以确保人类处于决策回路之中。
第二，智能体社会将呈现万物互联的态势。单一的人工智能体可能会有能力局限和行动边界，因此，多代理型部署方式将成为重要趋势。因此，智能体社会不仅存在深度的人机交互，更将凸显万物互联之势。在引人瞩目的“智能体虚拟小镇”实验中，研究者发现其构建的25个人工智能体在虚拟小镇环境中呈现出类似人类社会的社交行为。虚拟小镇中的智能体不仅会彼此共享信息、记忆智能体交互的细节，甚至可以联合策划一场派对。由此可见，未来的智能体社会将呈现高度智能和万物互联之势。
第三，人工智能体可以凭借自我规划与迭代的能力，借助交互学习和自适应能力，适应甚至重塑不断变化的环境。因此，人工智能体社会还将呈现动态和不断延展的组织特性。在这一宏观变革之下，人工智能体的治理还需要探索一种交互式的治理模式。在人工智能体的产业链条上，至少存在大模型厂商、人工智能体厂商、下游端侧的中小企业、人工智能体用户、技术社群以及社会公众等多个主体。交互式治理模式需要遵循人工智能体的产业链生态，将各个主体纳入治理链条。
首先，作为人工智能体的智能引擎，大模型开发者需要在现有监管框架下履行一系列数据、算法、内容层面的合规义务。更为重要的是，由于人工智能体呈现多主体协同的部署趋势，各大模型开发者还应积极探索共建共治机制，以应对多智能体协同带来的公共外部风险。此外，鉴于大模型开发者具有全栈发展的趋势，其与人工智能体的开发商可能高度重合。因此，其在一定程度上还应履行协同配合的治理义务，对中下游主体履行监管要求施以必要的协助。
其次，应着力培育技术社群以探索智能体社会的“众包型”治理模式。面对性能强大的人工智能体，可能个体用户受限于时间、能力、知识和精力，难以与之抗衡。技术社群内部的紧密结合与专业知识的加持将有助于在人工智能企业内部构建有效的约束机制。
例如，针对微软Copilot Designer产品生成色情与暴力内容的问题，微软内部的人工智能工程主管沙恩·琼斯在自测环节发现该问题后第一时间向微软上报了其发现。但由于微软怠于改善该问题，其在社交平台上发表了公开信并向美国参议院发函，同时会见了美国参议院商业、科学与运输委员会的工作人员，以促使该问题引发关注并得到妥善解决。因此，技术社群对于人工智能体的治理将产生至关重要的“吹哨人”效应。
最后，对于智能体社会的“未来公民”而言，政府还应积极培育公民的数字文化素养，树立其在与智能体交互过程中负责任使用的意识。在人工智能时代，用户已非作为单个个体而存在，相反，其通过算法、平台以及人工智能系统与其他用户、数据、环境产生连接和影响，成为人工智能时代的“跨个体用户”（transdividual users）。因此，人工智能时代的治理应当超越传统的以个体为中心的治理，关注更为广泛的互联依赖的生态关系。
在智能体社会，基于法律的治理仅能解决有限的甚至是底线性的问题。智能体社会的治理尤其需要多方参与和多层次协作。从系统治理的视角，推动实现智能体生态中的良性交互，培育向上向善的运行生态，才有助于从更为长远和系统的角度应对这一颠覆性变革。
结语
人工智能体由控制端、感知端和行动端组成。
在控制端，尽管大模型充当了智能体的“智能引擎”，但仍存在“机器幻觉”，其生成的内容面临时效性和可靠性风险。大模型的算法偏见也可能加剧智能体在决策中的偏见。
在感知端，智能体的多模态感知能力加大了个人隐私权被侵犯的风险，对个人信息保护制度构成挑战。多智能体系统间的交互可能导致不可预测的、复杂的和动态的系统性安全风险。
在行动端，具身智能体的交互式学习模式可能导致全面的、侵入性的隐私风险。智能体的嵌入式和中介化部署方式可能深度影响人类的主体性。其高度定制化的部署特性还可能面临人工智能对齐的挑战。
面对“代理即服务”的产业链特点，应建立从基础模型到基础代理的模块化治理框架。针对具体的高风险场景，应探索精准化治理机制。鉴于人工智能体的生态特性，应着力推进交互式治理。
人工智能体不仅具有推动产业创新、构筑竞争优势的巨大潜力，还可能带来社会生产力的大规模解放与人类生产生活方式的重大变革。人工智能体将会带来一批新的产业、新的业态并积蓄新的动能，带动一系列以智能、泛在为特征的颠覆性技术变革。
在这一重大的科技革命与产业革命交汇期，习近平总书记提出“新质生产力”这一重大概念。所谓新质生产力，是指由技术革命性突破、生产要素创新性配置以及产业深度转型升级催生的当代先进生产力。新质生产力代表着科技的发展方向，代表着产业升级的重大趋势，汇聚着人类社会前进的优势动能。
可以说，人工智能体就是本轮科技革命浪潮中的新质生产力之一。作为世界人工智能的主要创发力量，我国更需要优化新质生产力的发展生态，一方面推动其解放和发展，另一方面推动其在负责任创新的轨道上不断完善，从而全面贯彻新发展理念，推动高质量发展与高水平安全的良性互动。
本文节选自《生成式人工智能治理：原理·制度·实践》第四章“人工智能体的模块化治理”第三部分“‘代理即服务’：人工智能体的模块化治理”（第121-133页）
