2026年是达特茅斯会议举办70周年。自从大语言模型开启人工智能技术平民化的进程以来,技术迭代已经从被动应答走向任务执行,正朝着多智能体系统(Multi-Agent System,MAS)的方向发展。伴随着国家互联网信息办公室、国家发展和改革委员会、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》),以统筹发展与安全为遵循开展智能体治理,正式纳入我国的政策议程。
一、治理对象:辩证理解智能体的“自主”
开展智能体治理的一个必要前提,是各界对“什么是智能体”达成共识。《实施意见》开篇就给出明确定义,“智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态”。这一表述是在《人工智能安全治理框架2.0》(简称《框架2.0》)定义基础上的进一步迭代,《框架 2.0》由全国网络安全标准化技术委员会、国家计算机网络应急技术处理协调中心于2025年9月联合发布,其将智能体定义为能够自主感知环境、制定决策、采取行动实现特定目标的智能系统,一般具有记忆、规划、使用工具等基本能力。在ISO/IEC 22989《信息技术-人工智能-人工智能概念和术语》(Information technology— Artificial intelligence— Artificial intelligence concepts and terminology)中,智能体被定义为自动化实体,能够感知环境、作出反应,并采取行动以实现目标(原文为automated entity that senses and responds to its environment and takes actions to achieves its goals)。同时,该国际标准也明确,定义中的自动化(automated)是指相关流程或系统在特定条件下无需人工干预即可运行(原文为pertaining to a process or system that, under specified conditions, functions without human intervention)。当我们比较两个定义时,一个问题随之产生:《实施意见》对智能体定义中的“自主”和国际标准定义的“自动化实体(automated entity)”是否存在内涵差异?这是明确治理对象的重要命题。
从词源来看,智能体对应的英文agent源自拉丁语agere,本义是行动、驱动、践行。从智能体的行动逻辑来看,感知并响应环境构成行为的运行闭环。该词传入英语后,既延伸出代理人、经纪人等指向受托行事主体的释义,也衍生出产生某种效果、变化的力量或物质的含义。在经济学语境中,委托代理关系正是基于“受托行事主体”发展而来的,委托方将相关权限与事务托付给代理方,形成一种不完全合约关系。总之,现代英语中的agent既指向行动,又指向行动主体。
然而,国际标准将智能体定义为实体(entity),这是典型的存在论表述。作为自动化实体,智能体表现出流程或系统层面的行为特征,具备行动论意义上的意向性、能动性和自决性,充其量仅具备哲学范畴内的弱主体性。换句话说,智能体的任务目标、身份定位与风险阈值均由人为设定并控制:其一,它依托既定逻辑与预设流程实现自动化,仍旧是受托于人而行动;其二,在本体互动关系中,它仅作为感知和反应的行动主体,环境是对应的客体。在这个定义中,智能体是客观存在的实体,但不是哲学严格意义上的主体。
《实施意见》采用“自主”来定义智能体。参照《现代汉语词典》,自主是指自己对某项事情负完全责任而做出决定,对应英文autonomous或autonomy。从2022年国际标准中的“自动化实体”,到2026年《实施意见》使用“自主”,术语的变化反映出政策制定者对智能技术演进的研判与表达。《实施意见》中的“自主”显然不只是针对智能体,而且也涵盖具身智能和类人机器人。智能体定义外延的变化,更需要我们深刻地把握智能体技术发展的延续性,更需要我们厘清“自主”与“自动化实体”二者之间的本质区别。从辩证视角审视,弱主体性与强主体性不存在绝对界限,而是技术在不同发展阶段呈现出的实体特征。
若判定技术演进正推动智能体逐步具备哲学意义上的强主体性,那么我们亟须思考需要怎样的制度安排。这是对自文艺复兴以来人类中心主义的时代叩问。这也不难解释,为何谷歌深度思维(Google DeepMind)等机构增设哲学家(Philosopher)职位参与智能体研发。当我们将智能体纳入治理对象时,相关制度设计需要确保其行为始终契合公共秩序和伦理准则,服务人类共同福祉。
二、治理主体:竞合关系的辩证统一
智能体领域日趋激烈的行业竞争,持续推动技术迭代与创新发展。“短迭代、快更新”“模型与芯片深度绑定、软硬件协同优化”已成为当前大模型行业的发展常态。由于人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的“头雁”效应,这个领域的市场竞争已经演变为国家层面的战略博弈。主要经济体纷纷加大技术研发、生态构建与规则布局的力度,能否在技术与产业上占据优势,关乎一国科技实力与未来发展潜力。
就在《实施意见》颁布前夕,Anthropic官宣前沿模型Claude Mythos预览版。由于这款模型在高阶推理、安全漏洞发现以及网络攻防推演上能力突出,短时间内形成行业热议的“Mythos现象”,媒体更是称其为网络安全领域的“奥本海默时刻”,隐喻技术突破背后的系统性安全危机。全球金融监管机构纷纷预警,认为该模型正在威胁金融系统安全,并将相关风险列入金融稳定的研判议题。英国信息专员办公室(Information Commissioner’s Office,简称ICO)发布技术前瞻报告《代理式人工智能》(ICO tech futures: Agentic AI),强调当组织考虑部署代理式人工智能时,了解其能力及相关风险是至关重要的。五眼联盟国家的网络安全机构联合发布题为《审慎部署代理式人工智能服务》的报告,强调安全问题的复杂性。系列事件提醒我们,在人工智能发展过程中,技术创新与安全风险彼此嵌套、深度交织。在数智时代,这类安全风险不再受行政管辖权约束,某地失控,风险迅速传播,甚至跨越主权,演化成跨区域、跨领域的系统性风险。
作为当前人工智能产品及服务的重要形态,智能体正是这类风险的典型载体。一方面,智能体持续释放技术动能,成为驱动社会生产力变革的重要引擎;另一方面,它也可能成为挑战规则、破坏秩序的风险“引信”。不可否认,在跨境流动的技术风险面前,诸如涌现性不可预测行为等或有风险会随之增大,我们已经开始面对“共同风险远大于单边收益”的现实。
智能体的治理主体呈现多元化特征,既包括主权国家行为体,也囊括科技企业、技术社群、网络平台、行业组织等非国家行为体。各类主体间存在固有的利益分歧:主权国家致力于争夺技术话语权与产业主导地位,与非国家行为体之间则在规则衔接、利益取向、去中心化等方面矛盾凸显。当下全球智能体治理格局,整体表现为各主体基于自身利益展开博弈的状态。面对智能体应用带来的风险,“布鲁塞尔效应”(指欧盟凭借严苛规则,迫使全球企业主动适配其标准,进而让欧盟规则成为国际通行准则)正在持续消退。单纯依靠单边规则输出、区域独立治理,难以适配技术跨境传播、风险全域蔓延的治理需求。人为设置壁垒与恶性竞争,不仅加剧治理失灵,更会诱发系统性、跨领域的安全风险。
智能体治理正处在重要抉择点,突破发展幻想和治理困局需重构博弈逻辑与协作范式。当下困境的根源在于碎片化博弈与对抗式竞争,零和博弈、单边逐利会催生集体非理性行为,逐步引发治理失序、技术停滞。走出这一困局,各方必须摒弃狭隘利益考量,确立以人类整体福祉为核心的价值尺度,转向技术共创、风险共治、协同共生的合作模式,打造基于“纳什均衡”的治理联盟。这既能筑牢技术安全防线,防范各类潜在风险,也能为技术创新营造良性环境,推动智能体应用在规范框架内实现持续、有序、健康的发展。
三、走向技术与制度非线性适配的治理
在智能体能力持续跃升的当下,智能体治理并非简单的“用技术管技术”或“用制度框技术”,而是呼唤一种技术与制度非线性适配的新型治理。由于智能体治理的对象从算法、模型转向自主感知与响应环境变化的实体,这要求治理框架必须承认技术演进的不确定性与制度调适的滞后性之间的张力,在“边发展边修订”中寻找动态均衡点。当智能体能够自主调用工具、完成多步骤任务时,传统的“主体-客体”二元治理框架已然失效。我们需要一种承认技术能动性同时坚守人类价值主导权的治理哲学——这正是非线性适配(在机器学习领域指系统或模型通过激活函数、反馈耦合、阈值效应等非线性机制实现自我调整,从而适配复杂、非比例、不可叠加的环境变化或目标需求)的核心要义。所谓“非线性”,意味着治理不再是“技术先行、制度后置”或“制度预设、约束技术”的单向关系,而是相互交织、动态博弈、耦合共生的有机整体。
走向技术与制度非线性适配的治理,既需要建立“适应性规制”的制度弹性,也需要培育“多元共治”的协同生态。一方面,摒弃“一法永逸”的静态立法思维,采用敏捷治理、试点容错、分层规制,以框架性法律确立根本原则,以细则、行业规范、技术标准灵活适配技术快速迭代,保留制度弹性的空间。英国金融行为监管局(Financial Conduct Authority)实践的“监管沙盒+日落条款(sunset clause)”就是非线性思维的制度化身。另一方面,非线性适配无法由政府、企业或技术社群任何一方独立完成,应推动监管部门、研发主体、学界、公众协同参与治理,构建“政府定底线、企业担主责、社会参与监督、技术社群提供方案”的协同网络。建立技术与制度常态化互动机制,提前研判技术演化趋势,实现风险前置防控。OpenAI的“红队测试”引入外部专家挑战模型安全性,便是多元共治的微观尝试。这种“多元共治”协同生态中的治理网络如同免疫系统,通过持续的信息交换与反馈调节,实现对未知风险的柔性应对。
智能体治理的本质,就是把握技术迭代与制度演进的非线性规律。当然,我们需要将人本理念贯穿非线性适配的全过程,推动“价值嵌入”的技术向善。这种价值嵌入不是一次性编码,而应通过“人在回路”机制保持动态校准,避免技术路径被过早锁定。唯有摆脱线性适配的思维局限,构建动态平衡、双向赋能、弹性包容的治理,才能既释放智能体的技术价值,又有效防控潜在风险,实现技术创新、制度完善与社会福祉的协同发展。
作者简介:孙宇(1973—),女,汉族,博士,北京师范大学政府管理学院教授、博士生导师,研究方向为数字治理。