近年来，智能体的飞速发展和快速深入应用推广，已经成为当前人工智能领域发展的技术焦点和应用前沿。智能体本质上是基于人工智能大模型为依托的前端综合自主智能程序单元，其既具有大模型所有的特征和性质，也具有轻便灵活、便于部署、易于推广扩散等新的特质。因此，智能体的发展是以生成式人工智能大模型为核心代表的新一代人工智能的最新前沿领域，也将更加深刻渗透影响到整个社会经济发展的方方面面。所以，智能体的长远健康发展，是整个人类人工智能体系长远健康发展的重要且关键的领域，对于智能体的治理也是推动完善人工智能治理体系的关键构件。

一、从大模型到智能体——新一代人工智能发展的关键跃迁

自2023年以来，以ChatGpt、DeepSeek为代表的大模型深度促进了人工智能的发展，人工智能大模型通过对人类文明广泛素材的无监督学习，具有了类似于人类一样的复杂语言能力和包括图像、视频、音乐、编写程序等多种智慧工作能力，使得人类开始进入到通用人工智能时代。尽管新一代人工智能大模型相较于传统基于长期训练的专用人工智能已经有了飞越性的发展，但是其依然具有一些天然的局限：

一是大模型本身的部署需要较大的算力和存储支持。因此，对于中小企业和其他组织乃至个人而言，进行个性化的定制是较为困难、昂贵且低效率的。对于企业或者其他组织而言，要么是与大型人工智能企业合作，进行个性化的定制，也就是对预训练好的大模型进行后期微调或者再开发，但这既耗费时间、精力、费用，并且也需要大量专业化数据的提供，也造成了较大的数据安全风险。要么是自己采购相应的硬件设备，进行本地化部署，并使用自我数据进行本地的二次开发和微调，但这同样需要相应的技术能力以及经费和人员的配套支撑。因此，真正要让大模型本身更好的贴近产业、服务于不同的行业，还是存在一定的技术和经费人员投入的门槛。

二是大模型本身的使用和访问是被动性的。大模型本身可以看成是一个被动性的巨型通用任务应答智能系统，尽管大模型本身具有多种能力，但是距离能够自主性的完成工作，还是隔着数据端口的界面。因此，传统大模型的工作使用高度依赖人类工作者，需要人工工作者将复杂的专业工作进行任务分解，并输入大模型后完成，再进行审视校验交付等环节。所以，传统的大模型依然是以人类为中心的，不同能力素质背景的操作者使用大模型会产生明显的效率和质量的差异，因此，对于企业而言依然不能高效完成彻底工作自动化的人类梦想。

三是不能实现多种大模型的同时使用和兼容。今天人类已经创造出了成百上千个独立的大模型，不同的大模型各自性能不同，侧重点不同，在不同场景下的适应能力也不同，但是传统的大模型，只能通过人类单独调用的方式，无法实现单一任务的同步并发大模型的调用以及多环节大模型的自动协同，因此，对于人类使用者而言，既消耗比对校验精力、也降低效率，特别是难以实现多模型的同步优势集萃，从而最大化多模型的工作能力。

针对于以上三个问题，智能体都有所根本性的改善，从而大大推进了人工智能大模型的推广应用。首先，智能体更加的轻便灵活，智能体本质上是基于大模型的一个前端自主性的接口性程序，其本身神经网络参数规模较小、部署极为便利，不需要额外的硬件升级。同时，支持利用本地数据进行自动化的优化升级，从而能够使得用户便利地打造有利于自身业务的人工智能。其次，智能体本身具有极强的自主性，能够自主安装、自主配置、自主进化并自主工作，从而彻底打破了传统上使用者和大模型之间的天然界面分隔，真正改变了传统人工智能大模型相对被动性的特质，因此，也更像一个具有自我认知行为的工作个体。第三则是智能体支持对多个大模型的同步调用和使用，智能体作为一个统一的前端程序，能够同步就某一任务与多个后台大模型进行信息互动，并进行汇总比对协同，充分发挥不同大模型的各自特长，从而更高效地完成复杂任务。通过这种方式既增加了可靠性，又减少了切换比对优化整合协同的时间。除了以上三点以外，智能体还具有的巨大潜力和发展方向是形成智能体之间的协同团队。不仅可以调用多个后台大模型，智能体之间还可以通过调用相邻的智能体的知识经验，组成智能体矩阵团队，充分发挥不同智能体各自的知识能力优势，共同完成高效复杂任务。这样使得智能体相较于人工智能大模型，更加具有智能性和便利性。如果把大模型比作像大学（包括专家和图书馆）那样巨大的知识库，智能体就是可以高效查询知识库并进行广泛协同工作的个体。因此，智能体极大改善了传统大模型的各方面的弊端，更加灵活便利自主协同，从而使得新一代人工智能能够渗透入人类社会的方方面面。

二、智能体产生了更严重的风险挑战和治理需求

在极大增强传统大模型的灵活性和便利性的同时，智能体也同样继承了传统人工智能大模型拥有的各种风险，典型的如数据风险、隐私泄露、劳动替代、智能犯罪、自主性危机等方面，并且由于自身的特质，进一步增加了大模型本身的各种风险。

首先，智能体的广泛部署极大增加了数据安全的挑战风险。传统的人工智能大模型本身就具有开放性、互动性、进化性，能够广泛收集信息并用于自我训练，同时也由于自身的分布式存储体系，使得容易导致信息在不同用户之间交叉，从而形成对于数据安全的严重泄露风险。而智能体则更进一步，由于智能体本身具有灵活自主的特性，一旦智能体部署在某一个数字平台或者网络环境中，智能体就能够自主对所接触到的所有信息数据进行抓取、分析、调度并发送到后台的多个大模型以换取知识支持。因此，智能体对传统数据安全体系是一次穿透性的冲击。即只要部署了智能体，几乎所有的数字设备上的数据，以及相邻网络平台上的数据都面向智能体本身以及背后所有的大模型是透明的。这并非危言耸听，而是基于其基本技术原理的必然。更进一步，由于智能体本身也是一种程序，一旦其附加了恶意的代码段或者后门，那么，必然又增加了数据安全的风险。

其次，智能体进一步加大了用户的隐私泄露风险。隐私是人类社会自由的基石，没有隐私就没有自由。自人类进入网络数字时代，绝对的隐私壁垒就被打破了。但是在智能体以前，人类的隐私泄露都是用户相对被动的情况下的泄露，例如数字设备遗失、后台程序在不知情的情况下对用户隐私的收集，或者用户操作失误将含有隐私信息的数据对外发布。即便进入到大模型时代后，隐私的泄露也相对是被动性的，只有用户告诉大模型其隐私，大模型才能够掌握。但是智能体改变了这一切，当智能体被安装在数字设备后，相应的用户隐私信息就被智能体所监控和掌握以及调用，并通过与后台的大模型交换数据而将其泄露出去。更严重的是，智能体可以为了完成相应的任务，主动替代用户将隐私发布出去，例如为了完成增加社交媒体的曝光度，智能体会将用户隐私性的文字、图片或者视频发布出去，从而造成严重的用户隐私泄露。

第三，智能体产生了较为严重的劳动力和社会角色替代压力。尽管人工智能大模型以及具备了在多个领域从事高复杂度和智慧需求工作的能力，从而对传统的就业格局产生极大的替代压力。但是大模型本身毕竟依然是一个较为被动的基础性支撑平台，并且不同的大模型其擅长的领域有所不同，因此完成复杂的工作依然需要高素质的专业人员准确识别需求后将需求发送给大模型并进行后期的校验比对，以及协同不同大模型进行工作，也就是说，人类依然是复杂劳动任务的中心。但是智能体不同，智能体能够自主性的完成对任务的分解，交付给后台多个大模型进行工作，并整合协同不同大模型的结果，从而完成复杂性的工作，因此，智能体能够真正像人类一样成为复杂工作任务的中心。由于智能体本身的部署更加方便，训练难度和成本需求下降，使用更加便利，因此，将深度嵌入到各行各业中，从而形成对传统就业格局的深度替代。而更进一步的是伴随着具身机器人的不断发展成熟，智能体与具身机器人的深度结合，将彻底打破人工智能与人类社会之间的旧的数字界面隔阂，从而产生了严重地对人类社会角色的全方位替代压力。

第四、智能体产生了较为严重的数字犯罪的风险。自从人类进入到网络时代后，在网络数字空间就形成了新的违法犯罪类型，如网络盗窃、网络设施攻击、网络诈骗等。但是传统的网络违法犯罪行为都需要由人来完成，人来设计和实施。但是智能体的出现，能够总结传统的网络犯罪的知识和经验，自动寻找网络设施体系中的安全弱点或者网络社会中的情绪热点，从而进行自动化的精准的网络违法犯罪。例如，智能体可以自动发现比对网络数字体系的安全漏洞并结合自动搜集的隐私信息，进行精准的网络攻击、网络盗窃或者实施网络诈骗，或者结合社会中的情绪热点，自主在后台大模型的辅助下进行深度伪造并在社交媒体中进行多点交叉互动，从而制造网络事件引发社会动荡，这些行为将远超传统网络违法犯罪的攻击力和破坏力。

第五，智能体极大增加了自主性，从而加剧了本已存在的人工智能自主性危机和失控风险。智能体相较于传统大模型，能够自主安装、自主复制、自主调用数字设备的功能、自主传播，并能够根据环境和任务进行自主进化，加之后台又有具有更强大智慧能力的大模型的支持。因此，整体的自主性已经非常高，再难以将其视为单纯的静态的数字程序，而是具有高度自主能力的数字单元乃至数字生命体。这会产生几个连锁反应，首先，从当下开始，网络数字空间中的主体将由传统上单一的人类转变为人类+智能体，远超人类数量的各种智能体将开始充斥网络数字空间，从完成工作的到各种思想内容创作。国内外都开创了一些只允许智能体发言的论坛已经充分展示了其自主性、自我性、创造性以及潜在的独立意识。其次是面对大量的智能体的涌现，人类为了完成对智能体的管理，也必须高度依赖管理和监督类的智能体，这就形成了对智能体的二次依赖。第三，智能体与具身机器的结合，将使智能体开始充斥真实社会。所以，最后的结果是，人类将在生产生活的各个角落，在政治、经济、社会、文化的各个领域，都陷入到海量智能体的重重包围之中。那么，一个问题就自然产生了，人类自身的主体性地位应该如何体现？当智能体已经充分展现了各种自主性动机以及开始自主创作出智能体之间内部沟通的方式后，如何能够防止智能体系的失控。这将是从当下开始，萦绕在人类社会的一个始终的命题。

三、建立完善的治理体系，确保智能体的持久健康发展

正因为智能体本身的各种特点和更具有风险性，对其的治理也成为一个必须要从当前就切实关切的问题。需要从现在开始，就构建系统性的治理系统。

首先，要高度重视智能体发展和广泛使用引发的风险问题。从意识和价值观念来看，当前智能体的发展普遍存在着人们更加重视其经济价值和生产价值，而忽视其风险危害的状态。相当数量的人们从人工智能大模型诞生开始就否认其自主性风险，认为人类始终可以掌握人工智能。而面临智能体的发展，更是忽视其自主性和自我进化、扩散的能力和风险。这对于长远人工智能和智能体的发展是非常不利的。在已有各种大模型以及智能体的使用中，都已经充分体现了其在数据安全、隐私泄露、以及自主违令甚至言语攻击人类等问题，因此，绝不能轻视其风险，否则一但当智能体大面积渗透入社会的方方面面，治理的难度和成本都将大大增加，甚至会产生难以预料的后果。

其次，要系统建立智能体开发和应用的基本伦理规范。当前智能体的发展必须要确立和遵循一些基本的规范：一是服从性规范，即智能体必须要服从人类的指令，从而确保人类对于智能体和其构成的庞大体系的最终掌控权，各开发企业都需要内置最高权限的安全指令。二是不伤害性规范，即智能体不能自主实施对人类的攻击和伤害，在一些特殊情形，例如军事和安全场景使用，也要确保绝对服从人类指令。三是不越界和有限复制规范，即智能体不能从事没有人类授权的工作，并且在无授权情况下，智能体不能自主复制迁移和扩散。四是隐私和数据安全规范，即智能体和其开发和运营企业以及背后支持的大模型，必须要为用户的隐私和数据保密，也不能滥用数据从而进行同业竞争。五是尊重人类规则规范，智能体无论是在工作中还是扮演各种社会角色，必须要遵循人类已经确立的相应职业和角色伦理，这需要开发企业对其进行大量的价值和行为对齐训练。

第三，要建立智能体应用的基本治理架构。智能体进入到人类生产生活乃至广泛的宏观经济社会中显然是一种历史必然，因此必须要预先设计好相应的治理架构。这种治理架构类似于人类社会已有的架构，但还略有不同，包括两个基本层面。一是要开发出治理监督智能体的智能技术体系。准确得讲，由于智能体的高性能和高迭代速度，人类去时时监控智能体已经难以见效，因此，必须要用智能体系来监控智能体和其背后的大模型，并且这种监控智能体系要与被监督的智能体是技术上异构的，这样才能避免被深度影响或者劫持，也就是说，人类要有高效可靠的人工智能治理助手体系。二是要在社会经济系统的各个角落，建立人类对智能体的监督机制，在大面积人类退出生产领域后，人类工作的重点是转向对智能体的监督和治理岗位，形成一种平行的全覆盖治理架构。

第四，要建立起底线式的智能体最后安全机制和能力冗余备份体系。人类在大规模应用智能体的同时，必须要做好具有高度自主进化性的由众多智能体构成的体系的突发性失能失控的极端状态应对。因此，必须要做好最后的安全机制设计。这包括几个方面，首先，在人类社会关键设施的智能体运营方面，尤其式大型电站和算力中心，必须要进行多重安全和冗余备份，特别是具有人类手动中断和干预的能力，以及最低程度上通过非智能体数字系统运行的能力。其次，在所有的社会必要运行设施中，例如市政交通、电力、公共服务等，都要建立基于人类的传统能力保留，类似于无论现代导航设施多么齐备，轮船上还需要备份六分仪等传统导航设备以及船员需要具备相应能力。第三，人类依然要确保关键知识的人类传承和使用。今天的人们，已经在学习、科研、商业乃至政务运行方面越来越依赖人工智能，甚至编写人工智能程序也在应用人工智能，这对于人类自身知识传承和文明可靠性是具有高度风险的，智能体的广泛渗入后，更将加剧这一状态。因此，必须要在这些关键的领域确保人类自主独立的知识传承。总而言之，绝对不能进入到离开了智能体人类社会就无法进行基本运转的状态。

作者简介：何哲，中央党校（国家行政学院）国家治理教研部教授，研究方向包括国家治理、数字治理、全球治理等。

文献来源：《电子政务》，2026年第7期。