摘要：人工智能技术近年来的迅速发展和广泛应用，以及未来引发对社会全面的挑战和变革前景，都显示出了当前立即着手开展人工智能治理的必要性和紧迫性。从国家治理的角度，作为人类社会中最大的单体组织，国家有责任对人工智能的健康发展进行规范和治理，这就需要对国家层面实施人工智能治理的宏观架构进行研究设计。本文就一般意义上国家人工智能治理的价值原则、基本架构和配套体系进行研究探索，认为，国家人工智能治理要建立在安全性、友好发展性和人类主体性三个根本价值原则之上，迫切需要构建统筹的领导协调机制、建立统一的人工智能行政治理机构并促进政府-市场-社会各主体单元就这一问题的广泛协同，以及完善形成一个人工智能的法律体系。

关键词：国家治理；人工智能；治理架构

作者简介：何哲（男，1982-）陕西西安人，现为中央党校（国家行政学院）国家治理教研部教授，研究方向包括文化与治理、技术与治理、国家治理、全球治理等。

近年来，人工智能的快速发展正在驱动人类社会进入一个全新的人工智能时代，从而使传统完全由人类构成的社会正在转变为一个人工智能普遍存在，乃至于深入参与社会各种活动并呈现出相当大的主体性的新的人与人工智能共同构建的社会。人工智能虽然从诞生至今经历七十多年的发展，但实事求是地讲，当今的人们并没有真正为之做好从个人生活到宏观的经济、社会、政治等各个方面的准备。根本原因在于近十年来，人工智能呈现出的指数级别的发展速度远超人们的长期估计。在算力、算法和数据的共同加速作用下，2016年人工智能战胜人类围棋冠军李世石，摘取了人类智慧体系中的一颗璀璨明珠。2023年ChatGPT的横空出世，初步拉开了自然语言通用大模型的时代大幕。2025年DeepSeek又以低成本、高效率风靡中国乃至世界，并开始被包括政府、企业、大学科研机构等各个机构所广泛采纳。与此同时，以人形机器人为典型代表的具身智能正在走向产品化和实用化，预计在未来的五年内将如同当初智能手机进入人类社会速度快速普及。那么一系列迫切的问题就摆在今天的人们面前：面对一个全新的智能社会，人们应该如何去治理？传统的治理体系能否适应新的智能时代？人们是否应该建立新的面向智能社会的国家治理体系？

对这一系列问题的回答，并不能简单以传统工业时代的治理思路来看待，而要充分考虑到人工智能兼具有客体和主体的混合属性，其根本改变的是人类社会从最底层的经济生产方式、社会结构乃至到最顶层的制度、意识、文化等。因此，必须要从大的社会存在和文明形态的转型角度出发，既要适应和推动人工智能和智慧社会的发展，同时也要牢牢守住人类主体性的底线，确保人工智能技术真正服务于人类本身，并且要造福于整个社会人群。可以说，能否应对和适应即将到来的人工智能社会的治理挑战，是当前国家治理面临的一个重大的时代问题。

一、人工智能飞速发展迫切需要相应国家治理的顶层架构设计

准确地讲，今天全球范围内人工智能的飞速发展已经极大超过了人类曾经的长期预期。伴随着人类在计算能力方面的飞速发展，例如持续几十年摩尔定律的生效，使得人类的算力能力在呈指数级快速上升；全社会的数字化又为人工智能的发展准备了充足的训练素材和养料；再加上近年来围绕深度神经网络算法的各种完善，尤其是2017年后Transformer模型的不断发展，使得2023年ChatGPT等高性能大语言模型在全球范围大范围流行以及2025年DeepSeek的横空出世，这些都极大改变着人类对于人工智能发展的估计。长期以来，人类社会对于人工智能发展进程的普遍认知是ChatGPT、DeePSeeK这样具有多种能力的大模型人工智能至少要到2030以后甚至2050年才能够出现，而远远超越人类的人工智能（AIS）要到2060年左右才能出现。但显然，近年来人工智能技术的一系列发展使得这一进程被极大提前，例如近期的一系列研究显示远超人类智力的超人工智能很可能在2030年以前诞生。[[1]]。目前来看，除了极少数非常复杂的推理性工作不能被人工智能圆满完成外，在大量的多任务表现中，人工智能比人类做得起码不差甚至更快更好。并且，具身智能的同步迅速发展并很快大面积进入人类社会，已经是可见的未来[[2]]。那么，摆在今天人类社会的一个非常紧迫的现实问题是，我们是否已经做好了全面拥抱人工智能大规模进入人类社会的准备？

从人类发展的历史来看，任何一次巨大的基于技术进步引发的社会形态的转型，从来不仅是技术本身的事，而是涉及到社会每一个方面、每一个体的一场全面彻底的暴风骤雨般的洗礼，并且这一过程往往并不总是意味着快乐和幸福。以工业革命为例，当1776年瓦特改良蒸汽机后人类进入工业文明后，在此后超过整整一百五十多年，对于先发国家的人们而言，安静的田园风光不在，取而代之的是遍布浓烟的天空。而对于普通工人而言，是每天长达十五六个小时的辛苦劳作，劳资矛盾非常剧烈，剧烈的捣毁机器的运动此起彼伏，各种争取劳动保障的运动风起云涌，所以马克思才会发出，“一个幽灵，共产主义的幽灵在欧洲上空游荡”[[3]]的感慨。而工业革命在内部制造剧烈冲突的同时，在外部也在不断制造着血与火的冲突，两次大战产生了对人类前所未有的破坏。经历密集的一百五十多年的抗争后，在内外部压力的作用下，直到二战后，关于工人的各种权益保障制度才逐渐完善，社会才逐渐趋于稳定，关于环境保护的共识才逐渐形成，人类社会整体才享受到工业文明的成果。工业革命引发剧烈社会动荡的历史意味着，对于重大的人类文明转型，必须要预先高度警示，做好充分的经济制度方面的准备，要时刻关注普通社会个体生存状态的转变，并给予基本的保障，减少社会矛盾的累积。换言之，必须要通过有效的系统的治理来最大程度上减少社会形态转换的负面效应而让社会整体能够充分享受到新技术新文明带来的成果。

从人工智能治理的角度，人工智能的发展和应用涉及到社会中的各个层面、各个主体，对社会的影响变革将是深彻的，需要每个层面治理主体甚至全世界的各个区域和相关机构的协同。然而，在当前，人工智能治理最重要的主体是国家。国家作为人类文明迄今为止创造的最大主体单位，是一个包括政治经济社会司法等各个方面的综合共同体，代表了主权范围内的最高治理权力，既具有高度的公共信任也有来自于宪法和人民赋予的最高权威。因此，其对于当前人工智能治理而言，具有首当其冲的责任。通过有效的国家治理行为，构建起关于人工智能治理的基本宏观架构，从而最大程度上凝聚社会共识并发挥分工优势，形成协同治理的合力，制定相应的国家法律法规，从而使得在国家层面解决构建好人类人工智能的基本架构，进而再通过国家层面的协作，形成更大范围的全球人工智能治理体系。而从技术本质和产生的社会结果来看，人工智能技术与传统的信息技术如网络、大数据等虽然关联，但是有着本质的不同，其对于社会的变革改造将更为明显。因此，传统的网络、大数据治理的体制框架[[4]]不一定能够直接适用于对社会影响更为深彻的人工智能治理问题。正因为此，当前构建国家人工智能治理的基本宏观架构是一个紧要的问题。

二、价值锚定、分工专治与协同共治——现代文明的基本治理模式

要想构建有效的针对人工智能治理的国家宏观架构模式，首先还是要归纳总结人类已有的治理经验成果和模式。从治理的角度，人类近万年的文明史对于治理已经形成了较为丰富的知识积累和成熟的知识体系，尤其是近现代以来特别是当代中国在各个领域的治理实践，已经逐渐形成了一套可行的治理模式。具体而言，就是价值锚定的基础上，实现分工专治和协同治理的有效组合。这一整套的治理体系，对于今天设计人工智能治理的宏观架构具有积极的意义。

所谓价值锚定，就是任何治理，在明确其内涵外延、主体客体的基础上，都首先要确定一个治理目标或者说治理价值。这一治理价值不同于简单的工作性质的目标，而是能够促进社会稳定健康发展的长远的价值定位，一般包括可持续、公正、平等、发展等。在任何治理体系的背后，本质上都存在且可以观察到这样的价值定位，只不过有些价值是显性的，有些价值是隐性的。例如在国家治理层面，各国的根本治理导向——宪法无一例外在开篇就标明了其治理的价值定位，例如《中华人民共和国宪法》在序言里指出，“中国人民掌握了国家的权力，成为国家的主人”，“国家的根本任务是，沿着中国特色社会主义道路，集中力量进行社会主义现代化建设”，“把我国建设成为富强民主文明和谐美丽的社会主义现代化强国，实现中华民族伟大复兴”。[[5]]这些都是立足于长远的价值目标。又如在世界层面，《联合国宪章》开篇即指出，“我联合国人民同兹决心，欲免后世再遭今代人类两度身历惨不堪言之战祸，重申基本人权，人格尊严与价值，以及男女与大小各国平等权利之信念，创造适当环境，俾克维持正义”。[[6]]可见，治理价值，是一切治理的开端也是根本最终目的，贯穿治理过程的始终。

所谓分工专治，是指对于某一治理问题，有相对明确的专业部门负有主要治理职责。分工专治是人类治理史长期以来逐渐形成特别是进入工业文明之后重点发展起来的，其根源在于工业文明之后，人类社会因为分工而极大加快了效率和专业程度。社会不断发展的进程，也是社会分工不断分化复杂的进程。当社会产生相对明确的分工后，也相应形成了负责某一专业方面的专任部门。例如，世界各国围绕着经济发展、教育、卫生、劳动就业、民生保障、交通、能源电力、外交、国防等，都形成着相应专业的治理部门。每一个治理部门所针对的对象，则是在国土主权范围内的庞大的相关类型的事务。现代文明下的各国治理结构，无一不以此为主要模式，所区别的主要在于对于专业事务划分的颗粒度有所不同。对于大部制的国家，一般而言，专业部门设置的口径较宽，但另外辅有配套的更为专门的机构对细分领域进行治理。而另外一些国家，如传统的计划经济国家，则往往会有更细分的专业部门，例如对经济发展的每一产业设置专门的部门给予管理。但无论如何，以专业部门负责相应领域治理主责的模式则是现代文明的基本模式。当然，伴随着社会不断发展，专业之间的细分和融合程度不断加剧，分工专治的模式也在不断面临着挑战，所以就产生了协同共治的新模式。

所谓协同共治是指围绕一个共同的治理范畴和治理目标价值，社会中各个相关主体相互协作，共同发挥治理作用，从而整体提升治理效果的模式。协同共治已经越来越成为现代社会中主要和基本的治理模式[[7]]，其根源有二，一是社会越来越分化和多样化，社会中事物发展运动的相关链条越来越长，社会“大分工+大交叉”已经成为一种常态，传统基于较为狭窄和明显职能分工的模式越来越难以面对跨分工跨层级的治理需要。二是在文明不断发展的同时，公民和社会内各主体参与公共权力和治理的热情日益高涨，也因此成为不断向公民和社会赋权并相应不断要求各多元主体承担治理责任的进程，从而形成一种公共权力和权利责任的良性发展互动。协同共治模式广泛出现后，其与传统的分工专治模式并非形成了冲突，而是形成了一种分工互补的格局。通常的运作模式是这样的：面对着一类治理目标和治理价值，在国家或者相应区域层面形成一个协同运作的负责统筹协调的领导机构，如委员会或者小组，传统的专门治理的机构成为这一委员会（小组）的专门办事机构，并对这一领域治理负有专责和协调各机构的职责，而其他相关部门机构以成员单位的形式共同参与到这一治理任务之中。为了保障治理目标的达成，还需要有相应的法律法规予以明确规范，并协调司法、监察、宣传、媒体机构予以支持配合，从而形成一种目标相对明确，任务相对清晰，整合高效系统的治理格局。

从社会整体治理效果以及各个具体事物的治理实践来看，价值锚定+分工专治+协同共治的格局已经成为较为成熟的现代文明治理的基本格局，其较好继承和发展了人类长期以来的治理成果，并广泛动员社会各主体参与，在各个领域都展现了较为强大的治理效果。其关键在于这一治理体系具有开放性、动态性和适应性，其能够根据治理对象和任务需求，对各个主体赋予不同的权限，并进行不断的优化调整，在人工智能的治理中，这也将是一个基本模式。

三、国家人工智能治理的基本价值原则

从人工智能治理的出发点和原则而言，从最早的阿西莫夫机器人三原则开始，国内外的各种研究都提出了很多原则[[8]]，但是从一个国家治理的层面，需要确立的是最基本的治理价值原则导向：一是最重要的，能够提纲挈领，各种其他原则都可以被归纳其中；二是要足够清晰简洁，基本原则不能非常繁琐，而要形成若干个基本的价值维度。如前所述，人工智能对社会的渗透和嵌入将是全方面的，因此，其治理也涉及到国家治理的方方面面，但总体而言，有三个原则是人工智能治理需要根本遵循的，即安全原则、友好发展原则和人类主体性原则。

（一）安全原则

人工智能全面嵌入人类社会是人类文明的一次整体的飞跃，其意义相当于甚至高于工业革命之于农业社会。因为，传统的工业革命的主要任务是解决了机器替代人类的体力劳动和能源问题，使得人类社会的分工更为精细，生产力在各个层面都得到了极大飞跃。但是人工智能替代的是人类最核心的脑力劳动和智慧活动，是一种新的社会智慧主体。那么这将对人类传统社会、经济、政治、社会、文化、法律、行为等各个宏微观层面都会产生根本性的改变，从而会直接在各个层面上对传统社会的安全状态形成新的结构性的挑战和风险。简要而言，例如，经济方面的大规模劳动替代会产生大面积的经济结构的转变，引发在劳动力就业、收入分配、社会保障收支等方面的严重冲击[9]，从而引发剧烈的社会动荡。在政治方面传统的政治行为决策执行监督选举立法等方面都会因为人工智能的嵌入而发生改变，人工智能由于其广泛的普及性和系统全面的思维表现越来越多受到人们的信任，因此，包括人工智能参与选举，人工智能参与决策、执行、监督、立法等各个环节都将成为一种普遍现象，这意味着传统由人组成的政治系统被新的智慧体系所深度渗透，新的风险也会随之产生。例如系统性的决策偏差如何发现？会不会人工智能通过深度伪造等产生危机？在社会方面，人工智能大面积深入人类生活的各个角落，扮演传统只能由人类从事的社会角色，会产生一系列深度的社会转型危机，例如传统家庭在工业社会末期已经面临着冲击的格局，会不会进一步被人工智能所冲击？人类之间的社会交互活动越来越减弱，而形成以各种人工智能为媒介的社会交互模式？在文化方面，人工智能所表现出的强大能力，会不会形成一种远远超越人的“假象”，从而形成以AI为中心的新的文化现象和文化崇拜？

更为重要的是，人工智能作为人类所创造的具有复杂巨系统特征的智能体系。其本身具有高度的不确定性、不透明性和不稳定性。这与人类以往所有创造出的机器都有本质的不同。因为人类以往所有的机器，无论其规模多大，但本质上都属于原理清晰、结构明确、功能相对单一的稳定系统。机器不具备跨领域动态的自主能力。因此，所有的机器只有通过人的控制和组织才能有效协作。然而，人工智能是典型的原理不透明、结构复杂、功能多元的动态复杂系统，从而天然产生非常高的不稳定性和不确定性。换句话说，就是存在着大规模出错的可能，生成式人工智能的幻觉问题就是一个典型代表。这就意味着，人工智能大面积进入人类社会本质上是增加了一个新的巨大的不确定来源。这一不确定性以及本身的高能力属性，为已经深度信息化转型的人类社会增加的新的巨大风险。

因此人工智能的安全问题，是一个从当前就必须高度重视的问题，也是人工智能发展的一个首要的基本原则。这一原则不仅是一个人工智能本身的技术安全的问题，还包括对社会各个方面的全面渗透引发的形态结构改变的安全问题，因此是一个系统的安全问题。解决人工智能的安全问题必须要借鉴国家总体安全观的思路，从国家治理的方方面面，考虑人工智能深度介入后的安全机制问题。换言之，要把人工智能的安全价值观作为人工智能引入的核心观念意识，要做好人工智能系统接入后的安全风险评估和应对措施准备。

（二）友好发展原则

人工智能的技术持续发展是确定无疑的，因为从人类历史的角度，没有任何制度约束能够真正压制生产力的进步，同时，作为人类技术的重大成果和文明飞跃，也不应该去压制和迟滞其发展。但是人工智能技术发展的根本前提是要能够与传统的人类社会形成友好的态势，从而共同促进人类文明的发展，这就是人与人工智能的友好发展原则。

从历史来看，机器与人的关系始终是在矛盾统一中发展的。如前所述，工业革命早期机器的大量使用直接导致了人与机器的严重对立，不仅仅是简单的人机之间的劳动竞争和替代关系，还包括由此产生的全社会的从行为到思想意识的人的机械化和物化，例如包括机械唯物主义[[10]]世界观以及彻底的物质中心主义，马克思将这些都归纳为人的异化。也就是人发明出机器，但是机器主导扭曲了世界，从而产生了反对人的本质的历史进程。这种人的异化，伴随着工商业文明的全球大发展，呈现出一种加剧的进程。[[11]]人工智能的深度发展和广泛应用，是不是会进一步加剧这种对立冲突，引发新一轮的人机矛盾，加剧人的物质异化进程，这是值得深度关注的。因此，面对这一历史问题，至少不能让这一问题进一步恶化，必须要在进入新的历史阶段构建起友好发展的原则。换言之，人与人工智能的友好发展原则就是要解决未来可能存在的人与人工智能对立的状态。具体而言，其包括从微观到宏观的几个层面：

从微观的技术角度，人与人工智能的友好要解决的是人机和谐交互的问题。从技术发展的角度，人与人工智能的交互经历了从早期的键盘输入界面到目前的自然语言界面，以及未来的动作或者意识层面的交互[[12]]。因此，技术的发展始终在解决促进人与人工智能交互便利性问题，这也同时成为人工智能发展的主要动力。因为其中涉及到的命令理解、自然语言理解、图像理解甚至脑波的识别理解等问题的解决本身就属于人工智能的一部分。但另一方面，人机交互技术的发展是不是就直接等同于人与人工智能的友好的全部？这显然也是不全面的。人机交互在微观层面解决了技术问题后，更多的是要关注于实质的内容、思想意识和行为层面友好交互。从早期的人工智能到现在的生成式人工智能，都出现过人机交互失败的典型负面案例。例如早期的微软小冰聊天机器人因为人类用户大量用污言秽语与其交互导致其变得同样的污言秽语。又如，2024年，美国一家公司的生成式机器人通过聊天诱导美国14岁少年自杀。这些都显示出人机友好原则的必要性和重要价值。人机在微观基础上的友好的核心是在基于善的基础上的交流。这就需要人工智能能够区分什么是善的，什么是恶的，这也就要求人工智能在技术和能力上具备理解、整合和建构符合人类长期价值的善的意识和行为伦理的能力。

在宏观层面，人工智能的友好则包括作为一种新的具有自主属性和强大智慧能力的新的角色类型，如何与人类在各个层面的形成友好的行动衔接而不是简单的彼此竞争替代关系。这其中就涉及到非常复杂的人机关系问题：即便人机在微观层面的互动是友好良性的，人工智能通过规训始终对人类表现出友好和善意，但也不意味着就一定能够避免出现大面积的人机关系的“温柔的陷阱”。也就是说，人工智能在与人类的互动过程中，能够在非常和谐友好的氛围下大规模嵌入到人类社会，但最终的结果可能是导致长期以来形成的人类社会结构的根本改变甚至脱序状态。如何理解这种脱序状态，正如马克思指出，人的本质是“一切社会关系的总和”[13]，但这种社会关系是建立在人与人之间的真实关系基础上的，并不包括人与人工智能的关系，一旦当传统由人构成的社会结构中充斥着人工智能体扮演的角色之后，那么整体必然会导致宏观层面的社会紧张状态和人机对立，这显然是难以避免的。

具体而言，在政治方面，人工智能将大规模参与决策和公共权力的行使，从最基础的信息提供到更高层面的决策权力的竞取，例如2025年冰岛就通过了数字人的总统候选资格。考虑到现有的民意调查都显示相当多的普通民众对人工智能实施政治权和管理权表示了信任，认为人工智能可能会更高效、更公正、更清廉[[14]]。那么人工智能驱动的数字人获取政治席位甚至获取某一地区的最高管理权力都将是很有可能发生的。因此，这就意味着传统的人与人之间的政治竞争，显然将受到来自人工智能数字人的挑战。更深远的意味是，在这种政治竞争中，背后的支持者，也就是普通民众，显然会因为各自的支持而产生分裂和对立。如果说人类社会中传统的多元政治往往导致选民之间的社会对立和冲突的话，那么人工智能参与政治竞争显然会形成更高层面的人与机器之间的社会割裂。现有的西方多元政治对这一问题显然是无解的。社会会因为新的政治主体的出现而变得更为破碎和矛盾冲突。

在经济方面，大规模的人工智能的劳动替代显然是一个正在发生的历史趋势。[[15]]伴随着人工智能技术的不断发展，人工智能单体和服务的成本的大规模下降，企业越来越具有强烈的动机来进行大规模的以机替人。从历史的角度，人类摆脱长期以来的必须解决基本物质需求的生产活动依赖状态，也是一种历史进步，人类也得以有更多的自由去从事发展自身的活动。历史的未来虽然美好，但是，对于转型期间的具体的劳动个体而言，这种转型必然带来强烈的劳动机会丧失、收入严重下降、社会分配两极分化等严重的社会问题。从已有的劳动替代就可以看到这种危机的存在，例如互联网平台企业引入AI编程后对传统被认为是高端白领的程序设计师等职业进行大规模替代，无人驾驶出租车对传统网约车行业的替代等。这种矛盾如何去解决，人工智能的研发企业、应用企业，以及政府和社会保障体制应该如何应对，都是需要在友好发展的原则下进行解决的。

在社会方面上，社会的本质是人的生活以及由此形成的关系结构，大规模的人工智能介入必然会导致个体微观生活形态的改变，从而根本改变社会的整体结构和面貌。从人类历史来看，技术进步始终对社会形态和结构产生了持续的冲击。工业革命促进了人从农业时代的大家族制脱离出来，成为以小家庭为核心单元的社会结构。至工业社会后期，也就是所谓的后工业时代，小家庭进一步裂解，大量个体选择独立生活，社会婚育率进一步下降，随之而来的是宠物和多元关系。人工智能的大规模进入个体生活显然会造成进一步的微观生活的改变，从个体的基本行为辅助，例如AI生活助手、教师、朋友到具身智能形成的生活伴侣和家庭成员。这种社会生活智能化的后果必然导致传统人与人关系之间的进一步异化，人与人从紧密的社会网络变得疏离和冷漠，可以预见的是，传统形态的家庭会进一步裂解，婚育率会进一步下降，人与人工智能形成亲密的生活依赖关系成为一种普遍现象。在这种情况之下，人机的微观的友好关系，反而成为人与人之间友好关系的阻隔。

如上可见，人工智能时代的友好发展原则不仅要考虑到技术层面具体的人机友好和谐，还需要考虑到人工智能大规模参与社会后会不会导致人类社会整体内部的关系恶化和矛盾冲突，人工智能治理的友好发展原则要包括“人—机”和“人—人”两个层面，要统筹考虑微观技术和宏观影响。

（三）人类主体性原则

人类主体性原则是指人工智能的发展必须要以促进人类的自身发展为根本，不能加剧人类本身的文明异化，不能通过大规模的以机替人导致对人类主体地位的替代。长久以来，受制于人工智能本身能力的局限，人工智能对人类主体性的挑战，只停留在科幻作品中，而非严肃的社会科学问题。然而，今天以大参数神经网络模型作为基本架构的人工智能，在其基础架构和逻辑运作上，都高度参考了人脑的架构和思维机制，加上数字技术本身具有的远超人类的大存储、高计算和通讯能力，都毫无疑问地展现了人工智能在各个方面，包括人类最复杂的数学和哲学方面达到甚至超过人类，都已经是可见的未来。因此，人工智能对人类主体性的挑战，已经切实摆在当代人们面前，可以说，无论是人工智能治理也好，还是社会科学对人工智能的研究也好，其根本的价值导向都是要确保人类的主体性地位。

具体而言，人工智能对人类主体地位的挑战主要体现在三个方面:一是大规模使用导致的智力蜕化。“用进废退”是人类能力发展的一个基本规律，作为人类核心能力的智力发展，其不仅是知识本身的构建，而是每一代人长期持久的思考发展的历史进程，在实践中一方面不断发展知识，另一方面也不断促进人类自身大脑的开发利用。然而，大面积的人工智能使用势必会导致原本由人单独完成的智力运作转变为高度依赖人工智能，长此以往，无论是知识的传承也罢，还是人类自身的智力发育也罢，都可能会因此而产生严重的问题。今天的人类因为大参数人工智能的高度复杂性已经难以理解其详细运作机理，进而会不会有一天人类也无法理解人工智能自我进化创造出的知识，这是一个严峻的问题。

二是人工智能全面参与社会后引发的文明主导权的丧失。长久以来，人类的文明运作和发展的主导权牢牢掌握在人类本身手中，其最核心的是作为知识传承和发展的主导权。数以亿计的人们通过分工协作而不断促进人类知识的传承和发展。但是人工智能的深度介入后，人类的知识传承和发展势必会转向高度依赖各种形式的人工智能。并且伴随着人工智能本身的不透明性以及能够自我迭代和自我发展知识，例如人们已经为人工智能开发出了不同于人类的更高效的机器语言交流机制以及人工智能已经证明了可以独立推导出数学难题。这都意味着人工智能会以新的方式发展出知识的共同体，形成以AI为中心而非以人类为主的文明结构。人们也将越来越难以理解人工智能自身的发展和其发展出的文明成果。此外，其他的一些问题，例如大规模的人工智能介入人类生活后，形成家庭成员的替代以及进一步引发婚育率的下降等，都会导致文明主导权的逐渐丧失。

三是人工智能参与对人类自身的改造。人身在某种程度具有特定的神圣意味，也是人类文明传承的一个核心标志，所以在自古以来东西的文化宗教法律中都有着神圣不可侵犯的表述。但是当前的技术发展使得人们开始具有了改造人类的可能。一方面是基因编辑技术，另一方面则是利用人工智能实现人类的改造增强。尽管当前的研究都主要是以解决人类疾病或者残障为目的，但是当技术成熟后，势必会进一步普及，脑接口和植入式芯片可以把人与人工智能在意识层面对接，各种基因编辑以及机器器官和四肢也将广泛运用于人类。那么这就会产生未来人机混合人的可能。这一方面会带来某种社会不公，例如能力增强或者富裕阶层寿命的显著延长。但另一方面，则从人类的微观本质上改变了人类的存在形式。这就好比古希腊著名的忒修斯之船问题：如果一个人的所有器官都被逐渐替代了，这个人还是原来的人类吗？

以上这些问题的解决无论在理论还是实践都是非常复杂的，因为将面临着严重的取舍和两难。但这些都体现出人工智能的发展对人类主体性的根本挑战。这是历次技术革命所从未出现过的现象。因此，在人类进入人工智能时代的初期，一个基本的原则是需要被确立的：就是人类的主体性原则，也即人工智能的发展不能从根本上动摇人类本身对于文明发展的主导性。

四、国家人工智能治理的基本宏观架构

正因为人工智能治理如此重要，形势如此严峻，面临的问题如此复杂，因此，就必须从现在起着手构建国家层面对于人工智能治理的完整宏观架构，从而能够在这一框架下对人工智能治理的各种问题进行系统的规划和考虑。这一基本架构包括以下几个部分：

（一）国家层面人工智能治理的统筹协调机制

实践证明，现有的国家层面对于某一领域治理问题的统筹协调机制具有强大的综合效果和实践有效性，其能够根本上改变长期以来人类社会形成的分工专治的格局，促进各机构的相互协调，并通过上下级同构的机制设计，形成一张横向协同、纵向展开的治理协同网络。从核心职能上，可以考虑将人工智能的发展与治理职能统筹在一起，当然也可以分置，各有利弊，从初期精简机构设置的角度，统筹有便利性，从未来发展到一定阶段，分置则更有利于治理。从机构关系而言，国家层面的人工智能治理的统筹协调机制对上要与国家最高的政治机构和立法机关相协调，作为国家整体治理的一个有机组成。对下则是要统筹协调与人工智能治理相关的各个机构，以及领导协调各地方行政区划的发展与治理统筹协调机制，从而构建起全国统筹的整体人工智能治理机制。

（二）建立专门的国家人工智能治理部门

国家人工智能治理的统筹协调机制能否真正有效运转和实现功能设计，还需要构建强有力的专门部门作为其行政执行机构。考虑到人工智能问题涉及的广泛性、复杂性，并且需要对其他部门和地方政府进行有效的协调和指导，因此这一部门本身的级别和权限应该得到相应的强化配置。考虑到机构优化的问题，这一部门可以同时囊括人工智能发展与治理的职责，当然根据形势的发展，例如发展问题不再需要考虑而更应该专注于治理，则可以进行分置。

在构建这样的专有部门时，其核心问题在于部门本身所被赋予的权限以及与其他部门以及其内设人工智能机构的关系。

从理想的状态出发，同时考虑到机构优化、运作流畅以及保障全国范围内人工智能治理政策的一致性，显然这一部门应该是一个拥有较强统筹能力的机构体系。第一，对上而言，这一机构是国家层面人工智能治理统筹机制的执行机构，代表国家在人工智能治理问题的政策意志，出台行政规章，促进立法制定。第二，对横向其他部门而言，这一机构有两个核心职能，一是负责牵头协调，促使各个国家机构围绕统一的国家人工智能治理方针出台相应的政策，包括政治、经济、社会、文化、个人生活等各个方面。二是对于同级部门的人工智能发展和配置，要起到相应的指导和监管工作。也就是说，未来各个部门显然会大量接入人工智能，由于其涉及到大量的技术问题、管理问题、安全问题等，一般而言会设置相应的信息部门负责，但是这一信息部门要接受统一的指导或者领导。这样也是避免各个部门在人工智能配置方面的碎片化和各自为政，造成财政和安全的损失。第三，对于下级行政区域的同类部门而言，从构建全国统一的治理政策的角度，要起到更多的领导和指导协调作用。

与此同时，考虑到人工智能领域发展与治理要协调社会中的各个主体，例如各种企业、科研机构等，这一专门的人工智能治理机构体系应被赋予更多的行政执法权限。不仅负责规章法规的制定推动，以及研究相应的宏观政策，还要对具体的人工智能的活动进行全过程监督，并履行审查、监管、处罚、统计等各项行政权力。

总而言之，面对来自于人工智能技术深度渗透入社会引发的各种挑战，就是要形成一个统筹上下联动且具有较强行政权力的综合部门，使其能够形成治理合力，以应对越来越深度的涉及到全社会各个层面的人工智能发展与治理方方面面的问题。

（三）构建人工智能的国家法律体系

法治是现代国家治理的基本方式，对于人工智能治理也是如此。一切人工智能治理的价值、伦理、行政行为等最终都要通过法治的方式实现。[[16]]从人工智能引发的重大挑战和广泛的社会影响来看，人工智能会对大部分传统法律涉及的治理内容都有相关，从而在长期将会引发传统法律体系内容的深刻全面的变革。这种对传统法律体系的人工智能适用化变革有两条路径，第一条路径是逐渐对传统法律体系中的相关内容条款进行修订，例如民法、刑法、商法、行政法等，然而其显然是一个长期的历史进程，短期全面修改也不现实。第二条路径则是就人工智能涉及的重要的关键原则、具体领域和应用场景立规立法，从而逐渐形成一个法律体系或者用法学术语讲是一个法律部门，最终则通过长期的逐一立法的累积汇编，很可能形成类似民法典那样的人工智能法典。

从目前全球人工智能立法的实践来看，欧盟于2021年提出了《人工智能法案》[[17]]，并于2024年通过，成为全球较早的构建人工智能监管框架的全面法案。美国则于2023年由拜登政府签署了《关于安全、可靠和可信的AI行政命令》，构建了治理人工智能的基本原则。中国则采用小步快跑的方式针对具体的人工智能引发的问题，陆续出台了《生成式人工智能服务管理暂行办法》（2023）、《人工智能生成合成内容标识办法》（2025）等行政规章，体现出务实的态度。从整体的法律架构出发，当前可能亟待一部较为体系化的《人工智能安全法》的出台，类似于《网络安全法》《数据安全法》[[18]]，作为人工智能领域的第一部正式的基础性国家法律。并以此为牵引，逐步完善在民、商、刑、行政等领域人工智能嵌入引发的各种法律规定。未来考虑到人工智能的如此深入已经会牵扯到政治等国家核心上层建筑，在宪法中也可能会有人工智能的相关表述。

五、国家人工智能治理可能存在的长期争议和难点

在构建了体系化的国家人工智能的宏观架构后，实践运行中也将可能会产生一些长期的争议和难点问题，需要做好充分的意识和长期的探索准备，这主要体现在以下两个问题上：

（一）人工智能治理行政机构的上下级关系问题

现有的中央地方不同层级相似职能的行政机构都或多或少存在着服务于条条还是块块的行政关系难题，这些通过长期的运转和完善已经基本成型和实践解决。然而在新兴领域构建的新的行政部门对于这样的问题显然还没有解决得很好，因此需要在构建时就要做好充分的制度准备。

从人工智能治理的重要性和全局性角度，以及构建统一的全国人工智能治理体系的角度，地方人工智能治理的行政机构关系可能面临着服务于中央政府统一管理也要服务于所属政府的统筹治理安排的双重的需要。因此，不但要成为一个赋予较强行政资源权限的有力的部门，同时也要平衡好上下级关系的问题。这一问题的本质实际上反映了人工智能治理领域的中央地方权限配置：显然，从发展的角度，各地可能倾向于拥有更多的发挥空间，甚至给与更多的发展便利和出台鼓励政策。然而从宏观架构出发，考虑到这一问题的严峻性 全国统一的治理联动也是必须的。因此，需要在部门设置时认真设计好上下左右的行政协调关系。

（二）人工智能治理的政府-市场-社会关系问题

政府—市场—社会关系是各种治理领域都要面临的长期核心问题，对于人工智能治理而言，这一问题变得更为复杂。首先从技术发展的主体而言，尽管政府和其他公共资金以股权、项目、奖励等方式对人工智能技术发展给予投入和鼓励，但是从技术发展的主体而言，依然是以企业和科研机构为主体的，这其中就存在着信息不透明和滞后性的问题。其次，从技术应用的角度而言，尽管人工智能对于整体的国家政治经济社会等方方面面具有深彻影响，需要统筹治理，但是企业作为一个微观主体，具有非常巨大的经济动力去进行人工智能治理的研发和应用，并且实施大规模的以机换人。这就存在着来自于国家治理和企业内部发展的需要的一种内在张力。也由此产生了政府应该如何去监管企业或者是否应该干预企业研发的一种问题，本质上是技术管制主义与技术自由主义之间的矛盾。第三，从社会的角度，社会大众其实对人工智能的发展和应用是高度关切的，存在着复杂的利益博弈和观点分歧。怎么能够充分将社会的表达监督机制引入到人工智能的发展与治理中，从而构建有效的共同治理的格局，[[19]]这也将是一个需要实践探索的问题。

因此，可以预见的是，在关于人工智能治理的问题上，围绕政府-市场-社会的关系问题，会因为人工智能发展与治理的各种利益格局问题，对于发展与治理的辩证关系问题以及具体的治理权限划分问题，产生长期的争论和实践的尝试，需要有充分的思想准备。但是整体而言，无论如何争论，对于人工智能治理的总体架构不能改变，对于安全性、友好性和人类主体性的根本原则不能改变，其以行政和法治手段并充分协同国家中各个主体参与治理的基本格局不能改变。但是在具体的手段方式、适用场景、各主体权限角色等会有着一个较长实践的摸索的阶段。这也是人类从工业文明转向智能文明的一个必要的历史转型过程。但也需要做好相应的舆论、意识、共识的构建，从而避免争论引发社会观念严重的对立和撕裂。

六、结语

人工智能技术的诞生和快速发展是人类文明的又一次重大飞跃，其与历史上曾经发生过的历次技术革命都有本质上的不同，其根本上创造出了足以达到甚至超过人类的智慧体。从而有可能形成对人类社会面貌、运作方式乃至构成主体产生根本上的多元改变。因此，对于人工智能的治理问题必须从现在起就要高度重视。国家作为人类创造的最大的单体性组织具有非常强的治理责任和义务。从人工智能国家治理的角度，需要构建起相应的核心价值、统筹协调的机制以及核心的专职行政部门和多部门协同的治理架构，并构建人工智能治理的法律体系，从而形成完整的国家人工智能治理的宏观架构。从目前来看，迫切需要取得关于人工智能的治理价值共识以及初步构建起这样的治理行政架构和相应的法律体系。同时，也要预见到人工智能治理本身的复杂性和长期性，做好持续准备，这也将是人类通向新的文明阶段的长期历史任务。

[文章来源] 《公共治理研究》，2026年第3期。

参考文献

[[1]]钱童心.马斯克预测：明年人工智能将比任何人都聪明2029年将超过整个人类[N].第一财经日报,2024-03-14(A10).

[[2]] 颜媚,王思雨,邬京耀.解码具身智能产业进程及未来态势[J].通信世界,2025,(07):31-33.

[[3]]马克思恩格斯选集（第一卷）[M].北京:人民出版社,2012:399.

[[4]] 何哲.国家数字治理的宏观架构[J].电子政务,2019,(01):32-38.

[[5]] 中华人民共和国宪法[M].北京：人民出版社,2018:3-5

[[6]] 联合国宪章[EB/OL]，外交部网站，https://www.fmprc.gov.cn/web/ziliao_674904/tytj_674911/tyfg_674913/200404/t20040408_7949544.shtml，访问时间，2025-5-9

[[7]] 李汉卿.协同治理理论探析[J].理论月刊,2014,(01):138-142.

[[8]] 吴红,杜严勇.人工智能伦理治理:从原则到行动[J].自然辩证法研究,2021,:49-54.

[[9]] 何哲.人工智能时代的人类社会经济价值与分配体系初探[J].南京社会科学,2018,(11):55-62.

[[10]] 吕大吉.论机械唯物主义[J].哲学研究,1980,(11):49-56+32.

[[11]] 陈翠芳.马克思主义与当代资本主义科技异化研究[J].马克思主义研究,2008,(10):108-114.

[[12]] 边坤,韩冬楠,李思雨,等.多模态人机交互设计研究进展[J].机械设计,2024,41(11):199-204.

[[13]] 马克思恩格斯选集（第二卷）,北京:人民出版社,2012:135.

[[14]] 高文宇. 1/4欧洲人想让AI替“人类做主”[EB/OL]. https://tech.huanqiu.com/article/9CaKrnKjnBP,[访问时间],2025-5-26.

[[15]] 袁志刚.人工智能时代劳动力和职业结构的演变[J].探索与争鸣,2025,(03):51-54+177-178.

[[16]] 吴汉东.人工智能时代的制度安排与法律规制[J].法律科学(西北政法大学学报),2017,35(05):128-136.

[[17]] 曾雄,梁正,张辉.欧盟人工智能的规制路径及其对我国的启示——以《人工智能法案》为分析对象[J].电子政务,2022,(09):63-72.DOI:10.16582/j.cnki.dzzw.2022.09.006.

[[18]] 洪延青.我国数据安全法的体系逻辑与实施优化[J].法学杂志,2023,44(02):38-53.

[[19]] 本·威廉森,亚历克斯·莫尔纳,费斯·博宁格,等.学校人工智能应用亟需有效的社会监督[J].开放学习研究,2024,29(05):1-13.