张磊:完善适应智能经济新形态要求的治理体系

选择字号:大 中 小   本文共阅读 106 次 更新时间:2026-11-19 23:39

进入专题: 智能经济   治理体系  

● 张磊  

与互联网等传统数字技术只是信息载体和通道不同,以生成式人工智能为代表的新一代人工智能能够自动生成内容,在展示空前的智能经济生产力愿景的同时,也在历史上第一次对人类主体地位提出挑战。习近平总书记在二十届中央政治局第二十次集体学习时强调,“要把握人工智能发展趋势和规律,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控”。完善智能经济治理体系是发展智能经济的重要组成部分。当前,亟须完善与智能经济新形态相适配的智能经济治理体系,实现发展生产力和维护人类主体地位的平衡。

一、完善智能经济治理体系的重要意义

新一代人工智能驱动的智能经济转化为现实生产力离不开对以人机协同方式实现的智能经济新形态的探索。作为智能经济代表,新一代人工智能“先通后专”的技术特点决定了其发展是分层次进行的。新一代人工智能先训练通用智能,再优化专业领域知识用于胜任特定任务,最后实现伦理对齐。如果将知识区分为知道为什么做(know-why)、知道如何做(know-how)和知道应该做什么(know-should)三种类型,新一代人工智能主要在生产知道如何做的知识上发挥最大替代作用。这样一来就可以形成人工智能和人类用户之间的分工协作。一方面,通用模型更具有可复制性和可扩展性,发挥知道如何做的知识的直接作用,实现技能性知识对人的赋能;另一方面,面向人工智能的人力资本投资也同样重要,人类智能仍需在知道为什么做和知道应该做什么的知识生产上发挥不可替代的作用。

因此,新一代人工智能驱动的智能经济同时强调通用人工智能赋能和面向人工智能的人力资本投资,两者共同作用,以人机协同方式实现智能经济新形态,进而释放远超数字经济的生产力潜力。然而,这并没有解决通用人工智能赋能和面向人工智能的人力资本投资之间的平衡问题,也不能自动消除智能机器给人类主体地位带来的冲击。正是由于三种类型知识存在复杂的互动和反馈,尽管人类智能在知道为什么做和知道应该做什么知识生产上仍能发挥不可替代的作用,但人工智能在知道如何做知识生产上的压倒性优势及其引发的执行高效率完全可能导致人的行为被人工智能主导甚至控制的危险。

人工智能给传统的社会关系网络增添了两种新类型的信息链接,即智能机器与智能机器以及人与智能机器的链接。一方面,鉴于人工智能在理性判断和执行效率上的优势,在产品生产环节,人类将更多被人工智能所替代;另一方面,人与智能机器的链接也可能诱发人在认知甚至情感上对人工智能的过度依赖,使得更多的人沉迷于浅层满足。信息即权力,如果人类由此被逐步排除出社会关系网络,将加剧少子化、老龄化趋势,甚至引发人类家庭和社会瓦解也并非完全没有可能。因此,新一代人工智能在历史上第一次对人类主体地位提出挑战。

解铃还须系铃人,只要使用得当,新一代人工智能也同样提供了缓解未来社会冲击的利器,可用于重建社会关系网络,切实维护人类主体地位和利益。因此,寻找人工智能的恰当使用方式、完善智能经济治理体系,同人工智能技术进步和发展生产力一样重要。只有这样,才能避免人类在认知和情感上对人工智能的过度依赖,充分发挥人类智能在知道为什么做和知道应该做什么知识生产上的不可替代作用,并赋予人类智能和行为新的时代意义。

二、完善智能经济治理体系要求统筹人工智能发展和安全

完善智能经济治理体系仅强调推动人工智能安全技术发展是不够的,还对统筹人工智能发展和安全提出要求。随着人工智能系统在编码和软件工程能力方面的进步,它们作为网络攻防工具的效用将得到扩展,任何个人或单独的机构都满足不了对抗人工智能安全攻击的庞大算力需求,需要进行国家层面的统一规划和安全技术投资。

然而,人工智能安全技术投资并不足以自动形成适应智能经济新形态要求的人工智能治理体系。智能经济新形态可能发展成为以端到端智能、物理具身智能和自主系统为最终追求目标,推动智能体在执行环节最大限度地替代人类主体,并由人类主体来承担终极责任。端到端智能又称感知决策一体化,本是深度学习中的一个概念,指的是一个人工智能模型从输入到输出的完整过程,不需要人为干预或中间步骤。这样就可以最大限度地减少模型输入中间环节的级联误差,充分实现人工智能赋能潜力。物理具身智能和自主系统如果能够将大模型的理解力与机器人感知控制相结合,把模型的感知、认知能力转换为机器人成功的动作执行,就可以实现端到端智能从数字世界向物理世界的延伸。很显然,在执行环节由智能体尽可能替代人类主体,不仅可以提高执行效率,而且能够减少人为误差,但也不可避免地带来人工智能发展和安全的冲突。人工智能自主决策和行动能力的提升在释放生产力潜力的同时,带来的安全冲击是不言而喻的。如果不能统筹人工智能发展和安全,势必会陷入“安全的无用,有用的不安全”两难境地。届时任何人工智能产品的开发都将被迫进行功能阉割以满足安全需要,降低产品的社会接受程度,从而阻碍生产力潜力的充分发挥。因此,发展智能经济亟须统筹人工智能发展和安全,完善智能经济治理体系。

(一)进行可信计算,提高模型可解释性和算法透明度,明确人工智能人类使用者的主体责任

新一代人工智能通过深度学习提高模型可预测性。深度学习带来的技术进步集中在人工智能模型预训练上,即通过对高维的非结构化数据进行事例学习,极大地缓解过度拟合难题,并由此提高可预测性,得出符合个性化需要的知识。可预测性的提高确保模型的输出在一定程度上是可预测的和稳定的,不会因微小的变化或噪声导致过度不一致的结果。然而,深度学习也由“算法黑箱”的特点付出了模型的输出难以被人类理解的可解释性代价。

完善新一代人工智能算法透明度治理,可成功解决模型可解释性问题,对充分发挥其生产力潜力至关重要。只有这样,才能明确人工智能人类使用者责任,可靠地进行产业应用。解决“算法黑箱”问题可通过建立可信计算制度来实现,即引入算法审计制度,提高模型可解释性和算法透明度。明确要求聘请独立第三方的人工智能人类专家以算法为工具对算法透明度进行审计,强化人机协同治理,确保算法的公平和合理。

我国人工智能透明度治理任重道远。人工智能模型透明度不足已经累及人工智能应用场景开放和配套政策出台。比如自动驾驶和无人机配送等发展较快的领域场景开放不够,并面临较多的政策限制。自动驾驶领域上位法缺失、各地标准不同,限制产业规模化应用。医疗和金融领域人工智能产品“先审后用”周期长,阻碍产品及时应用。

(二)形成强秩序和弱秩序共同配合的治理结构,促进伦理对齐,确保人工智能使用符合人类利益

人工智能发展带来高度不确定的外部性。只有同时引入以法律和监管为代表的自上而下强治理秩序和以企业、行业、消费者等利益相关者多元参与为代表的自下而上弱治理秩序,才能动态应对,确保人工智能使用符合人类利益。

当前中美在人工智能强治理秩序上出现趋同迹象。2026年6月2日,特朗普签署人工智能行政令,建立“自愿框架”,要求人工智能公司在新模型发布前30天向政府提交模型审查,核心目标是给“防御方”即美国政府及其盟友优先获取和评估前沿人工智能能力的时间窗口,同时延迟对手访问。这道命令实质是一次治理权力的重大变革,审查权从外部独立机构转移到行政部门,国家安全指挥链由此获得对所有新发布前沿模型的第一手知情权。3天后,第11号国家安全总统备忘录(NSPM-11)落地,明确行政部门对已部署的人工智能系统的控制权,要求已签约人工智能公司不得在政府未知情的情况下禁用、降级或修改已部署系统,任何“杀死开关”均构成违约。6天后,刚刚上线3天、被誉为安特罗匹克(Anthropic,一家位于美国加州旧金山的人工智能股份有限公司)史上最强的两款模型Claude Fable 5和Mythos 5对海外使用者封禁,第一次以安全监管名义、出口管制方式明确了人工智能服务的市场准入条件。美方的分析认为上述监管变化很大程度上借鉴了中国经验。中国人工智能监管体系包括六项以上国家级法规,并通过相关合规要求。区别只在于管控目标有所侧重,中国偏内容安全与意识形态合规,美国偏国家安全控制权与技术出口方向。

然而,面对人工智能技术和市场的高度不确定性,仅仅依靠以法律和监管为代表的强治理守住安全底线是不够的,还应坚持发展导向的人工智能治理,同时发挥利益相关者多元弱治理作用。具体地讲,就是坚持治理为人工智能发展服务的导向,以企业和行业自律为基础,通过自愿承诺和灵活监管促进形成技术领先地位,并大力吸收人工智能使用者参与,积极开展开源项目探索治理标准,动态应对人工智能高速技术进步和产业发展带来的不确定性。

为推动人工智能安全治理,美国在其《人工智能行动计划》中提出,在工业界建立一种动态的、“先试后用”的人工智能治理文化。一是在全国范围内建立监管沙盒或人工智能卓越中心。研究人员、初创企业和老牌企业可以在其中快速部署和测试人工智能工具,同时承诺公开分享数据和结果。二是坚持人工智能生产力标准。在若干特定领域(如医疗保健、能源和农业)召集广泛的公共、私营和学术利益相关者,加速人工智能系统国家标准的开发和应用,并衡量人工智能在这些领域实际任务中提高生产力的程度。三是强调构建人工智能评估生态系统的重要性。评估是人工智能行业评估人工智能系统性能和可靠性的方式。严格的评估可以成为监管行业定义和衡量人工智能可靠性和性能的关键工具。为此,投资开发人工智能测试平台,用于在安全的现实世界环境中试点人工智能系统,允许研究人员原型化新的人工智能系统并将其推向市场。此类测试平台将鼓励广泛的多利益相关者团体参与,并涵盖人工智能触及的经济垂直领域,包括农业、交通和医疗服务等。

与美国形成鲜明对照,欧盟根据人工智能发展超级对齐(Superalignment)主义目标,制定了风险分级监管、隐私保护和算法透明的强监管规则,试图实现新一代人工智能与人类价值观的伦理对齐,确保人工智能发展能够符合人类的利益。欧盟这一看似目标宏大的人工智能监管规则过于强调形式主义治理,却忽略了利益相关者多元内容参与的重要性。人工智能技术和市场的高度不确定性势必会暴露出力有不逮的弱点,并有可能成为新一代人工智能进一步发展的障碍,这正是欧盟和中美人工智能发展继续拉开差距的重要原因之一。很显然,离开利益相关者的多元参与,面对人工智能发展和治理的共同无知问题将无能为力。

三、坚持发展导向,不断提高智能经济治理水平

除了技术迭代和产业发展,智能经济成功与否还取决于新一代人工智能被社会所接纳的程度。正如马克思主义政治经济学基本原理揭示的那样,要将新一代人工智能的生产力潜力充分发挥出来,必须寻找到适配的生产关系,特别是治理体系。完善智能经济治理体系需采取如下一系列对策。

(一)确立发展导向的智能经济治理总原则,统筹人工智能发展和安全

完善智能经济治理体系必须始终服务于发展智能经济的总体目标,即坚持治理发展导向是为了更好地服务于智能经济发展,并在智能经济发展过程中不断提高治理水平,统筹人工智能发展和安全。统筹人工智能发展和安全、完善智能经济治理体系的关键在于形成强秩序和弱秩序共同配合的治理结构。以法律和监管为代表的自上而下强治理秩序负责守住人工智能安全底线,以企业、行业、消费者等利益相关者多元参与为代表的自下而上弱治理秩序则在低成本灵活处理人工智能创新外部性上发挥不可替代作用。

(二)积极探索开源项目治理标准,加快贯彻落实国家数据局数据产权新政策,充分发挥我国产权制度灵活安排优势

开源创新一直是我国参与人工智能国际竞争的重要战略。开源本质上是一种新型知识产权保护方式,只不过传统的知识产权付费方式被替代为接受使用规则约束,并根据使用目的的不同而采用营利和非营利等不同的许可方式。这样不仅可以推动跨组织的创新协同,而且能够将公共研究和商业模式的优点结合起来,实现知识外溢最大化。与此同时,开源又是通过具体的开源项目来建设的。开源项目具有很大的不确定性,其成功与否取决于对创新战略目标确定、参与规则制定、利益分配和纠纷调解等治理机制的设计。开源创新质量归根结底取决于能否制定出合理的开源项目治理规则,在参与者中间建立起广泛的信任关系,充分激励协同创新。

《中共中央国务院关于构建数据基础制度更好发挥数据要素作用的意见》虽然确立了持有权、使用权和经营权相分离原则,但也暴露出产权过度局限于所有权并被平台截留的弱点,亟须按照更加突出智能经济导向进行梳理,促进人工智能分布式发展。2026年7月,国家数据局印发《数据产权登记工作指引(试行)》,引导数据流通服务机构积极探索“数据换数据、换订单、换服务、换模型、换场景”等流通利用模式。“五个换”数据要素市场化新模式无疑同样遵循开源原则,一改过去局限于数据所有权的数据交易模式,试图通过长期交换形成信任机制、推进隐私计算和确权登记,更灵活地进行数据产权制度安排。如此,既可有力实现数据所有权确权,又能够保障数据使用权收益,激活数据要素市场,低成本处理创新外部性,推动人工智能发展。

(三)借鉴我国人工智能监管体系守住安全底线的有益经验,进一步积极推动智能向善

目前,我国已经制定《生成式人工智能服务管理暂行办法》《中华人民共和国网络安全法》《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》等一系列法律法规,在守住人工智能安全底线方面发挥了关键作用,但仍需进一步完善伪造的和低质量的内容生成、算法歧视和偏见、平台垄断、信息茧房等各项数据治理,确保生成式人工智能发展符合人类利益。此外,还要将发展安全技术和信任关系结合起来,积极推进透明度治理,构建可信任的人工智能安全应用环境。在全国范围内建立监管沙盒,允许人工智能先试后用。建设人工智能可监督的安全测试平台,保证应用风险可控。

(四)推动国际合作,提高我国智能经济治理国际话语权

坚持发展主权人工智能和建设最广泛的人工智能国际联盟,充分发挥中华文明包容性优势,引导文明对话,提高我国智能经济治理国际话语权。适应主权人工智能发展趋势和提高韧性要求,在尊重东道国数据产权和帮助训练主权大模型基础上,对外提供人工智能服务。在发展主权人工智能基础上,建设最广泛的人工智能开源开放国际联盟,推动伦理对齐国际合作,防控人工智能地缘政治风险。

    进入专题: 智能经济   治理体系  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 经济学 > 宏观经济学
本文链接:https://www.aisixiang.com/data/185877.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2026 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统