刘鹏 杨怡宁:生成式人工智能监管的省级政策比较研究——基于对政策文本和备案结果的分析

选择字号:   本文共阅读 1249 次 更新时间:2025-06-12 23:43

进入专题: 生成式人工智能监管   省级政策   人工智能   大模型  

刘鹏   杨怡宁  

摘要:完善生成式人工智能监管政策体系是促进生成式人工智能健康发展和规范应用的必然选择。研究生成式人工智能监管的省级政策差异有利于了解各省级政府的监管现状,更有助于推动生成式人工智能区域协调发展。采用文本分析法,聚焦各省级政府生成式人工智能监管相关政策文本和备案结果。研究发现,各省级政府生成式人工智能监管政策在监管主体、监管对象、监管内容、监管工具上均存在差异之处。基于路径依赖理论指出,省级政策受规模经济、学习效应、适应性预期等因素影响,监管政策一旦形成特定路径,就会沿着这一路径不断自我强化与锁定,从而导致监管政策差异。

关键词:人工智能;大模型;生成式人工智能;人工智能监管;DeepSeek

一、引言

1956年,麦卡锡等学者于达特茅斯会议上首次正式提出“人工智能”这一概念,自此人类便开始了对人工智能技术的探索。2018年6月,OpenAI发布GPT-1模型。2022年11月30日,该公司又发布通过GPT-3.5系列大型语音模型微调而成的全新对话式AI模型ChatGPT,推出仅仅两个多月,其全球用户就已突破1亿。2025年1月,由中国企业开发的DeepSeek一经上线,便迅速在全球范围内成为现象级的人工智能应用,DeepSeek能够通过深度学习和大数据分析,精准捕捉用户意图,提供高效、精准的解决方案,还大幅降低了模型训练与推理成本。以ChatGPT、DeepSeek为代表的生成式人工智能迅速崛起,在当今的科技领域掀起了一场意义深远的变革,其凭借先进的技术架构和强大的学习能力,彻底再造了知识生产和应用的固有范式,以极具颠覆性的方式革新了生产方式,催生出一系列全新的生产流程、组织形式与协作模式。

生成式人工智能(Generative AI)作为人工智能的一个子集,使用专门的机器学习模型,旨在产生广泛而通用的各类输出,生成多种类型的内容,如文本、图像和音频等。具体而言,它通常以“基础模型”为底层依托,这些“基础模型”会在多样且广泛的数据集上进行训练,并经过微调后,用于特定任务或应用。生成式人工智能作为一种新技术,在变革生产方式、推动生产力发展的同时,也带来了数据安全与个人信息保护风险、算法风险、知识产权侵权风险、伦理道德风险等各种难以预知的风险。对生成式人工智能进行有效监管,有助于控制人工智能技术所带来的社会风险,推动人工智能产业健康有序发展,并有效防止其可能对公共利益和社会安全所带来的负外部性效应。为此,全球各国和地区均出台了相关政策,观察现有政策可以发现,欧美亚各国和地区政策存在明显差异。欧盟强调基于风险分级的全过程监管方法,主要是通过立法实施严格监管;美国、英国主张监管目标是促进生成式人工智能负责任的创新;我国则采取了目标与问题导向相结合的风险治理框架,强调将支持鼓励与风险监管相结合,平衡好两者之间的关系。

每个国家的监管体系都反映了不同的文化、政治和经济视角,突出了不同地区对监管风险与收益权衡的不同观点,对安全与创新、合作与竞争之间平衡的不同判断,与此同时,不同监管框架之间的差异也反映了对政府和自由市场信任的对比立场。现有研究已对生成式人工智能监管政策做了一定的梳理,总结不同国家生成式人工智能监管政策的特征,并从国别层面进行比较,尝试剖析差异产生原因。而对我国生成式人工智能监管政策的研究,则大多从中央层面出发进行政策内容分析,关注我国生成式人工智能的治理风险和政策工具。现有研究对省级层面人工智能政策的关注是较少的,杨佳雯等基于“政策工具-政策目标”二维分析框架,以我国东、中、西、东北四大区域共40份省级人工智能政策为研究对象,指出我国东、中、西、东北部在工具运用和目标部署上呈现一定的相似性和差异性。张涛等则基于文本相似度计算,对我国20个地区发布的人工智能政策展开对比研究,研究结果表明,新兴产业、产业升级、人才队伍、智能服务、社会治理等内容在各地区人工智能政策制定层面整体关注最高,呈现出政策制定的相似性。单晓红等则以京津冀、珠三角和长三角区域2015-2019年出台的人工智能产业政策为研究对象,分析不同区域在政策属性、政策结构方面的差异,并从区位优势、学术生态、企业资源三个方面剖析了区域差异存在的原因。现有研究大多关注的是人工智能政策的整体图景,而缺乏对生成式人工智能监管的专门讨论,尚未对我国不同省级政府生成式人工智能监管政策的差异,以及这些差异是如何导致各地政策在目标设定、重点领域、监管力度等方面的不同,进行系统性的分析和比较。此外,现有研究还缺乏动态性,未能充分探讨省级政府如何在人工智能技术快速更新的背景下及时调整和完善监管政策,以确保政策的有效性和适应性。

事实上,省一级作为承上启下的重要层级,既需要承接中央指导,又需要结合各地实际情况,编制具体规划,为此省级层面的政策同样值得关注。以生成式人工智能备案为例,国家互联网信息办公室颁发的《关于发布生成式人工智能服务已备案信息的公告》中,明确指出由属地网信部门承担生成式人工智能备案工作,提供具有舆论属性或者社会动员能力的生成式人工智能服务的相关单位应向服务所在地的网信部门提交备案,而非全国统一机构。由此可见,我国在生成式人工智能监管方面是采用中央决策、地方备案的管理体制,作为具有较大事权的省级政府在生成式人工智能监管上所发挥的作用不容忽视,探究省级政策差异和差异生成逻辑,不仅有助于全面了解我国各省生成式人工智能发展现状和特点,揭示政策制定过程中的复杂性,更有助于优化政策协同和资源配置,从而推动各地生成式人工智能协调发展。

二、研究方法

由于生成式人工智能具有技术门槛高等特性,个体力量难以面对其所带来的风险和挑战,因而就需要政府监管的介入。政策文本虽然只是各方政策博弈的最终表现形式,但可以反映出最终的政策产出和结果,并折射出政策制定者的意图和目标,通过对政策文本及其背景环境的分析,可以帮助政策分析者更好地理解政策制定者的意图,分析政策内容前后的变化及其差异,有助于了解政策内容特征、核心要素、演进历程等,进而获取对当前政策的启示。

(一)数据来源

⒈生成式人工智能省级政策文本

首先,以“生成式人工智能监管”为核心关键词,拓展“AIGC”“人工智能”“监管”为关键词,使用“AND”“OR”“NOT”组合条件,如“(生成式人工智能 OR AIGC)AND(监管)”“(生成式 AND 人工智能)AND(监管)”等在31个省级政府网站(不包括港澳台)、北大法宝官网、国家法律政策库等数据库进行全文检索,并以百度搜索引擎为辅助,对相关政策文本进行补充。截至2025年1月,共检索到226份政策文本。其次,对收集到的政策文本进行梳理,剔除省级政府直接转发的中央政策,剔除市级、县级层面出台的政策,剔除失效、重复、答复函、批示、白皮书等文件,整理得到103份政策文本。再次,对剔除后的政策文本进行筛选,筛选主要遵循如下原则:一是代表性原则,选取与“生成式人工智能监管”密切相关的政策文本,与主题相近的其他监管政策,如“判别式人工智能监管”等,不将其纳入范围,以免干扰研究方向,将政策中是否有针对“内容生成”“合成数据”等生成式人工智能技术特点所制定的监管措施作为代表性的判断标准,增强文件内容与研究主题的紧密性;二是权威性原则,选取权威机构发布的政策文本,如省级人民政府及其部门、立法机关等官方机构,其内容经过严谨的制定和审核流程,而一些未经证实的政策信息,不将其纳入,以免影响研究结果的准确性。由2名筛选者按照同样的标准对这一批政策文本进行筛选,一名筛选者选出67篇政策,另一名筛选者选出68篇,其中64篇重叠,Kappa系数≥0.81,说明其具有较高的信度。为进一步确保政策文本不被遗漏,2名筛选者再次对非重叠政策文本进行复查,并邀请1名监管领域专家进行探讨,最终得到65份省级政策文本。最后,对筛选后得到的65份省级政策文本进行效度检验,由1名监管领域研究者复核筛选结果,检验政策内容是否符合研究要求,其认为这65份政策文本均与研究主题存在密切关联,说明这65份政策文本具有较好的效度。随后,对这65份政策文本进行整理和编号,建立政策文本库,方便后续的政策分析和研究工作。

2.生成式人工智能备案结果

以“生成式人工智能服务备案”为关键词在31个省级政府网站、省级网信部门网站进行全文检索,并以百度搜索、微信搜索为辅助对备案结果进行补充。截至2025年1月,搜索到26个省份依据国家互联网信息办公室发布的公告,结合属地管理原则对本省生成式人工智能服务备案提出具体要求;搜索到9个省级网信部门已发布生成式人工智能登记信息。

(二)数据分析方法

本文采用政策文本分析方法。文本分析的目的在于归纳政策文本的主要特征,比较政策文本内容在不同维度的差异,进而解读文本背后的意蕴。政策文本研究可采用多种分析路径,挖掘政策文本的表面特征和内在规律,如通过语义结构揭示政策表述的内在逻辑,基于政策工具分析政府行为偏好,借助主题词变化洞悉政策发展趋势,运用社会网络分析刻画政策主体互动网络。本文基于中央层面的宏观政策背景,聚焦省级层面的生成式人工智能监管政策,通过对相关政策文本展开内容分析,比较各省生成式人工智能监管异同,并对其背后原因进行探究,最后针对性地提出政策建议。针对中央层面的政策文本,本文主要利用Python的词频统计功能对政策文本进行TF分析,并通过设置停用词进行基础IDE加权,以非监督机器学习的技术识别政策文本内容中集中潜在的主题信息,并借助stylecloud包的功能绘制词云图,实现数据的可视化,以呈现我国不同省份生成式人工智能政策体系的特征。此外,还运用社会网络分析方法对生成式人工智能政策发文主体进行分析,并借助Ucinet和NetDraw软件绘制发文主体合作网络图。针对省级层面的政策文本,先依据政策文本的出台时间、所属省份、发文主体等关键信息,展开初步的梳理工作。然后,将65份政策文本导入Nvivo12质性分析软件中,从而分析各省生成式人工智能监管政策在监管主体、监管对象、监管内容、监管工具方面的特征。具体而言,将上述4个维度按照“树节点-子节点”的层次规律进行编码,在监管主体维度建立党政机构、政府部门、司法机关、行业协会4个树节点,在此基础上对细分主体依次建立子节点;在监管对象维度建立技术支持者、服务提供者、内容生产者3个树节点和相应的子节点;在监管内容维度建立模型监管、内容监管2个树节点和相应的子节点;在监管工具维度建立激励型监管工具、强制型监管工具、信息型监管工具3个树节点和相应的子节点。

三、生成式人工智能监管政策概述

(一)中央层面

截至2025年1月,我国中央层面明确涉及生成式人工智能监管的政策文件共计19份,涉及发展规划、伦理规范、安全监管、数据保护、算法治理等多方面内容,旨在全方位规范引导人工智能健康、安全、有序发展的同时,保障好公众利益与社会安全。

⒈政策出台时间

与生成式人工智能监管相关的中央政策最早出现在2017年7月,国务院发布了《关于印发新一代人工智能发展规划的通知》,指出要搭建促进人工智能发展的法律与伦理框架,构建监测预警机制,为其发展设定行为准则和价值导向。这说明我国开始关注人工智能风险,但此时对人工智能技术的监管尚缺乏整体认识,处于初步探索阶段。2021年后,中央层面生成式人工智能监管政策开始有所增加,2021年和2023年均出台了4份政策文件,2024年出台了7份政策文件。由此可见,我国的监管机构自2021年起加强了对生成式人工智能的监管。监管机构对生成式人工智能重视程度的提高与我国生成式人工智能发展现状密切相关。2016-2017年是人工智能在我国的初步发展阶段,2016年国务院印发“十三五”国家战略性新兴产业发展规划,其中增添了人工智能相关内容;2017年颁布的《新一代人工智能发展规划》,不仅标志着我国首个国家级人工智能战略的正式出台,也是我国首个明确提及生成式人工智能监管的政策;2018-2021年是人工智能在我国的快速发展阶段,生成式人工智能作为人工智能的分支,往往被视为一项技术,2021年生成式人工智能监管相关政策开始增加,跟算法歧视、“大数据杀熟”等问题不断涌现密不可分;自2022年起,生成式人工智能开始向纵深发展,ChatGPT的出现对生成式人工智能有着里程碑意义,生成式人工智能开始被视为一项独立的功能或产品,由于监管具有一定的滞后性,2023年起相关监管政策又开始迅速增加。

⒉发文主体

从发文主体合作网络来看(参见图1),生成式人工智能监管政策的发文主体为国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、科学技术部等,这契合2023年7月发布的《生成式人工智能服务管理暂行办法》(下文简称《办法》)所规定的监督检查和法律责任主体,《办法》明确指出:“网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门,依据各自职责依法加强对生成式人工智能服务的管理。”其中,国家互联网信息办公室在生成式人工智能监管当中发挥着关键作用,是政策发布的核心行动者,联合工业和信息化部、科技部、国家发展和改革委员会等部门发布了《生成式人工智能服务管理暂行办法》等重要规章制度,对生成式人工智能的安全保障与风险防范作出规定,以促进生成式人工智能向善发展。

⒊政策内容变化

从政策文本的词频统计中可以发现(参见图2、图3),政策内容由原先强调服务于技术发展转变为强调发展与监管并重。2021年,中央发布了《互联网信息服务算法推荐管理规定》等文件,开启了算法治理的进程。2023年的《生成式人工智能服务管理暂行办法》更是从纵向上进一步完善了监管制度。2021年以来的监管政策特别注重对生成式人工智能可能带来的信息安全、数据隐私、版权侵权、内容真实性等方面的隐患加以管控。例如,要求企业建立健全安全保障措施,防止恶意利用AI生成虚假信息、侵犯个人隐私或知识产权。此外,还加强了对生成内容的审核与追溯机制,确保AI生成的内容不含有违法有害信息,以及降低系统性风险。2024年的监管动向则显示出更深层次对生成式人工智能道德伦理层面的关注,包括减少算法偏见、增强透明度和可解释性、建立有效的用户权益保护机制等。随着技术的普及,公众愈加关切人工智能所会引发的道德伦理问题,促使监管部门对人工智能伦理问题以高度重视,并将其纳入政策考量之中。

(二)省级层面

⒈省级政策发布情况

从政策发布数量来看(参见图4),截至2025年1月,省级层面生成式人工智能监管相关政策共有65份。北京市所发布的政策数量最多,为9份;上海市次之,为8份;广东省再次之,为7份;浙江省为5份。从政策发布时间来看(参见图5),2023年之后生成式人工智能监管政策开始密集出台。这与实践需求和中央政策引导密切相关。2022年,ChatGPT的面世和大模型领域的密集动态给人工智能带来了新的机遇与挑战,我国各地开始考虑人工智能产业发展问题。2023年,中央出台了多部指向生成式人工智能治理的政策,例如2023年5月,人工智能方案草案被列入国务院发布的2023年度立法工作计划中;7月,《生成式人工智能服务管理暂行办法》着重强调要采取包容审慎和分类分级监管的方式,并鼓励通过建设人工智能基础设施集群与公共数据资源共享平台等措施,推动核心技术自主突破,促进技术发展与治理。各省级政府在中央政策引导下,出台具体措施促进本地区生成式人工智能发展,并对其发展加以规制。

⒉各省备案结果情况

截至2025年1月,全国共有302个备案模型,23个省份对外公布提供生成式人工智能服务相关大模型的备案信息,就地域分布情况来看(参见图6),北京市为105个,上海市为60个,广东省为32个,浙江省为26个,江苏省为20个,其余省份均不超过10个,由此可见,生成式人工智能备案较多的省份大多位于我国东部地区。目前共有279家备案单位,其中深圳荣耀软件技术有限公司、中电信人工智能科技(北京)有限公司、北京快手科技有限公司、北京比特易湃信息技术有限公司这4家备案单位备案模型数量最多,为3个。值得注意的是,除深圳荣耀软件技术有限公司在广东省外,其余3家备案单位属地均在北京市。2024年8月,国家互联网信息办公室发布的《关于发布生成式人工智能服务已备案信息的公告》开始增加省级网信部门生成式人工智能服务已登记信息的相关内容。备案主要由国家网信办主导,备案内容是各地生成式人工智能模型,包括技术安全性、内容合规性等方面;而登记则由省级网信部门负责,登记内容是属地内生成式人工智能应用/功能,更关注其具体使用情况,这说明中央进一步强化生成式人工智能监管的属地责任,针对生成式人工智能监管的范围也有所扩大。此外,省级政府及其部门作为更了解本地情况的监管主体,由其负责登记相关应用/功能的信息能更为及时地发现监管问题,有助于提升监管的针对性和有效性。截至2025年1月,共有9个省份的网信部门公布了生成式人工智能服务已登记信息,其中上海市委网信办已登记63个应用/功能,数量最多;其次是江苏省,为14个;再次是北京市,为12个。从各省的备案公告内容来看,大多涉及备案范围、备案主体、备案提交流程、备案结果告知这四方面。当然,也存在一些特有之处,如北京市、河北省明确规定有关生成式人工智能服务的语料安全、模型安全、安全措施、安全自评估等要求参照《生成式人工智能服务安全基本要求》;浙江省、江苏省、安徽省、陕西省等地对备案信息公示情况做出了规定,要求已上线的生成式人工智能应用或功能在界面显著位置或产品详情页面注明模型名称、备案号及服务情况;内蒙古自治区、湖北省、山东省提到“对于通过API接口或者其他方式直接调用已备案大模型能力的生成式人工智能应用或功能,可不用备案直接上线提供服务”。

四、生成式人工智能监管省级政策及备案结果比较

(一)监管主体

监管主体,即由谁来监管,谁是负责制定和实施监管政策、法规的实体。一般而言,监管政策的发文对象大多即意味着其肩负相关的监管责任,多部门联合发文则意味着该政策议题涉及多领域、多环节,需要协调不同部门的职能,以避免出现监管空白或重复监管。目前省级生成式人工智能监管政策发文主体以单个部门独立颁布为主(参见图7),包括各省政府办公厅、省发展和改革委员会、省科学技术厅、省工业和信息化厅、省公安厅等。但多部门之间的联合监管仍然值得重视,因为在各发文主体当中,省政府办公厅是出现频率最高的,这与其具备跨部门协调、资源整合的能力密切相关。生成式人工智能监管涉及多领域、多部门,省级人民政府办公厅作为省政府的综合办事机构,具有统筹协调各部门工作的职能,能够有效整合各方资源和力量。从各地情况来看,北京市依托其科技和创新优势,由网信办与科技部门主导监管,特别注重前沿技术的研发支持,在2024年7月由北京市发改委、经信局、科技委等联合发布的《北京市推动“人工智能+”行动计划(2024—2025年)》中明确指出,“引导各方依法依规使用生成式人工智能技术,注意保护个人隐私、知识产权和秘密信息,促进人工智能产业向上向善发展”的责任单位是市委网信办、市科委等,“搭建内容安全大模型平台”的责任单位是市委网信办、市公安局,“推动数据分类分级管控和‘监管沙盒’机制”的责任单位是市经济和信息化局等。广东省的生成式人工智能监管也是更多地依靠网信部门和科技部门,在广东省的7份政策文本中,有6份都是由广东省人民政府办公厅发布的,这些政策文本大多对生成式人工智能监管责任单位做出了较为明确的规定,如“探索人工智能监管模式创新”由省委网信办牵头,省工业和信息化厅、公安厅、人力资源和社会保障厅、政务服务数据管理局、通信管理局、市场监管局配合;“开展大模型可信安全性研究”由省政务服务数据管理局牵头,省委网信办,省科技厅、工业和信息化厅、公安厅、通信管理局等配合;“涉及人工智能领域的”科技伦理工作由省科技厅、工业和信息化厅共同牵头,等等。上海市则以地方金融监管部门为主导,将生成式人工智能的应用与经济发展结合,在上海市的8份政策文本中,有3份是由上海市经信委牵头发布的,2份是由上海市商务委员会牵头发布的。浙江省注重科技伦理,加强安全管理与合规发展,科技厅是生成式人工智能监管的重要部门。江苏省、吉林省的省文旅部门、广播电视局是少数联合发文的发起部门,出台了专门规范用户内容生成行为的政策。

(二)监管对象

监管对象是指受到监管的个人、企业、行业或领域等实体。本文根据《生成式人工智能服务管理暂行办法》将监管对象分为:技术支持者,即提供生成能力模型及相关技术的组织、个人;服务提供者,即利用人工智能技术提供生成式服务的组织、个人;内容生产者,即使用生成式服务生成内容的组织、个人。生成式人工智能监管省级政策具体监管对象涵盖研发技术的高校、科研院所、企业,提供服务的应用企业与平台,以及利用相关技术生成各类内容的使用者。大多数省份将监管对象重点置于技术提供者,尤其是研发模型的企业、高校。北京市、江苏省、浙江省是其中的典型代表。北京市重点关注大模型研发企业,如百度文心、智源研究院等,确保技术研发符合国家安全标准,强调要完善生成式人工智能发展和管理机制,强化网络平台主体责任,完善个人隐私和数据安全保障体系;强化各责任主体在科技伦理方面的认知,深化人工智能安全风险及伦理道德评估工作;督促指导大模型企业落实国家关于生成式人工智能服务的法律要求,坚持包容审慎监管原则。上海市的监管对象重点则是服务使用者和服务提供者。就服务使用者而言,上海市主要采取以下四方面措施:一是支持可信、安全和负责任地使用人工智能技术,二是开展常态化联系服务与合规指导,三是推动相关主体按规履行安全评估、算法备案等责任,四是鼓励其在相关集聚区内探索创新监管机制。对服务提供者而言,上海市主要强调以下两点:一是要强化数据安全,例如,规范语言数据挖掘、语言理解与推理、文本生成的技术要求,统一语言数据提取、量化、表示、格式和存储方式,统一语言模型训练和文本生成的技术框架,从技术层面解决行业应用需求间的差异性问题;二是建构标准,规范视觉内容采集、理解和生成的技术要求,统一视觉数据的质量要求、增强操作、存储方式以及视觉内容表达、分析、训练、理解和生成等。江苏省、浙江省、广东省的监管对象重点则是放在内容生产者上。江苏省更关注大型企业、高新技术企业的技术研发和创新应用,重视生成式人工智能技术在智能产业上的突破,关心如何推动生成式人工智能在智能制造、工业优化等场景中的应用。浙江省更注重中小企业的创新活力和市场竞争力,鼓励其在电子商务、文化创意等细分领域开展生成式人工智能的应用探索。广东省则是重点支持中小型AI企业在特定领域的应用,尤其是智能制造和供应链优化这两个领域,并实施差异化的监管策略,对不同等级、不同类别的应用采取不同的监管模式。

(三)监管内容

本文将监管内容分为模型监管和内容监管两方面。模型监管主要聚焦在训练数据、算法设计和模型生成和优化上;内容监管更关注是否涉及国家安全、内容的真实准确性、是否存在歧视、知识产权侵权、虚假信息传播、商业秘密以及个人隐私泄露等问题。对各省政策文本内容进行分析发现,北京市、广东省等的监管内容更倾向于模型监管,聚焦数据安全、算法公平等方面,注重开展底层密码算法和技术研发,以及对人工智能算法的稳定性、可解释性、公平性和安全性研究。如北京市明确提出要夯实数据安全和个人隐私保障能力,做好安全评估,推进算法备案。广东省偏重生成式人工智能在工业场景中的效率提升与应用推广,鼓励开展大模型可信安全性研究,确保其输出质量和安全,对生成内容的监管较宽松。上海市、江苏省、浙江省等的监管内容则更倾向于内容监管。上海市要求加强生成式人工智能在金融服务中的透明性和安全性,防止生成虚假内容、数据滥用和金融欺诈,“鼓励企业探索应用生成式人工智能提升优质内容产出能力”“积极培育创作者经济,支持人工智能生成内容、多频道网络等生产新模式,发展电竞运营、电竞教育、动漫等新文创产业,推动优秀文创作品出海”,但也强调要强化网络直播行业管理的日常监管,严格实施个人信息保护。江苏省明确指出要“强化人工智能领域的知识产权运用和保护,严厉惩处侵权行为。建立人工智能重要产品风险补偿保障机制”。浙江省重视生成内容的价值导向,并指出要加强对用户个人信息的保护,并在科研项目申报方面明确规定“不得使用生成式人工智能直接生成申报材料”。

(四)监管工具

工具连接目标和结果,监管工具是指监管部门履行监管职责、实现监管目标所采用的技术、手段或机制。监管工具种类丰富,既有行政检查、行政处罚等传统的刚性监管手段,也有风险示警、行政约谈、合规指导等柔性监管手段,还有利用大数据、人工智能来监控、识别违规行为和进行风险分类的新技术手段。本文将依据监管工具的强制程度或干预程度,将监管工具划分为激励型监管工具、强制型监管工具、信息型监管工具。激励型监管工具,主要是指通过给予奖励、优惠政策、扶持措施等方式,激励市场主体积极主动地遵守监管要求、提升自身表现或参与特定活动的工具;强制型监管工具,是指依靠法律法规、行政命令、强制性标准等具有强制约束力的手段,要求市场主体必须遵守的监管工具;信息型监管工具,主要是利用信息的收集、整理、公开和传播来影响市场主体行为以及公众认知的监管工具。各省目前所使用的大多是激励型监管工具,秉持包容审慎的监管理念对生成式人工智能进行监管,鼓励生成式人工智能发展,并提供一定的容错纠错空间。例如,北京市明确规定,坚持包容审慎监管原则,营造鼓励创新、大胆试错的制度环境;江苏省强调,实施柔性监管措施,探索“观察期”“包容期”等新型监管举措,优化完善容错机制;辽宁省指出,构建科学合理的容错试错机制,为颠覆性技术的创新探索营造宽松的环境,完善尽职免责机制,推动科技成果高效转化。使用强制型监管工具较多的省份则较少,包括广东省、吉林省等。广东省强调要依法监管,强化标准化研究,广东省人民政府明确指出,要“建立健全公开透明的人工智能监管体系。遵守人工智能发展有关法律法规、伦理规范和技术标准,实行设计问责和应用监督并重的双层监管结构,实现对人工智能算法设计、产品开发和成果应用等流程监管,加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度”,要围绕数字化转型,开展基于战略性新兴产业的标准化研究和布局。吉林省则指出,“提供和使用生成式人工智能服务,应当遵守法律法规,尊重社会公德和伦理道德”。信息型监管工具的使用主要体现在对生成式人工智能研发过程进行动态监测,确保其发展安全可控,上海市在监管过程中积极运用数据动态监测等数字技术手段,提出要“建立运行监测体系,定期动态反应发展趋势。强化头部、高成长性产业互联网平台的跟踪服务机制”;浙江省提出要“推进技术监测、备案管理、安全处置等工作。探索建立人工智能负面清单事前监管与审核备案事后监管相结合的制度机制,促进人工智能健康发展与规范应用”。

(五)小结

我国在生成式人工智能监管方面采用中央决策、地方备案的管理体制,地方政府在政策解释和具体执行上具有较大的自主性。各省的监管政策在监管主体、监管对象、监管内容、监管工具这四个维度都存在一定差异,本文对这四个维度进行了区分,并呈现了部分具体政策文本内容(参见表1)。北京、上海、广东、浙江、江苏这5个出台政策较多的省份在这四个维度的侧重点均有所不同(参见表2),且逐渐形成人工智能监管的区域特色,呈现出政策制定的差异性。北京在生成式人工智能监管方面,形成了技术创新与安全并重的模式。作为全国科技创新中心的北京,依托中关村等科技园区,大力推动生成式人工智能的研发和应用,同时高度重视数据安全和个人信息保护,确保技术发展在合规框架内进行。北京还通过建立多层次的监管机制,强化对AI生成内容的审核和管理,防止技术滥用。北京监管模式的特点是既鼓励技术创新,又通过严格的监管措施保障技术应用的合法性和安全性,秉承了中央政府提倡的“发展与规范并重”的监管思路。上海生成式人工智能监管模式以开放合作和接轨国际为核心。上海积极推动生成式AI在金融、医疗、教育等领域的应用,同时注重伦理审查和风险评估,鼓励企业参与全球人工智能治理规则的制定,还设立了专门的伦理委员会,对生成式人工智能技术的应用进行伦理评估,确保其符合国际标准和道德规范。上海监管模式的特点是注重全球化视野,既推动技术应用的广泛落地,又通过伦理和风险评估机制确保技术的可持续发展,体现了“开放与规范并行”的监管特色。广东生成式人工智能监管模式以产业应用为导向,注重技术与实体经济深度融合。作为制造业大省,广东大力推动生成式人工智能在制造业、服务业等领域的应用,同时加强对数据隐私和算法透明度的监管,要求企业对人工智能算法进行透明化披露,防止算法歧视和滥用。广东监管模式的特点是聚焦产业落地,既推动技术赋能实体经济,又通过严格的隐私保护和算法监管确保技术应用的公平性,体现了“应用与规范并重”的监管思路。浙江与江苏的生成式人工智能监管模式体现的都是“创新与规范并重”的监管思路。浙江作为数字政府建设的先行地,其生成式人工智能监管以数字化改革为驱动力,注重生成式人工智能技术在智慧城市、政务服务等领域的落地,同时又通过算法审查和数据共享确保技术的透明性和公平性。江苏作为科教大省,其生成式人工智能监管以产学研结合为核心,注重技术研发与成果转化,既强调要推动技术成果转化,又主张通过知识产权保护和算法监管确保技术应用的合法性和安全性。

五、省级政策差异原因

分析国家政策方案下的地区差异化的政策是如何形成的?下面将基于路径依赖(path dependence)理论尝试对该问题做出回答。之所以选择路径依赖理论作为理论基础,是因为路径依赖强调了历史决策、初始条件和过去事件是如何影响区域政策形成的,是理解省级政策差异的有力视角。路径依赖这一概念,常被历史制度主义者们用于探寻历史进程。它类似于物理学中的“惯性”,指一旦在历史演进中选定某一条路径,无论优劣都会对该路径的既定方向产生依赖。路径依赖理论有两个重要的预设:一是“历史很重要”,现在的选择会被过去历史经验所约束;二是自我强化与锁定,当初始选择付诸实践后,因正向反馈而受益的行动主体,往往会更倾向于继续沿用由初始选择所开启的路径。路径依赖的产生主要受到规模经济、学习效应、协同效应、适应性预期等因素的影响。由于生成式人工智能是一种全新的技术和产业形态,大部分的省级政府都缺乏对其监管所应有的专业能力,往往诉诸于此前在相近领域的相关政策的传统来开展摸索,因此路径依赖理论可以用来较好地解释省级政府生成式人工智能监管政策的差异。各省生成式人工智能监管政策选择,经由路径依赖,进行自我强化,最后呈现出政策差异。协同效应指的是一种技术的广泛应用会带动其他相关技术的协同发展,进一步增强路径依赖的惯性,由于只探讨生成式人工智能这一技术,所以不将协同效应这一影响因素纳入考量。综上,构建了如图8所示的解释框架。在实践中,规模经济表现为各省的产业规模、投资规模、经济结构等,学习效应表现为资源、技术、人才等,适应性效应表现为对未来结果的预期认知。

(一)规模经济差异

规模经济指的是企业或地区在扩大运营规模时所获得的成本优势。随着某种技术或制度的广泛应用,其成本会逐渐降低,形成规模经济效应,从而进一步巩固和强化这种技术或制度的地位。在生成式人工智能领域规模更大、模型更多的省份,由于其已构建了较大规模的人工智能生态系统,因此其需要出台较多监管政策规范生成式人工智能发展。同时,这些省份还更倾向于制定持续支持增长的监管框架,通过宽松或利于产业发展的政策来保持竞争优势,促进经济发展。北京、上海、广东等地充分发挥在融资机会和政策支持等方面的优势,推动当地生成式人工智能产业蓬勃发展,已形成了具有国际竞争力的产业集群。2024年的《政府工作报告》指出,要深化大数据与人工智能等研发应用,打造具有国际竞争力的数字产业集群。在此号召下,政府引导基金、民间资本、大型企业纷纷对生成式人工智能领域投入大量资金,推动该领域迅速发展。从2024年1-9月人工智能相关领域投融资事件的地域分布情况来看(参见图9),北京的人工智能相关投资金额高达436亿元,占比为53.7%;其次为上海,金额为112亿元,占比为13.8%;广东、深圳、浙江的金额均在50-80亿元之间。同时结合备案结果来看,这5个投资金额最多的省份,正是备案数量最多的5个省级地区。在生成式人工智能监管上,这5个省级地区大多选择了支持增长的监管框架,如制定灵活的人工智能伦理准则、减轻企业的合规负担等,以吸引生成式人工智能企业和初创公司进入本省。而获取投资、资源较少或科技产业规模较小的省份,由于缺乏这些规模经济,使得它们在监管方式上更加谨慎,更倾向于采用更严格的法规,以减轻与实施生成式人工智能相关的潜在风险,如伦理问题或公众反对,从而导致各省在人工智能监管政策上出现差异。

(二)学习效应差异

学习效应是指个人、企业或地区随着时间推移积累知识和经验,从而提高自身效率和决策能力的过程。在算力基础设施、开源数量、人才储备等方面具备优势的省份,拥有较好的生成式人工智能发展条件,有助于其积累监管知识和专业技能,建立起专门的监管机构、制度,并培养出深入了解人工智能技术、法律框架以及人工智能对社会潜在影响的专业人员,使其具备能力制定出更复杂、适应性更强且针对特定行业的法规。从算力基础设施分布情况来看,北京、广东、浙江及上海等地在大模型数量占据国内领先地位。而近3年来,四地在人工智能服务器采购规模方面亦位居前列,呈现出较为显著的相关性特征。这表明算力基础设施的储备与大模型的研发应用之间存在紧密联系,雄厚的算力基础设施储备,为大模型的理论研究推进与实际应用拓展,均提供了不可或缺的关键支撑与保障。目前,中国在14个省市/地区均有团队在开展大模型研发,北京、广东两地最多,地域集中度相对较高。从开源数量来看,我国大模型研发团队踊跃推动大模型开源进程,当下已有超半数大模型达成开源。开源开放是人工智能研发协作的重要模式,从大模型开源情况来看,北京、广东、上海三地,无论是大模型的开源数量,还是开源所产生的影响力,皆位列前三。从人才储备来看,在区域分布上,北京不论在人工智能学者数量方面还是大模型学者数量方面都遥遥领先于其他地区,体现出明显的人才储备优势,江苏、广东、上海也是大模型人才相对较多的地区。中国大模型通过学术论文发表方式已经形成一定学术影响力。其中北京、广东、上海三地在论文发表量和引用量,均在国内排名前三。以北京为例,北京拥有完整的人工智能研究生态系统、众多高校和科研院所,丰富的生成式人工智能发展实践,有助于其发现治理风险,从而制定详细的监管框架,涵盖生成式人工智能的不同方面,如人工智能生成内容的知识产权保护、伦理准则,或政企合作等。这种专业知识会导致路径依赖型的决策,使法规不断演变并变得更加贴合实际需求。与此相反的是,经验较少的省份更倾向于遵从中央政策指导,在制定本省监管政策时缺乏操作性较强的细则。

(三)适应性预期差异

适应性预期是指个人或地区基于以往的经验或趋势来形成对未来结果的预期,各省的政策将受到它们基于过去的发展、成功或失败对未来发展预期的影响。在生成式人工智能监管方面,各省发展战略目标的不同,会使各省的适应性预期存在差异,这种差异导致了各省监管内容的侧重点有所不同,也使得各省所研发模型应用场景存在不同。从各省监管重点内容来看,产业结构与其密切相关。例如,广东作为我国的制造业大省,其过去在智能制造、电子信息等相关产业的成功发展,使广东对生成式人工智能在推动产业升级、提升制造业智能化水平方面有着较高的预期。基于此,广东在监管方面侧重于技术标准的规范和知识产权的保护,在确保企业创新合法合规的基础上,促进人工智能与实体经济的深度融合,进一步巩固其在制造业的优势地位。而随着海南自由贸易港建设的推进,海南将生成式人工智能视为提升现代服务业水平和国际旅游竞争力的重要工具,积极探索生成式人工智能在智能旅游服务、跨境贸易智能监管等方面带来变革,因而其监管重点围绕保障游客数据安全、规范旅游智能推荐系统等方面,以推动海南经济的特色化、国际化发展。备案模型可应用于图像设计、智能办公、语言学习、疾病诊断参考、金融风险评估、产品质量检测分析等多个具体领域。从生成式人工智能服务备案模型的应用场景来看,目前大多数备案模型的用途是生成文本、图像、视频等内容,除了这部分模型外,各省份的部分模型在一定程度上体现了当地的产业结构。例如,上海市备案了奇思妙想、财跃等金融大模型,在理解金融知识、分析金融数据、评估金融风险等方面表现突出;广东省备案的TCL大模型助手、海信星海大模型在向用户提供智能家电产品的功能解释、使用方法、设备远程控制以及售后问题等方面表现显著。要言之,各省份的产业结构呈现出显著的多样性,在深层次上对模型研发的走向产生了关键的塑造作用。模型是生成式人工智能的基石,是直接的监管对象,其自身的技术架构、功能特性、应用领域以及发展态势等多方面因素,必然会实质性地影响监管内容的设计规划。由此,因产业结构不同所引发的模型差异,进一步导致各省份在生成式人工智能监管内容方面呈现出明显的分化,进而形成具有地域特色的监管政策。)。

六、总结

采取有效措施对生成式人工智能进行监管既有助于防范传播虚假信息、侵害个人信息权益、知识产权争议、数据安全和算法偏见歧视等风险,也有利于推动其向上向善发展。生成式人工智能发展至今,多数省份大部分都已明确提出有关生成式人工智能的发展战略,并出台措施加强安全管理与合规发展。本文采用文本分析法,发现各省生成式人工智能监管政策在监管主体、监管对象、监管内容、监管工具上均有所差异。同时,本文还基于路径依赖理论分析了省级政策差异产生原因。各省监管政策受规模经济、学习效应、适应性预期等因素影响,监管政策一旦形成特定路径,就会沿着这一路径不断自我强化与锁定。不同省份在发展初期由于经济结构、制度环境、历史文化等偶然因素形成了不同的监管起点和发展路径。在生成式人工智能监管领域,一些地区由于早期在经济水平、资源、技术等方面具备优势,率先建立了适应信息技术创新的监管模式,随着时间推移,基于已有的监管基础和产业生态,不断完善和深化相关监管措施;而其他地区由于产业发展滞后或初始路径不同,在监管方面表现出与前者不同的重点和方式,从而产生监管差异。基于以上的政策文本比较分析,为了进一步优化我国生成式人工智能监管政策,建议可以重点从以下三个方面进行改革:第一,构建科学合理的中央与省级在生成式人工智能监管政策方面的分工合作关系。中央层面应发挥宏观统筹与顶层设计的关键作用,负责制定生成式人工智能的基础性监管政策,明确生成式人工智能发展的总体方向、基本原则以及安全底线,如确立数据隐私保护的通用标准等。省级层面则需依据中央的统一部署,结合本地区的产业发展特点、技术创新能力以及社会需求,细化落实具体的监管措施。同时,中央与省级之间应建立高效的双向反馈机制,省级政府及其相关部门应及时将本地在政策制定、执行过程中遇到的实际问题反馈上报中央,中央根据省级政府反馈的信息,适时调整宏观政策或对省级政策制定给予指导,从而形成上下联动、协同高效的监管格局,使监管政策具有动态适应性。第二,各省级政府在制定生成式人工智能监管政策时需要因地制宜,灵活多样。不同省份在产业发展战略、经济发展水平、科技实力、人才储备以及社会文化等方面存在差异,因此在生成式人工智能监管政策的制定上需要因地制宜。例如,东部沿海发达省份——广东、江苏、浙江等,可侧重于构建高标准的生成式人工智能监管体系,既需要大力扶持人工智能研发企业,提供研发资金支持与税收优惠,鼓励其在生成式人工智能核心技术上取得突破,提升产业竞争力;又需要强化数据安全与隐私保护监管,建立严格的数据使用规范与内容审查机制。中西部资源型省份——山西、内蒙古等,在传统产业转型过程中引入生成式人工智能技术时,监管重点可放在技术与产业的适配性上,让监管措施服务于提高资源利用率与生产效率的目标,并加强对生态环境影响的监管,确保人工智能应用不会带来新的环境问题,实现经济发展与生态保护的平衡。简言之,各地应立足本地区发展情况,探索特色化的生成式人工智能监管方式,构建既符合国家统一要求,又具有地方特色的监管体系。

第三,需要加强各地在生成式人工智能监管政策形成过程中的交流学习。生成式人工智能作为新兴技术领域,其发展变化迅速,各地在监管过程中面临的问题和挑战既有共性,也有差异。加强交流学习有助于各地相互借鉴成功经验,共同应对新问题。可以定期组织全国性或区域性的生成式人工智能监管政策研讨会,邀请各地政府部门工作人员、企业代表、专家学者等参与,分享在政策制定、执行、评估等方面的经验和做法。同时,建立线上信息交流平台,方便各地及时发布监管政策动态、技术创新成果以及典型案例,促进信息共享。例如,一些地区在生成式人工智能监管方面取得了良好成效,其他地区可以及时学习其先进的监管方式。此外,还可以开展地区间的监管合作试点项目,共同探索跨区域的监管协同机制,解决在生成式人工智能应用过程中涉及的跨地区数据流通、责任认定等问题,提升整体监管效能。作为省级生成式人工智能监管政策的初步探讨,由于篇幅所限,本文对各省政策差异及其成因分析主要还是以二手资料分析为主。后续研究可从以下两个方向展开:一是基于大样本数据,对政策差异和成因进行量化分析,为研究提供更客观的数据支撑,例如可以引入地理距离、经济距离和行政距离的空间计量模型,分析省级政府政策制定过程中的央地互动决策行为与空间扩散模式;二是从微观层面,聚焦各地监管政策执行中的具体差异与典型案例,深入开展实地调研,获取一手资料,剖析各省生成式人工智能监管机制,进而为提升我国不同地区的生成式人工智能监管效能筑牢根基。

文章来源:《电子政务》2025年第5期

    进入专题: 生成式人工智能监管   省级政策   人工智能   大模型  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 政治学 > 公共政策与治理
本文链接:https://www.aisixiang.com/data/163766.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。

评论(0)

Powered by aisixiang.com Copyright © 2024 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统