来源:《法制与社会发展》2026年第6期
摘要:人工智能立法需要处理好经济性规制和社会性规制的关系。经济性规制重在遵循市场经济发展的一般规律,创设一套适配人工智能技术和产业发展独特性的规则体系,保障和促进人工智能的发展;社会性规制意在弥补经济性规制的不足,考量人工智能发展的复杂价值目标,应对人工智能可能给社会带来的危害,使人工智能发展遵循特定的伦理规范。经济性规制和社会性规制在规制对象、规制方式、规制目标、规制应遵循的价值准则和路径等方面,存在较明显的区别。良好的社会性规制有助于降低人工智能发展的合规成本,为经济性规制夯实社会基础、价值基础,提升人工智能技术发展的伦理正当性。目前,立法应建构最基本的规则、原则和制度,划定伦理底线;未来,可针对实践中存在的突出问题进行敏捷回应,矫正立法不足,修正、完善和发展法律制度。
关键词:人工智能立法;人工智能治理;效率;安全;人工智能伦理
引言
人工智能技术和产业正在飞速发展,但也给法律治理带来了诸多挑战。通过立法规制人工智能已经或者正在成为很多国家和地区的立法重点工作之一。截至2026年3月底,多个国家和地区已经出台人工智能法。
中国高度重视人工智能发展、治理和立法。2025年10月,第十四届全国人大常委会第十八次会议表决通过了《全国人民代表大会常务委员会关于修改〈中华人民共和国网络安全法〉的决定》。《网络安全法》新增了第20条,其第1款规定:“国家支持人工智能基础理论研究和算法等关键技术研发,推进训练数据资源、算力等基础设施建设,完善人工智能伦理规范,加强风险监测评估和安全监管,促进人工智能应用和健康发展。”围绕人工智能发展中的突出问题,我国制定了《人工智能生成合成内容标识办法》(国信办通字〔2025〕2号,2025年3月7日发布)、《人工智能拟人化互动服务管理暂行办法》(国家互联网信息办公室、中华人民共和国国家发展和改革委员会、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局令第21号,2026年4月10日发布,以下简称《拟人化互动服务管理办法》)、《智能体规范应用与创新发展实施意见》(2026年5月8日发布)等规章和规范性文件。最高人民法院发布了《关于规范和加强人工智能司法应用的意见》(法发〔2022〕33号)和《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号)等司法文件。相关法律、法规、规章、司法文件及其他规范性文件及时回应了人工智能领域的新型突出问题。
目前,我国正在考虑制定综合性的法律以推动人工智能的发展与治理。2026年4月20日第十四届全国人大常委会第65次委员长会议修改的《全国人大常委会2026年度立法工作计划》将“人工智能健康发展”方面的立法项目列入预备审议项目。国务院办公厅于2026年5月11日印发的《国务院2026年度立法工作计划》(国办发〔2026〕14号)明确提出:“完善人工智能治理,加快推进人工智能健康发展综合性立法”。
人工智能立法是全面依法治国中的重大问题,必须以科学的理念为指导。党的十九大报告强调:“统筹发展和安全,增强忧患意识,做到居安思危,是我们党治国理政的一个重大原则。”因此,推动人工智能治理和立法,必须处理好发展与安全的关系。人工智能立法是中国式现代化建设和平安中国建设的重要组成部分,必须贯彻落实总体国家安全观。这就要求,“必须统筹发展和安全,在发展中固安全、在安全中谋发展,以新安全格局保障新发展格局”。习近平总书记指出:“党的十九届五中全会《建议》首次把统筹发展和安全纳入‘十四五’时期我国经济社会发展的指导思想,并列专章作出战略部署,突出了国家安全在党和国家工作大局中的重要地位。”“坚持统筹发展和安全,坚持发展和安全并重,实现高质量发展和高水平安全的良性互动,既通过发展提升国家安全实力,又深入推进国家安全思路、体制、手段创新,营造有利于经济社会发展的安全环境,在发展中更多考虑安全因素,努力实现发展和安全的动态平衡,全面提高国家安全工作能力和水平。”2018年10月31日下午,十九届中共中央政治局就人工智能发展现状和趋势举行集体学习,习近平总书记在主持学习时强调:“人工智能是新一轮科技革命和产业变革的重要驱动力量,加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。要深刻认识加快发展新一代人工智能的重大意义,加强领导,做好规划,明确任务,夯实基础,促进其同经济社会发展深度融合,推动我国新一代人工智能健康发展。”
2019年公布的《新一代人工智能治理原则—发展负责任的人工智能》提出,全球人工智能发展进入新阶段,呈现出跨界融合、人机协同、群智开放等新特征,正在深刻改变人类社会生活、改变世界。为促进新一代人工智能健康发展,更好地协调发展与治理的关系,应发展负责任的人工智能。2021年公布的《新一代人工智能伦理规范》第8条规定:“加强风险防范。增强底线思维和风险意识,加强人工智能发展的潜在风险研判,及时开展系统的风险监测和评估,建立有效的风险预警机制,提升人工智能伦理风险管控和处置能力。”第12条提出:“增强安全透明。在算法设计、实现、应用等环节,提升透明性、可解释性、可理解性、可靠性、可控性,增强人工智能系统的韧性、自适应性和抗干扰能力,逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。”国家互联网信息办公室于2023年10月18日发布的《全球人工智能治理倡议》提出:“在世界和平与发展面临多元挑战的背景下,各国应秉持共同、综合、合作、可持续的安全观,坚持发展和安全并重的原则,通过对话与合作凝聚共识,构建开放、公正、有效的治理机制,促进人工智能技术造福于人类,推动构建人类命运共同体。”《国务院关于深入实施“人工智能+”行动的意见》(国发〔2025〕11号)提出,“推动人工智能与经济社会各行业各领域广泛深度融合”,“强化政策法规保障”,“提升安全能力水平”,“加快形成动态敏捷、多元协同的人工智能治理格局”。2025世界人工智能大会暨人工智能全球治理高级别会议发表的《人工智能全球治理行动计划》提出,“促进人工智能创新发展”,“开展人工智能安全治理”。
综上,在立法、官方文件和领导人讲话中,都存在人工智能立法要“坚持发展和安全并重”“统筹发展和安全”以及类似表述。不过,本文提出的“经济性规制和社会性规制”的理论范式与“发展和安全”范畴之间,既有区别点,也有内在联系和相同点。其中,“经济性规制”侧重讨论在促进人工智能发展的过程中国家规制人工智能的经济性手段,其最终目标仍然是推进人工智能“发展”。“安全”是人工智能立法追求的重要目标之一,不过,立法追求的目标除了保障“安全”,还包括保护基本权利、在人工智能运用中约束公权力、实现社会正义、实现人工智能发展的价值正当性、服务人类福祉等价值目标。因此,本文使用的“社会性规制”一词既涉及安全价值的维护问题,也涉及其他价值目标的实现问题。
从最终目标来看,“经济性规制”的目标与“发展”目标总体是一致的,但二者也存在不同。“发展”本身指向的主要是一种结果。“按照严格的经济学术语,对‘发展’的传统理解是指实现人均收入(income per capita)的持续增长,使一个国家能够以大于其人口增长率的速率扩大其产出。”新时代,我国应坚持以人民为中心的发展思想,把人民放在心中最高的位置,在发展中保障和改善民生,坚定不移走共同富裕的道路。人工智能的发展主要包含五方面内容:第一,人工智能的基础理论研究取得突破;第二,关键算法、数据技术、芯片技术等技术不断取得突破;第三,智能科技全球竞争力获得大幅度提升;第四,人工智能技术的应用场景不断拓展;第五,形成科学的人工智能治理技术标准、法律法规、伦理规范和政策体系。本文所述的人工智能“经济性规制”的主要目标当然是促进人工智能发展,但“经济性规制”一词主要从保护人工智能发展中的私人所有权、公共经济利益的角度展开,探讨人工智能立法中以契约自由维护、反不正当竞争和反垄断、国家宏观调控等为内容的规制手段和路径问题。因此,“发展”侧重的是目标,“经济性规制”侧重的是手段和路径,二者目标相同但关注的侧重点不同,探讨问题的维度存在差异。
“社会性规制”与“安全”既存在相同点,也存在较大差异。相同点在于,本文所述的人工智能立法中的“社会性规制”涉及人工智能的安全问题。不同点在于,人工智能立法中的“社会性规制”除了考量人工智能的安全价值,还考量安全之外的价值问题,如人工智能发展中的权利保护、公权力约束、社会正义目标的实现,以及人工智能价值向善、服务人类福祉等伦理价值的遵循问题。
安全概念有其特定内涵:
其一,从概念内涵来看,“安全”主要指的是特定主体不受损害、不受伤害或者无危险的状态。关于什么是安全,人们的理解并不完全相同。《现代汉语词典》对“安全”的解释是“没有危险;平安”。“人们对安全最朴素的理解是:安全是人的一种包括身体上没有受伤害、心理上没有受损害、财产上没有受侵害、社会关系上没有受迫害、生存环境没有发生灾害等‘无危险’的存在状态,或者是国家没有外来入侵的威胁、没有战争的可能、没有军事动力的动用、没有核武器的使用等。”从结构上看,安全的内涵包括三个维度:“客观上不存在威胁,主观上不存在恐惧,主体间不存在冲突”。安全包括传统安全与非传统安全。其中,军事、国防、领土安全属于传统安全,恐怖主义活动、核武器扩散等安全问题是传统安全问题的物理延伸;非传统安全指的是网络安全、数据安全、科技安全、生物安全、核安全、太空安全、海洋安全等。
其二,从既有立法来看,国家基于安全目标而出台法律规制的对象主要是危害国家安全的行为。例如,《国家安全法》第2条界定了“国家安全”的概念,明确“国家安全是指国家政权、主权、统一和领土完整、人民福祉、经济社会可持续发展和国家其他重大利益相对处于没有危险和不受内外威胁的状态,以及保障持续安全状态的能力”。从《国家安全法》第2章来看,维护国家安全的任务主要涵盖如下方面:防范、制止和依法惩治“任何叛国、分裂国家、煽动叛乱、颠覆或者煽动颠覆人民民主专政政权的行为”“窃取、泄露国家秘密等危害国家安全的行为”(第15条第2款),“保障经济社会发展所需的资源能源持续、可靠和有效供给”(第21条),依法惩治“网络攻击、网络入侵、网络窃密、散布违法有害信息等网络违法犯罪行为”(第25条),“保障人民赖以生存发展的大气、水、土壤等自然环境和条件不受威胁和破坏”(第30条),等等。《网络安全法》的规制内容主要包括“监测、防御、处置来源于中华人民共和国境内外的网络安全风险和威胁,保护关键信息基础设施免受攻击、侵入、干扰和破坏”(第6条),“保障网络免受干扰、破坏或者未经授权的访问,防止网络数据泄露或者被窃取、篡改”(第23条),维护“关键信息基础设施的运行安全”(第3章第2节),等等。
其三,全国信息安全标准化技术委员会大数据安全标准特别工作组发布的《人工智能安全标准化白皮书》(2019版)指出:“人工智能安全是指通过采取必要措施,防范对人工智能系统的攻击、侵入、干扰、破坏和非法使用以及意外事故,使人工智能系统处于稳定可靠运行的状态,以及遵循人工智能以人为本、权责一致等安全原则,保障人工智能算法模型、数据、系统和产品应用的完整性、保密性、可用性、鲁棒性、透明性、公平性和隐私的能力。”人工智能涉及的安全内容主要包括内生安全、衍生安全和发展安全。“内生安全是由人工智能自身的脆弱性导致的安全问题,通常存在于数据、算法/模型、平台和业务等环节。衍生安全是指人工智能技术在应用于其他领域的过程中,因其脆弱性和不确定性,或者因受到恶意攻击而导致的安全问题,通常包括因恶意攻击、深度伪造和行为操控所导致的应用风险。发展安全是指影响和决定人工智能所处的技术生态能否健康发展的安全问题,通常包括基础研究、应用研究、产业环境、体制机制、人才资源和国际环境等方面。”
其四,从风险类型的学理分类来看,全球人工智能安全治理的对象主要以“风险”为关键词来表述。全球人工智能安全治理的风险正在从技术内生、技术应用、应用衍生三个维度产生。相关风险主要包括四种类型:一是生存性—集中型风险,代表性风险为超级人工智能失控,前沿军事领域过度使用人工智能;二是适应性—集中型风险,代表性风险为前沿模型的幻觉、黑箱、算法偏见等技术内生风险;三是生存性—分散型风险,代表性风险为人工智能滥用导致CBRN(化学、生物、放射性与核)能力失控、大规模认知操控;四是适应性—分散型风险,代表性风险为细分场景应用风险,就业替代、智能鸿沟等应用衍生风险。
“社会性规制”的对象既包括安全问题,也包括安全价值以外的目标的实现问题。在一定意义上,“社会性规制”是对“安全”价值的延伸,因此与“安全”规制在维度上存在一定差异。首先,从相关法条的表述逻辑来看,“安全”概念的内涵与“社会性规制”概念包含的维护法治,保护人权、公民权利和自由等内涵相对有别。例如,《国家安全法》第7条规定:“维护国家安全,应当遵守宪法和法律,坚持社会主义法治原则,尊重和保障人权,依法保护公民的权利和自由。”从法条表达的逻辑可以看出,法治、人权、公民权利和自由等价值,虽然与安全价值存在关联,却是有别于安全价值的不同价值。其次,人工智能的社会性规制高度注重人工智能发展中的伦理维度,而人工智能发展中的伦理问题很难被完全纳入关于安全问题的讨论。依据国家新一代人工智能治理专业委员会于2021年9月发布的《新一代人工智能伦理规范》,人工智能管理、研发、供应和使用活动应遵循增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等基本伦理规范。上述伦理规范强调的增进人类福祉、尊重人权、遵守国家或地区伦理道德、促进社会公平正义和机会均等、帮助弱势群体等问题,无法被“安全”概念全部覆盖,但可被纳入“社会性规制”的范畴。最后,人工智能技术具有中性属性,一些成熟的技术可能不存在安全问题,但技术的运用存在善恶问题和正当性、合理性问题。“人工智能可能会让人类变得更好,但如果被错误运用,它也可能让人类变得更糟。”技术的不当运用可能冲击既有社会秩序和利益,引发社会财富的分配公平问题,冲击劳动者的就业权利。例如,我国自动驾驶立法“区分有条件自动驾驶、高度自动驾驶以及完全自动驾驶三个阶段分别进行法律规则的设计”,体现了基础安全角度的考量,推动技术标准与法律规则的融合;而基于保护劳动者就业权利的考量,“适度限制人工智能对劳动密集型工作岗位的技术替代”,以及为了将自动驾驶替代就业的幅度限制在一定范围内所出台的立法或政策,就涉及社会公平维护与基本权利保护的问题。对于类似问题,依托“安全”范畴的进路无法进行充分的讨论并作出妥当的规制。还需说明的是,从学理研究的角度,围绕“社会性规制”与“安全规制”分别论述,有利于更深入、细致、具有针对性地讨论和阐述不同维度的人工智能立法问题。
从学术研究成果来看,国内学者就人工智能立法中的规制问题展开了诸多研究。纵观既有研究成果,可发现,针对人工智能的“社会性规制”(主要是“风险规制”)是既有研究的突出主题和重心。研究者甚至关注了人工智能安全管理义务及其承担者的刑事责任。社会性规制中的风险规制和治理是既有人工智能法学研究的学术主线。例如,虽有学者提出“立法应以发展与安全并重为指导思想,以促进研发应用与防范主要风险为二元立法目的”,但围绕经济性规制的研究成果并不多,强调“构建重点突出的风险防范制度,动态科学研判风险、包容审慎规制风险”等观点的成果更为多见。
规制人工智能的风险毫无疑问是必要的、重要的、急迫的,且不可或缺,但是,人工智能治理需要面对的问题不仅包含以规制风险为代表的规制,即社会性规制,还包括以促进人工智能发展为重心的规制,即经济性规制。《国务院2026年度立法工作计划》(国办发〔2026〕14号)提出:“完善人工智能治理,加快推进人工智能健康发展综合性立法”。显然,“完善治理”“健康发展”是推进人工智能治理的关键。比较来看,“完善人工智能治理”是手段,“加快推进人工智能健康发展”才是价值目标。在此背景下,过多注重对人工智能风险规制(社会性规制)的研究,遮蔽了关于建构促进人工智能发展的制度(经济性规制)的研究面向,割裂了经济性规制和社会性规制的关系,不利于“加快推进人工智能健康发展综合性立法”和构建科学合理的规制法律体系,也不利于人工智能健康发展。
一、人工智能立法中的二元规制范式——经济性规制和社会性规制
关于人工智能可否被人类规制,存在技术决定论与社会决定论两种理论。技术决定论是一种主张技术不可被控制的理论,认为技术的本质决定了其对社会的影响难以或无法被控制;社会决定论基于社会建构主义范式,认为技术的发展在很大程度上取决于人类的行为与决策。对人工智能进行规制的思路建立在社会决定论而不是技术决定论的逻辑基础上。立法者的目标应是,把人工智能的发展纳入“元政治框架”。
人工智能立法需要的规制维度是多元的,具体规制思路的确立与人们对什么是人工智能的理解密切相关。“如果将其视作一种‘超级智能’,就必须预估失去控制的风险;如果将其视作一门科学,研究人员就必须保证其安全、稳健、公平、可解释等特性;如果它是一个社会技术系统,考虑到它对社会的影响,规制它的方法就不能仅仅建立在不具有强制性的伦理要求之上;最后,如果它是一种技术系统,就应当要求生产者遵从市场准入的要求。”实际上,人工智能还被人们设想为一种“技术—经济”方案。人工智能代表着工业活动,因为相关的经济过程最终是为了提供人工智能的产品和服务;人工智能代表着一种研发活动,人工智能的相关发展成果被申请为专利;当然,人工智能还代表着一种关联性的学术研究活动。显然,从一般意义上来看,对人工智能的规制涵盖了上述所有维度。
传统学理对规制的界定包括,“规制是一系列特定的命令”“规制是审慎的政府影响”“所有社会控制形式都是规制”。例如,塞尔兹尼克对规制的界定是“由公共当局对经由共同体评价的活动加以持续和集中的控制”;布莱克对规制给出的较为宽泛的界定是“有意使用权力,根据既定标准,运用信息搜集和行为修正等工具,来影响其他当事人的行为”。不过,“通常意义上的规制,是指依据一定的规则对构成特定社会的个人和构成特定经济的经济主体的活动进行限制的行为”。规制的目标通常是:保证分配的公平和经济增长,处理不完全竞争与多样化的市场失灵,等等。站在不同立场上,可以对规制作出不同分类,而学者们所依据的分类标准并不完全相同。早在20世纪90年代,日本学者植草益就将规制分为直接规制和间接规制,并将直接规制分为经济性规制和社会性规制。他认为,处理自然垄断和信息偏在问题的规制属于经济性规制,处理外部不经济和非价值物品问题的规制属于社会性规制。森托·维尔杰诺夫斯基也提出了经济性规制和社会性规制的分类。他认为,经济性规制关注企业绩效、产业结构、产出等经济效益;社会性规制关注健康、安全、反歧视等目标,虽然没有明显的经济目标,但会对经济产生影响。虽然学者们对于经济性规制和社会性规制的理解不完全相同,但在规制应在“经济性规制”与“社会性规制”两个维度同步展开这一点上不存在认知分歧。
人工智能规制存在复杂交织的经济、社会难题。目前,全球关于人工智能规制的理论范式主要有以下十种:一是敏捷治理,强调对人工智能变化以及影响的快速感知和快速响应,即防控人工智能风险以促进创新;二是可持续发展治理,强调建立技术层、社会层与管理层相结合的治理结构,关注人工智能对于个人、群体和社会的影响,持续优化人工智能治理机制,促进人工智能可持续发展;三是促进创新式治理,主要目标是为人工智能的快速发展提供支持,避免传统监管方式对创新的限制,鼓励人工智能的创新;四是负责任人工智能治理,强调“负责任创新”的技术基础,强调人工智能的迭代要符合伦理价值以及法律规范,以确保人工智能治理的透明、公平与安全,既注重促进技术创新,也强调为技术发展提供安全护栏,促进人工智能健康发展;五是交互式人工智能治理,强调建立融合人工智能技术发展和技术监管的框架,促进技术发展和监管创新的动态平衡;六是基于伦理与道德的治理;七是责任分配式治理,强调通过人工智能立法为人工智能的研发者、制造商等设定责任,助推监管的顺利展开,平衡人工智能的创新和公共安全,确保技术发展和风险管理并行;八是以人权为中心的人工智能治理;九是反歧视的人工智能治理;十是以构建良好的人工智能治理社会为导向的治理。总体来看,虽然人工智能治理和规制的理论范式很多,但都可被归入两个维度:一是经济性规制,即以促进创新发展为目标;二是社会性规制,即注重防范人工智能的风险,捍卫人类的价值观、人权以及社会秩序与安全。前三种理论范式属于典型的经济性规制范式,第一种范式强调的是规制的效率,第二、三种范式强调的是创新和发展;第六、八、九、十种范式总体则偏重于社会性规制,主要关注伦理、责任、反歧视和人类福祉;第四、五、七种范式则属于兼具经济性规制和社会性规制的范式。
二、人工智能立法中经济性规制和社会性规制的法理依据和基本内涵
立法对人工智能的规制应是多维度的,涵盖多方面的问题:技术发展中的规制标准建构问题,产业发展中的权利边界界定、技术赋权和法律政策促进问题,人工智能场景化应用中的不正当竞争甚至垄断的矫正问题,技术发展或不当应用衍生的社会风险规制问题(如人工智能拟人化互动引发的情感安全问题)和国家安全利益保护问题,人工智能发展冲击传统生产、生活秩序的问题(如人工智能军事应用的边界界定问题),人工智能在总体发展方向上如何不脱离人工智能伦理规则的问题,以及如何把机器的特有功能发挥得尽善尽美的问题(即机器的“德性”问题)。针对这些问题的立法规制均可被归入经济性规制和社会性规制两大领域。韩国人工智能立法中“旨在扶持人工智能产业发展的同时,防范恶意使用带来的社会风险”的表述,印证了立法中存在这种二元规制的基本思路。
(一)人工智能立法中经济性规制的法理依据和基本内涵
通过立法对人工智能进行经济性规制之所以是必要的、首要的,是因为支撑人工智能运行的技术和产业,形成了庞大的经济规模和有别于传统的经济生态。从技术运行的角度,人工智能分为五个层次:负责数据采集的感知层、涉及信息理解与分析的认知层、进行逻辑判断与策略制定的决策层、实现具体操作指令的执行层、完成结果优化与闭环调整的反馈层。从产业发展的角度,人工智能产业可分为五层架构,即英伟达公司首席执行官黄仁勋提出的五个紧密耦合的层级:一是底层,即能源(电力)层;二是芯片层,包括GPU(图形处理器)、CPU(中央处理器)及其他人工智能加速器等硬件,负责将底层的能源高效地转化为强大的并行计算能力;三是基础设施层,即“AI工厂”,包括数据中心、冷却系统、网络、电网设施等重大资产,负责将大量处理器协同起来持续“制造”智能;四是模型层,包括大语言模型(如DeepSeek,由结构和参数组成),是人工智能的“智能”所在;五是应用层,包括药物研发、工业机器人、自动驾驶汽车及各类智能体等具体的产品与服务,是人工智能实现经济价值的最终出口。实际上,技术层反映的是技术自身的运行逻辑,经济层则反映了人工智能经济发展所依托的、不可或缺的经济运行逻辑和产业发展链条。智能经济的发展首先通过创造新产品和新功能推动经济发展。人工智能技术带动了从稀有金属矿业到智能芯片、图像识别,到智能机器人,再到智能医疗应用、智能翻译和无人机等产业的发展。人工智能经济可以大幅度降本增效,加速技术创新和产品研发,塑造一个国家的产业竞争优势。从世界范围来看,全球主要经济体都视人工智能为新经济发展的推动力量。我国发布的《促进新一代人工智能产业发展三年行动计划(2018—2020年)》(工信部科[2017]315号)也将人工智能作为经济产业发展的引擎来定位。2026年4月,美国战略与国际研究中心(CSIS)发布题为“走向成熟的AI经济:前方的政策重点”的研究报告,指出:人工智能正从“新颖的科技噱头”转变为“成熟的经济增长引擎”。当前人工智能经济正面临商业模式转变与政策错配的双重挑战。未来的政策框架不应仅限于规制风险,还应致力于为成熟的人工智能经济构建可预测的制度环境,从而在长期竞争中维持国家的经济领先地位。无论如何,庞大的人工智能经济的发展需要复杂的法律规则为其提供妥当指引和制度支撑。
人工智能固然是经济发展的重要推进力量,但人工智能经济发展处于初期,权利利益复杂交织,权利边界界定规则缺失,充分竞争的规则未完全建立。在此背景下,通过立法建构一套适宜于人工智能技术和产业发展的基本制度体系,十分必要。人工智能立法中经济性规制的核心在于,遵循市场经济发展的一般规律,结合人工智能技术和产业发展的独特性,在既有法律规则的基础上,修改、更新和创设规则,为人工智能技术和产业的发展构造一套适配人工智能发展特性的法律制度。立法规制人工智能发展的基本面向包括:
其一,应建立和完善人工智能技术和产业发展过程中的包括权利确认规则、市场交易规则以及市场竞争规则在内的法律体系。从法学角度来看,人工智能的经济性规制涵盖了诸多新型立法命题:一是人工智能的知识产权保护问题。人工智能是新质生产力的代表。“创新是智能制造的核心动力,每一次技术突破都离不开知识产权的创造、保护与应用”。知识产权可赋能智能制造,可为人工智能企业建立“隐形护城河”。据报道,2025年,“在国内有效发明专利中,信息技术管理方法、计算机技术、医学技术等领域的有效发明专利增速最快,人工智能专利有效量居全球前列”,“中国成为全球人工智能专利最大拥有国”。未来,须以专利制度为支撑,进一步推动人工智能核心技术的自主创新。二是数据确权问题。数据已成为人工智能时代最核心的生产要素,人工智能发展首先应处理好数据处理中的确权法律问题。数据需要确权,也需要析权和限权,这样才能避免数据领域的“公地悲剧”,促进数据流通与合理使用。不过,当法律向数据处理者配置数据财产权时,便会引发其与个人信息权益的冲突,引发个人权利和公共权利的冲突。为此,应构建“数据制作者权(有限排他效力的财产权)和数据使用者权(用户及其他同业经营者的访问权)二元权利结构”;“应在权利保护的同时注重权利限制,包括个人信息权益优先保护、为公共利益、国家安全的数据访问和管理、数据合理使用、数据强制许可,以明确数据财产权效力的合理边界”。当衍生数据较原始数据实现显著增值时,应“遵循意思自治原则确定权属,在当事人没有约定或约定不明确时,则可基于贡献赋权原则与‘数尽其用’原则,由数据处理者享有持有权、使用权和经营权等数据权利”。三是在大模型训练中,从训练数据的获取、处理到输出,面临授权缺失、个人信息保护失范、版权归属不清等风险。为此,“需在完善授权契约、强化数据分类管理、部署技术防线、建设公共合规语料库等方面协同发力”。四是针对生成式人工智能训练语料的个人信息保护问题。为确保服务提供者的个人信息利用需求得到满足,可以在训练端对《个人信息保护法》作适当扩张解释或作出例外规定。同时,服务提供者应严格履行包括实施技术措施在内的个人信息安全保护义务,尽可能降低数据训练给个人信息保护带来的风险。五是在数字技术的强力驱动下,人格权商业化利用的对象已从传统的姓名、肖像、声音,扩展至个人的生物特征、行为数据、虚拟形象、情感与心理特征。例如在直播带货中,出现了形象植入、数字人主播、人工智能陪护、“数字复活”等复杂利用形态。在此背景下,应建立妥当的制度,为评估人格权益受侵害程度、界定商业化利用边界提供更为精细的指引。六是生成式人工智能生成物应否得到著作权保护的问题。有学者认为:“由于用户无法对生成式人工智能生成内容加以控制,故而无法获得著作权法保护”。然而,北京互联网法院在一起案件中延续了“最低限度创造性标准”,认为用户在创作中使用人工智能的行为并不阻断其版权主张,只要用户作出足够的创造性贡献,便有可能成为作者。七是人工智能的产品责任归属问题。产品责任规则的建构应考量区分人工智能产品与服务。技术性标准的制定应特别考量人工智能产品的新安全需求。在免责事由方面,后期缺陷抗辩规则的适用需要考虑人工智能产品的升级更新、自主学习的特点;对于发展风险抗辩规则的适用,宜通过区分不同风险的人工智能、设置跟踪观察义务等方式进行限制。在自动驾驶领域,生产者的产品责任有替代机动车责任的趋势。为了有效地保护受害人,应通过强制保险、机动车责任和产品责任的协调,合理分配自动驾驶引发的损害责任。八是人工智能技术和产业发展中的公平竞争问题,如智能体“跨平台代理执行”引发的问题。它虽然是创新性竞争行为,但是必须满足竞争不构成实质性替代、代理执行不得超出用户授予的最小必要权限、不能超出合理限度等条件。当然,也有主张对用户授权作出“概括授权”解释的声音。其认为,每一次“跨平台代理执行”都取得用户授权既不现实,也不符合智能体发展的趋势和要求。九是人工智能领域的反垄断问题。例如,“大数据杀熟”实际上是平台滥用支配地位实施的“剥削”和“排他”竞争。针对平台滥用市场支配地位的行为,可打通数据要素市场壁垒来进行规制。在规制数字平台排他性限定交易的“二选一”行为,尤其是规制具有市场支配地位的数字平台的排他性限定交易行为方面,私法规范的作用显著不足。对此,可借助公共规制体系中的反垄断法规制逻辑,破解相关难题。十是人工智能技术运用中的劳动者权益保护问题。例如,针对用人单位使用人工智能技术辅助进行招聘、劳动纪律管理、劳动者工作调度等现象,应明确用人单位不得以效率提升为由,变相降低劳动报酬或变相延长工作时长。应确保算法决策的透明度,合理设定算法派单、绩效考核与收入分配规则,建立与劳动强度、劳动贡献相匹配的报酬保障机制和相应的异议与申诉机制。此外,为破解数智时代劳动者的过劳困境,应通过革新劳动基准来实现底线控制,通过对用人单位课以算法善治义务来消除过劳的技术根源。人工智能立法中的经济性规制还与侵权法、专利法、无人机和低空飞行、医疗人工智能、人工智能时代的个人信息保护尤其是敏感个人信息的保护等领域的问题密切相关。上述问题均是人工智能立法中经济性规制的重要制度面向。
其二,应处理好人工智能发展中的宏观调控立法问题或者说弥补市场缺陷的立法问题。人工智能的发展关涉国家经济社会发展和公共利益。人工智能经济的发展虽然离不开市场对资源的基础配置,但无法完全依靠市场来配置资源,也无法完全依靠市场来化解市场失灵问题,国家和政府必须在其中扮演调控者、推进者的角色。人工智能的市场化发展无法自己解决的问题,需要依靠国家宏观调控来解决。一是明确人工智能立法中经济性规制的调控目标。宏观调控立法是受目标约束的立法。当前,经济发展的宏观调控目标大致包括“高质量发展”的核心目标以及在此基础上细化确立的创新驱动、适度增长、可持续发展、共同富裕等子目标。为落实宏观调控目标,《信息产业发展指南》(工信部联规〔2016〕453号)提出了信息产业发展的基本原则,如创新引领、融合发展、市场主导、开放合作、绿色低碳原则。上述目标和原则应成为未来人工智能立法中经济性规制重点考量的方面。二是明确政府为促进人工智能的发展而提供基础设施的义务。人工智能技术的创新和经济产业的发展需要国家提供庞大的基础设施作为支撑。为此,应优化数据中心基础设施建设,推动人工智能领域高质量数据集建设,推动公共数据分类分级有序开放;推动公共算力基础设施建设;支持算法创新,建设、运营针对自主技术的开源平台,推动算法模型交易流通,加强对算法模型的保护。三是出台促进人工智能产业发展的政策和制度。围绕上述目标和原则,人工智能立法中的经济性规制应出台更多促进人工智能产业发展的具体政策和制度。立法应明确,政府应加强对人工智能产业发展工作的领导,组织编制人工智能产业发展规划,指导、协调解决人工智能科技创新、产业培育、应用场景建设和产业生态建设中的重大问题;鼓励公民、法人和其他组织在人工智能领域开展各项创新。在人工智能产业发展方面,政府应统筹各类专项资金,支持人工智能基础研究、技术创新、成果转化、示范应用、人才引进和重要国际合作交流;通过设立人工智能产业基金等政府性投资基金,发挥产业投资基金的引导作用,调动各类社会资源,重点支持人工智能领域早期项目和初创型高成长性企业;重点促进智能计算、大模型、智能体、具身智能、科学智能、智能产品等方面高质量发展。人工智能产业属于高新技术产业,投资风险高,需要国家为初创企业提供税收优惠,以促进其发展。此外,还应建立促进人工智能发展的关联制度,加快建立人工智能发展基本标准和测评体系,推动智能体的政府采购,引领人工智能专业人才培养,为人工智能发展营造良好的制度生态。
人工智能的经济性规制既包括私人所有权保护的问题,也关涉公共经济利益维护的问题。鉴于此,经济性规制应尊重市场规律,通过确权为人工智能发展奠定制度基础,通过保护社会权益和公共利益来提升人工智能发展的正当性。在法律调整方式上,可采用民法中的契约自由原则、市场自由原则,经济法中的产品责任原则、反不正当竞争和反垄断原则,社会法中的社会权利保护原则来调控利益,为人工智能的良善发展奠定良好的私权制度基础和公益保护制度基础。当然,毫无疑问,人工智能立法中的经济性规制的目标在于,在尊重市场经济规律和实施合理宏观调控的基础上,通过法律和法政策保障人工智能主体的权利,促进人工智能长远、可持续发展,提高发展效率,提升国家在全球人工智能发展中的竞争力。
(二)人工智能立法中社会性规制的法理依据和基本内涵
对人工智能发展进行社会性规制的主要缘由在于:
第一,在人工智能发展中,存在经济性规制无法解决的问题,需要社会性规制弥补经济性规制的不足。例如,存在技术风险、伦理选择、权利保护、权力规制、应用的正当性等复杂的问题。这些问题无法用遵循成本收益分析、促进经济发展或技术创新的逻辑和思路去规制。因为风险规制、权利保护、权力约束和促进人类福祉等目标,与追求经济发展和技术创新的目标虽然存在一定的契合性,但两大类目标的价值选择和排序存在较多差异。
第二,人工智能立法需要考量复杂的社会价值目标。人工智能立法面临的问题不单单是发展问题,还包括发展目标之外的复杂价值取向问题:一是,如何在推进人工智能发展中从技术和法律上落实人类自主原则的问题。二是,如何在推动数据开放与流动、提升人工智能自动化决策水平的同时,有效地保护个人隐私、个人信息尤其是敏感个人信息的问题。三是,人工智能发展会带来更加复杂的安全问题。立法需要提升理念,以更合理地应对人工智能应用引发的新型国家安全问题。例如,车联网服务平台依靠智能汽车的摄像头、雷达等传感器,持续获取道路环境、地理空间以及交通参与者信息,数据处理和跨境流动已超出传统个人信息保护的范围,危及了国家安全等公共性利益。为此,国家在立法的时候,不仅应考量静态的安全问题,而且应考量数据动态流动和智能体应用中的国家安全保护问题。再如,具身智能的安全发展需要立法为开发者、提供者设定合理的安全保障义务,设置人类控制与紧急干预机制;同时,立法需要为使用者设定合理的边界,禁止其利用具身智能实施危害国家安全、公共利益或者他人合法权益的行为。四是,可信人工智能发展的问题。可信人工智能发展的内在要求是,必须保障人工智能的技术安全,通过社会伦理引领人工智能遵循以人为本、人类主导、技术中立等外在准则,捍卫现代法治的传统和宪法确认的公民基本权利,维护人类福祉。五是,从技术上讲,人工智能发展还面临很多技术被滥用的问题,如声音侵权、通过境外网站以“AI换脸”技术制作虚假验证视频进行实名账号认证、非法控制计算机系统等问题。总之,立法既需要确立人工智能安全发展的原则,也需要针对具体的场景化应用中的安全问题设定合理的安全保障规则和技术标准。
第三,立法需要应对人工智能应用可能给社会带来的危害。人工智能是技术属性和社会属性高度融合的颠覆性技术。其不当应用可能给社会带来危害,可能给社会治理带来新挑战,“存在改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,对政府管理、经济安全和社会稳定乃至全球治理产生深远影响”。人工智能还可能存在潜在的危害,如加剧偏见、取代工作岗位、扩大社会不平等、催生具有破坏性或可能被用于制造灾难性后果的工具。全球范围内的人工智能超级竞赛可能危及全球安全。
人工智能立法中的社会性规制强调,通过立法把人工智能的发展纳入妥当的范围,框定在特定的价值之内。立法关于人工智能的社会性规制的常见表述为“风险规制”,其重点关注人工智能的技术“风险”或社会“风险”。从立法者的视角来看,“风险”构成了人工智能立法的主要规制对象,预防或降低风险构成了人工智能立法规制的正当化依据,规制风险是人工智能立法决策和法律制度构建的重心之一,风险规制法律构成关于人工智能可问责性和规制合理性的评估框架的依据。欧盟《人工智能法》是风险规制立法的典型。其立法的总体思路是,人工智能的风险越高,立法对其规制的力度越强。“以欧盟《人工智能法》为代表的立法将风险分为产品风险与基本权利风险,将风险级别分为禁止性风险、高风险、有限风险和最小风险,并对生成式人工智能与大模型作出特殊规定。”需要注意的是,基于风险规制的立法模式遭到了诸多质疑,如关于风险的性质的争议、对于议题高度政治化的批评。对于选择关注何种风险,对风险给予多少关注,谁应参与决定过程,如何作出合理且稳定化的决定等,人们也都存在诸多争议。
虽然对于人工智能技术给社会发展前景带来的影响不同主体的看法可能存在较大差异,但综合来看,多国的社会性规制的主要对象是人工智能发展伴生或者可能引发的诸多风险。具体的针对性议题包括技术自身运用的正当性、技术对私权利的侵蚀、自动化行政使用人工智能技术的正当性、人工智能技术运用引发的权利保障难题等。显然,立法关于人工智能的社会性规制的核心是,回应人工智能技术运用于社会的道义正当性问题。
一是有效约束人工智能技术对权利的侵蚀。第一,虽然技术是中立的,但技术运用面临正当与否、是否会侵犯人的权利的法律追问。例如,在秉持价值导向型人工智能市场观点的主体(如欧盟委员会)看来,建立一个符合价值观的人工智能市场是其核心目标。欧盟将自己定位为数字时代基本权利与价值观的守护者,于2024年通过《人工智能法》,明确其核心政策目标就在于,保护基本权利免受人工智能的有害影响。欧盟立法者基于风险比例的评估方法对人工智能进行评估,依据人工智能系统对基本权利造成的风险的等级高低,将人工智能系统的风险评估为不可接受的风险、高风险、低风险等,进而出台禁止使用、在采取必要保障措施的前提下允许使用等规制措施。基本权利成为禁止人工智能被用于特定用途的规范性依据,构成了区分低风险与高风险人工智能系统的核心标准。基本权利既是区分人工智能系统的核心标准,也是区分《人工智能法》相关规制制度的核心标准。实际上,人工智能的发展不但给基本权利带来了诸多挑战,还对许多非常具体的权利造成了冲击。例如,深度伪造技术的应用就可能对人们的肖像权、声音权造成侵犯,人脸识别技术的不当运用就可能侵犯人们的敏感个人信息。作为采集敏感个人信息的一项技术,人脸识别技术虽然有助于提升社会治理水平,但衍生了权力滥用风险。因此,其使用的范围、方式、领域都需要法律的规制。这既涉及公共视频监控布设的正当性问题及采集数据的合理性问题,也涉及个人为了维护自身安全布设视频监控可能引发的民事侵权的问题。第二,人工智能立法需要有效解决人工智能发展中的数据权利保护问题。人工智能的发展与数据的处理过程密不可分。在人工智能时代,个人数据被用于大模型训练,对个人数据的保护面临更为复杂的动态实践挑战。例如,平台的个性化信息推送必然以动态监测个人在线数据为基础,通过大规模收集用户的私密信息,分析用户的偏好,完成信息的个性化推送,实现商业利益的最大化;人工智能的训练必然离不开数据和个人信息;人工智能技术的开发和运营必然会与自然人的数据紧密连接。在此过程中,个体的数据隐私权利容易被侵犯。虽然不同国家和地区对于数据隐私权利的宽泛程度有不同理解,但注重隐私保护的国家和地区通常会通过颁布立法、规范性文件和技术标准,强化对个人隐私的保护。例如,欧盟GDPR的制定目标是,既促进数据自由流通,也保护个人信息和隐私。其为此设定了处理个人数据的几项原则:合理合法处理原则,目的限定原则,数据最小化原则,准确原则,有限留存原则,完整、机密原则,数据主体权利原则,知情权原则,反对权原则,不受基于自动化处理所作出的决策的约束的原则。再如,为了更好地保护个人隐私,香港个人资料私隐专员公署于2021年8月出版了《开发及使用人工智能道德标准指引》,于2024年6月出台了《人工智能(AI):个人资料保障模范框架》。目的在于,协助企业以合乎道德、负责任和隐私友好的方式使用人工智能,促进产业创新,推进香港数字经济发展,加快把香港建设成为国际科创中心。后一文件明确:对人工智能系统的风险评估需要考量其使用的个人资料的数量、敏感程度及质量。如果人工智能系统的输出结果会对个人隐私权产生重大影响,那么其就会被视为高风险系统。由于人工监督是降低人工智能风险的重要举措,因此,针对风险较高的人工智能系统,须存在较高程度的人工监督。此外,随着人工智能拟人化互动技术的发展,通过完善的立法防止人工智能实施情感操纵,防止人工智能为用户设置情感陷阱,密切跟踪拟人化互动技术可能引发的严重社会问题并开展针对性规制,是必要的。
二是合理规制算法技术和自动化行政对人的权利的侵蚀。第一,立法需要回应算法技术运用的不合理问题。由于算法是人工智能的技术要素,因此,规制算法成为人工智能规制的首要问题。广义上的算法可被视为一种建构社会秩序的特殊理性形式。“算法崛起对法律规制提出了挑战,它可能挑战人类的知情权、个体的隐私与自由以及平等保护。”依靠掌握的海量数据,算法甚至发展成为一种新型权力,可能会作出决策,也可能会影响人的行为。这是一种隐形的权力,但是会支配人的行为。一方面,算法不合理引发对人的压迫。例如,外卖骑手“困在系统里”的现象折射出算法系统的不合理设计可能催生新的社会问题,对劳动者构成不合理的压迫。另一方面,算法存在歧视问题。它可能存在于金融信贷发放的资格审查中,也可能存在于医疗诊疗方案的选择中,还可能存在于招聘领域。例如,在招聘领域,人工智能可能基于种族、性别、宗教、民族、身体状况等筛选求职者简历,导致违反平等就业原则的情形。“应当禁止利用算法对属于某些种族、信仰、性别的群体进行区别对待,以防止恶意歧视”。第二,应合理规制自动化行政的运用。自动化行政的基础是数据,这些数据通常会涵盖社保、医保、税务、医疗、房地产所有权登记等信息,甚至涵盖特定主体的网络检索、动态支付、位置隐私信息,以及商业交易秘密等。智能化执法技术可使人工智能具备“看”“听”“读”“嗅”能力,使执法者可以越来越多、越来越便利地发现和惩罚违法行为。智能化执法如果不能受到应有的程序约束,就可能导致个体的数字信息、个人隐私乃至商业秘密等方面的权利遭受公权力的侵蚀。鉴于过度的数据采集和智能化执法属于压制性措施,可能会给社会带来压迫,并不完全符合“社会的预期”,因此,人们需要在立法层面进行考量和选择的深层问题是,要不要选择智能化执法模式?
三是维护人工智能安全。第一,人工智能可增强网络安全,但同时,立法也需要防范恶意攻击者针对人工智能模型发起攻击所带来的安全风险。人工智能的安全包括安全性与安保性两个相互关联的维度,安全性是指系统防范自然灾害、人为失误等非恶意原因所引发的有害后果的能力,安保性是指系统在面对故意攻击行为时仍能维持机密性、完整性与可用性等特性的能力。当然,各国对人工智能安全的理解存在分歧:美国将人工智能安全的首要目标确定为,维持国家技术竞争优势与保障技术扩散能力;欧盟则重在规制不可接受的人工智能风险;中国则围绕数据、算法、模型、算力、应用及基础设施等要素,分别设定安全基线与合规义务,将安全目标嵌入研发、训练、部署与应用全过程。此外,还应注意到,在不同领域,对安全的要求不完全相同。例如,金融领域的安全维护涉及数据治理、算力建设、模型开发等环节,需要金融机构“在外包策略、数据安全、集中度管理等方面建立管理机制”;医疗人工智能领域存在基础模型安全(保障模型合规性、来源可信性和使用可审计性,贴合医疗行业监管要求)、训练数据安全(贯穿数据获取到数据集构建全过程,紧扣医疗数据隐私性、敏感性、合规性特点,以闭环防护提升训练数据安全性与合规性,保障患者隐私与数据资产安全)、医疗大模型安全、业务应用安全(包括生成内容安全、账号风险控制)等。第二,对立法来讲,推动人工智能安全治理的核心是推动“人工智能安全标准化”。必须推动人工智能安全治理从“被动应对”转向“主动预防”,从“外生安全”转向“内生安全”。外生安全是指,先把人工智能开发出来,再通过外挂安全护栏、打安全补丁等方式应对安全威胁。这种方式适用于基准风险,但修补速度往往跟不上技术迭代速度。内生安全则要求从底层设计入手,从源头构建安全能力,主动抵御演化式风险。这是应对中等和极端风险的根本途径。人工智能安全维护是一个系统化过程,因此应构建涵盖人工智能安全目标(如应用合法、功能可靠可控、数据安全可信、决策公平公正、行为可以解释、事件可以追踪)、人工智能安全分级(如划分为架构安全、被动防御、主动防御、威胁情报、反制进攻等层级)、人工智能安全技术(如技术安全中的业务合规评估、攻击安全检测、恶意应用检测、业务安全机制,算法安全技术鲁棒性增强和算法安全评测,数据安全技术中的数据隐私计算、数据安全检测,平台安全中的漏洞挖掘修复、模型文件校验)和人工智能安全管理系统的人工智能安全框架。第三,在广义上,人工智能的安全问题还涵盖是否应允许致命武器完全自动化的问题。虽然由各国政府专家组成的小组就该议题尚未提出解决方案,不过,即使致命自主武器不被广泛部署,人工智能仍可能增强常规武器的能力。人们应致力于限制极具破坏性、不稳定性和不可预测性的人工智能的开发和利用。人工智能存在的安全困境主要在于人身安全、数据安全和隐私安全,立法很难用统一的规则去规制。针对不同领域的规制有其独特性,需要匹配特定的规则。因此,欧盟明确其《人工智能法》不适用于国家安全、军事和金融领域或需协调的领域。
四是规制人工智能技术应用引发的社会伦理问题。第一,人工智能技术应用本身面临复杂的伦理问题,例如公平性、准确性、问责制、安全性、隐私保护问题。再如,包括机器学习、深度学习、自然语言处理和计算机视觉在内的各类人工智能技术,冲击现有规范、价值观及权力结构。“人工智能技术的发展,须以用户信任为前提。人工智能的信任须建立在技术安全、确定性的法律管控和社会伦理正确引领的基础上。”人工智能伦理关涉人类设计、制造、使用和对待人工智能系统的道德问题,机器伦理中的机器行为问题,以及超级人工智能的奇点问题;既可能存在于技术层面,也可能存在于数据层面,还可能存在于应用层面。人工智能伦理要求,在人工智能发展中,必须同时回应隐私泄露、偏见歧视、技术滥用、权责归属等问题。从伦理角度审视,人工智能的规制须符合人类根本利益原则和责任原则。第二,立法必须对人工智能技术应用可能引发的社会伦理问题预先作出合理规制。人工智能的不当应用可能在广泛领域引发社会治理难题,例如就业权利保护和社会保障难题、公平问题、安全困境与道德伦理问题(如歧视)。再如,随着生成式人工智能技术的普及,在学术研究中如何合理应用生成式人工智能技术,就成为需要认真对待的问题。《中国社会科学院人工智能辅助科研基本规范(试行)》(社科研字〔2026〕6号)为全体科研人员明确划定了10条刚性“禁用红线”,例如:“严禁由人工智能完全替代科研工作等滥用行为;严禁利用人工智能实施洗稿、抄袭、剽窃等学术不端行为。”“严禁利用人工智能批量炮制低质重复、缺乏学术逻辑、学术创新与理论价值的科研成果,破坏科研生态。”据报道,美国芝加哥大学法学院正式发布的《AI时代法律教育战略》宣布,自2026年秋季学期开始,JD一年级(1L)核心课程将试点全面禁止学生在课堂上使用笔记本电脑、平板电脑和手机。上述两则关于限制或禁止使用人工智能技术的规定,虽然针对的是特定领域的人工智能技术使用问题,但反映了人工智能应用的伦理边界的深刻问题:在什么场景下,可以使用人工智能技术?在什么场景下,应限制或者禁止使用特定人工智能技术?对技术的限制使用的边界如何被界定?无论如何争议,有一点人们达成了共识,即人工智能技术的应用不是无边界的、毫无禁区的。从立法的角度需要深度思考和评估的问题是,人工智能社会化应用的边界到底在哪里?对这一问题的全面系统回答需要复杂的论证。然而,当出现以下三类情形之一时,应通过立法为人工智能技术的应用设定边界:一是人工智能技术的应用可能导致人类教育体系的崩塌,引发人类思维能力、理论思考能力、分析和解决问题能力的退化;二是特定人工智能技术的应用严重冲击了既有社会秩序,严重侵犯了宪法规定的公民基本权利;三是人工智能技术的应用完全背离某项人类事业的初衷。例如,针对前述“全面禁止学生在课堂上使用笔记本电脑、平板电脑和手机”的禁止规定,芝加哥大学法学院给出的理由十分明确:法律教育首先应培养独立思考的能力,其次才应培养使用人工智能的能力。在人工智能对就业形成大规模替代的场合,可以遵循以下原则限制人工智能技术的使用:人工智能技术的创新性发展必须在维护国家安全、遵循开发者伦理等前提下进行;适度限制人工智能对劳动密集型工作岗位的替代;鼓励人工智能技术应用在危险性劳动领域的发展,限制人工智能技术应用在普通劳动领域的扩张;鼓励企业更多使用人类员工,而不是放任企业无限度地使用人工智能并大幅度裁员。第三,人工智能立法的社会性规制面临的更深层次的问题是,如何处理人机关系,从立法上为人机关系作好定位?既有关于人机关系的基本伦理原则(如尊重人的主体性、以人为中心、增进人类福祉、促进公平公正、负责任的设计和部署、人类监督)应被纳入立法,作为规制人工智能技术应用的指导性原则或者兜底性原则,以引导人工智能的合理发展。
四、注意义务的标准:“理性人”标准抑或新的“合理的人工智能”标准?
经济性规制和社会性规制的领域不同,目标不同,遵循的理念也不同。这就要求在推动人工智能立法时,必须注意到其中的差异,针对不同领域出台符合各自领域规制目标和内在规律的制度。传统上,经济性规制的领域主要为商业、企业、金融与竞争监管,社会性规制的领域主要包括健康、安全、消费者保护和环境。经济性规制基于效率与竞争的价值观,纠正降低特定市场中经济效率或竞争水平的市场失灵;社会性规制的目的,一是处理市场失灵所导致的有害影响,如外部性、集体行动难以协调的问题,二是反映更广泛的社会价值观,如正义、公平、公正,社会凝聚力或团结精神,以及增强信任。不过,二者在实践中无法截然二分。在经济性规制中,正义、公平、公正,社会凝聚力和信任等价值居于相对次要的地位;而在社会性规制中,效率、竞争与创新居于次要地位。上述原理启迪我们,应遵循人工智能立法中经济性规制和社会性规制的基本原则、原理和内在规律,出台法律制度。
(一)人工智能立法中经济性规制和社会性规制的差异
在人工智能立法中,经济性规制和社会性规制存在以下差异:
一是规制对象的差异。在人工智能立法中,经济性规制的重点是促进技术和产业的发展;社会性规制则侧重于预防或者消灭技术漏洞及其可能引发的侵权风险,预防、减缓或者消灭技术被平台主体或者公权力主体滥用导致的对现代法治确立的人的基本权利的侵犯,以及预防技术和产业发展可能引发的大规模社会灾难问题或严重违背人工智能伦理的问题。
二是规制方式的差异。经济性规制注重的是赋权和赋能,即通过权利的初始界定,划定人工智能开发者、提供者和使用者的权利边界,为人工智能发展夯实权利基础,为人工智能的研究、开发、服务注入制度动力。其通过设定合理的法律制度、技术标准和经济交往规则,在人工智能技术和产业发展过程中保障契约自由和平等竞争,预防与杜绝技术和产业垄断带来扭曲市场自由发展的问题。从促进发展的角度,经济性规制还包括出台积极的法律制度和财政政策,为初创的人工智能企业提供特别的帮助和支持,创造有利于人工智能技术和产业发展的制度环境。社会性规制则应注重预防人工智能风险、引导人工智能的总体发展方向,预防、减缓或者消除人工智能发展可能引发的消极影响,注重对从业主体的行为约束和对违法行为的惩戒。社会性规制的主要方式包括:对人工智能的风险作合理的评估,在此基础上出台预防性法律制度,预防、减少或者消解可能出现的社会风险;设定管理规范或技术标准,为人工智能设定行为边界或者法律后果,建立人工智能的宏观治理体系,其内容应兼顾人工智能发展的目标、明确治理应坚持的原则;建立人工智能评估和监管体系、管理制度,划定国家介入人工智能的方式和范围;为人工智能从业主体设定合理的合规义务和法律责任。
三是规制目标的差异。从规制的直接目标来看,经济性规制的直接目标是,促进技术和产业的发展,提升发展的效率。社会性规制的直接目标是,明确人工智能发展的总体方向和基本原则,建立人工智能治理的基本框架,保障人工智能发展的安全,预防人工智能发展的风险,预防、矫正人工智能技术和产业在发展中可能出现的负面后果,确保人工智能的发展服务于人类福祉。
四是价值取向的差异。从价值取向来看,经济性规制追求的是促进技术创新,提高经济效益,赋能社会治理和进步。社会性规制注重的是正义,通过设定人工智能发展的法律边界和伦理边界,以及预防或者消灭社会风险,来维护人工智能的发展安全,提升人工智能发展的社会正当性和可信性。社会性规制总体上强调伦理和道德、人权保护、反歧视、国家安全和价值向善。换句话说,针对人工智能的社会性规制的基本价值在于,捍卫人工智能技术和产业发展的正当性价值,预防或化解人工智能发展引发的社会问题,坚守人工智能发展的伦理准则,消解人工智能发展的伦理风险。“人工智能伦理风险是指因人工智能技术研发应用带来的不确定性后果而产生的人与机器、人与人、人与自然关系的负效应问题,当前主要包括人类决策自主受控、侵犯隐私、偏见和歧视加剧、安全责任划归困难与失当、破坏公平、生态失衡六大类风险。人工智能伦理风险源于技术—人—社会—自然之间的复杂交互,主要包括技术内生型伦理风险和技术应用型伦理风险两大生成路径。”社会性规制意在防止人工智能的发展大幅度冲击现代法治确立的基本权利;防止人工智能的发展背离现代法治确立的约束权力的基本原则;确保人工智能的发展符合目标正当性原则、符合人类伦理,给人类社会带来福祉,而不是对人类生活秩序造成严重冲击。
五是规制路径的差异。人工智能立法中经济性规制的基本路径之一是放松规制。放松规制的目的包括为社会提供多种新的服务、降低收费水平、促进技术革新等,也包括鼓励竞争,通过引进竞争减少垄断,建立竞争性的社会发展结构。基本路径之二是,出台支持和促进人工智能发展的法律制度和政策。核心是,国家承担更多促进人工智能发展的责任,出台更多支持性的措施和政策。例如,国家从顶层设计法律制度和政策,明确人工智能发展的基本方向;承担更多的促进发展的责任和义务,加强数据基础设施建设,建立权威的数据库;支持算力基础设施建设;大力发展人工智能基础设施和基础研究,营造开放的智能体发展生态;采取税收优惠或税收抵免政策,支持人工智能新兴企业的发展。人工智能立法中社会性规制的具体路径包括:划定人工智能发展的基本边界和底线;制定管理清单,建立人工智能产业发展的准入和退出机制;建立人工智能发展协调机制,核查和处理人工智能发展过程中的违法行为;建立人工智能发展的安全预防制度和应对机制,填补人工智能发展中的安全漏洞,处理和化解人工智能发展的安全危机;建立人工智能发展的法律审查和伦理审查机制,为人工智能发展指引方向,矫治人工智能发展中严重侵犯基本权利的问题以及伦理偏差问题。
(二)人工智能立法中经济性规制和社会性规制的内在关联
在人工智能立法中固然存在经济性规制和社会性规制的二元划分,但这一划分只是相对的,不是绝对的,是一种逻辑意义上的划分,且这一划分本身就带有一定的“理想类型”色彩。在实践中,人工智能立法中的经济性规制和社会性规制密不可分,二者之间存在动态关联、相互影响的关系,因此,我们不能孤立、片面、静态、僵化地理解人工智能立法中的经济性规制和社会性规制问题。
一是,有些问题同时涉及人工智能的经济性规制和社会性规制。例如,为支持人工智能发展出台的税收减免、抵免或者财政支持措施,既有助于实现经济目标,也有助于实现社会目标(如降低污染水平、发展绿色人工智能)。同样,社会性规制措施(如政府激励或施压措施)既能实现社会目标,也能实现经济目标(如促进本地投资或遏制反竞争行为)。再如,隐私保护看似是一个权利保护问题,但是很显然,一个无法有效保护个人隐私的人工智能产品或者服务,是难以被人们接受的。从这个角度来看,立法规制人工智能产品或服务中侵犯隐私的行为,是为了人工智能更好地发展。
二是,良好的社会性规制有助于促进可信人工智能的发展,为经济性规制夯实社会基础、伦理基础,提升人工智能经济发展的伦理正当性。例如,自动驾驶技术需要采集和处理车内人员的图像、音频数据,车辆位置数据,车路协同数据;其对个人数据的处理涉及个人信息、隐私保护;其对地理数据的采集涉及国家安全。因此,只有保护好个人隐私和国家安全,才能将自动驾驶技术的发展纳入妥当的制度轨道。再如,在推广人工智能医疗技术时,立法者和医院制定适合新技术环境的责任规则,能够有效地为人工智能的部署设置细致入微的、情景化的标准。当医疗人工智能只承担辅助医疗的作用时,应制定适当的具有激励性的注意标准,让医护人员或者医疗设备的制造商对本来可预防的不良后果承担责任;当人工智能取代熟练的专业人员从事医疗行为时,人工智能系统的供应商应就错误和事故承担责任。合理的责任设定有助于促进人工智能发展的专业化、技术的自我审查和改进。针对设置责任会过度阻碍创新的担忧,可设置损害赔偿上限,以优化对技术推广的激励。
三是,过多的社会性规制会对经济性规制带来负面影响,如大幅度增加人工智能企业的合规成本,抑制人工智能的技术创新,减缓或者阻碍人工智能的发展。欧盟人工智能规制政策的转型印证了这一点。例如,随着《人工智能法》的正式通过,欧盟建立了迄今为止最为全面的人工智能监管体系。《人工智能法》被认为是高度关注风险规制的法律,但法案一出台,就引发了风险规制可能增加人工智能发展成本的担忧。“法案首先明确禁止了某些存在不可接受风险的人工智能系统,然后重点规制高风险人工智能系统,任何在欧盟市场上提供此类系统的企业都必须满足法案规定的从风险管理、数据治理到全面的记录义务等诸多要求。但是,法案的监管要求可能造成小微企业负担过重,模糊的规定也可能导致实施方面的困难。”实践证明,过多的社会性规制的确会影响技术的发展。然而,就在法案生效之际,欧盟的人工智能政策出现了值得关注的新动向:欧盟开始更加强调创新和竞争力提升,并在立法和实施层面推进“简化监管”工作。自2024年9月以来,欧盟委员会将提升人工智能竞争力作为首要任务,强调构建强大、有竞争力、创新的人工智能生态系统。从强调监管领导力转向注重竞争力提升是欧盟人工智能政策的新动向。背后的深层原因之一在于,在全球科技竞争日趋激烈的背景下,欧盟具有对自身技术创新能力不足的担忧和对产业竞争力下滑的焦虑。总之,良好的经济性规制既是社会性规制的构成性因素,又可为推进社会性规制提供良性的经济和社会基础。
四是,要认识到,人工智能立法中的经济性规制和社会性规制都不可能是一劳永逸的事情。原因在于:其一,人工智能的快速迭代属性决定了,立法无法通过一次工作就建立完美的规制框架,完成对所有事项的规制。其二,人工智能是一项快速成长的技术,技术远未定型,技术的运用场景也正在不断拓展。这就决定了,目前针对人工智能进行的立法,难以完全回应和化解人工智能技术和产业发展中的一切问题,难以做到“毕其功于一役”。其三,人工智能技术和产业发展的复杂性决定了,立法目前只能建构最基本的规则、原则和制度底线,只能为人工智能发展划定一个大致和基本的框架,反映立法中的基本原则和伦理价值目标,但无法通过一次工作就建立起全面细致的人工智能规制的法律体系。
(三)如何在人工智能立法中协调推进经济性规制和社会性规制
从宏观角度来看,立法对人工智能发展的保障突出体现在:一是引领人工智能的总体发展方向,推动人工智能技术和产业发展行进在正确的轨道上;二是化解人工智能发展的制度障碍,为人工智能发展提供良好的制度保障,或通过促进型制度直接促进人工智能技术和产业的发展;三是保障人工智能发展的制度设计始终秉持正确的价值目标,促进人工智能可靠、可信、安全发展;四是明确人工智能法律主体的权利、义务和责任,增强制度的可预测性;五是促进中国更好地参与人工智能的国际治理。
首先,立法的经济性规制应包容、支持人工智能技术和产业的发展。遵循经济性规制的一般规律,立法应采取包容审慎监管和政策支持相结合的基本思路:
一是,立法应遵循最小干预原则,以包容性的立法思路为人工智能技术和产业发展提供自由的空间。强监管的人工智能治理和立法模式不利于人工智能的发展,不是支持负责任创新的最有效方式。原因在于:立法对企业施加严苛的监管要求,可能会阻碍人工智能技术创新,削弱国家技术快速进步的能力;复杂、不协调的监管政策可能导致小企业的合规成本大幅度增加,甚至小企业大量退出市场,从而抑制创新与竞争。包容审慎监管遵循规制试验主义的逻辑,是探索试验型规制的新型监管方式,注重为命令控制型的监管体系注入创新友好、灵活包容的延展空间。采取包容、支持人工智能技术和产业发展的立法思路,有助于破除阻碍人工智能创新的制度障碍,减少监管不确定性,推动技术进步、经济增长、社会繁荣,更有助于提升国家的国际竞争力。
二是,任意性规范、授权性规范和促进型规范应成为立法促进人工智能发展的主体内容。第一,应以任意性规范为基准,设定人工智能治理的基本制度。任意性规范为立法提供的一个基本预设是,“行为或行动若未被详细立法明确规范,则不在监管体系的管辖范围内,从而为公民创造实质性的自由空间”。应主动通过制度留白的方式,给技术、企业、产业发展和技术应用留足创新空间。第二,应以授权性规范为保障,明确人工智能开发企业的权利。第三,应以促进型规范为抓手,积极支持人工智能技术、企业、产业发展,推动人工智能技术的场景化应用。制定促进型规范是国家干预经济和社会发展的新手段,更多倡导政府主导下的社会参与。促进型制度是“激励”制度的直接体现,其通过大量促进型规范促进特定领域的发展,具体形式包括规划促进、财政税收促进、金融促进、产业促进等。促进型规范“不以约束、义务、强制、处罚为主要内容,而将重心放在提倡、权利、鼓励、奖励”。人工智能发展的促进型规范应侧重于引导、鼓励甚至直接支持人工智能的发展,将支持性、促进性的举措或政策以法律形式固定,不过多设置限制性制度,以推动技术创新。因此,立法一方面应高度关注实践中的制度瓶颈问题,为人工智能企业发展“减负”,如实施税收抵免政策、审慎设定强制履行的义务;另一方面应为人工智能发展赋能,更多地提供支撑发展的法律制度,如出台资金、技术、知识产权、财政税收等方面的法律制度,支持企业技术创新。实际上,2025世界人工智能大会暨人工智能全球治理高级别会议发布的《人工智能全球治理行动计划》的内容大多是关于促进人工智能发展的,总体上体现了我国促进人工智能发展的立法思路和态度。因此,未来的立法应注重大幅度增加促进人工智能发展的法律制度。
三是,合理设置界定不正当竞争和垄断的原则性条款,规制阻碍人工智能市场自由竞争的行为。第一,在数字和人工智能经济发展中,一些具有较强创新能力的公司通过数据训练、优化而形成的人工智能模型结构和参数,能够为其带来创新优势和经济收益,应被列为反不正当竞争法的保护对象。随着人工智能从生成式人工智能向代理式人工智能的发展,对于智能体跨平台代理执行到底是属于正常的商业行为还是属于不正当竞争行为,在实践中出现了认识分歧。在相关案件中,人们争议的实质性法律问题是:“智能体跨平台代理执行经过用户授权而未经第三方平台授权,是否构成不正当获取、使用其他经营者合法持有数据的行为?”对此,有学者主张,智能体跨平台代理执行可推动市场竞争从“存量流量争夺”向“增量价值创造”升级,重构整体市场竞争秩序,因此,它属于创新性竞争行为。然而,如果类似创新性竞争行为足以构成对市场竞争的不当损害,立法就应对其作出合理限制,以维护正常的市场竞争秩序。第二,人工智能时代的垄断行为更容易通过算法共谋实现。算法共谋是全球数字经济发展中常发的现象,具有较强的隐蔽性。算法共谋的反垄断规制存在行为认定难、证据固定难、责任划分难等问题。为了更好地规制该类行为,应完善反垄断法律条款及其配套规则,推动算法透明度的提升,并构建智慧化、精准化的监管工具,进行有效约束。从人工智能立法的角度来看,应将“默示”的算法共谋作为反垄断规制条款设计的重点,调查深度学习系统的行为是否以及在什么条件下可以归因于公司或自然人。当然,在设计条款时,应注重与我国的法律、法规和规范性文件有机对接。
其次,社会性规制应注重引领人工智能的发展方向,保障人工智能安全,使人工智能发展始终服务于人民福祉。立法除了通过设定不得侵犯基本权利原则、伦理原则、安全原则等原则性条款,引领人工智能的发展方向,还应规制人工智能应用于社会时可能引发的对社会秩序的冲击。
一是,将宪法确立的基本权利条款作为在人工智能立法中开展社会性规制的基本原则,明确人工智能开发、设计、部署和使用不得侵犯公民的基本权利。欧盟《人工智能法》第1条将“确保对健康、安全和《欧盟基本权利宪章》所规定的基本权利的高度保护”写入立法宗旨。第27条关于“高风险人工智能系统的基本权利影响评估”的立法,值得关注。“我国的人工智能立法的理论宗旨应该是保障人的基本权利,并据此指导人工智能立法过程。”“人工智能立法坚持保障人的基本权利的理论宗旨,可以显著降低公民对人工智能的怀疑,增加公众对人工智能技术与人工智能法的信任程度。”
二是,充分遵循人工智能技术的规律,设定覆盖算法模型、数据共享、人工智能基础设施、人工智能产品和应用的安全保障法律体系。第一,立法应将安全原则作为人工智能发展的基本原则,以确保人工智能安全发展,有效监管人工智能风险,防范人工智能失控。第二,应当对人工智能风险作出合理评估和分级,根据不同风险等级,设定强度不同的风险监管制度,确保人工智能安全可控。“应当通过综合性立法以及分领域、分场景的规制,确保人工智能安全始终处于人类控制之下。人工智能安全可控还应当区分不同风险类型,例如区分国家安全、重大公共安全、一般公共安全与非公共安全问题,采用不同的法律制度加以应对。”第三,应完善人工智能安全顶层制度设计和风险综合治理制度,建立体系化的人工智能安全保障制度。应完善人工智能研究、开发和部署以及数据资源共享等领域的,涵盖安全技术设计、开发、验证、评估、运行、访问的安全监管、监测预警和应急处置制度体系,最大程度减少可能导致人工智能遭受恶意攻击的漏洞,保证人工智能在技术上安全可信,防范技术缺陷引发损害,确保在人工智能系统遭受恶意攻击时能够采取有效防控措施。第四,针对人工智能内生安全中的模型安全风险、算法安全风险、数据安全风险、算力设施与运行环境安全风险,人工智能应用中的智能体安全风险、具身智能安全风险、冲击网络安全风险、信息内容安全风险、侵害个人信息权益风险、现实安全风险,人工智能衍生的社会风险、环境风险、文化风险等,应设定有针对性的安全防控法律规则。第五,应整合已经出台的生物识别特征安全标准、自动驾驶安全标准、智慧家居安全标准、数据安全和个人信息保护标准等,完善人工智能共性安全法律制度。
三是,将公权力机关使用人工智能的行为纳入规制范围,限制或禁止可能对生命健康、重大财产或者公共利益造成严重损害的公权力自动化行为。国家机关在使用人工智能系统时,应遵守合法、合理、正当、比例原则。在对涉及自然人的生命、自由、人格尊严、财产权益的事项作出最终决定时,不得单独依据人工智能系统的判断。司法活动在使用人工智能工具提供的任何信息之前,应核查其准确性,防止人工智能输出的信息存在错误和偏见;在司法过程中,不得向公共人工智能聊天机器人输入任何尚未进入公共领域的信息;应防止人工智能工具被用于制作虚假诉讼内容;不得将人工智能系统输出的内容作为司法决策的单独依据;司法人员应审核人工智能输出的内容,并对使用这些内容的结果承担法律责任。
四是,立法应建立人工智能伦理“多层次判断结构和人机协作的伦理框架”。第一,应设置全国统一的人工智能伦理委员会,指导全国人工智能系统的伦理审查;鼓励行业、企业、地方制定高于国家标准的人工智能伦理标准;设定人工智能伦理审查和风险评估的法律标准、法律程序,矫正人工智能发展中违反伦理标准的行为。第二,在特定领域推广使用人工智能时,应注意平衡经济效益与社会伦理价值,充分保障劳动就业。对就业权利的保护既应坚持平等原则,也应坚持特殊保护原则和合理限制原则。应未雨绸缪,完善劳动法律制度,革新和完善社会保障制度,革新财政税收制度,以有效化解人工智能可能引发的大规模就业替代问题、社会公平问题。第三,针对利用人工智能拟人化互动技术提供情感照护、陪伴、支持的行为,应在《拟人化互动服务管理办法》的基础上,通过厘清情感操纵造成的现实损害及提供者的法律义务、构建拟人化互动服务分层次披露的法律义务、完善人机情感交互的伦理边界等方式,防止人工智能拟人化互动通过营造情感茧房实施情感操纵、利用信任幻觉混淆人机身份、形成信息茧房束缚人类思维、替代人际交互弱化社交能力等。
最后,应协调推进经济性规制和社会性规制。
一是,在立法的总体构架上,应合理配置经济性规制条款与社会性规制条款。两类条款功能有别,但总体目标一致。经济性规制条款以促进发展为目标,社会性规制条款注重引领好人工智能的长远发展方向。二是,应以经济性规制为主线,设定法律条款。应既为人工智能依托市场发展留下足够的自由空间,又遵循市场发展规律,对人工智能的研发者、提供者、部署者合理赋权。既尊重市场在资源配置中的决定性作用,又高度重视市场的不足,积极发挥政府在算力、数据、人工智能等领域的基础设施建设中的保障作用,弥补市场缺陷。积极出台财政、税收、金融措施,支持人工智能创新性企业的发展。同时,注意根据人工智能技术发展的特点,针对人工智能领域的不正当竞争甚至垄断行为,设定合理的判定标准和法律责任,以促进人工智能产业的自由竞争,维护人工智能发展的市场秩序。三是,社会性规制条款应注意划定人工智能发展的边界和底线,有效预防和化解人工智能发展中的风险,确保人工智能发展的安全,预防人工智能发展偏离以人为本、服务人民福祉的美好愿景和目标,矫正可能偏离人工智能伦理价值的行为,惩治违反人工智能法律的行为,以确保人工智能发展的合法性、合理性、正当性。总之,人工智能立法应在保障基本权利、安全和应用合理性,守好伦理底线的基础上,最大限度地促进人工智能技术和产业的发展。
结语
人工智能的复杂性决定了,人工智能立法必须首先在促进技术发展与创新、推动技术的场景化应用、支持产业进步和发展、守护技术发展的安全底线、增进对基本权利的保护、促进人工智能的可信发展、推动人工智能发展服务人类福祉这些最为基本的价值目标之间,作出合理的选择和制度配置。必须基于中国国情,设定不同的价值目标权重,并有针对性地建立人工智能的治理框架,配置具体的法律制度、权利义务和法律责任,促进人工智能的国家立法、地方性立法、行业的管理规定、行业的技术标准和企业技术性标准相适配。考虑到人工智能技术发展的全球性,还必须合理吸纳全球范围内人工智能立法的一些成功经验、成熟的技术标准。考虑到人工智能发展的伦理准则体系还未完全建立,应把明确的法律规则与弹性较大的伦理规则结合起来,构建起能够正确指引人工智能发展方向的基本制度框架。
人工智能立法应在建立起基本的人工智能治理框架的背景下,充分考量促进人工智能发展的内在需求。一是考虑立法的未来发展性。为了人工智能立法的未来完善,应保留必要的制度接口。二是考虑未来人工智能技术和社会的适应性。技术会不断发展,其应用场景会不断扩大。鉴于此,立法必须随着未来的发展,对既有制度进行微调甚至更新,确保立法能够实时、敏捷回应技术发展的内在要求。三是考量立法的自我纠错功能。在基本的法律规制体系建立后,当执法、司法和人工智能治理领域存在诸多无法解决的问题,或既有的立法出现明显偏差的时候,立法者就需要进行敏捷回应,及时矫正立法的不足,或者通过立法修正的方式来更新立法,确保立法适应人工智能技术和产业发展的内在要求与发展规律。