近年来,人工智能技术发展日新月异、快速迭代,呈现出基础研发加速推进、产业应用加速落地、产业规模持续增长的趋势。人工智能技术的高速发展和广泛应用既蕴含巨大机遇,也引发一系列需要规制、引导的法律和伦理问题,亟待明确行为边界,加强规则指引。9月7日,最高人民法院发布了《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号,以下简称《意见》),对人民群众普遍关注的涉人工智能侵权纠纷、人工智能训练和应用中的数据与知识产权保护等诸多重点问题作出规定。从内容上看,《意见》贯通价值导向、实体规则与程序保障,彰显出鲜明的中国特色、实践特色和时代特色,具有很强的实践价值和理论价值,是我国依法保障人工智能健康发展的重要成果,将有力推进我国人工智能产业朝着有益、安全、公平方向健康有序发展,也为全球人工智能治理贡献中国司法智慧。
一、《意见》凝聚了人工智能司法治理的中国特色
《意见》根据我国经济社会发展实际,将服务中国式现代化、增进人民福祉、统筹发展和安全贯穿始终,形成了清晰的价值立场与治理路径。《意见》开宗明义,坚持以习近平新时代中国特色社会主义思想为指导,深入贯彻习近平法治思想,明确以严格公正司法服务保障新质生产力加快发展。《意见》有关人工智能发展模式的规定体现了人工智能司法治理的中国特色。
就人工智能的发展模式而言,欧盟采取了“重安全、强监管”的模式,美国则采取了“重发展、轻监管”的模式。我国应当摆脱上述两种模式的窠臼,寻求人工智能发展与安全的平衡之道。习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上指出,人工智能治理既要“全面促进人工智能科技创新、产业发展、场景应用,协同推进传统产业改造升级、新兴产业培育壮大、未来产业前瞻布局,让人工智能赋能千行百业”,也要“强化风险意识,确保安全可控”。这就为协调发展与安全、推进人工智能司法治理现代化指明了方向。
《意见》的许多规定都体现了兼顾发展与安全的人工智能发展模式,具体而言:一是《意见》鼓励产业创新和发展。《意见》开宗明义,将支持创新发展作为人工智能司法治理的基本原则,这也确立了人工智能纠纷司法裁判的指导思想,即涉人工智能纠纷案件的审理应当发挥鼓励产业创新和发展的作用。二是在归责原则方面,《意见》明确规定,人民法院在审理涉人工智能侵权案件时,应当准确把握涉人工智能侵权责任的归责原则,即原则上应当适用过错责任,只有在法律有特别规定时,才适用严格责任和过错推定责任。而过错责任其实就为技术创新提供了必要的空间。特别是,《意见》明确,在判断行为人有无过错以及过错程度时,需要综合考量人工智能应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围等因素,以更好地鼓励人工智能产业创新。三是《意见》强调宽严相济的刑事政策,区分故意利用人工智能实施危害国家安全、侵犯公民权益、扰乱社会秩序等犯罪行为与人工智能研发、应用中的创新性行为,依法审慎处理涉人工智能违法犯罪行为。这也体现了鼓励人工智能产业创新发展的理念。四是《意见》要求区分通用与专用、开源与闭源等不同类型大模型在技术原理、风险外溢与控制能力上的差异,分别认定开发者、提供者、使用者等主体的法律责任。这既符合人工智能技术发展的特点,也有利于鼓励人工智能产业创新。
二、《意见》彰显了人工智能司法治理的实践特色
《意见》以民法典等法律为依据,以审判经验为基础,在现有制度中寻找支点,呈现出从实践中来、到实践中去的规则形成路径。
第一,坚持以人为本,强化数字时代民生权益司法保障。人工智能在拓展人的能力的同时,也可能放大侵权风险。《意见》将以人为本作为基本原则,针对人民群众感受最直接的人格权益问题作出细化规定,强调增进人民福祉,保障数字时代的民生权益,引导人工智能为民向善。对利用算法实施“大数据杀熟”、利用人工智能“仿冒名人带货”等侵害消费者权益的行为,《意见》第十条明确侵权责任和惩罚性赔偿的适用,及时回应人民群众在智能时代的重要关切。由此,在以人民为中心的发展思想引领下,《意见》将人格权益、财产权益等基本民事权益的保护放在重要位置,充分维护人工智能时代人的尊严和主体地位。
第二,立足法律规定,推动成熟规则向人工智能场景延伸。审理涉人工智能纠纷案件的核心在于,准确解释和适用现行法,根据技术特征实现规则的场景化。人工智能训练中的公开个人信息处理即为典型。《意见》第六条针对已公开的个人信息保护提出分层判断方法,即为人工智能模型训练,在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息,个人未明确拒绝且使用未超出合理边界的,通常不认定为侵权;可能对个人权益产生重大影响的,仍须取得同意。是否超出合理范围,应当结合模型功能对相关信息的实际需要、处理方式与目的是否相称、信息敏感程度及可能后果等因素综合判断。同时,《意见》第八条将民法典人格权侵害禁令制度引入人工智能场景。权利人有证据证明人格侵害正在发生或者具有现实紧迫性,不及时制止可能造成难以挽回后果的,可以申请法院责令停止相关行为或者服务。同时强调,人民法院在作出人格权侵害禁令时,采取的禁令措施应当与权利性质、侵害方式及风险程度等相适应,以兼顾权利保护的及时性与预防救济的适度性。
第三,总结审判经验,强化人工智能场景下的人格权和知识产权保护。一方面,在人格权领域,《意见》强化了对肖像权、声音、隐私权、个人信息等人格权益的保护。例如,对于“AI换脸拟声”“AI复活逝者”等行为,《意见》第四条要求依法保障自然人人格权益,并将之延伸至死者人格利益保护。再如,对于利用人工智能技术实施“网络开盒”“人肉搜索”等行为,《意见》第五条明确规制利用人工智能刺探或者泄露私密信息,侵扰私人生活安宁等行为。另一方面,在知识产权保护方面,《意见》提炼了人工智能侵权责任规则。《意见》第十二条要求结合服务类型、训练数据来源和各方参与程度等因素划分责任。开发者主张训练不构成侵权的,应当提供数据来源、训练过程记录等材料;使用者明知在先作品存在,仍生成实质性相似内容且无合理抗辩的,应当承担责任。利用人工智能实施侵权假冒、虚假宣传、刷量刷单等行为的,则依法适用知识产权和反不正当竞争规则。
第四,健全程序规则,破解涉人工智能纠纷案件事实查明难题。涉人工智能纠纷案件技术性强、信息不对称突出,关键数据和运行记录往往由一方控制。《意见》第十七条至第十九条据此提出完善事实查明规则,要求法院加强诉讼引导,依法开展证据调查和保全。控制证据的一方无正当理由拒不提交的,可以作出不利认定;涉及专业问题的,充分发挥鉴定人、专家辅助人等主体的作用。对于不同技术形成的证据,第十八条强调差异化证据审查。对于大数据分析报告类证据,应重点审查其原始数据的来源、清洗规则以及分析方法的科学性等;对于区块链存证类证据,应重点审查上链前数据真实性和平台可靠性,等等。
三、《意见》体现了人工智能司法治理的时代特色
《意见》积极回应人工智能带来的新技术、新业态和新型社会关系,既处理已进入现实生活的智能产品与算法应用,亦关注开源、数据等创新要素。
第一,回应权利保护与产业激励的平衡问题。新技术领域的裁判规则供给,难点在于权利保护与产业激励之间的平衡。苛责平台承担全面事前审查义务,既不具备技术可行性,也会加重行业负担、阻碍AI技术发展。对此,《意见》第七条强调要审慎认定人工智能服务提供者的侵权责任,并参照适用民法典第一千一百九十五条规定,引入了避风港规则:网络服务提供者接获合格通知后,应当及时采取停止生成等必要措施;网络用户恶意诱导生成侵权内容并造成损害的,应当承担责任;网络服务提供者接获合格通知后未及时采取措施的,与该网络用户对扩大部分依法承担连带责任。与传统网络侵权中删除、屏蔽既有信息不同,生成式人工智能的风险源于模型持续生成同类内容的能力,故其措施还需延伸至相关生成指令等。
第二,回应人工智能产品与自动驾驶侵权责任问题。随着人工智能进入汽车等实体产品,算法决策开始直接影响公众人身和财产安全。传统产品责任规则仍然具有适用空间,但产品缺陷的认定、用户实际控制程度以及致害原因的认定等,都需要结合智能产品的特殊性重新审视。《意见》第九条明确规定,应当将产品责任适用于以实物为载体的人工智能产品。在认定人工智能产品是否存在危及人身、财产安全的不合理危险时,应当结合产品用途、自主学习与更新能力以及用户控制程度等因素认定缺陷,推动缺陷判断由静态审查转向动态场景化评价。对于自动驾驶和辅助驾驶事故,《意见》第十一条既立足现行法律规定又为下一步法律修改预留接口,明确自动驾驶汽车、具备辅助驾驶功能汽车上道路行驶发生交通事故造成损害的,依据民法典和道路交通安全法有关规定承担赔偿责任。同时,对具备辅助驾驶功能汽车因车辆缺陷、驾驶人过错相结合导致同一损害时的责任承担作出明确。此外,还规定了虚假宣传责任、事件数据调取等规则。这些规则为人机共驾事故提供了可操作的裁判框架。
第三,回应算法深度介入消费生活的公平诚信问题。算法有助于提升供需匹配效率,但也可能被用于实施隐蔽且精准的不公平交易。针对“大数据杀熟”现象,《意见》第十条将规制重点置于差别待遇是否“不合理”上。判断时需综合考量是否实质限制或者损害消费者权益,是否利用消费偏好、支付能力、浏览记录等信息形成针对个人的交易条件,以及相关理由是否正当。对于经营者利用人工智能“仿冒名人带货”且构成消费欺诈的,消费者可以依法主张惩罚性赔偿。从《意见》关于防范算法歧视、保障自动化决策知情权与选择权的原则性要求可以看出,算法时代的市场秩序应当以消费者真实知情、自主决定与公平交易为前提。
第四,回应人工智能生态中开放创新与数据驱动问题。人工智能创新具有开源协作和数据驱动特征。《意见》第十三条至第十六条分别围绕开源软件、发明创造、技术合同与数据权益建立规则,体现对创新生态的整体把握。对于开源软件,应当综合考量开源许可协议类型、权利限制的具体内容、安全合规举措和信息披露程度等因素,依法给予开源软件开发者、提供者适当的责任豁免。对于人工智能辅助发明,《意见》既确认符合条件的技术成果可以获得专利保护,也强调自然人只有作出实质性创造贡献才能成为发明人。对于合法取得的数据权益,依其属性衔接著作权、商业秘密和反不正当竞争保护,同时规制虚构干扰数据、恶意标注和对抗样本攻击等行为。由此构建了从数据取得、开发利用到市场竞争的完整规范体系。此外,《意见》还提出妥善审理涉人工智能及数据跨境纠纷案件,加强规则对接与互鉴,推动构建公平合理、包容开放的治理体系,为维护全球人工智能发展生态贡献中国智慧。
在国家治理体系中,司法不仅承担着定分止争的功能,还承担着规则供给、行为引导、价值引领等重要职能,通过公正高效的司法裁判,及时回应社会关切,同时也明确行为边界,引导市场主体加强风险管理,推动构建科学合理的社会责任体系。《意见》的出台是我国人工智能治理领域的重要成果,不仅及时回应了人民群众关切,有效防范人工智能技术的滥用恶用,有力支撑人工智能产业高质量发展,也为未来人工智能立法的推进积累了重要司法经验。
本文转自“人民法院报”公众号。