内容提要:智能体从感知、决策到执行,形成了一个自主性运行的系统,不仅仅是在虚拟世界中形成对人格权和知识产权等权利的侵害,而且还在物理世界中现实地造成对人身、财产安全的威胁。然而,不论智能体如何发展,在可预见的未来,其仍然不是承担侵权责任的主体。智能体侵害的权益主要是人格权和知识产权,在特定情况下也会造成物质性人格权、财产权的损害,应区分不同损害类型判断智能体的责任承担方式。在符合产品责任的情形下,智能体侵权应适用严格责任。智能体应用中的侵权可能由多个行为人共同引起,应当准确认定侵权主体。智能体应用中侵权的因果关系判断具有复杂性,应当区分事实上的因果关系和相当因果关系,分层次对因果关系进行判断,必要时采取因果关系推定的方式。智能体存在造成大规模微型侵权的可能性,在法律上应当对其进行有效应对。
关键词:人工智能体;侵权责任;责任主体;大规模侵权
前言
人工智能体(AI agent)侵权是人工智能技术发展导致的新风险、新问题。人工智能体,又称智能体,是指能够感知环境、自主决策并且执行任务的人工智能。从这个意义上讲,具身智能机器人、自动驾驶汽车、网页爬虫、推荐系统、软件代理,甚至较为简单的自动控制系统,在一定条件下都可以被纳入“智能体”的广义范围。近年来,人工智能技术日新月异、快速迭代。从会聊天的ChatGPT,到会思考的DeepSeek,从能生成高质量视频的Seedance 到会行动的以“龙虾”(OpenClaw)等为代表的智能体,再到能够自主思考和行动的以各类机器人为代表的具身智能(Embodied AI)。人工智能体的自主性、交互性、功能扩展性、高操作权限和执行能力,使人工智能正从“会聊天”转变为“会干活”,但也因此放大了传统人工智能侵权风险。智能体的产生意味着人工智能更多地参与到与人的交互过程中,并因此放大了智能体侵权的风险。例如,智能体可能因生成各类虚假音频、视频而构成对他人名誉权的侵害;智能体在物理世界会大规模爬取、泄露个人信息而构成对他人隐私权、个人信息权益的侵害。同时,具身智能体的发展使得人工智能开始与物理世界产生交互关系,并引发了新的侵权风险。例如,机器人可能侵害他人人身或者财产权益。传统侵权规则在应对人工智能系统的自主性、算法黑箱化及其引发的新型损害时,正面临前所未有的挑战,具体体现在归责原则的多元性、责任主体的多样性、侵害客体的特殊性以及侵害后果的大规模性等方面,这是我国人工智能立法必须要面对的重大问题。本文拟从智能体应用中的侵权风险应对角度谈几点不成熟的观点。
一、智能体侵害法益的特殊性及其应对
智能体侵权风险的特殊之处在于,其不仅可能在虚拟世界中侵害民事主体的精神性人格权和知识产权,也可能在物理世界中侵害民事主体的物质性人格权和有形财产权。从侵害客体的层面看,生成式人工智能侵害的主要是人格权和知识产权,因为生成式人工智能一般不会实施物理加害,只是生成信息和内容,其侵害对象主要是隐私权、个人信息、名誉权、肖像权、声音权益、知识产权等。而人工智能体的发展也使得人工智能所侵害的权益类型出现了一些变化,其一方面扩张了侵害的民事权益类型,除人格权益、知识产权外,其还可能侵害相关的财产权益。另一方面,即便就人格权益而言,智能体除侵害隐私权、名誉权、个人信息权益外,还可能侵害他人的生命权、健康权等物质性人格权。
(一)智能体具有大规模侵害人格权益的风险
智能体技术作为人工智能的新型应用形态,正广泛地进入日常生活和各种经济应用场景,引起了人们生产和生活方式的变革。智能体技术具有更强的信息处理能力,极大地提升了生产效率,给人类带来显著的福祉。但也应当看到,智能体不仅处理信息,而且通过感知、推理和行动直接与物理环境交互作用。复杂的先进推理模型与物理实体的结合,放大了潜在的物理、信息、经济和社会风险。尤其是智能体技术的发展和应用,也会给个人信息等人格权益的保护带来风险和挑战,这主要体现在如下几个方面:
一是产生大规模处理个人信息的侵权风险。与生成式人工智能相比较,智能体的信息处理能力和传播能力更强,对人格权保护的威胁更大。智能体可能根据使用者的授权,对使用者的终端设备上的所有个人信息以及其他数据进行收集和处理,主动地获取个人信息。相比之下,生成式人工智能对个人信息的获取,主要取决于使用者的传输,因此只是被动地获取个人信息。而智能体具有更强大的窃取个人信息的能力,并且具有超强的关联分析能力,可以从碎片化数据还原个人身份、行为、偏好,一旦技术被滥用,就会对隐私造成重大威胁,引发大规模隐私或个人信息非法处理和泄露的后果。智能体可以全方面收集个人的碎片化的个人信息进行处理,并存储在云端,如果这些个人信息被不当利用,如利用智能体收集的个人声音、肖像等个人信息,用于制作黄色视频、音频,就会严重侵害个人人格权益。据报导,Google DeepMind 团队在2025年针对LLaMA 等模型展开的研究中,成功提取出涵盖个人身份信息、代码及通用唯一识别码(UUID)等敏感内容的信息,而一旦发生敏感数据泄露,相关信息即可被无限次重组与处理。同时,与生成式人工智能不同,智能体可以持续不断地处理个人信息,而且在个人利用智能体之后,其不仅会处理使用者的个人信息,也可能一并处理其他相关主体的个人信息。在智能体根据用户指令处理个人信息的情形下,执行步骤取决于实时推理,不可预测性强。用户通常仅对智能体发出概括性指令,智能体据此不断形成具体的个人信息处理目的。在此过程中,《个人信息保护法》确立的目的原则很难对个人信息处理活动形成约束。
二是产生大规模泄露个人信息的侵权风险。一方面,与生成式人工智能不同,智能体已经从虚拟世界进入物理世界,从“静态执行工具”向“动态处理代理”跃迁。换言之,智能体已经从“会说话”到“会行动”,实现了从“虚拟交互”到“物理在场”,这也给人格权益保护带来了新的挑战。智能体所处理的个人信息一旦发生泄露,即可能造成多主体海量个人信息的泄露。进一步而言,与生成式人工智能侵权仅发生在虚拟世界不同,智能体侵权也发生在物理世界。例如,“龙虾”(OpenClaw)智能体的运行依赖于对用户终端数据的广泛读取与处理,涉及个人生物识别信息、银行账户信息、行踪轨迹等敏感个人信息。如果用户没有设置严格的权限管控,而直接将最高系统权限授予智能体,则可能给个人信息保护带来极大威胁。另一方面,智能体具有长期记忆的功能,如果非法收集他人个人信息后,一直存在云端,随时可能遭受攻击,引发大规模信息泄露。当用户跨境使用该智能体或者将其部署在云端时,其个人信息甚至敏感个人信息可能在用户不知情的情形下被智能体共享至境外的服务器。2026年,安全研究人员在“龙虾”(OpenClaw)中识别出多处高危信息泄露漏洞,可能诱发大规模数据侵权与个人信息泄露。这些案例表明,大模型时代的个人信息保护正面临来自技术机理层面的新型泄露风险冲击。即使智能体本身没有主动“窃取”数据,也可能因遭受恶意投毒、越权调用工具或存在设计缺陷而被用于“窃取”数据,或造成对他人个人信息的大规模泄露。
三是具有传播快、溯源难的侵权风险。一方面,智能体可以将输入的个人信息转化为模型权重,成为一种持久的“记忆”,未来可能持续造成风险。智能体能够低成本批量生成深度伪造的音频视频(如移花接木、无中生有、造谣诽谤),侵害他人人格权益。同时,智能体侵权信息传播快、溯源难、危害大,所可能带来的人格权侵权引发的损害也更加严重。一旦生产或者传播虚假信息,既可能造成海量用户的损害,对这些侵权的预防和救济也更加困难。另一方面,智能体在执行任务过程中,将会持续不断地按照使用者的指令处理个人信息,甚至在互联网中广泛、迅速地传播个人信息。智能体在处理任务的过程中,可能同时收集使用者以及任何第三人的个人信息,第三人很难发现自己的个人信息是否被收集或被谁收集了。
四是进入物理世界后对个人信息造成的侵权风险。例如,借助无人机可以轻易地进入私人空间进行非法监视,搜集他人的私生活信息。再如,搭载在自动驾驶汽车、无人机上的摄像探头,可在运行过程中随时拍摄到个人信息(如他人的行踪轨迹等);甚至送餐机器人也可能记录各种各样的信息。
面对智能体技术日新月异和更新迭代,未来人工智能立法和相关司法解释应当对此有所回应。
第一,如前述,在归责原则上,与生成式人工智能不同,生成式人工智能主要侵害的是精神性人格权和知识产权,如果侵害个人信息,也可依据《个人信息保护法》第69条的规定适用过错推定责任。而智能体已经进入物理世界,可能对人身、财产安全造成威胁,因此依据我国《民法典》侵权责任编归责原则的相关规定,前者应当适用过错责任的一般归责原则,后者则可能适用产品责任的归责原则。
第二,生成式人工智能的主要功能是向用户或者社会公众提供信息,模型与用户形成信息交互关系,因此当生成式人工智能生成侵权信息时,权利人可以主张通知删除规则;与此不同的是,智能体集感知、决策和执行为一体,其所生产的信息直接用于执行环节,因此通常不再对外提供信息,故此很难适用通知删除规则。因为智能体侵权主要是侵害财产、人身权,不能通过适用“通知—删除”规则对行为人提供保护,其不同于生成式人工智能场景下的交互性的信息侵权,难以适用“通知—删除”规则。
第三,智能体的发展对个人信息权益保护也带来了挑战。一方面,在智能体处理个人信息的过程中,其通过对个人海量的碎片化个人信息进行挖掘和分析,可以生成多维度的“用户画像”。在智能体处理个人信息的情形下,信息主体可能并不知道智能体处理了其哪些个人信息,甚至不知道智能体处理的相关个人信息是否准确。在智能体处理个人信息的情形下,相关的个人信息可能会被智能体模型“记忆”,从而内化于智能体的参数,导致信息主体在客观上难以行使查询权、更正权、删除权。另一方面,针对个人信息保护请求权的行使障碍,权利人应有权要求智能体的开发者和提供者提供相应的替代措施,来予以保障。从《民法典》到《个人信息保护法》,有关信息主体权益的规则的确为保护个人信息发挥了重要作用。但其主要应用场景并非人工智能场景,其主要用于互联网环境下自动化决策处理个人信息情形。但随着人工智能技术特别是智能体技术的发展,也给个人信息主体行使查询权、更正权、删除权等带来障碍。针对个人信息保护请求权的行使障碍,应当要求智能体的开发者和提供者提供相应的替代措施来予以保障。例如,通过匿名化、去标识化、模型微调或屏蔽输出等技术措施降低继续识别和利用个人信息的风险。如果个人无法行使上述权利,智能体处理个人信息造成了个人损害,或者给个人信息保护带来一定的风险,则应当允许个人通过主张停止侵害等方式维护其个人信息权益。
第四,应当允许信息主体主张人格权禁令,要求智能体提供者及时地防止个人信息大规模泄露的风险。如果智能体具有泄露大量个人信息的风险,还不能说是现实的损害,信息主体不能主张损害赔偿,无法计算损失,此时只能通过人格权禁令的方式,或者主张人格权请求权的方式要求停止侵害、排除妨碍或者消除危险。
(二)智能体具有大规模侵害知识产权的风险
智能体侵权的另一种常见类型是侵害著作权。在智能体发展之后,大规模侵害著作权的风险进一步加剧。与传统的生成式人工智能不同,智能体并不只是根据用户提示生成“作品样”的内容,而是能够自动完成检索、抓取、下载、复制、整理、改编、发布、传播等一系列行为。因此,侵害著作权不再仅仅发生在模型训练或者最终输出环节,而是可能贯穿于信息获取、内容处理和结果传播的全过程。例如,只要使用者输入一个生成作品的指令,智能体便可能根据该指令自动检索相关素材,抓取网络上的文字、图片和音视频,并完成下载、复制、整理和改编,形成新的“作品样”内容,并按照用户的指示发布在相关平台并广泛传播。这些“作品样”内容可能与现有作品构成“实质性相似”,存在明显的侵权风险;也可能只是模仿了权利人的风格或者部分要素,但又没有完全照抄照搬该作品的内容,给著作权侵权认定中的“实质性相似”判断造成较大困难,极大地增加权利人的维权成本。而且,由于智能体可以持续不断地工作,生成成千上万的“作品样”内容,因此造成的侵害著作权的风险极大。
对智能体侵害著作权的情形,应当进行类型化处理,不可一概而论。首先,如果智能体使用作品的目的不是为了使用作品中的表达性要素,例如使用受著作权保护的图片是为了理解和解读图片的含义,那么此种使用行为属于“非作品性使用”,自然也不应受到著作权法的规制。其次,要在法律上明确合理使用的边界,我国《著作权法》第24条规定了合理使用规则,但法律规定的类型难以涵盖部分智能体相关的合理使用情形。为鼓励人工智能发展,使用作品训练智能体模型的行为,有必要纳入合理使用的范围,这仍需通过立法加以明确。即便是未经授权利用作品训练智能体的行为,也不应当简单地认定为侵权,为了鼓励技术的开发,应当采取审慎包容的态度,结合使用目的和性质、作品的性质、使用部分的数量和比例、采取的必要措施以及获得的情况、获得授权的交易成本等因素,判断其是否构成合理使用。但如果开发者纯粹是为了营利目的而未经授权大量使用盗版内容进行训练,则更有可能被认定为构成侵权。再次,如果是智能体发布和传播与作品相同或相似的内容,应当认定为构成侵害著作权,并按照过错责任原则在使用者和服务提供者之间分配赔偿损失责任。智能体发布和传播与作品相同或相似的内容,向不特定用户提供,可能会对原作品构成替代,实质性地影响著作权人的市场利益,难以构成合理使用。在此情形下,侵权内容的产生和扩散并非完全脱离使用者意志,而是使用者借助智能体工具实施行为的结果,因此不能因为侵权内容系由智能体自动生成和发布,便当然减轻或者免除使用者的责任。服务提供者应当采取合理的防范和监管措施,减少侵权内容的生成,并对使用者的行为进行监督管理,在接到侵权通知或者明知或应知使用者利用智能体侵权的情形下采取必要措施,制止使用者的侵权行为,防止损害的扩大。
(三)智能体具有侵害物质性人格权和有形财产的风险
在生成式人工智能情形下,侵害主要是无形利益,如人格权和知识产权等,但随着人工智能的快速迭代,智能体的侵害客体的范围已扩张到对人身,财产的侵害。智能体的应用进入物理世界后,除给隐私权、个人信息等精神性人格权益的保护带来更大挑战外,在侵害的人格权益的类型和范围上也会发生扩张。例如,智能体应用过程中可能侵害他人生命权、身体权、健康权,这是以往互联网侵权和生成式人工智能侵权中所未曾遇到的问题。因为人工智能体已从虚拟世界进入物理世界,并与他人现实接触,可能造成人身财产侵害。近几年来,机器人伤人、无人机砸坏他人财物事件已经发生。这些损失包括人身损害和财产损害,财产损害包括有形财产损害,也包括无形财产损失;既包括现有财产损失,也包括未来财产损失。这些损害的确定更为复杂,因为究竟是不是人工智能引发,在多大程度上是因为人工智能引发,确实具有一定的不确定性。
针对智能体在物理世界中的侵权风险,仍然需要明确该智能体是否构成产品,从而决定其是否适用严格责任;即使不构成产品责任,在智能体造成他人人身侵害的情形下,受害人面临因果关系等方面的举证困难,从强化受害人保护的角度而言,应当允许举证责任倒置。智能体侵权的多链条性、算法的不透明性,要让受害人证明十分困难,在此情形下应当通过举证责任倒置的方式,让智能体提供者对不具有因果关系等事实承担举证责任。
二、智能体侵权归责原则的多元性及其确定
(一)智能体侵权归责原则的多元性
随着智能体应用部署的日益广泛,智能体具有多重侵害民事权益的风险,与此相应,智能体侵权归责原则也应具有多元性。从比较法上来看,针对人工智能侵权,确定其归责原则的基本模式是根据人工智能是产品还是服务而确立不同的归责原则。这是确定对人工智能侵权适用严格责任还是过错责任的一个重要标准。笔者赞成这一观点,主要理由在于:一方面,提供人工智能服务实际上就是提供信息,对于信息的错误或不准确引发的侵权责任,如果一律适用严格责任,将缺乏正当性。因为信息错误需要借助人的行为(如受害人自身的行为或第三人的行为)才能造成物理上的损害(如人身伤亡等),这一点不同于有体产品本身的缺陷。提供信息一般不存在危及人身、财产安全的不合理危险。另一方面,如果对于信息错误适用严格责任,对于人们的行为自由会构成过度的限制,而且会导致赔偿范围过于宽泛。尤其应当看到,因为产品缺陷造成损害,与产品责任的规则是相一致的,而产品责任采取的是严格责任,所以,对智能体产品侵权适用严格责任,也符合产品责任规则的适用条件。
正是基于上述理由,针对人工智能侵权的归责原则,可以基于提供产品与提供服务,分别采用如下两种归责原则:
一是以生成式人工智能为代表的提供服务的人工智能,对其侵权应适用过错责任原则。此类人工智能服务并没有像传统的产品责任那样,对个人的人身财产安全形成一种现实的不合理危险。即便其生成的结果可能侵害他人的人身权、知识产权,但其危险在可控范围内。尤其是,生成的内容侵权有可能是因其幻觉导致的,并不是因其固有的缺陷导致的,现有的技术无法彻底克服此种缺陷。所以,从鼓励技术发展和创新角度而言,不宜对生成式人工智能侵权一概适用严格责任,而应适用过错责任原则。
二是对以具身智能为代表的进入物理世界的人工智能产品而言,对其侵权应适用严格责任原则。人工智能产品在设计、制造等方面可能具有内在缺陷,这种内在缺陷可能对他人的人身、财产形成现实的不合理危险。一旦因内在缺陷造成他人人身、财产损害,就符合了产品责任的适用条件,对其适用产品责任规则也符合产品责任的基本原理。同时,对智能体侵权而言,适用严格责任可以鼓励开发者设计出具有合理安全的智能体,避免因内在缺陷引发的对用户或第三人人身、财产安全造成威胁。因为在智能体开发部署的各个阶段中,设计者和生产者是最具有控制能力的主体,其最有能力减少或避免智能体的内在缺陷。在智能体应用场景下,使用者对自主系统的控制能力下降,AI 缺陷更常表现为设计、生产缺陷,因此生产者在开发、测试、安全设计、更新升级等环节应承担更重要责任。因此,将智能体致害责任纳入产品责任的范畴,具有其合理性,符合智能体的特性和技术发展的现状,也是高效妥善处理人工智能侵权责任的法律方式。
人工智能虽然能够模拟人类智能,但归根结底只是人类劳动的工具。在智能体应用中,智能体的目标或者任务是由使用者决定的,而智能体只是尽量按照其算法实现给定的目标或任务。就此而言,智能体只是一种更具科技性的产品。此外,对智能体侵权适用产品责任,也有利于防范智能体致害的风险。根据严格责任的原理,形成异常危险者应承担防止危险致害的成本,这有利于鼓励生产者、经营者采取预防措施以防止损害发生。比较法上对此已有适例。2016年10月欧盟法律事务委员会发布的《欧盟机器人民事法律规则》(European Civil Law Rules in Robotics),对于人工智能致害,建议未来立法规定开发者的严格责任,但应当与强制保险和赔偿基金配套。虽然该规则只是倡议性文件,但表明了欧盟的观点是采取严格责任。在法国,自动驾驶汽车的保有人均受特别的法定严格责任制度约束。德国2021年通过的《自动驾驶法》(全称《道路交通法与强制保险法修正法》)明确了自动驾驶汽车保有人(Halter)的严格责任。当然,如果智能体提供的是单纯的服务,不会对个人造成现实的风险,只有在服务提供者具有过错时,其才需要承担侵权责任。我国《生成式人工智能服务管理暂行办法》第22条规定:“生成式人工智能服务提供者,是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口等方式提供生成式人工智能服务)的组织、个人。”该规则实际上是将生成式人工智能界定为服务,这是值得肯定的。但提供服务显然不能用来解释智能体的性质和发展现状。
据此,可以将智能体侵权区分为如下两种类型:一是智能体属于服务的,通常应当适用过错责任。二是智能体已经成为产品的,并且进入物理世界后侵害的是生命权、身体权、健康权等物质性人格权,或者侵害有形财产权的,则应当适用严格责任。
(二)智能体侵权适用严格责任的条件
在智能体侵权的情形下,应当区分智能体究竟是产品还是服务,分别适用不同的归责原则。但问题在于,如何区分产品和服务?关于产品的范围,1985年欧盟《产品责任指令》第2条将“产品”界定为“所有的动产,但不包括初级农产品和狩猎产品”。这实际上是将产品的范围限定为有体物。《法国民法典》第1386—3条规定:“一切动产物品,即使其与不动产结合成一体,其中包括土地的产品、畜产品、猎获物与水产品,都是产品;电,视为产品。”我国《产品质量法》第2条第2款规定:“本法所称产品是指经过加工、制作,用于销售的产品。”由此可见,区分产品与服务的核心标准在于,产品主要是有体物,如果相关客体并不具有有体性,并未进入物理世界,则不应当属于产品。因此,在智能体应用场景中,只有进入物理世界,成为有体物的情形,才能被称为产品。具体而言,智能体侵权适用严格责任应当符合如下条件:
第一,有形性。产品应作严格解释,仅限于有形动产,不应当随意扩大其范围。从比较法上看,欧盟2024年10月通过的《产品责任指令》第4条第1款中将软件明确界定在产品的范围之内,并在序言第13条中明确规定应用程序、操作系统和人工智能系统都适用严格责任。笔者认为,此种做法值得商榷,因为软件并非有形的动产,难以纳入产品的范畴。同时,软件不同于有毒有害产品,其必须嵌入到某个有实体产品中才会产生现实危险,软件自身很难像有毒有害的物品那样产生危及人身和财产安全的不合理危险。如前述,产品责任中的产品原则上限于有体物,对进入物理世界的智能体而言,其已经具有有形性,属于有体物,可以纳入产品的范畴。
第二,物理危险性。适用严格责任的智能体,应当是进入物理世界直接与人打交道的智能体。这是因为,该种智能体的内在缺陷导致危及人身、财产安全的不合理危险,该缺陷就是引发损害的风险,这与缺陷产品致人损害具有很大的相似性。笔者认为,应当区分智能体是在处理信息等过程中致害,还是在进入物理世界后造成他人物质性人格权和财产权益侵害。对于前者,其与生成式人工智能侵权并无本质差别,对此类侵权适用过错责任原则更为合理。而对于智能体进入物理世界后造成对人身、财产的侵权,其与产品责任并无本质区别,对此类侵权适用严格责任更为合理。
第三,可预期性和可控制性。对生成式人工智能而言,因现有技术无法解决的“幻觉”,导致其生成一些虚假信息,对此即便是开发者、提供者也无法合理预见和控制。但是,对于智能体而言,其在进入物理世界后,对人身、财产安全造成的威胁则是可预期、可控制的。如无人机砸毁他人房屋,或者自动驾驶汽车引发交通事故,此类风险则具有合理可预见性。对智能体侵权采用产品责任的规则,更有利于督促相关主体在智能体生产、应用过程中尽到更高水平的注意义务,鼓励人工智能开发者设计出具有严格的安全和控制机制的产品,从而尽可能预防损害的发生。例如,自动驾驶汽车致人损害的情形下,自动驾驶系统也可以被认定为是一种产品。这是因为,自动驾驶系统如果存在缺陷,引发的风险是可预期、可控制的。因此,在自动驾驶汽车致人损害的情形下,自动驾驶汽车的生产者、销售者可能需要承担一种特殊的产品责任,即对其侵权采严格责任原则。
第四,侵害权益的特殊性。生成式人工智能侵权主要侵害隐私权、肖像权、个人信息权益等精神性人格权及权益,而且与传统的网络侵权相比,生成式人工智能并不具有特殊的、更大的风险,既然对网络侵权采过错责任,则生成式人工智能侵权也应当适用过错责任原则。根据欧盟现行《产品责任指令》第9条,产品责任的保护范围限于侵权法传统保护的利益,即生命权、身体完整性、健康和财产。据此,德国学者瓦格纳(Gerhard Wagner)认为,产品责任的保护范围仅限于生命权、身体权、健康权等物质性人格权,或者所有权、用益物权等有形财产权,因此只有当AI对这些法益造成侵害时,AI 才能适用产品责任。在这个意义上,智能体侵权的风险不同于生成式人工智能侵权,其具有产品的外形,已经进入物理世界,会导致对人身、财产的侵害,应当对其适用产品责任。
随着人工智能体的发展,对于具身智能(Embodied AI)、智能体(Agent)侵权而言,除适用产品责任的情形外,服务提供者只有在具有过错时,才需要承担责任,但如果智能体、具身智能用于为消费者提供服务,造成消费者人身权益的重大损害(如机器人伤人),而受害人又难以证明服务提供者具有过错,特别是由于算法的不可预测性与难以解释性,也使得受害人通常难以证明行为人的过错,这也为受害人主张权利带来了一定的困难。为了缓解受害人的举证困难,有必要通过举证责任倒置的方式,由运营者和部署者等来举证其自身已经尽到合理的注意义务,不存在过错。因此,未来的人工智能立法可以考虑对此种特殊情形下人工智能侵权责任采过错推定原则。
三、智能体侵权责任主体多样性及其责任认定
(一)智能体侵权责任主体具有多样性
关于人工智能能否成为责任主体,对此存在争议。应当看到,人工智能发展的一个重要趋势是其自主性的增强。人工智能技术正从“被动训练”向“自主进化”方向演进,迭代速度快速提升。随着算法框架的不断优化和算力的大幅提升,智能体和具身智能将越来越具有决策执行能力和自主性,人工智能体已经成为“会干活”的工具。在我国,有学者认为,鉴于人工智能自主性的增强,民法上人和物的界限将会变得模糊,应当承认人工智能体民事主体资格,使其成为民法上的“人”。人工智能将成为新的主体,享受权利、承担义务,并具有承担责任的能力。德国著名学者瓦格纳认为,一个新的行动者进入了责任法世界。人工制品第一次能够自行作出决定。自主数字系统在特定情境中适用的注意标准由系统本身决定,其使用者几乎无法影响其“行为”。笔者认为,智能体并非民事主体,无法成为智能体致害责任的责任主体,主要理由在于:一方面,人工智能能否成为民事主体,仍属于“未知的未知”,人工智能无论如何发展,都需要处于可控的范围内,应当由人来控制,而不是人被人工智能控制,责任承担的基本原则是“责任在人”而“不在物”,人工智能不应当成为承担责任的主体,这也是人工智能发展的底线规则。另一方面,赋予智能体主体地位,无法解决责任的承担问题。智能体独立承担责任的前提是拥有独立的财产,而财产来源无非是赔偿基金、责任保险等,因此根本性的问题不在于是否赋予人工智能独立人格、而是如何分配人工智能的侵权责任以及如何确定责任财产的来源。只有在该新责任主体具备必要财务资源、能够确保针对系统提出的损害赔偿请求获得满足时,才可能考虑创设新的责任主体的必要性。正如在全国首例“AI 幻觉”侵权纠纷判决书中,法官认为,“某人工智能模型既不是生物学意义上的人,也并未被我国现行法律赋予民事主体资格,故此不是民事主体,不具有民事权利能力、行为能力和责任能力。至于随着未来科技的发展,是否应据实际情况将人工智能视为‘人’,赋予其法律拟制的主体资格,应由立法者进行决断”。该观点具有合理性。
由于人工智能并非民事主体,因此,人工智能侵权也不能适用替代责任。在欧美,一种比较流行的观点认为,人工智能损害可以适用替代责任。替代责任的成立要求责任人和行为人之间存在某种特定关系(如雇佣关系),其通常存在于雇主与雇员之间(有时仍被称为主仆关系)。《法国民法典》第1242条规定的概括性条款对于调整自然人之间以及自然人与非自然人之间的关系十分恰切:“任何人不仅对自己的行为造成的损害负赔偿责任,而且对应由其负责的人的行为或在其照管之下的物造成的损害负赔偿责任。”由于替代责任在性质上是严格责任,因此,智能体侵权适用替代责任,意味着对其采严格责任原则。此种观点的优点在于,其确定了责任在人的原则,即不论是机器还是模型致害,都应当由使用人承担责任,而不是由机器承担责任,这符合人工智能侵权认定的伦理规则,也有利于对受害人提供救济。但这种方式仍然存在一定的问题。一方面,替代责任的前提是承认人工智能是特殊的主体,因为替代责任解决的是两个主体之间的责任认定和归属问题,而智能体本身并非法律主体,不符合替代责任适用的条件。另一方面,在存在多个主体的情形下,究竟应当由哪个主体承担替代责任,存在疑问。其也难以确定责任主体,甚至可能导致认定各个主体成立共同侵权并承担连带责任的后果。
与生成式人工智能侵权相比,人工智能体侵权的重要特征在于责任主体的多样性,生成式人工智能的情形下,模型制造者往往就是服务提供者。一旦其生成的内容构成对他人人格权和知识产权的侵害,因为责任主体主要涉及服务提供者的责任问题,相对而言,责任较容易认定。但在智能体侵权的情形下,其重要特点在于,其责任主体具有多样性,主要原因在于:一方面,智能体从开发到应用,需要经过多个环节,涉及多种硬件和软件技术的结合。智能体的运行往往需要多项技术的相互配合,从而形成价值链(value chain)。该价值链上的主体至少包括数据提供者、标注者,算法设计者、开发者、部署者以及使用者。具身智能产业链高度复杂分散,涉及生产模型研发、基础模型提供、边缘计算微调、算法提供和硬件本体制造等环节,基础模型提供方、算法提供者、系统集成方、硬件生产商及最终运营部署方通常属于不同主体。与传统的产品或者服务不同,人工智能技术的运行并不遵循线性供应链,而是呈现分布式和模块化的特征。换言之,在人工智能运行的不同阶段,多个主体的行为都有一定的贡献。这就决定了在人工智能致人损害的情形下,责任主体具有多样性和分散性的特点,而且参与的主体越多,则各个主体过错的认定就越困难,其责任分配也就越复杂。人工智能侵权责任主体的多样性给侵权法规则适用提出的挑战之一,是如何在人工智能开发、部署和使用等环节对相关主体进行归责。正如有学者所指出的,“人工智能的接受……以及从这项新技术中获得经济优势的机会,将在很大程度上取决于与人工智能使用相关损害的责任分配的法律确定性”。
另一方面,既然适用产品责任,不仅涉及生产者,也涉及经营者。正如产品责任常涉及生产者和销售者一样,智能体侵权也涉及生产者和销售者。按照产品责任规则,面对终端用户的主体,至少包括了生产者和经营者。例如,自动驾驶一旦出现故障,直接面对受害人的是生产者(车企厂家)和经营者(经营车辆的相关公司)。具身智能在广泛应用之后,一旦侵害他人的人身财产权益,生产者和经营者毫无疑问应当承担责任。这就不同于生成式人工智能。
从侵权责任主体层面看,智能体技术的发展和应用提出了一个很现实的问题,即智能体侵害人格权益可能涉及多个环节、多个主体责任的认定。例如,在“龙虾”智能体的应用场景下,智能体有可能因自身的误判,或用户的错误指令,或错误的信息输入等原因,导致信息泄露,相关责任的认定可能涉及训练数据提供方、预训练模型开发者、微调服务商、应用程序编程接口(API)调用者、终端应用平台等多个主体。在因人工智能自主决策致人损害(如医疗误诊、自动驾驶事故、虚假法律文书)的情形下,应当由谁承担责任?由于人工智能产品缺陷的认定较为复杂,其制造、设计和说明等方面均可能存在缺陷,缺陷的类型不同,责任主体范围的认定也会存在区别。人工智能产品侵权具有明显的责任主体分散的特征,基于单一制造商或生产商的传统问责概念难以准确概括人工智能侵权的特点。
欧盟《人工智能法》在规定人工智能侵权规则时,并没有采用宽泛的人工智能服务提供者的概念,而是将人工智能系统的运营商(operator)细分为提供者(provider)、部署者(deployer)、进口商(importer)、分销商(distributor)、产品制造者(product manufacturer)、授权代表(authorised representative)等不同主体,这实际上也是考虑到了人工智能侵权责任主体多样性的特点。此种立法经验值得借鉴。我国现行立法将人工智能侵权的主体规定为服务提供者,这可以大体上解释生成式人工智能体侵权的主体,但难以适用于智能体侵权的主体。因为智能体侵权并不是简单的提供服务,服务提供者的概念难以准确解释智能体侵权的责任主体。
(二)智能体侵权中各责任主体的责任形态
由于人工智能侵权涉及多主体的责任,而且不同的人工智能应用模式中各个主体的关系不同,因此可能形成复杂的多数人侵权形态。以自动驾驶机动车致人损害责任为例,相关损害事故既可能是因为系统提供者提供的系统存在缺陷所致,也可能是汽车生产商在安装和部署系统时存在过错所致,还可能是机动车使用人在日常维护过程当中没有尽到维护义务导致的(如未能及时更新地图等交通信息,最终导致事故发生),这就有可能形成多数人侵权的形态。从法律角度来看,人工智能体侵权面临的最紧迫挑战之一是在其开发、部署和使用所涉及的行为者链条中如何准确分配责任。笔者认为,在人工智能侵权的情形下,认定各个责任人的责任应当遵循如下规则:
第一,不能简单认定各个责任人之间的连带责任。一方面,在人工智能侵权的情形下,各责任人之间并不存在侵害他人权益的意思联络,因此无法成立共同侵权行为。另一方面,在智能体侵权的情形下,各个责任人之间也不构成共同危险行为。因为对共同危险行为而言,虽然各个行为人均实施了一定的加害行为,但并非所有行为人的行为均对损害后果产生影响,仅部分行为人的行为对受害人损害后果的发生具有原因力。而在人工智能侵权的情形下,受害人损害后果的发生是多个主体行为共同作用的结果,即每个责任人的行为都对损害后果的发生产生了一定的影响,因此各个责任人的行为并不一定构成共同危险行为。
第二,在认定各个责任人的责任时,需要综合考量其过错以及其行为对损害发生的原因力等因素。在人工智能侵权的情形下,各个责任人的行为对损害后果的发生都有一定的原因力,因此其通常成立无意思联络的数人侵权。在具体认定各个责任人的责任时,由于算法的不透明性和难以解决的技术障碍,可能难以准确认定各个责任人的责任范围,这可能需要对各个责任人的过错以及对损害发生的原因力等因素进行综合考量,以确定其责任范围。
第三,认定相关主体的责任时,要考虑相关环节是否直接与终端用户发生联系。产品责任的一项重要规则在于,要将产品缺陷造成的损失的责任归责于产品制造者,即将最终产品投放市场的一方,其应当对最终产品中的所有缺陷负责。在认定各个责任人的责任时,为了鼓励相关主体积极投身人工智能技术的开发和应用,推动人工智能产业的发展,对不直接向终端用户提供产品和服务的开发者和提供者不应当课以过重的责任负担,更不应该简单地适用连带责任。例如,具身智能可能是多个不同软件和产品的集成,其大脑可能是大模型提供者提供的,其执行的智能体框架可能是由其他智能体开发者提供的,但这些开发者和提供者并不直接面对终端用户,而只是通过合同关系向具身智能的制造者提供产品和服务,显然由其承担产品责任并不合理。一般而言,只要其履行了合规义务和合同义务,即便后续发生了人工智能侵权,其也不应当对第三人承担责任。
直接向终端用户提供产品和服务的开发者和提供者是最能够控制智能体风险的主体,应当承担更重的风险控制责任。从法律的经济分析角度来看,能够以较低成本防范风险、避免更大损失的主体,应当承担更重的责任。按照汉德公式,应当将责任分配给能够以最廉价的费用避免损害的人。1970年,卡拉布雷西(Guido Calabresi)在其开创性著作《事故成本》(The Cost of Accidents)一书中指出,“如果让行为人承担其行为所导致的所有成本,那么就会在事实上减少事故或者降低事故的严重性”。其“最便宜的成本规避者”(cheapest cost avoider theory)理论认为,产品制造商确实有义务发出警告,理由是“产品制造商通常比零件制造商更有资格警告集成产品的危险”。在该理论提出后,美国最高法院法官尼尔·戈萨奇(Neil Gorsuch)同样围绕卡拉布雷西的最廉价成本规避理论构建了他的分析,他推断,后续零件制造商“最有能力理解并警告用户相关风险”。在智能体侵权的情形下,直接向终端用户提供产品和服务的开发者和提供者是最有能力控制智能体风险的主体;同时,由于其最了解智能体的运行原理和风险,因此其也是能够以最低成本预防风险的主体,应当承担更重的风险控制责任。
第四,区分相关主体是否以开源的方式提供服务,如果以开源的方式提供服务,且对相关使用风险已经尽到了合理的提示义务,应当被减轻甚至被免除责任。对于提供开源式服务的主体而言,其是无偿提供相关服务,具有一定的普惠性,不应当对其课以过重的责任。换言之,在人工智能侵权的情形下,认定各个责任人的责任时可能还需要区分其行为的有偿性与无偿性。按照权利义务相一致的原则,如果相关主体是无偿提供相关服务,则其责任成立要件应当更为严格。例如,如果相关的服务提供者提供的是开源服务,并没有要求用户在使用服务时支付相应的对价,就不应当课以过重的责任。
此外,面对人工智能侵权的风险,还需要发挥保险制度的风险分散功能。尤其是随着人工智能应用场景的不断扩展,其侵权风险也将随之增加。例如,自动驾驶的汽车制造商在某种程度上向“自带保险者”转变,保险成本也可能被打包进入车价。再如,随着低空经济的发展,带有人工智能系统的无人机的应用场景日益广泛,其侵权风险也会随之增加,应当通过保险分散风险。有学者认为,现代侵权法正在从“人的过失”转向“系统风险、保险机制与监管协同”的责任模式。此种观点具有合理性。在促进技术创新、推动人工智能产业发展的过程中,应当注重发挥保险制度分散风险的功能,尤其是开发新的承保模式以覆盖诸如网络安全漏洞和人工智能部署中的伦理问题等新兴风险类别。
四、智能体侵权因果关系的复杂性及其认定
(一)智能体侵权中因果关系认定的复杂性
在智能体侵权的情形下,不论适用过错责任还是严格责任,都需要面对因果关系判断问题。而在智能体侵权中,因果关系的认定尤其复杂,原因在于:
第一,智能体价值链上存在主体多元性。因为智能体致害结果往往不是单一主体行为所致,而可能是多个主体、多个环节共同作用的结果。智能体的应用涵盖技术开发者、数据提供者和部署者、服务提供者、接入者等,各个主体均具有承担侵权责任的可能。此外,人工智能算法的设计者、调试者与训练者,还包括智能体的运营者、部署者以及终端用户等,都可能对损害后果的发生具有原因力,但特定主体行为的原因力并不容易准确识别。一方面,在认定智能体侵权中的因果关系时,如前述,首先应当明确,各个责任主体之间通常不成立共同侵权。另一方面,需要对各个行为人行为对损害后果的原因力进行独立判断。损害可能源于用户发布的错误或恶意指令,也可能源于网络公开虚假信息诱使智能体实施误导或欺诈行为,还可能源于智能体自身的设计缺陷、训练缺陷或运行缺陷。可见,智能体侵权中侵权主体的多元性显著增加了因果关系判断的复杂性。
第二,智能体本身具有一定的自主性。智能体的自主性使侵权法归责链条变得复杂。智能体的自主运行会影响开发者、部署者等提供者的责任认定。在智能体产品侵权的情况下,裁判者需判断系统是否存在缺陷。但人工智能的实际输出并不完全由初始设计决定,还可能受到训练数据、运行环境、用户输入等因素影响,因此实际运行结果与初始设计之间的偏差能否归责于开发者和经营者,并不容易判断。由此可见,智能体的自主性将给因果关系的判断造成困难。
第三,因为存在算法黑箱,智能体具有不透明性。人工智能采用多层神经网络的技术原理,通过不同的参数和权重来决定输出结果,因此即便是开发者也无法理解人工智能为何输出某一结果。算法的非公开性和不可解释性也使受害人在证明相关主体行为与损害后果之间存在因果关系时面临较高举证障碍。除此之外,智能体的特殊之处在于,其接受使用者的指令之后,将会自主地收集信息、做出决策并且加以执行,而这个过程通常发生在使用者(侵权人)的终端设备中,受害人根本无从知晓智能体是如何运作的。因此受害人更加难以证明损害究竟发生于哪个环节。
第四,部分权益损害具有明显的累积性。例如,个人信息权益受到侵害时,单一行为本身可能尚未造成显著损害,但大量数据收集、处理、调用和输出行为叠加后,可能形成所谓“聚合效应”(aggregation effect),使风险不断积聚并最终转化为损害结果。这也增加了因果关系认定的难度。
就传统的单一侵权而言,加害行为与损害结果之间的因果链条往往较为清晰,而在智能体侵权中,由于侵权主体的多元化,加害行为与损害结果之间的因果链条也变得更加复杂,从而形成“多因一果”的现象。故此,需要准确认定各行为人的行为对损害后果的原因力,并据此确定其责任形态与责任范围。从因果关系类型看,智能体侵权中各责任主体的行为与损害后果之间更适合被评价为部分因果关系。各责任主体的行为均可能对损害发生具有一定原因力,但单个行为人的行为未必足以导致全部损害后果,且各责任主体之间通常不存在意思联络。此种情形更接近《民法典》第1172条规定的部分因果关系,各责任主体应当根据其对损害发生的原因力分别承担相应责任。
(二)因果关系认定两个层次
在侵权责任因果关系的认定中,通常区分事实因果关系和法律因果关系两个层次。这一范式也适用于智能体侵权责任的认定中。
第一个步骤是事实因果关系的判断,对此通常采用“若无则不”(but-for)的判断标准。事实因果关系最常见的表达方式,是通过询问“若无某一行为,损害结果是否仍会发生”,从而构造一个相反事实情境。正如韦克斯·马龙(Wex Malone)所指出的,“若无则不”检验法是一种法律政策的表达,它标志着施加责任的最低要求。对事实上的因果关系而言,在通常情形下,受害人需要先对因果关系作出初步举证,再由行为人证明其行为与损害结果之间不存在因果联系,从而排除事实因果关系。但在人工智能侵权中,由于技术结构复杂、参与主体众多、各主体之间的内在联系不透明,受害人往往难以证明某一单独行为人的行为与损害结果之间存在事实因果关系。当然,如果从智能体运行整体观察,事实因果关系通常可以成立。原因在于,如果没有智能体执行指令或作出输出的行为,受害人的权益损害通常不会以该种方式发生。例如,在自动驾驶交通事故中,车辆因系统故障撞击行人,车辆运行行为与损害结果之间原则上可以成立事实因果关系。
第二个步骤则是法律因果关系的判断。事实原因并不等于法律原因。法律因果关系的功能,在于限制责任范围,排除过于遥远、过于偶然或不应由行为人承担的损害后果。对智能体侵权而言,由于责任主体具有多样性,责任成立的环节较为复杂,而又不能够简单地适用共同侵权行为或共同危险行为的规则。简单适用“若无则不”规则,即便成立事实上的因果关系,也并不当然意味着行为人必须对全部损害后果承担法律责任,否则可能导致侵权责任成立的泛化。尤其在人工智能侵权场景中,即便没有某一特定行为人的行为,损害后果仍可能因其他主体行为或系统性风险而发生。因此,在事实因果关系之外,还需要通过法律因果关系对责任进行规范性筛选。法律因果关系的判断主要应当采用相当性标准,并结合可预见性、风险控制能力、预防能力以及技术发展需要等因素综合判断。
法律因果关系的判断实质上是价值判断问题。在智能体侵权中,关于法律因果关系的认定应当结合智能体本身的特性而作一定的调整。具体而言:
第一,应当考察损害后果对相关主体是否具有可预见性。智能体具有较强的自主性、学习能力和环境适应能力,其具体输出或行为有时难以被制造商、开发者或运营者完全预见。如果训练数据本身来源合规,且相关主体已采取合理安全措施,则其未必能够预见智能体在特定场景下利用相关数据造成损害。在尚不承认智能体具有独立法律人格的前提下,智能体致害责任原则上仍需由自然人或组织承担。但开发者和提供者对特定损害后果缺乏可预见性,可能影响对因果关系或过错的判断。
第二,应当考察相关主体对损害结果的风险控制能力。越接近终端用户、越能理解具体使用场景和用户需求的主体,通常越有能力采取措施避免损害发生。例如,智能体部署者或运营者直接面对用户,能够通过使用规则、权限设置、内容过滤、风险提示、日志记录和人工复核等方式降低风险。相较之下,前端数据提供者或基础模型开发者虽然也可能对损害具有一定原因力,但其对具体使用场景和具体用户指令的控制能力可能较弱。因此,在判断法律因果关系时,应当重点考察何者最有能力预防和避免损害。
第三,应当区分可控制风险与技术固有风险。现阶段,人工智能技术仍难以完全消除幻觉、错误和故障。换言之,智能体不可能完全不犯错,而且部分错误可能超出开发者或提供者的合理预见范围。“因果关系测试—包括‘要是没有’和‘实质因素’测试—预先假定了一定程度的人类控制或决策,而人工智能系统往往缺乏可控制性和可预见性。”如果要求相关主体对所有不可预见的技术风险一概承担责任,可能过度扩张责任边界,也可能不当限制人工智能技术的发展和应用。因此,对于无法通过现有合理技术措施避免的固有风险,不宜轻易认定特定主体与损害后果之间成立法律上的因果关系。
第四,应当将价值判断纳入法律因果关系的认定。法律因果关系的认定通常被视为价值判断问题,其可以在不同场景下,根据不同的价值目标或者政策导向而做出灵活判断。而在智能体侵权的场景下,法律因果关系的判断同样包含责任分配和风险政策的价值判断。判断某一主体是否应当承担责任,不仅要看其行为是否参与了损害发生过程,还要看由其承担责任是否有助于预防损害、分配风险和促进技术创新。如果行为人缺乏足够预防能力,却被课以过重责任,未必能够有效减少损害,反而可能妨碍技术发展和合理应用。
(三)因果关系的推定
人工智能系统通常具有算法不透明性、自主性、多变性和技术复杂性。针对智能体侵权中的证明困难,有必要在特定场景下适用因果关系推定,以缓和受害人的举证负担。因果关系推定并非直接认定责任成立,而是在受害人难以接触证据、算法运行过程不透明、相关证据主要由行为人控制的情形下,通过举证责任分配实现证明负担的合理减轻。
在智能体侵权的情形下,因为价值链的主体多元性、算法黑箱等原因,受害人在证明因果关系时可能面临一定的困难。尤其应当看到,在智能体根据用户指令重复某种行为时,用户可能发出概括性的指令,而智能体对此可能产生误解,或者超出用户指令的范围生成相关内容,并因此造成相关损害。此时,受害人在证明因果关系时,即难以证明其损害与用户指令或者智能体数据处理、分析、生成等行为之间存在因果关系。面对多主体参与、算法黑箱和系统性风险,传统单一侵权中的因果关系判断已经难以充分回应智能体侵权的责任认定难题。例如,某用户在要求智能体生成一份简历后,智能体向用户提供了其他用户的真实简历。此时,简历被泄露的用户在主张权利时,不宜再要求其证明其个人信息具体是在何时、由何人、通过何种技术路径被爬取、处理或调用,而可以采用因果关系推定的方式,缓解其举证负担。进一步而言,应当由智能体提供者或相关数据处理者证明其并未处理该个人信息,或者证明该信息泄露系由第三人攻击、用户异常操作或其他独立原因导致,否则应推定其行为与受害人的损害之间具有因果关系。
在自动驾驶场景中,也涉及因果关系推定的问题。通常,此种情形下因果关系的认定应当结合运行日志和举证责任规则认定因果关系。自动驾驶汽车故障可能源于训练数据瑕疵、算法设计缺陷、硬件故障、维护不当或第三人恶意攻击。由于车辆运行数据、系统日志、传感器记录和维护记录通常由制造者、运营者或维护者掌握,受害人难以直接证明具体故障来源。因此,如果相关主体未履行运行记录、数据保存、风险监测或事故说明义务,可以推定其行为与损害结果之间存在因果关系。被推定主体可以通过提交运行日志、检测记录、维护记录、安全审计记录等方式证明损害并非由其行为造成,从而排除或减轻责任。
总之,因果关系推定不同于因果关系的认定。即便推定某一主体行为与损害后果之间存在因果关系,智能体的提供者可以通过提供相关证据来推翻这一推定,而不是认定智能体提供者的行为与损害之间肯定具有因果关系。就此而言,因果关系的事实推定也符合智能体提供者与受害人之间的利益平衡。
五、智能体侵权后果的大规模性及其应对
(一)智能体造成大规模微型侵权的原因
所谓大规模侵权(mass torts),是指某一侵权行为造成了大范围内众多受害人的损害的侵权。在大规模侵权的情形下,行为人的侵权行为可能在大范围内使众多受害人遭受不同程度的侵害,尤其是人身侵害。人工智能的开发和利用常常引发大规模侵权。例如,大模型爬取个人信息,训练数据含大量隐私,如果没有经过恰当清洗和匿名化处理,易被批量提取、泄露。相关的人工智能产品可能自主实施危害行为,如从事欺诈、误导金融市场、煽动犯罪等行为。再如,人工智能体的训练需巨量数据,其可能大规模爬取个人信息、商业秘密、涉密数据等,人工智能工具的介入,可能极大地放大泄露的规模与影响。而人工智能引发的大规模侵权较为典型的是大规模微型侵权,其特点在于,对个体的单次损害多表现为微小损害或风险暴露增加,传统的侵权责任规则在救济受害人方面可能存在一定的不足。大规模微型侵权改变了传统的“一对一”侵权形态,其对整个社会的负面影响并非个人损害的简单累积。
智能体之所以造成大规模微型侵权,一方面是因为智能体所应用的技术具有超强能力,可以处理海量用户的个人信息,而且会不间断地处理个人信息,一旦发生个人信息泄露等情形,即可能造成大规模微型侵权。例如,2025年一项针对临床问答模型Llemr 的实证研究表明,攻击者能够以较高的准确率推断该模型中是否包含特定真实患者的病历信息,从而可能导致海量患者健康信息的泄露。再如,针对银行信用评分模型的研究显示,外部攻击者攻击训练数据并获取这些数据,可以推断个人信贷记录或交易流水,进而获取其与信用相关的敏感个人信息。智能体大规模爬取个人信息,以及在训练过程中大量处理个人信息,如果没有经过恰当清洗和匿名化处理,很容易导致个人信息的泄露。针对智能体引发的大规模微型侵权,传统的侵权责任规则在救济受害人方面可能存在一定的不足。
(二)智能体造成大规模微型侵权情形下损害的认定与救济
大规模侵权带来的问题之一是,如何通过损害赔偿的方式对受害人提供救济,首先需要区分损害和危险。在智能体造成大规模微型侵权的情形下,需要明确,如果受害人并未遭受现实损害,则其无权主张损害赔偿,但可通过其他救济措施对受害人提供救济。例如,在智能体不当收集个人信息的情形下,如果只是存在泄露个人信息的安全隐患,而没有实际泄露个人信息,此时受害人只是面临一定的风险,其只能请求行为人采取删除等措施,以消除危险,而无权主张损害赔偿。例如,在美国,在隐私和个人信息侵权方面,一般性的未获个人信息同意处理个人信息、违反个人信息更正权及删除权等权利,通常不认定造成损害,但如果个人信息泄露,则可能会被认定为存在损害。美国联邦最高法院认为,个人信息泄露产生了具体损害,但并不存在侵权责任法上可以救济的损害。在智能体大规模微型侵权并未造成个人现实损害的情形下,受害人无权主张损害赔偿,此时可以更多地鼓励受害人通过行使更正权、查阅权、删除权等方式获得救济,而且不一定都要通过诉讼方式获得救济。
在智能体大规模微型侵权造成了受害人现实损害时,受害人应有权主张侵权损害赔偿责任。例如,智能体导致个人信息特别是大规模敏感个人信息的泄露,此时已经从风险转化为实际的损害,受害人有权主张相关主体承担侵权损害赔偿责任。在智能体造成大规模微型侵权的情形下,单个受害人的损害可能较小,甚至可以忽略不计,这也导致受害人无法证明自己遭受了多少损害。从比较法上看,有的国家法律直接设定法定赔偿额,如《加州消费者隐私法案》规定,企业因违规而导致泄露、盗窃或披露的,可以主张100美元到750美元的损害赔偿金或实际损害赔偿金。我国现行立法并未规定此种法定损害赔偿规则。我国《民法典》第1182条与《个人信息保护法》第69条专门规定了侵害人格权益和个人信息的损害赔偿计算规则,但在适用中仍然存在一定的困难。司法实践中通常通过上述规则所规定的法院酌定方式对受害人提供救济。当然,完全采用法院酌定的方式对受害人提供救济,也可能使法官的自由裁量权过大。在符合一定条件的情形下,通过法定赔偿的方式对受害人提供救济,也是值得探讨的一条路径。此外,即便受害人能够证明自身损害,其损害也通常较小,这可能导致受害人的维权成本较高,此时可以考虑通过共同诉讼、公益诉讼等方式对受害人提供救济。当然,事后的赔偿虽然重要,但也应当注重对损害的事先预防,因为在智能体大规模微型侵权的情形下,不论是程序上的救济还是实体上的救济,都存在一定的困境,此时预防损害更为有效。这也需要实行多元共治,综合运用法律法规、政策制度、应用规范、伦理准则等多种方式,有效防范智能体大规模侵权的风险。
在个人信息遭受大规模侵害的情形下,需要通过程序法与实体法的联动,实现对个人的有效救济。《民事诉讼法》第56条、第57条关于代表人诉讼的规定,可以为智能体大规模微型侵权场景下受害人的救济提供程序救济路径。但是,在大规模微型侵权的情形下,单个受害人可能缺乏维权的动力,也有必要引入公益诉讼制度,因为在侵害个人信息的案件中,往往受害人众多,而单个受害人能力有限,可能面临举证困难等问题,甚至有的受害人可能并不知道其个人信息权利已经遭受侵害。在面对不特定的多数主体权利可能遭受的侵害的场合,显然满足了公益诉讼的群体性。因此,在这种情形下,就十分有必要引入公益诉讼制度。为此,我国《个人信息保护法》第70条引入了公益诉讼制度。从制度安排上看,提起个人信息保护公益诉讼的诉权主体有人民检察院、法律规定的消费者组织和由国家网信部门确定的组织。在智能体侵权构成大规模微型侵权的情形下,即便其侵害的不是个人信息,也可以通过公益诉讼调动诸多手段,协同多个部门,使具有更强纠纷解决能力的组织和机关介入,有助于克服实践中个人起诉存在的举证困难以及成本过高等问题,对于强化保护个人人格权益十分必要。
六、结语
《民法典》人格权编和《个人信息保护法》虽然构建了人格权保护的规则体系,但面对人工智能体侵害人格权的风险,仍然存在归责原则不明、责任主体模糊、因果关系复杂、责任认定困难等挑战。随着人工智能体的发展,智能体的自主性和交互性进一步强化,在给人类带来更大福祉的同时,也进一步加剧了侵害民事权益的风险。智能体从感知、决策到执行,形成了一个自主性运行的系统,不仅在虚拟世界中形成对人格权和知识产权等权利的侵害,而且还在物理世界中现实地造成人身、财产安全的威胁。然而,不论智能体如何发展,在可预见的未来,其仍然不是承担侵权责任的主体。人工智能立法应当坚持“责任在人”的底线规则,即应当结合智能体侵害法益的特殊性,分别确立智能体侵权的归责原则,针对责任主体、因果关系认定以及大规模侵权后果,结合发展与安全并重的原则,合理认定智能体提供者、运营者、使用者等主体的侵权责任。对智能体的立法规制,应当以鼓励人工智能创新发展为第一要务,在防范风险、兼顾安全的同时,为技术创新和产业发展保留足够的空间。未来人工智能立法应当恪守审慎包容的理念,坚持“在发展中规范,在规范中发展”,构建“安全可信、敏捷治理、以人为本、协同共治”的生态体系,促进人工智能在可控、可用状态下有序发展。