【摘要】智能体推动人工智能从“生成式AI”向“行动式AI”演进,其自主行动能力打破了传统线性因果链条,引发深层归责困境。将智能体拟制为代理人,难以回应主体资格缺失、意思表示归属、权限边界消解与风险激励错位等问题。在现行法框架下,智能体的定性要有所区分:一般情形下应将其视为高度自主的网络服务;在部分条件下可认定为数字产品;而在特定高风险场景中宜被界定为新型数字危险源。在此基础上,构建“外部效力归属—内部治理追偿—剩余风险分担”的责任体系:对外以风险开启与信赖保护维系交易秩序,对内以控制力与过错为基础实现责任追偿,在高风险场景中通过责任保险与救济基金等机制吸收既有归责路径难以消化的剩余风险,以实现损害填补、交易安全与创新容错的利益平衡。
【中文关键字】智能体;人工智能;责任分配;自主行动;数字危险源
一、问题的提出
智能体(AIAgent)作为一种利用语言模型来实现目标的智能化系统,正推动人工智能由“生成式AI”向“行动式AI”演进。2026年年初,开源智能体OpenClaw迎来现象级爆发,不仅在全球开源社区创下星标增长纪录,更在国内掀起了被称为“养龙虾”的本地化部署与二次开发热潮,被业界视为智能体迈入“执行时代”的标志性产品。这一技术跃迁产生的经济影响备受瞩目。据高德纳公司预测,到2026年年底,40%的企业应用将集成专属智能体,到2028年,至少15%的日常工作决策将由智能体自主完成。
智能体技术的发展也已上升至国家战略层面。国务院2025年8月印发的《关于深入实施“人工智能+”行动的意见》明确提出,到2030年,我国人工智能全面赋能高质量发展,新一代智能终端、智能体等应用普及率超90%,并强调培育人工智能应用服务商,发展“模型即服务”“智能体即服务”等,打造人工智能应用服务链。这标志着智能体技术的规模化应用已成为我国产业高质量发展的重要方向。
然而,智能体进入真实交易与系统运行之后,既有归责体系所预设的清晰控制链条与稳定行为归属关系,开始发生松动。用户通常只输入概括性的目标指令,智能体便可经由自主规划、工具调用与跨平台协作,直接对外实施订约、支付、处分等具有法律效果的行为;与此同时,用户、提供者、第三方接口平台与交易相对人共同嵌入其运行链条之中,使控制力、受益关系与风险来源呈现出高度分散和动态耦合的特征。
这种技术演进在法理层面引发了新的归责问题:其一,智能体自主生成的外部行为效力应如何归属?其二,在多主体生态内应如何分配内部治理与追偿责任?其三,当各方均已尽到合理注意义务时,由算法内生不确定性引发的“责任空白”应如何填补?本文将围绕以上问题,穿透技术表象,剖析多主体生态背后的实质控制关系与法理定性,进而构建与其运行特征相匹配的责任分配框架。
二、智能体不宜被视为用户的代理人
智能体的英文为“AI Agent”,在语义上天然带有“代理人”之意,且在运行中呈现出明显的“代理外观”。然而,这种“代理外观”并不能等同于民法层面的代理法律关系。
(一)主体资格的先天缺失
代理制度以“民事主体”为逻辑起点。《民法典》第133条、第161条与第162条构建了清晰的规范图式:代理行为以“主体”间的意思表示为核心,将其效力归属于被代理人则有赖于内部追责机制实现风险配置。然而,智能体无法满足这一前提。随着智能体日益展现出准行动者特征,法律面临着承认其主体地位的理论探讨与制度压力。
学界主要形成了两条应对路径:一是赋予智能体有限法律主体资格;二是将智能体的提供者拟制为代理人。然而,这两种路径均面临一定的法理挑战。
就第一种路径而言,主体资格要求“赋予一整套法律角色,如订立合同、拥有财产、启动司法程序以及承担责任的能力”,而智能体在本质上依然是算法系统与软件组件的组合体,“尚不具备人类所具有的自主思考的意识与能力”,亦无可兑现责任的“自身财产”。若赋予其主体地位,将导致《民法典》第164条的内部追责机制落空。
从比较法视野来看,欧洲议会虽曾在2017年的一项决议中建议欧盟委员会研究为高度自主机器人赋予电子人格的可能性,但该提议因争议较大未获推进。美国司法层面亦缺乏直接承认其主体地位的倾向。
就第二种路径而言,代理关系的建立依赖于针对特定事项的明确授权,且代理人需遵守严格的信义义务,而智能体提供者仅提供技术架构,与用户之间并不存在针对具体外部交易的代理合意。在产业实践中,面对海量并发的自动化任务,若要求提供者对智能体自主生成的交易承担代理人的忠实义务与责任,不仅忽视了智能体的技术特征,将提供者置于客观上无法履责的境地,也难以厘清各方权责,进而不利于人工智能产业的创新发展。
(二)意思表示的归属困境
“意思表示”是民法体系的基石,“意思”与“表示”存在内在逻辑链条,确保“表示”能追溯至主体“意思”,是法律后果归属的正当性基础。代理制度允许效果归属的正当性即在于代理人行为能被解释为被代理人“意思的实现”。将智能体的运作链条拆分为“前端授权”与“后端执行”两个阶段,有助于厘清因果关系的断裂点。传统工具的因果关系高度确定,“控制力构成了归责的正当性基础,而自由意志就是这种控制力的载体”,故其机械执行未脱离用户意志。
然而,智能体的自主行动打破了意思传递的确定性边界,其须在不完整的目标函数下运行并自主填充空白,因此其输出是否具备规范可归责的意思基础尚须探讨。一旦智能体缔约出现幻觉错误,法院“往往会被迫探究该程序的意图或信念,并可能要求裁判者审查复杂算法的内部运作机制,这将是困难、不可预测且成本高昂的过程”。这种意思表示的归属困境使法律陷入两难:若为保障自治而允许用户广泛行使撤销权,将严重侵害交易安全;反之,则无异于让用户为智能体错误承担全部后果。
(三)代理权限的边界消解
“授权行为构成了代理权的核心,并成为代理制度的关键”。《民法典》第162条规定:“代理人在代理权限内,以被代理人名义实施的民事法律行为,对被代理人发生效力。”该条的规范重点,在于效果归属的正当性不仅来自“以被代理人名义”的表面外观,更在于该行为严格处于“代理权限内”。在传统委托代理中,代理权限的可预期性建立在静态、具体的授权基础之上,授权通常具有可识别的事项范围与条件;且即使授权相对概括,代理人的决定仍受制于自然人的理性判断、注意义务与事后责任追究。
然而,在智能体场景中,用户在输入端往往仅提供概括性、目标性甚至高度抽象的指令。如果将授权规则延伸至用户一旦启用智能体即视为授权其从事一切行为,不仅违背了授权行为必须具备相对确定性的法理,更在规范上放任了代理权限被智能体隐性吞噬。究其技术根源,智能体伴随着多维度的内生风险:在感知层面可能出现模型幻觉与错误理解,在规划层面可能形成偏离初衷的行动规划,而在工具调用层面则存在应用程序编程接口(API)的滥用、工具劫持与权限失控等风险。
这种技术上的不可控性,将直接触发《民法典》第172条表见代理制度的失灵。因为,若将该条适用于智能体,实质上是将智能体越权决策的系统性风险转嫁给无技术控制力的用户端。因此,试图直接援引实际代理或表见代理来论证由机器人安排的交易,在法理上存在诸多问题。
(四)风险与激励分配错位
将智能体认定为用户的代理人不仅在教义学上难以自洽,更会导致实践中风险与激励的分配错位。智能技术的自主性容易引发责任空白,强行套用传统规则将陷入相互推诿的问责困境。其根源在于,用户的控制力已被技术黑箱实质架空。若法律将责任归于仅具备有限控制权的人类操作者,无异于将风险转嫁给最无力防范的个体。以近期的OpenClaw失控事件为例,即便专业安全研究员多次下达终止指令,仍无法阻止其继续删除邮件,专业人士尚且无能为力,将风险后果归于普通用户既不现实也有失公允。
更进一步看,代理制度中的忠实义务在此亦面临挑战。智能体的决策优先级由提供者预设的底层指令与算法共同塑造。一个由平台部署的智能体,在面临“用户利益”与“平台利益”的冲突时,其行为更可能倾向于后者。事实上,决定智能体致损概率的关键变量集中在提供者控制的系统架构层。若将外部后果分配给无力干预的普通用户,真正掌握技术的风险控制者将丧失安全预防的内在激励,甚至可能利用“用户授权”作为抗辩事由以规避自身责任,最终削弱全社会防范智能体风险的能力。
三、智能体自主行动的法理构造剖析
在否定了将智能体简单拟制为“代理人”的路径之后,探寻合理的责任分配机制必须回归技术事实本身。由此,本部分将从智能体自主行动的技术解构出发,对其本质特征、控制权分布及法律性质进行法理剖析。
(一)智能体自主行动的本质特征
智能体之所以难以在现行法律中找到合理定位,关键在于它突破了人机交互的封闭边界,且将生成式推断与可执行的外部通道深度耦合。过去,生成式人工智能仅能被理解为信息生成工具,其法律风险多表现为不准确的内容或信息误导;智能体自主行动则不同,它使系统输出不再停留在内容建议层面,而是能够直接把内部不确定的概率判断,转化为网络空间中行为结果,进而在现实中触发订立、履行、处分等具有外部约束力的法律后果。
这种将决策转化为现实法律后果的能力,构成了智能体行动最核心的法理特质。为了进一步剖析这一复杂的法律现象,可以从以下三个维度拆解智能体自主行动的核心特征:
第一,智能体自主行动是以“目标”为中心的后果生成行为。传统民事法律行为紧紧围绕当事人对特定法律后果的明确指向展开。而在智能体场景中,用户输入的往往是高度抽象的宏观目标与约束条件,由智能体独立完成任务分解、路径选择并调用外部工具持续推进。这一过程剥离了用户的具体微观意思,导致“目标性授权”与“系统执行后果”之间存在较大的解释空间。责任制度若忽视这种目标驱动结构,要么会将算法黑箱推断强行拟制为用户真实意思,要么否定智能体行动的外部约束力,影响自动化交易秩序。
第二,智能体自主行动是过程推进型的“黑箱”行为,而非一个时点上的单次表示。人工智能体的内部执行状态是一个复杂的联环结构,其典型工作流程包括四个环节,即“用户提供指令”“系统规划与分配工作”“迭代改进输出”“执行行动”。这种循环推进的过程,意味着智能体内部执行状态是隐式的,因此很难观察其详细的内部状态,这导致无法及时发现安全威胁。由于错误的生成可能隐匿于理解、规划或工具调用的任一环节,最终的外部行为往往只是错误累积后的结果。
第三,智能体自主行动的本质是多因素交织的系统生成行为。智能体的致损后果往往难以归咎于单一节点,而更可能是模糊的用户指令、服务提供者的系统缺陷与第三方平台的接口漏洞等多重因素耦合作用的产物。除此之外,作为智能体底层技术架构的大语言模型,客观上存在“幻觉”这一技术局限,其生成内容在时效性与可靠性方面难以得到稳定保障。正如相关研究所指出的,传统过错责任的归责原则预设了一个能够预见其行为后果的人类行为者,而复杂AI系统的介入打破了这种可归责的预见能力。
(二)智能体自主行动的控制关系
责任分配的合理性,根本上取决于主体对技术风险的控制能力。谁能够设置系统权限的物理边界、识别并拦截异常指令、保存可供审计的过程记录,谁就更接近技术风险的源头,从而能以最低的社会成本实现风险的预防与纠偏。从更一般的数字治理逻辑看,这种责任重心向实际控制者转移,本质上也是对访问与控制关系重新配置的制度回应。然而,从运行链条观察,智能体自主行动的控制关系,呈现出明显的分层与多主体嵌套特征。
第一,用户处于“目标与授权层”。用户能够决定是否启用智能体,输入任务目标与诸如预算、时间等约束条件,并选择授权的范围。然而,这种控制仅仅是“启动意义”上的控制,而非对风险概率分布的实质控制。用户通常无法观察大模型内部如何推断,无法理解系统在诸多API工具之间如何编排,更无法调整异常拦截的底层阈值。更为重要的是,个体通常难以在有限的时间与能力等条件下作出真正符合其利益与价值的理性决策。这意味着,法律不能苛求用户来防范全部技术风险。
第二,提供者处于“系统与治理层”。智能体提供者不仅提供底层大模型等技术工具,还通过服务或产品结构的设计、默认设置的偏好以及运营规则的约束,将用户授权转化成现实的法律后果生成通道。以当前产业实践中的“OS+GUI”模式为例,智能体深度融入终端操作系统,拥有了系统级资源,被赋予了全域操作权限。
具体而言,提供者的控制力体现在五个关键机制上:一是权限架构的控制力,决定了风险外部化的程度;二是关键动作确认机制的控制力,强制二次确认能避免超出用户预期的财产处分;三是异常识别与拦截机制的控制力;四是日志审计与证据保全的控制力;五是回滚与人工接管机制的控制力。由此可见,服务提供者绝非传统意义上的被动中立媒介,而是具有较大的控制力。
第三,第三方平台处于“接口与凭证层”。智能体在现实世界中完成订票、下单或支付等行为,离不开第三方接口平台的账号体系与接口规则。在2026年1月,阿里千问App宣布全面接入淘宝与支付宝,实现了“对话即服务”与“AI代客下单”功能,用户只需一句话,智能体即可自行调用淘宝闪购接口进行选品并跨应用完成支付。在这种新型交易架构中,第三方接口平台掌握着接入端的风控机制,决定了哪些数字化凭证足以触发操作,哪些高风险环境必须进行生物识别等二次验证。对交易相对人而言,其信赖的基石是对平台规则与系统回执的信赖,而非对智能体本身“智能程度”的信赖。
第四,善意相对人处于“信赖层”。善意相对人的合理信赖构成了外部交易秩序的重要支点。在海量的自动化交易中,智能体以用户账户登录、调用API并完成支付,在客观上为相对人创造了清晰的权利外观。此时,保护交易相对人的信赖利益具有法理正当性,原因在于,相对人同样无法穿透算法黑箱去审查交易指令的真实发生机制,这种信息不对称要求法律在确认外部效力的发生以保护相对人信赖的同时,必须顺着前述控制力链条,通过内部追偿机制将最终的风险与成本导向真正掌握技术控制权的主体。
(三)智能体自主行动的性质辨析
在明确了智能体自主行动的基本特征与控制关系后,必须直面一个根本性问题:在民法体系中应当如何对智能体自主行动进行定性?在坚守客体定位的基础上,面对复杂多变的应用场景,法律上的定性应当摒弃“一刀切”思维。一方面,智能体的法律评价不宜僵化地停留于单一的“服务”或“产品”,而应在“服务”与“产品”的区分中作类型化判断;另一方面,基于智能体的自主行动与风险外溢特征,单纯的“服务—产品”二元框架已不足以涵摄其技术特性,有必要在此基础上,依据智能体的自主程度、应用场景与致险能力,作“网络服务—数字产品—新型数字危险源”的区分定性。
首先,在一般商业与生活交互中,智能体应被定性为高度自主的特殊网络服务。从技术与法律的演进脉络看,智能体并非凭空出现的独立法律客体,而是沿着网络服务与生成式人工智能服务的发展路径,在既有网络服务架构上经由大模型推理、工具调用、接口接入与跨平台协作进一步演化而成的行动型系统。
既有理论研究主要沿着网络服务提供者的框架加以理解和探讨;现行《生成式人工智能服务管理暂行办法》等规范,亦是将大模型应用置于“服务”框架之下加以调整。因此,在日常下单、日程规划等常态场景中,智能体本质上是服务提供者向用户提供的一种动态服务,其致害机理并未完全超越网络侵权的空间。
其次,在特定封闭或专门化应用场景中,智能体可以被认定为数字产品。若某类智能体具备具体且特定的用途,应用场景相对封闭,算法架构、数据输入范围与输出结构具有较强可预测性,并且能够依据既有技术规范、行业标准或者质检流程进行检测、验证与质量控制,则其产品属性显著增强。此时,将其作为数字产品加以评价,不仅是因为其形式上更接近产品,而且是因为其风险和缺陷可以被具体识别,责任也因此能够获得更清晰的认定。
至于产品责任能否承担调整人工智能产品侵权归责的任务,应考虑其规范目的及其对产品和相关规则的隐含要求。以诊疗式人工智能为例,在高度专门化、用途特定且存在明确安全标准的诊疗场景中,将其纳入产品责任评价体系,有助于为受害人提供更直接、更有效的救济路径。
最后,当智能体的权限、应用场景和破坏潜力突破一般网络服务与数字产品的可控阈值时,有必要将其界定为新型数字危险源。虽然在一般情形下,智能体可以被归入传统的“服务—产品”的二元框架,但应当认识到其并非传统民法意义上的“被动工具”。
传统工具仅实现了对用户完整意思的机械传达,而智能体不仅能对用户“未完成的意思表示”进行自主补全,还具备跨应用调用与自进化的能力。正是这种建立在算法概率推断之上的高阶自主性,使得智能体在获得底层操作权限或接入关键应用场景时,内生风险呈指数级放大,从而发生从一般服务或产品到数字危险源的性质跃升。
将危险源从物理空间扩展至数字空间,并非脱离现行法的理论臆造,而是危险责任法理的必然延伸。《民法典》侵权责任编第八章(第1236条至第1244条)专门规定了民用核设施、航空器等的高度危险责任。如果说传统危险源表现为物理能量的集中释放,那么高风险智能体所释放的,则是决策能力、数据处理能力与自动执行能力叠加形成的系统性风险。二者在物理形态上虽有不同,但在破坏后果的灾难性与溢出性、风险控制的非对称性与不可预测性,以及风险开启与利益获取的统一性等法理内核上呈现出高度一致。
对“高度危险”的判断,应当结合不可控性、非通常性、致害可能性、损害严重性,以及物品的性状、活动方式等因素进行综合考量。以此观之,智能体在特定高风险场景中具备高度危险源的核心特征。
其一,在高频量化交易场景中,被深度授权接入金融系统底层API的智能体,若因大模型的概率性幻觉在毫秒级时间内自主生成并执行海量异常交易指令,不仅会导致单一账户遭受巨额损失,更可能引发市场“连环踩踏”与“闪电崩盘”,这种瞬时爆发、跨网络传染的系统性金融风险,远超社会一般人的合理预见与防范能力。
其二,在物理交互与关键基础设施场景中,当智能体通过深层接口取得智能电网调度枢纽或大规模自动驾驶车队的控制权时,一旦发生系统规划层面的目标劫持或对底层指令的篡改,将会使算法错误直接转化为规模化物理破坏的致害后果,与传统高压电网失控或高速运输工具脱轨无异,甚至因其网络化特征而具有更广泛的社会影响。
其三,在系统越权操作场景中,当具备高阶自主能力的智能体获得了操作系统或云平台的底层管理权限时,一旦其突破安全围栏发生运行失控,便能在人类实施有效拦截之前,不可逆地对核心数据资产进行大规模毁损或导致整个业务网络大面积瘫痪,这种难以干预的破坏力犹如无法回收的放射性物质一般,呈现出巨大的破坏性与致险性。
四、智能体自主行动的责任分配
面对智能体所引发的责任归属问题,应当构建以控制力为核心、以风险分配为导向的责任分配体系。基于前文对智能体“网络服务—数字产品—新型数字危险源”的区分定性,责任分配也应摒弃单一归责思路,进而构建涵盖“外部效力归属—内部治理追偿—风险社会化分担”的责任体系。
(一)基于信赖保护的外部效力归属
在构建智能体的外部效力规则之前,必须澄清一个前提性命题:否定智能体的代理人地位,并不意味着无视其在商业实践中代为执行任务的客观功能,更不意味着由其促成的自动化交易概不生效。
首先,在一般商业交互中,应确立基于风险开启的外部效力推定原则。用户启用智能体并授予账户凭证、支付权限或API访问权限的行为,本身即构成对相对人合理信赖的风险开启。联合国国际贸易法委员会《贸易法委员会自动订约示范法》(2024年)第7条第1款明确规定,“在合同当事人之间,由自动化系统执行的行动应按照当事人商定的程序进行归属”。
因此,法律让用户原则上承受智能体行为的外部效果,其正当性基础不是代理权拟制,而是基于风险开启与对外观的信赖保护。因此,只要智能体持有的凭证合法且未超出逻辑任务域,其产生的外部符号意义即应原则上归属于用户。若允许用户在一般商业交互场景下任意以系统误判或者非其本意为由否认其行为的效力,将影响自动化交易秩序。
其次,当智能体行动出现显性异常时,应适用信赖阻断的例外规则。信赖保护的边界在于相对人善意与交易的合理性。当智能体的行为已经明显偏离商业常识或交易逻辑时,相对人的信赖即不再具有应受保护的正当性。具体而言,当智能体出现所从事的交易价格显失合理、极短时间内高频下单、同时发出逻辑互斥指令、交易规模与任务目标明显失衡等情形时,应认定相对人知道或应当知道系统运行存在异常,此时外观效力推定应当被阻断。这种例外规则的正当性在于,在智能体参与交易的时代,交易相对人对显著异常的系统行为负有最低限度的识别义务。
再次,第三方接口平台不仅是中立通道,更是阻断风险的关键基础设施,应承担以算法风控为核心的安全保障义务。当前智能体调用外部工具时对于外部环境往往缺乏充分验证,极易受到间接提示词注入等新型攻击。由于单一商家难辨系统失控,掌握全局数据的平台理应承担更高强度的安保义务,这主要包括对执行异常频次与金额的实时识别、限流验证乃至交易熔断,并将访问权限与“可见性措施”挂钩,以及限制不可信智能体访问高风险服务等。
该义务在法理上与《电子商务法》第38条的规定一脉相承,但在智能体高频自动化的语境下,其更加注重事中的动态算法风控。鉴于平台并非风险的直接开启者,其担责的规范基础在于未履行与自身技术控制力相匹配的注意义务,故原则上其仅对未能及时阻断而扩大的损失承担补充责任。唯有在共同设计、联合运营或对异常交易恶意放任等特定情形下,方有适用共同侵权规则并承担连带责任的空间。
最后,应建立“确认+撤销”的双重保障机制。对于涉及大额支付、核心数据发送、关键权限变更以及重大对外缔约等高风险节点,系统原则上应内置“确认”程序,将最终决定权短暂交还用户。对于已经完成确认或本属低风险、无需强制确认的操作,合同原则上应发生效力,以维护交易安全。
然而,若事后有证据证明系统存在根本性偏离、明显算法异常或可证实的系统故障,且该异常已超出用户授权所能合理覆盖的风险领域,则应允许用户在合理期间内行使撤销权。对此,有学者指出,算法决策偏离算法使用人的预期,并不当然排除重大误解规则的适用。《民法典》第157条关于撤销后返还与过错赔偿的规定,也为此提供了规范依据。因此,在一般网络服务场景中,外部效力规则的合理形态,应是在风险开启基础上的效力推定、在显性异常场景中的信赖阻断,以及在高风险节点上的确认和事后救济。
(二)基于控制力与过错的内部治理追偿
外部效力规则虽然让用户承担了初始风险,维护了交易秩序的确定性,但若将责任链条止步于用户,会造成实质不公与激励扭曲。因为在多数场景中,真正掌握底层技术控制力、系统配置权和风险调节能力的主体并非用户,而是服务提供者或者特定情形下的产品生产者。故此,在外部效力归属完成后,责任必须向真正接近风险源头,并能够以较低社会成本加以预防和纠偏的主体回流。
首先,对于一般情形下被界定为高度自主网络服务的智能体,服务提供者的责任基础应定位为过错责任框架内的治理责任。智能体服务提供者已不再是传统的中立信息通道,而是法律效果生成机制的“数字架构者”。这种架构权力,使其足以对系统行为及其外部后果施加“某种程度的控制或影响”,因此应承担与之相应的治理义务与责任。
这种治理义务至少应包括三个方面:其一,权限控制与系统设计合规义务;其二,关键节点的确认与人工干预合规义务;其三,异常识别、阻断与持续监控合规义务。在证明责任分配上,应建立“初步举证+过错推定”的程序结构。用户证明系统输出明显偏离任务目标并造成损害后,服务提供者应对其治理合规承担举证责任。治理合规不仅要求其履行实质性的系统安全义务,还要求其保存足以支撑追溯、复盘与问责的文档、日志与可见性信息。
以美国国家标准与技术研究院《人工智能风险管理框架(AIRMF1.0)》为代表的技术标准,已将系统性文档化置于人工智能风险治理的重要位置,强调其对提升人工智能透明性与可问责性的关键意义。若其能证明已履行注意义务且建立了合理可行的纠偏机制,即可阻却内部追偿。
其次,对于特定封闭或专门化场景中可被认定为数字产品的智能体,则应保留产品责任的适用空间。产品责任是解决人工智能责任问题的重要工具。当某类智能体具备具体且特定的用途,其算法架构、输入范围与输出结构相对封闭,并已形成合理可行的检测、验证与质量控制标准时,其可预测性与可检验性将明显增强。在此情形下,若损害主要源于设计缺陷、警示说明不足或系统部署中的固有缺陷,而非运行中的开放式概率演进,则将其纳入产品责任规制,不仅具有合理性,也有利于受害人获得有效、直接的救济。
再次,对于被定性为新型数字危险源的高危智能体,提供者应依法承担无过错的危险责任。在诸如高频量化交易接入、控制物理基础设施等极端高危场景中,即便提供者尽到了注意义务,只要高危智能体发生系统级失控并致损,服务提供者即应担责。因为此时责任的正当性不再是主观过错的评价,而是基于责任人制造了危险来源并从事高度危险活动而受益,这正是危险责任在分配正义层面的要求。同时,也应认识到,其担责方式须通过下文论述的社会化分担机制实现。
最后,内部追偿机制还应同时引入用户过错阻断规则。当损害结果主要系用户自身违法指令、恶意干预或重大疏忽所致时,应切断服务提供者的责任基础。
其一,当用户明确下达违法或侵权指令时,智能体即退化为侵权的延伸工具,依据“任何人不得因不法行为获益”的法理,用户自应承担全部责任。其二,若具有一定技术能力的用户主动采用提示词注入、“越狱”、“绕过安全围栏”等手段破坏系统防护,此时已足以打破人机协同的信任前提,损失亦应由其自行承担。其三,若提供者已经履行充分警示义务,而用户仍无视高风险提示、拒绝二次确认或擅自篡改核心参数,则应适用过失相抵规则,合理减轻或免除提供者的责任。
(三)基于社会连带的剩余风险分担
在完成外部效力归属、内部治理追偿以及用户过错阻断之后,责任体系必须直面一个关键问题:当用户无主观过错,提供者与第三方接口平台亦尽到治理义务,智能体仍因算法幻觉或系统涌现性造成重大损害时,损失应由谁承担?对于此类难以归咎于任何一方过错的损害,传统救济路径已然失灵,前文“新型数字危险源”的定性便在此显现出其规范意义。
危险责任的正当性不在于物理属性,而在于其风险结构与利益获取。正如有学者所言,责任人因“制造危险来源并且通过控制某种危险物或从事危险活动而受益”承担责任,其制度目的“不是以通过恢复平等状态来实现公平正义,而是通过损害的分配来实现公平正义”。
从法哲学层面审视,“法律的社会功能乃是实现社会连带”,现代技术风险带来的不幸损害不宜完全由个体承担。危险责任正是通过在无过错前提下分配损害,并借助价格或保险机制将损失分散至社会整体,从而实现风险的社会化吸收。因此,在特定高风险场景中引入社会化分担机制,并非对企业责任的泛化加重,而是在承认算法内在不确定性的前提下,为受害人提供一种更具可行性的救济路径。
在具体制度设计上,可以借鉴《道路交通安全法》关于机动车交通事故强制保险与社会救助基金的成熟规范经验,构建责任保险与损害救助基金相结合的双轨制分担体系,并对其运行机制作出必要细化。我国道路交通事故社会救助基金制度由交强险制度的单纯补充转变为功能独立的社会保障机制,其制度演进本身即表明,面对高风险致害活动,强制责任保险与法定救助基金并行配置,乃是实现风险分层吸收与受害人兜底救济的重要路径。
首先,就责任保险的适用范围而言,并非所有智能体都应一体纳入强制投保范围,而应采取分级分类思路。正如交通领域区分非机动车与机动车,对于仅从事信息检索、文本处理等低风险任务的智能体,可由市场主体自愿投保商业险;而对于能够自主执行大额交易、控制关键设备、接入重要信息基础设施的高风险智能体,则应参照“交强险”制度,要求其核心部署者或服务提供者投保专项强制责任保险。如此区分,既可避免对一般创新活动施加过重负担,也能将制度资源集中配置于真正具有系统性外部风险的场景。
其次,就保险费率的形成机制而言,应当坚持风险基础原则,而非采取统一费率模式。参照机动车保险费率与交通违法及事故记录挂钩的浮动机制,高风险智能体的保费应综合其自主执行等级、权限危险程度、场景敏感程度以及风险扩散能力来确定基础费率。同时,将提供者的“治理成熟度”,如是否建立异常熔断、人工接管等安全机制及历史事故率作为费率浮动的重要调节因素。治理水平越高、合规记录越好,费率可相应下浮,以使保险费率发挥激励安全投入的治理功能。
再次,就人工智能损害救助基金的定位与运行而言,应参照《道路交通事故社会救助基金管理办法》的制度逻辑,将其定位为法定兜底性保障机制。智能体损害救济基金不应承担替代侵权责任或商业保险的功能,而应在既有责任机制与商业保险之外,作为高风险场景中的最后保障机制而存在。
在筹资结构上,应坚持“行业共担、保险衔接、财政兜底”的复合模式:其一,参照机动车救助基金从交强险保费中按比例提取的做法,要求承保高风险智能体责任保险的机构按承保规模提取一定比例资金;其二,要求高风险智能体核心经营者缴纳适度行业分担金;其三,对极端灾难性损害,由财政提供有限支持。与此相适应,基金的垫付启动条件应严格限定为责任主体无法查明、责任主体无清偿能力、损害后果超出商业保险赔付上限,或者各方均已尽到合理义务而仍发生重大损害等情形,避免基金被异化为企业常规经营风险的转嫁工具。
最后,在基金管理机制上,还应强调专门化与可审计性。考虑到智能体致损往往涉及复杂技术判断与合规审查,基金宜采取“专业机构管理+多方参与监督”的运行模式。更为关键的是,参照机动车救助基金先行垫付后基金管理机构享有追偿权的规定,智能体基金的赔付亦不应当然终局化;在完成先行救济后,若后续查明存在可归责的具体主体,基金管理机构仍应依法保留追偿权,以防止社会化救济反向削弱技术提供者持续改进系统安全的动力。
对此,道路交通事故社会救助基金的制度经验具有直接参照意义。已有研究指出,救助基金在履行基础功能并赔付受害人后,便取得受害人对侵权责任人及其责任保险公司的债权,从而可对他们行使追偿权。因此,智能体基金的先行赔付亦不应终局化,而应设置对后续可识别责任主体的法定追偿机制。
结语
智能体的广泛部署标志着人工智能从“内容生成”迈向“自主行动”,其跨平台协作与直接交易能力触发了实质法律后果。这一技术跃迁虽大幅提升了运行效率,却深刻冲击了基于人类直接控制与线性因果链条的传统归责结构。
本文认为,不应将智能体简单拟制为代理人,而须基于技术事实作分层定性:一般情形下,界定为高度自主的“网络服务”;特定场景下,可以认定为“数字产品”;高风险场景中,则视为“新型数字危险源”。
对应地,须构建“外部效力归属—内部治理追偿—剩余风险分担”的三层责任体系:对外基于风险开启与信赖保护确立防范机制,维系交易秩序;对内以“控制力”为核心,在用户、提供者与第三方平台之间合理分配注意义务;对于剩余风险,则引入保险与救助基金予以社会化分担。期冀通过此种区分定性与分层归责,在智能时代重新校准控制力、风险收益与损害负担的规范关系,在受害人救济、交易安全与技术创新之间实现法律治理的韧性与赋能型人工智能治理。
【作者简介】
付新华,北京交通大学法学院副教授,数据法学研究中心主任。