内容提要:自动订约是电子商务的基本形态,它在AI时代出现的自动性错误与自主性错误问题成为新的法律挑战。电子商务法就错误问题仅在第50条第2款略有触及,其他的算法错误需要从民法典等一般民事法中寻找可能的法律救济。联合国国际贸易法委员会《自动订约示范法》第7条和第8条为国际范围内电子商务法统一应对算法错误提供明确指引,值得深入分析。《自动订约示范法》除可作为修改我国电子商务法的借鉴外,也可为法律适用指引解释方向及目标,特别是以“重大误解”规则回应“算法错误”问题,吸纳国际统一法规范呈现的国际共识,不仅要求错误的重大性,尚需要关注相对人对于算法错误的可识别性。
关键词:自动订约/ 算法错误/ 自动化错误/ 自主性错误/ 非确定性系统/
作者简介:韩世远,清华大学法学院教授,法学博士。
原文出处:《法律适用》(京)2025年第10期 第148-163页
一、引言及问题意识
技术进步永不停歇,继托夫勒提出的三次浪潮(农业革命、工业革命及信息革命)后,大前研一提出了第四次浪潮(网络社会的人工智能及智能手机革命,或者网络革命)。①民法典作为新时代法典,在实施过程中必然会遇到一些新情况新问题。能否坚持问题导向,适应技术发展进步新需要,在新的实践基础上推动民法典不断完善和发展,②回应人工智能及网络革命带来的新挑战,是我国法律人无法回避的问题。自动订约(或电子订约、智能合约、算法合同等类似表达)便是其中的典型,其研究之所以迫切:一是自动化订约应用场景较过去更为广泛;二是人工智能与区块链智能合约等技术的融合可能引发商业实践的根本性变革,催生所谓“超自主缔约(hyper-autonomous contracting)”模式。③就技术进步带来新的法律纠纷,在民法的世界中,法官不得借口法律没有规定、规定不明确或不完备而拒绝审判(比如《法国民法典》第4条),④故须结合既有电子商务相关特别法及民事一般法,做体系性思考。
思考我国问题时,应该同时注意到2024年7月11日,联合国国际贸易法委员会通过《自动订约示范法》(Model Law on Automated Contracting,以下简称《示范法》),或可从中发现值得借鉴之处。该《示范法》的名称已显示,它属于“软法”(soft law)而有别于公约类“硬法”(hard law)。该《示范法》旨在便利自动化在合同中的使用,包括利用人工智能(AI)技术和“智能合约”之发展,以及机器对机器的交易。《示范法》立足于联合国国际贸易法委员会《电子商务示范法》(1996年修订)和《联合国国际合同使用电子通信公约》(2005年修订,以下简称《电子通信公约》),旨在为国内立法者提供一套国际公认规则,以克服自动订约(即在合同订立及履行中利用自动化及人工智能)在法律上的障碍。《示范法》明确采纳技术中性和不歧视使用电子手段等基本原则,并在是否使用自动化系统上支持当事人自治原则。
《示范法》共计10个条文,分别规定:定义(第1条)、适用范围(第2条)、解释(第3条)、技术中性(第4条)、对自动订约的法律承认(第5条)、对计算机代码编写的或涉及动态信息的合同的法律承认(第6条)、自动化系统所执行行动的归属(第7条)、自动化系统执行的意外行动(第8条)、提供信息的要求(第9条)和不得免除(第10条)。由这些内容来看,它并非为自动化订约确立一整套规则,正如联合国国际贸易法委员会网站介绍所述,《示范法》旨在补充关于电子交易和电子订约的现行法律,特别是《电子商务示范法》和《电子通信公约》的有关规定。
自动订约在其他“软法”中也有规定,比如国际统一私法协会《国际商事合同通则》第2.1.1条(订约方式)便涵盖了自动订约,即当事人约定使用一种系统,它可以在没有自然人参与的情况下,触发导致合同成立的自动执行的电子操作。⑤
就我国法而言,我们已有《电子签名法》《电子商务法》等,另外,《民法典》第135条明确规定民事法律行为可以采用书面形式、口头形式或者其他形式。第137条分别规定了以对话方式作出的意思表示和以非对话方式作出的意思表示的生效时间,后一方式包括采用数据电文形式。《民法典》第491条第2款对订单合同的成立时间作了原则性规定。诸此规定,与联合国的《示范法》或者公约立场已非常相近,甚至有过之。⑥当然,也应意识到,我国既有立法中的电子商务合同所涉自动信息系统仍系确定性系统(deterministic systems),尚未涉及人工智能及非确定性系统(non-deterministic systems),⑦因而在此方面尚落后于《示范法》。实务中,对于电子商务相关实践,肯定电子合同为一种书面形式,对于智能手机APP等生成的通讯记录作为证据,没有任何歧视。作为“补充性”的示范规范,特别值得关注的是其中的第7条和第8条。在我国,“自动信息系统”被认为是电子商务合同最突出的特点,⑧互联网与智能化已巨大地改变了人们的生活方式,订约过程中利用AI及自动化已是普遍现象。自动订约在使交易便捷的同时,也带来商家实际标价错误时该如何处理之类现实问题。面对短时间生成的大规模订单以及消费者遍布各地的现实,传统的因“重大误解”而撤销合同处理方式也暴露出可行性上的短板,业界及学界尚没有形成清晰统一的共识。因而,《示范法》的规定尤为值得关注,本文拟重点结合《示范法》第7条和第8条,探讨在民法典层面回应算法错误之类问题的可能性。
二、自动订约后果的归属
自动化系统(automated system,《电子商务法》第48条称“自动信息系统”)的利用在带来便捷和效率的同时,也要面对一个基本法律问题:自动化系统本身并非法律上认可的主体,而是工具,借此从事交易,权利义务关系终究要归属于某个主体,因而就此须确立某种规则。《示范法》第7条标题为“自动化系统所执行行动的归属”(Attribution of actions carried out by automated systems),由此标题也可显示,它属于“归属规范”(Zurechnungsnormen)⑨。这里的“归属”概念,是将自动化系统所生成的结果(output)与某个法律主体相连接,进而排除将该结果归属于该系统本身。换言之,它是要识别出该结果背后的“人”,它并不涉及实体法问题。⑩第7条再次确认了在确立AI或者自动化订约法律框架时的重要因素,即自动化系统系“工具”,没有独立意志或者法律人格,因而自动化系统生成的结果应归属于人而非该系统自身。(11)
自动化订约系统的使用亦有不同类型,(12)暂且不论纯粹自动化系统对自动化系统的“机器生成合同”情形,(13)而仅以自动化系统对个人(machine to person)这种最为常见的情形为分析对象,比如以“某东”网购平台(自动化系统)为例,在该平台的利用者既有商户(“某东自营”场合,它既是平台经营者,也是电子商务经营者),也有消费者。在平台商户与平台经营者非同一主体场合,相较于本文讨论的“自动订约”,平台经营者(比如“某东”)是外在于商户与消费者的第三人,《示范法》并不处理提供服务的第三人(the third-party service provider)的行为,不涉及利用自动化系统订约人与自动化订约系统服务提供人之间的关系;自动化订约服务利用人对服务提供人的请求权亦不因此而受影响。(14)当然,作为合同双方当事人对于自动化系统运作的参与度及控制力虽然有限,但从双方利用自动化系统缔约,通常可显示出其缔约意愿。
(一)所归属的“行动”
《示范法》第7条共计4款,分层次规范自动化行动(与订立或履行合同相关数据电文的生成或处理)的归属,即约定归属(第1款)、法定归属(第2款)、意外行动无碍其归属(第3款)和法律后果规范的并存(第4款)。
值得注意的是,第7条所规范的自动化系统所执行行动(actions)并不局限于自动订约的行动,而应结合《示范法》第2条(适用范围)第1款,包括使用自动化系统订立和履行合同的情况,具体包括:(1)生成(generating)或以其他方式处理(processing)构成要约或对要约的接受等与合同订立有关的行动的数据电文;(2)生成或以其他方式处理构成与合同履行有关的行动的数据电文。与《电子通信公约》所采路径一致,“订立”概念包括缔约过程中的磋商以及合同本身的达成,而“履行”概念则包括不履行、合同变更、解除以及约定救济的实施。(15)因而,《示范法》所规定的“行动”,外形特定(即数据电文的生成或处理),内容广泛。由于未使用“意思表示(manifestation of intent)”之类概念,而使之不仅可以涵摄“要约”“承诺”之类典型的订约场合的意思表示行为,也可包括合同履行阶段的履行、不履行、变更、解除等行为。因而,第7条被认为适用于贯穿合同生命周期的行为(to actions throughout the contract life cycle)。(16)这种既规范订约行为又规范履行行为的方式,与我国《电子商务法》第48条第1款是一致的。比如在网购平台购书一册,自动生成订单后,可跟踪订单履行的信息(订单付款成功时间、订单分配仓库时间、开始拣货时间、打包完成时间、运输状况……)。如此,不论是意思表示、法律行为抑或准法律行为等,在这里不作区分,而适用统一的规范。
(二)行动的约定归属与法定归属
1.行动的约定归属
《示范法》第7条第1款规定,“在合同当事人之间,由自动化系统执行的行动应按照当事人商定的程序进行归属”。这是确定行动归属的首要规则。所谓“商定的程序”(a procedure agreed to by the parties),既可通过合同当事人之间的框架合同(framework contract)表现出明确的合意,也可通过合同双方均同意利用由第三人运作平台场合的平台规则。由于第1款预设了合同的存在,它适用于合同订立过程中的行动,因而,它涵盖在合同成立之前的行动。(17)类似地,就我国《民法典》第491条第2款但书所说的“另有约定”,学说认为首先是指“平台上的服务协议与交易规则”另有规定。(18)下文以“扫地机案”进行说明。
2014年10月29日,X在Y网站下单购买了1台某品牌型号扫地机,单价94元,共花费94元。Y公司回复邮件称:“已经收到订单,确定了预计送达商品的时间,但有可能由于商品缺货等原因无法发货,同时也说明邮件仅确认收到订单,并不代表接受订单,只有发出发货确认的邮件双方之间的合同才成立。”11月3日,Y网站给X的电子邮箱发送邮件称:“由于商品缺货而无法满足您的订购意向;如果您已经付款,取消商品的款项将退至您的账户余额或原支付卡中。”Y公司随后向X退还货款。X不同意Y“砍单”,提起诉讼,请求:判令Y继续履行合同交付货物,赔偿快递费、交通费、误工费、精神损失费、律师费若干元,并承担本案诉讼费。一审庭审中,X称如果法院认定合同没有成立,则变更第一项诉讼请求为要求Y赔偿差价款855元,其他请求不变。诉讼中,Y公司称将扫地机的价格标注为94元系操作错误,此价格并非扫地机的真实售价。(19)
在“扫地机案”中,网站第一封回复邮件虽无变更订单法律性质的效力,但在它与平台规则(使用条件)一致场合,实则是对于平台规则的特别确认。Y网站在“使用条件”中约定消费者下单为要约,网站发出送货确认才构成承诺。该网站“使用条件”便将《民法典》第491条第2款和《电子商务法》第49条第1款前段的一般规则予以改变,结果电子商务经营者发布的商品或者服务信息虽符合要约条件,却依上述约定而排除其作为要约;消费者选购商品并成功提交订单,反而被当作要约而非承诺。此种做法属于该款但书中的“当事人另有约定”的情形,我国立法(另见《民法典》第491条第2款)及司法均承认其效力。
2.行动的法定归属
《示范法》第7条第2款规定,“如果第1款不适用,则自动化系统执行的行动应归属于为此目的使用该系统的人”。这属于退一步的规则(the fallback rule)。与第1款不同,其适用不过问合同是否成立,因而它将行动归属于“人”,而非“合同当事人”。
第2款所指系利用自动化系统以生成某行动,它是要将该行动归属于与该行动有最强关联的主体,并要参考相关情事以使此种归属客观化地进行。根据相关情事,判别该主体时的相关因素包括:(1)部署(deploying)该自动化系统的人;(2)对该系统及行动之运转变量(the operational parameters)施加的控制;(3)从该行动产生的好处或者价值;(4)该合同的性质及目的;(5)交易习惯(trade usages)以及当事人之间确立的惯行(practices established between the parties)。第2款并不要求该人知道系统执行的单项操作产生自该人与该系统的互动,也不要求确定该人与该系统互动时的真实意思。(20)
第2款并不关注该人是否为系统的运行人,它有可能是第三方平台运行人,将自动化系统作为一项服务供人利用;第2款亦不关注该人是为其自己的利益抑或为他人利益而行动。在实践中,该行动被归属之人也可以是为他人而利用该系统。(21)
《示范法》所规范的订约行动及履约行动的实质是该相应的数据电文(第2条),第7条属于归属规范,该等规范在目前我国法上也有对应部分,包括《电子签名法》第9条及《电子商务法》第48条第1款。《电子签名法》第9条第1款规定了数据电文的一般法定归属,第2款规定了数据电文的约定归属。与《示范法》第7条第1款和第2款相比,虽然顺序不同,内在精神并无实质差别,二者功能相当。不过,《电子签名法》第9条第1款第2项规定的“信息系统自动发送的”数据电文,之所以归属于发件人,依立法者的解释,是“因为既然计算机只能按照编程者的指令和信息来运行,计算机的控制者就应当为其自动交易负责”。(22)显然我国立法者心目中的自动信息系统是“确定系统”,没有包括“非确定系统”。后者如何处理,在法律上尚不明确。《示范法》是将两种系统一并规范,这为我国将来立法改进以及法律解释指引了方向。换言之,对于民法典的解释,应与时俱进,努力尝试使之同时规范两种系统。
(三)心理状态问题
《示范法》第7条第3款规定,“不得仅以结果出乎意料为理由而否定自动化系统所执行行动的归属。”该款重申了一项原则,即行动归属问题不涉及人的心理状态。该条款明确了一点,即对意外结果的诉求不应通过归属规则解决,而应适用其他法律——尤其是可能影响非预期事件法律后果的合同法规则(例如因错误而撤销合同或免除不履约责任的规则),以及可纳入准据法的《示范法》第8条。(23)
在《示范法》制定过程中,曾考虑增设一项关于当事人心理状态的独立规则,以补充自动系统执行行为的归属规则。除当事人的意思表示外,合同法规则可能还要求当事人存在与合同订立或履行相关的行为意图,或知晓行为实施时的具体情形。合理性与善意要求也可能涉及对当事人心理状态的考量。在自动订约场景下,当行为实质上是由无独立意志或“心智”(with no independent will or “mind”)的自动化系统在未经人工审核或干预的情况下实施时,如何判定当事人对此类行为的意图或认知,可能引发争议。(24)
与第5条所载非歧视原则相一致,“心理状态问题”讨论的重点是制定一项规则,通过识别可能与探究当事人心理状态相关的要素,为自动订约背景下适用现行法律要求提供指引。基于关于自动订约机器使用的法律学说,有观点认为,当事人对自动系统执行行为的心理状态,可通过系统设计(如程序设定方式)及其运行环境得以体现。但最终,《示范法》没有采纳此类规则——尤其是考虑到现行法律要求及其适用情形的潜在多样性,而将具体案件中所有相关要素的认定交由法官及其他裁判者裁量。(25)
(四)行为归属与法律后果
《示范法》第7条第4款规定,“本条规定概不影响适用任何可能管辖将自动化系统执行的行动归属于某人的法律后果的法律规则。”该款进一步明确了行为归属与责任承担之间的区分,并确认归属规则不涉及自动化系统生成结果的责任分配。但该款并未否定二者间的关联性——根据第7条的归属规则作出认定,通常将是适用其他法律中责任规则的前置步骤。(26)
回观我国法,上述利用互联网平台的交易在民事基本法中获得承认(《民法典》第491条第2款等),自动生成的合同通常会被法院直接接纳,因而就自动化系统所执行行动或者数据电文的“归属”(《电子签名法》第9条)是判断合同是否成立的前提,很少被质疑。比如在“扫地机案”中,法院便认定商品标价展示依“使用条件”之约定属于要约邀请,消费者下单付款后,在网站确认发货前合同并未成立。又如后文“钻石耳钉案”中,卖方不是主张“自动化生成行动是平台的擅自作主,不是我的行动”。卖方的抗辩是,“合同虽然成立,但与我的真实意思相悖,存在重大误解,合同应被撤销”。由此,“重大误解”抗辩在我国电子商务语境下是否有存在的空间,是首当其冲的问题。
《电子商务法》第48条第1款在《电子签名法》第9条(数据电文归属规范)基础上,正面肯定使用自动信息系统订立或者履行合同的行为对使用该系统的当事人具有法律效力,但并未明确如果自动化系统所执行的行为有误该如何处理。这会涉及电子商务法、电子签名法与民法典等的相关法律关系,而《示范法》第7条第3款和第4款就类似问题指示了方向:不得仅以结果出乎意料为由而否定行为的归属,另外,不影响可能管辖行动归属于某人的法律后果的法律规则。换言之,《示范法》统一的方向是,诸如“重大误解”之类行为效力“评价规范”不受影响,“评价规范”与“归属规范”并行不悖。这也符合我国电子商务法属“补充性法律规范”的定位,(27)其第47条明示该法与民法典(当时尚为民法总则、合同法)、电子签名法等法律一起,共同适用于电子商务订立与履行。《示范法》第7条将自动化订约场合的底层逻辑明晰化,可进一步印证我国电子商务法的上述定位,并不排斥民法典关于法律行为一般规定及合同编总则等规定对于电子商务合同的可适用性。
三、自动化系统执行的意外行动
(一)对确定系统与非确定系统的普适性
《示范法》第1条界定了其“自动化系统”指无需自然人进行必要审查或干预即可执行行动的计算机系统,自动化系统可通过编程以确定性或非确定性方式运行(to operate in a deterministic or non-deterministic manner)。联合国国际贸易法委员会开展电子订约立法工作以来,自动化系统意外输出引发的法律问题始终是法学理论关注的焦点。近年来,人工智能技术的进步重新引发了学界探讨:非确定性系统的输出能否视为使用者的真实意思表示?此类输出能否有效用于合同的订立与履行?(28)
当缔约过程中的决策权交由自动化系统行使时,可能出现多种异常情形。导致非预期自动化交易的事件可统称为“算法错误(algorithmic mistakes)”。不同类型的算法错误可能引发迥异的法律问题,因此在学理上有必要区分“自动化错误(automation mistakes)”与“自主性错误(autonomy mistakes)”。该分类方法借鉴了学界区分自动化系统(automated systems)与自主系统(autonomous systems)的理论,后者以非确定性方式运行。(29)自动化错误虽可能发生在人工智能代理场景,但并非AI技术特有风险,而是合同自动化本身固有的技术缺陷,与系统复杂程度无关。而自主性错误则更为隐蔽,可界定为:在不存在编码错误或技术故障的情况下,AI代理使用者合理预期与缔约结果之间的偏差。即便决策流程毫无技术瑕疵,仍可能产生非本意交易。事实上,即便底层代码无缺陷且无技术故障,代理仍可能表现出非预期行为。这并非暗示自主代理具有编程者设定之外的“意愿”或“价值观”,而是指机器学习代理可能展现反直觉的计算逻辑——通过深度学习方法提取潜在模式,或采用非常规策略实现效用最大化。(30)
当然,我国电子商务法立法者有意识地区分了自动信息系统与人工智能(即具有独立学习、判断、决策与执行能力的系统,如Alpha Go Zero),目前在我国的电子商务合同中的自动信息系统暂时不涉及人工智能问题,使用者被认为应能预设程序指令、算法、运行参数与条件,完全控制该系统。(31)换言之,电子商务法仍立足于以确定性方式运行的自动信息系统,尚未充分关注以非确定性方式运行的自动信息系统。另外,《电子商务法》第50条第2款参照《电子通信公约》第14条,规定经营者保证用户更正输入错误的义务(例如通过网站下单时无意的按键错误),用户输入错误仍属人为错误,非属“算法错误”,对于后者(包括软件缺陷、平台故障、网络中断及AI代理(32)的涌现行为等),无论是《电子通信公约》还是我国电子商务法均保持了沉默。另外,美国统一立法亦呈现类似局限:《统一电子交易法》(UETA)第109(2)条与《统一计算机信息交易法》(UCITA)第2B-118条虽参照《电子通信公约》第14条,为系统未提供纠错机会时的人为错误提供救济,但UCITA条款仅适用于消费者合同。对算法错误如何处理,是法律无法回避的现实挑战。《示范法》第8条虽未使用“算法错误”概念,但却是积极提供了可供参照的实体法规则,意义重大。
笔者认为,基于《示范法》第7条与第8条的功能区分,“算法错误”尽管可以包括“自动化错误”(比如因当自动化系统获取实时数据时受阻,导致过时或残缺信息被采用),以及“自主性错误”(比如系统采集的信息可能质量低劣,训练测试数据可能存在偏差,缺陷数据将导致整个决策过程失真),上述“算法错误”同样被归属于合同当事人,在这里同样奉行客观归属原理。换言之,只要能确证合意符合其在合同法上的意义和目的,算法错误之被作为当事人的错误,是基于“意思无关性(the irrelevance of will)”。因此应当转换视角:不再探究计算机表达的合意是否反映用户真意,而应判断外部观察者能否合理质疑协议的严肃性(earnestness of the agreement)。(33)
(二)功能对等与“无权依赖该行动”
《示范法》第8条第1款所谓另一方当事人“无权依赖该行动”(is not entitled to rely on that action),其实是一种“功能主义”的规范模式,但也会面临“形式主义”层面的追问:它是在直奔主题且一步到位的赋权,抑或目标虽既定、但需要在既有法律制度层面步步推进始能最终抵达?结合《示范法》既适用于构成要约或承诺等行动的数据电文,也适用于与合同履行有关的行动的数据电文(第2条),该《示范法》在与国内法配合发挥作用时,相应的作用机制便很值得仔细推敲。
第8条第1款的术语体系承袭自《电子商务示范法》第13条第5款(34)等联合国国际贸易法委员会文书。通过阻止当事人援引归属于他方的行为,第1款实质上剥夺了该方主张行为法律后果的权利。因此,除否认合同存在外,该款还可用于:拒绝承认合同包含自动化系统意外生成通讯中的特定条款,或否定系统向联网设备发送意外通讯构成的违约主张。(35)换言之,《示范法》关注的是相似功能的实现,至于具体的路径,因具体国家不同,(36)并不强求一致,或可称此为“功能对等”(functional equivalence)。(37)
笔者认为,《示范法》虽以促进与贸易相关私法规则在国际间的统一为志向,并为国内的立法者及司法机构提供范本,但它本身属于“软法”,因而在我国尚不属于司法承认的法源(参见《民法典》第10条等),如欲在我国发生预期的影响,就必须有相应的法学方法论层面说明。如此,在我国立法者可参考《示范法》制定相关法律之外,就司法层面,实可参考《示范法》立场以解释和适用国内法。欧洲国家法院在解释适用本国法时有所谓“欧洲化”的问题,(38)在更大的范围内,联合国各成员国积极参照国际贸易法委员会示范法以解释适用本国法,也可以说是一种国内私法的“国际化”,这当然是以国内法为解释作业的基础。如此,在符合《示范法》第8条要件场合,合同相对人“无权依赖”该行动,便只是一个解释目标,为达此目标,便需要在国内法层面就其有效法源做解释论工作。
以后述“钻石耳钉案”为例,如果认定合同相对人对于自动化系统执行的意外行动“无权依赖”,方案一是不以该意外行动(不论是作为要约还是作为承诺)为有效意思表示,进而在结论上便是合同不成立。然而该方案与我国法的契合度低,因为无论要约还是承诺,在我国法下均属意思表示,而自动化系统所执行行动相应的数据电文,原则上是在该数据电文“进入”指定系统或相对人未指定系统场合在“知道或者应当知道”进入其系统时生效(《民法典》第137条第2款),尽管就单个意思表示有撤回、撤销、拒绝等手段,使之不生效或失效,但诸此手法均以行为人对该意思表示有清晰的认识为前提。而《示范法》第8条所谓“意外行动”,指向的是像“钻石耳钉案”那样卖方对于成交价低于其最低限价没有意识,等到发现时则为时已晚,合同已因“对方选择该商品或者服务并提交订单成功”而成立(《民法典》第491条第2款)。因而,这时在我国法下,它通常不是该意思表示是否有效的问题,而是进入下一阶段,是合同成立之后可否撤销的问题。(39)甚至该意思表示有瑕疵,相应的“重大误解”制度作用的对象便不再是该意思表示,而是“民事法律行为”(《民法典》第147条)。
(三)错误(重大误解)规则对自动订约的可适用性
下文以“钻石耳钉案”(40)为例,探讨错误规则对自动订约的可适用性。1月14日,赵某在某东平台B公司经营的店铺购买“18K金钻石耳钉”一件。涉案商品原价1276元,赵某使用优惠券等,实际支付338.7元。1月19日,B公司认为活动价格标错,不同意发货,并提出给予赵某5元的补偿。赵某不同意B公司的方案,双方协商未果。B公司未向赵某发货。经查,B公司在某东平台启用了店铺折扣模式,店铺折扣设定为8.0折。店铺最低折扣管理界面提示“该折扣为店铺最低折扣,低于此折扣不能创建促销活动”。B公司报名参加了某东平台“满999减888噱头券”活动,促销范围为跨店铺促销。活动开始后,B公司于1月14日当天向某东客服询问,店铺设置了最低折扣,为何会出现低价订单。某东客服答复称,是创建促销/优惠券的时候作的限制,不是顾客下单的限制。B公司与某东客服的聊天记录显示,某东纠纷处理专员在处理部分订单纠纷时答复购买者称,订单由于商家页面参数设置错误原因,判定为商家责任。赵某起诉,其最终诉讼请求为:(1)B公司按要约承诺履行义务;(2)B公司承担本案所有费用。被告B公司基于重大误解导致出现低于成本的价格出售商品,提起反诉,请求:(1)判令撤销双方之间的买卖合同;(2)赵某承担本案诉讼费用。
一审法院认为,根据B公司陈述的意见和本案证据,造成赵某某低价购买到涉案商品的原因是B公司错误理解某东平台促销活动规则,该误解并非对买卖合同的行为性质、对方当事人、标的物的品种、质量、规格和数量等的错误认识。本案中,B公司对于订立买卖合同的合同性质、销售何种商品、以何种价格销售商品、是否参加促销活动等认识均无错误,不构成买卖合同中的误解。B公司以消费者购买商品时使用优惠而导致合同价格低于其成本价为由主张存在重大误解并请求撤销合同,不符合法律规定,法院不予支持。B公司不应将其自身过错所造成的经营风险转移给消费者,损害消费者的权益。
由该案可以看出,在自动订约场合,对于一方当事人以重大误解为由请求撤销合同,法院并未以合同系自动订约所生成而否定重大误解规则的可适用性。不过,法院在适用重大误解规则时,显然十分谨慎。
另外,也有案件显示,在类似纠纷中消费者以商家欺诈为由请求撤销合同并按《消费者权益保护法》第55条支付惩罚性赔偿,商家以重大误解抗辩,但未反诉请求撤销合同。法院以商家不存在故意为由,不支持消费者诉讼请求。(41)
(四)自动订约语境下的重大误解之构成
《示范法》第8条与《电子通信公约》第14条类似,均系处理实体法问题。(42)另外,《示范法》第8条是以带方括号的任选条款(an optional provision)形式呈现,其配套脚注建议:若缔约国希望对自动化系统意外行为问题专门立法,可考虑将该条款纳入国内法体系。(43)这是由于在《示范法》起草过程中,是否有必要以独立条款(a stand-alone provision)规范这一问题,存在不同意见。反对意见认为,既有法律框架足以解决问题,且专门增设针对性条款也可能产生消极影响——既可能冲击国内法基本概念与原则,又可能干扰既定贸易惯例。赞成意见则认为,对部分法域而言,独立条款可作为现有解决方案的有益补充。(44)自我国的角度来看,笔者认为《示范法》中最有价值的条款恐怕就在于第8条。
《示范法》第8条出发点的原则系,将自动化系统用于贸易活动的一方,应承担该系统输出的风险。第1款通过允许当事人在特定条件下否认(disavow)意外输出(unexpected outputs),从而避免依其他法律就该输出可能产生的法律后果,对上述原则作了缓和。(45)换言之,原则上算法错误不影响合同效力,采用自动化订约的主体应自行承担相关风险——此乃促进负责任技术创新的关键。但对重大算法错误(gross algorithmic mistakes,包括价格错误)应设置例外救济。(46)第8条第1款沿袭了《电子通信公约》制定时已预见的方法:对于自动化系统以当事人无法合理预期的方式为其生成的数据电文,不应要求该当事人承担风险。(47)由第8条第1款开头的“除非当事人另有约定”可见,该条允许当事人意思自治,使用自动化系统的当事方可以在其约定框架内解决意外输出问题。
第8条处理的是“无意行为(unintended actions)”,它主要针对采用人工智能技术的非确定性系统运行(不可预测性是其显著特征),但也涵盖确定性系统的运行。因此,其适用范围包括:自动化系统按设计运行却产生意外输出;以及因编程错误(errors in programming)、传输错误(errors in transmission)或第三方干扰导致输出异常的情形。虽然这些错误在电子订约(electronic contracting)中同样可能出现,但在自动化订约环境下,由于存在更多使用者无法控制的技术因素,其发生风险可能更高。(48)如此,无论自动化系统是否为确定性的,都有可能发生错误问题,都需要有相应的法律规范予以处理。相较于我国电子商务法明确界定“电子商务合同中的自动信息系统不涉及人工智能问题”,(49)《示范法》第8条的布局更宽泛且妥适,今天回观电子商务法的立场,已显保守,日后修法,宜与时俱进,将AI化的自动信息系统一并纳入进来。
电子商务语境下“无意行为”之处理,“算法错误”在我国能否作为“重大误解”进而撤销合同?在电子商务法等特别法尚未明晰具体规定的场合,自然应向民事一般法寻求出路。《民法典》第147条规定:“基于重大误解实施的民事法律行为,行为人有权请求人民法院或者仲裁机构予以撤销。”该条虽具有完全性法条(vollständiges Rechtssatz)外形,却并未具体化重大误解的构成要件,且“重大误解”本属不确定概念(an open-ended concept),故需要裁判者作价值补充;《最高人民法院关于适用〈中华人民共和国民法典〉总则编若干问题的解释》(以下简称《民法典总则编解释》)第19条虽有具体化的努力及指引,但仍存在有待完善之处。对于“重大误解”这一不确定概念作价值补充,应如何把握立法价值判断并确定相应的评价因素,认识不一。就重大误解的构成要件,除如下三项要求之外,即:(1)民事法律行为业已成立;(2)须有一方或双方对于情况的重大误解(误解的重大性(50));(3)因重大误解而成立民事法律行为(因果关系),是否还需要有第(4)项(相对人的参与)和第(5)项消极要件(因自己重大过失而陷于错误,或者即已承担错误的风险),尚未形成共识。笔者参考比较法及国际示范法,并类比《民法典》第149条呈现出的立法者的价值判断,要求相对人的参与因素(即要求“对方知道或者应当知道”该重大误解),以填补第147条“重大误解”的法内“授权补充的漏洞”,肯定第(4)项要件,(51)以及第(5)项要件。其中第4项应有“相对人的参与”,又包括三种情形:其一,相对人知道或者应当知道该错误而悖于诚信地未告知错误方;其二,错误是由相对人方面的不正确信息所引起;其三,共同错误。而《示范法》第8条第1款恰恰就是相对人知道或应知错误方错误的存在,这是对相对人方面评价因素的考量。如此,我们也可以说,《示范法》第8条对于我国的参考价值在于,明确了因错误而否定行为效力场合,应兼顾错误方及相对人双方的评价因素,而非奉行极端意思主义并仅仅置重于错误的重大性。(52)除了我国民法解释论宜循此方向形成共识外,下一步电子商务法等的修法,也应吸收《示范法》第8条第1款的精神实质。
(五)相对人知道或者应当知道错误方之错误:进一步的分析
《示范法》第8条第1款(b)项系关于相对人的知情。与(a)项不同,(b)项可采用主观或客观标准判定相对人是否知情。具体而言,满足以下任一情形即可:(1)经判定相对人实际知道错误方未预料到该行动;或(2)处于相同情境的理性人本应知道该状况。其中“按理可望知道”的判定标准,并非基于该方自身合理预期,而是其应尽的注意义务。(53)在我国,比如广州互联网法院在一起案件中认为,从案涉订单实付金额来看,每件T恤仅为2元,根据日常生活经验,该价格明显低于正常商品售价,不符合常情。(54)
在前述“钻石耳钉案”中,一审法院认为,B公司错误理解某东平台的促销活动规则,该误解并非对买卖合同的行为性质、对方当事人、标的物的品种、质量、规格和数量等的错误认识。B公司对于订立买卖合同的合同性质、销售何种商品、以何种价格销售商品、是否参加促销活动等认识均无错误,不构成买卖合同中的误解。法院否定构成重大误解的结论可赞同,然其说理似可进一步辨析和澄清。《民法典总则编解释》第19条第1款中明确指示了行为人对标的物的价格产生错误认识,按照通常理解如果不发生该错误认识行为人就不会作出相应意思表示的,人民法院可以认定为《民法典》第147条规定的重大误解。在该案中,错误方误以为自己在系统中设置了最低折扣价便万无一失,却不料平台满减等促销规则使自己的设置失灵,这显然是关于合同价款发生了错误,而且也可充足“重大性”要求。因而,仅停留在对错误方因素的考察,尚不足以否定重大误解之构成。反之,从相对人角度分析,便容易找准关键,进而解决问题。买受人是否已知或应知道商家标价出错?由于是在平台“满999减888噱头券”活动期间的交易,因而,通常买受人不知也不应知成交价格有错误,因而不构成重大误解。
值得注意的是,在“扫地机案”中,二审法院就是否认定“标价错误”的说理,可圈可点,摘录如下:“在网络购物中,网购平台在某些时段以明显低于原价的价格,开展特价优惠、折扣、秒杀等促销活动较为常见,该行为亦是网购平台吸引消费者、提高知名度的常见营销手段。另一方面,囿于个人经验、年龄等条件,且消费者与网购平台对网购商品的信息掌握并不对等,消费者对经营信息难以辨识,无从知悉网站是否存在库存短缺、系统出错等情况。故在网站未有明显标示和提醒的情况下,作为消费者,X在看到网站中标价为94元的扫地机时并无法判断是该网站标价错误,还是网购平台开展的促销活动,基于对网购的一般认知,其认为该价格为网站的实际销售价格亦具有合理性。”(55)
当然,上述裁判法院未从相对人角度分析重大误解的构成要件,恐怕与就此在解释论上尚未形成共识不无关系。仅从《民法典》第147条及司法解释出发,似未提及相对人方面的因素,学理也是从类比《民法典》第149条因第三人欺诈而撤销合同的规则,特别是其中要求“对方知道或者应当知道该欺诈行为”的要件,提示该法所依据的一般原则,进而填补第147条中的法律漏洞,达至论证目标。(56)除此之外,按照《民法典总则编解释》第19条第2款“但书”,“根据交易习惯等认定行为人无权请求撤销的除外”,也可为考量相对人因素提供可能,即按照交易习惯,打折促销可有各种程度的“低价”,商家也有各式各样的促销动机,“低价”符合买受人的心理预期,因而买受人通常不知也不应知会发生价格错误,故原则上应维持交易的效力。
四、结论
自动订约是电子商务的基本形态,它在AI时代出现的自动性错误与自主性错误问题成为新的法律挑战。电子商务法就错误问题仅在第50条第2款略有触及,其他的算法错误需要从民法典等一般民事法中寻找可能的法律救济。联合国国际贸易法委员会《示范法》第7条和第8条为国际范围内电子商务法统一应对算法错误提供明确指引,值得深入分析。《示范法》除可作为修改我国电子商务法的借鉴外,也可为法律适用指引法解释方向及目标,特别是以“重大误解”规则回应“算法错误”问题,不仅要求错误的重大性,尚需要关注相对人对于算法错误的可识别性。参考吸纳国际统一法规范呈现的国际共识,构造我国民法的解释论,亦属理论现代化的题中应有之义。
注释:
①参见[日]大前研一:《第四次浪潮:人工智能时代的国家、公司与个人》,程亮、张群译,浙江教育出版社2025年版,第9、25页。
②参见习近平:《论坚持全面依法治国》,中央文献出版社2020年版,第281页。
③Cristina Frattone,Algorithmic Mistakes in Machine-made Contracts:the Legal Consequences of Errors in Automated Contract Formation,Uniform Law Review,2023,28,408.
④参见《法国民法典》,罗结珍译,北京大学出版社2023年版,第4页;谢怀栻:《谢怀栻集》(下卷),商务印书馆2024年版,第684页。
⑤参见张玉卿主编:《国际统一私法协会国际商事合同通则2016》,中国商务出版社2019年版,第70-71页。
⑥比如《电子商务法》第1条明确立法目的包括“促进电子商务持续健康发展”,而非止步于“技术中性”。
⑦参见全国人大财经委员会电子商务法起草组编著:《中华人民共和国电子商务法条文释义》,法律出版社2018年版,第145页。
⑧同上注,第144页。
⑨关于“归属规范”,可参阅梅迪库斯:《德国民法总论》,邵建东译,法律出版社2001年版,第671页。Vgl.Medicus/Petersen,Allgemeiner Teil des BGB,11.Aufl.,C.F.Müller 2016,S.384.在电子商务语境下,“归属”(attribution)也可有不同语义。比如,《电子商务示范法》第13条便规定了“数据电文”(data messages)的归属。此种场合有时会遇到数据电文是否真的由所显示的发端人(originator)所发送。实务中便有买受人收到貌似出卖人邮件,并按该邮件所指账户支付价款的事情。参见上海市第一中级人民法院(2024)沪01民终10365号民事判决书。
⑩See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.60.
(11)将自动化系统生成的结果与某自然人或法人相连接,并非新概念,亦非合同所独有。比如在知识产权领域,也有将人工智能系统所生成的成果与自然人或者法人相连接的问题(尽管该分析有时会涉及创新性、独创性或者其他在知识产权语境中独特的考量)。See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.61.该话题在我国司法中的基本现状,可参阅崔国斌:《人工智能生成物可版权性司法案例评述》,载《数字法治》2025年第2期,第43页以下。
(12)电子商务既可有“机器vs人”的模式,也有“机器vs机器”模式;与“机器”中的自动化系统相关的主体包括:系统的使用者、相对方以及系统的开发者或提供者(比如平台)。同前注⑨。“机器vs机器”模式的典型代表,可见2020年2月24日新加坡最高法院上诉法庭对加密货币量化交易纠纷全球首案作出上诉审判决——Quoine Pte Ltd v B2C2 Ltd[2020]SGCA(I)02.
(13)“Quoine诉B2C2案”首次在司法层面确认了机器生成合同的法律性质,并探讨了错误制度在算法交易中的适用。该案中,新加坡Quoine公司运营的QUOINExchange平台采用电子账本记录算法生成的交易指令。其做市商程序Quoter通过获取外部市场价格设定交易价格。后因密码未更新导致无法获取外部数据,致使平台以另一用户B2C2算法预设的“深度价格”(约为市价250倍)代理部分用户完成以太币交易。Quoine次日以异常汇率为由撤销交易,但B2C2主张平台服务条款明确规定交易不可逆。
(14)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.62.
(15)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.33.
(16)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.63.
(17)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.64.
(18)参见薛军:《电子合同成立问题探析》,载《法律适用》2021年第3期,第27页。
(19)参见北京市第三中级人民法院(2017)京03民终1285号民事判决书。
(20)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.66.
(21)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.67.
(22)安建、张穹、杨学山主编:《中华人民共和国电子签名法释义》,法律出版社2005年版,第21页。
(23)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.68.
(24)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.69.
(25)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.70.
(26)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.71.
(27)同前注⑦,第142页。
(28)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.72.
(29)同前注③,第418页。
(30)同前注③,第414页。
(31)同前注⑦,第145-146页。
(32)关于AI代理及相关学术讨论,参见[土]皮纳尔·查格拉扬·阿克索伊:《作为代理人的人工智能:代理法》,载[美]拉里·A.迪马特奥、[意]克里斯蒂娜·庞西布、[法]米歇尔·坎纳萨主编:《剑桥人工智能手册:法律与伦理的全球视野》,郑志峰等译,当代中国出版社2024年版,第208页以下。另外,在2025年6月21日华东政法大学国际法学院组织召开的“自动订约国际研讨会”上,联合国国际贸易法委员会秘书处官员卢卡·卡斯特拉尼(Luca Castellani)便作了《人工智能代理与自动订约》(AI Agents and Automated Contracting)的主旨发言,引人注目。
(33)同前注③,第417页。
(34)凡一项数据电文确属发端人的数据电文或视为发端人的数据电文,或收件人有权按此推断行事,则就发端人与收件人之间而言,收件人有权将所收到的数据电文视为发端人所要发送的电文,并按此推断行事。当收件人只要适当加以注意或使用任何商定程序便知道或理应知道所收到的数据电文在传送中出现错误,即无此种权利。
(35)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.80.
(36)以欧洲诸国为例,根据准据法不同,错误方可获得合同解放、损害赔偿或变更合同以反映其真实意思等救济。John Cartwright and Martin Schmidt-Kessel,"Defects in Consent:Mistake,Fraud,Threats,Unfair Exploitation" in Gerhard Dannemann and Stefan Vogenauer(eds),The Common European Sales Law in Context(OUP 2013)373.
(37)在华东政法大学“自动订约国际研讨会”上,暨南大学法学院刘颖教授作有《功能对等与联合国AI缔约立法》的主题报告。
(38)在欧洲存在国家法与超国家法(欧盟法)之间的互动,“成员国动用欧洲指令之规则和原则的现象并非罕见,其目的在于,在指令适用之外也以相应的方式来调整类似的情形,并由此避免内国法中与欧盟法律冲突的评判。”[德]莱纳·舒尔策、[波]弗里德里克·佐尔:《欧洲合同法》(第2版),王剑一译,中国法制出版社2019年版,第13-14页。
(39)在这一点上,我国法与德国法差异明显,按照《德国民法典》第119条第1款,因错误而可撤销的是意思表示,而不是法律行为。国内法既有此差异,在联合国国际贸易法委员会起草《示范法》时,确定一个大的统一化的方向,将具体的落实路径选择放给各国立法者或者司法者,无疑是明智的。
(40)《网购平台优惠活动或促销期间标价错误出现低价商品,不构成重大误解》,载最高人民法院中国应用法学研究所编:《人民法院案例选》2020年第3辑,人民法院出版社,第3页。
(41)参见广州互联网法院(2021)粤0192民初22756号民事判决书;朱晓瑾、麦应华:《消费者在网购过程中提交订单成功后,电子商务经营者以标价错误为由拒绝发货的,不宜简单认定为欺诈行为》,载《人民法院报》2021年11月11日第7版。
(42)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.76.
(43)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.74.
(44)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.73.
(45)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.77.
(46)同前注③,第423页。
(47)UN Convention on the Use of Electronic Communications in International Contracts,para.230; A/CN.9/484,para.108.
(48)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.75.
(49)同前注⑦,第145页。
(50)多数大陆法系法典将合同撤销权限定于特定错误类型。根据法国、德国及意大利法律,错误必须具有根本性(fundamental,art 1132 Code civil; art 1482 Codice civile)或交易上的重要性[commercially significant,§ 119(2)BGB],且涉及合同相对方或标的物的实质属性,动机错误(mistake in motive)则不予考虑。这种根据错误对象确定法律效力的做法源自罗马法,后者仅承认涉及交易本质要素(essentialia negotii)的特定错误类型。Cristina Frattone,Algorithmic Mistakes in Machine-made Contracts:the Legal Consequences of Errors in Automated Contract Formation,Uniform Law Review,2023,28,410.
(51)详见韩世远:《重大误解解释论纲》,载《中外法学》2017年第3期,第667-684页;韩世远:《合同法总论》(第4版),法律出版社2018年版,第281页以下。
(52)部分法系则不对错误本身施加限制,例如荷兰法(art 6:228 Dutch Civil Code)及英国法(错误陈述制度允许错误方撤销合同且不论错误对象为何,只要错误系对方行为所致,无论过失抑或无过失。John Cartwright,'Defects of Consent in Contract Law' in Arthur S Hartkamp and others(eds),Towards a European Civil Code(4th edn,Kluwer Law International 2011)540-543)。意大利法对合同撤销进一步要求“错误可识别性”(recognizability of the mistake to the other party),以保护非错误方的合理信赖——除非错误显而易见,否则其有权信赖合同有效性。Cristina Frattone,Algorithmic Mistakes in Machine-made Contracts:the Legal Consequences of Errors in Automated Contract Formation,Uniform Law Review,2023,28,411.
(53)See Guide to Enactment of the UNCITRAL Model Law on Automated Contracting,para.82.
(54)同前注(41)。
(55)北京市第三中级人民法院(2017)京03民终1285号民事判决书。同类案件对应的北京市第三中级人民法院民事判决书尚有:(2017)京03民终1371号、(2017)京03民终1230号、(2017)京03民终1171号、(2017)京03民终1172号、(2017)京03民终1393号、(2017)京03民终1377号等。
(56)同前注(51),第282页。