李丹:论算法歧视消费者的侵权责任认定

选择字号:   本文共阅读 2873 次 更新时间:2024-05-19 15:32

进入专题: 算法歧视   侵权责任  

李丹  

内容提要:通过对算法歧视消费者司法案例的实证分析,可以发现:现行法律规定中过错责任归责原则在确认算法责任承担者上存在结构性失位问题,由此导致相关规定不能成为规制算法歧视消费者的有效工具;消费者对于算法歧视的举证能力不足和法律规范的认知程度低下导致维权期望普遍落空;作为裁判者的法院在理解与适用法律上存在的不合理性也传导至算法歧视消费者的规制效果上。构建算法歧视消费者的责任认定框架,应区分算法歧视消费者的具体场景,在算法的人为干预场景中坚持过错推定原则立场,在算法自动化决策场景中提倡无过错责任原则,区分标准要素中因果关系的成立关系与范围关系。同时,加强对算法服务经营者的引导管理,提升算法歧视消费者司法裁判的合理性。

关 键 词:算法歧视  消费者  归责原则  因果关系

 

引言:基于算法歧视消费者的问题

算法作为大数据时代的产物尽显其高效率、个性化的优势,但也衍生出不容忽视的问题——算法歧视。平台经营者因野蛮竞争实施的算法歧视消费者事件频发,算法歧视消费者的论题已是学界论战的“风暴中心”。但算法歧视消费者并不是一个法律规范意义概念,其反复出现在学术讨论和新闻报道之中,主要指经营者在经营过程中利用算法技术侵犯消费者合法权益从而产生的种种不公平行为的表述。在不同主体视野中,算法歧视消费者的法律规范含义存在分歧。这种分歧集中在算法歧视是算法自然运行的结果,还是一种由技术、数据缺陷导致的“偏见”?“结果不同”是否等同于歧视?“虽然算法运行是自动化的,但是在创建算法并将其转化为数据处理机制的人则可能存在偏见。”①同时,“尽管一些算法——机器学习、人工智能或其他复杂性软件——的支持者声称他们的系统是自主的,但到处都存在人为调整、修复和重构”②。因此,算法从来都不是完全自动化的,任何决策算法都需要“人”在条件概率下确定想要的输出结果。

针对已经出现的具体问题,实用主义导向的研究试图比照传统歧视现象,探讨特定领域的算法歧视问题。例如,“价格算法歧视消费者”被特定化为经营者以大数据为“原料”借助算法技术对具有购买经历的消费者采取不利的个性化价格的“大数据杀熟”策略。规制“大数据杀熟”在《消费者权益保护法》或《反垄断法》的既定框架内展开。这对解决特定领域的法律适用问题具有现实价值,体现了部门法理论对新技术问题的积极回应。目前国内外对算法歧视的研究重在通过数据赋权或算法的程序性审查对算法决策进行事前预防性规制,而如何通过对算法侵权行为进行归责、追责的事后制裁性规制措施的研究却并未受到应有重视。为回应算法歧视消费者这一新型侵权行为的挑战,我们需要探讨究竟是固守现有制度框架还是通过制度变革应对挑战。做出正确决策的前提是在充分实证调研分析的基础上进行深入地法学规范性分析。本文致力于将中国裁判文书网中关涉算法歧视消费者的234份判决书进行精细的数据分析,在实证分析的基础上进行法学规范性分析,揭示现行法律制度对算法歧视消费者的规制现状及效果,为立法者做出正确决策提供建议。

一、算法歧视消费者的法律规制效果分析框架

算法歧视消费者存在不同的行为表现,需要将算法歧视消费者行为的法律规制效果细化为现行规制条款的适当性、消费者对算法歧视的认知度、裁判者对法律适用的合理性等制度性和主体性要素进行分析,进而为算法歧视消费者的责任认定制度完善夯实基础。

(一)算法歧视消费者的行为类型化

2021年1月,中国消费者协会(下称中消协)明确提出了推荐算法、评价算法、价格算法、排名算法、概率算法、流量算法等六种涉及消费者权益的算法歧视,扩充了算法歧视的研究空间。算法歧视消费者的六大行为分类基本囊括了互联网交易行为各阶段存在的算法歧视消费者问题:(1)平台选择性收集利用个人信息,形成消费者信息偏在,促成个性化推荐算法歧视与价格算法歧视;(2)平台与平台内经营者进一步通过竞价排名算法和评价算法影响消费者的选择;(3)平台以流量算法作为基本指引,利用概率算法引导流量走向,策划营销活动。由于六种算法歧视消费者的行为都在互联网环境中从不同侧面侵犯消费者的合法权益,③在现有法律体系框架下,尚无独立的算法歧视消费者的违法性认定标准体系。因此,规制算法歧视消费者的实践思路是将不同行为按照侵权构成要件标准归入到不同的行为类型中去。为清晰了解算法歧视法律规制效果,最现实可行的分析思路是按照侵权构成要件理论来审查不同算法歧视消费者行为属于现有制度框架中的何种类型,进而确定各类行为的法律责任。六种算法歧视行为的成立均需满足违法行为、损害结果、因果关系和主观故意的共同要素,而差异性要素主要体现在行为表现不同,其中:

1.推荐算法歧视消费者的行为标准包括没有提供不针对个人特征的选项与虚假信息宣传。对于用户而言,推荐算法是不透明的人工智能机制,容易导致用户意见极端化,形成“信息茧房”,从而产生价值观偏差。消费者应当有关闭算法推荐服务的权利。此外,算法推荐还可能存在通过虚假注册账号、虚假转评赞等方式,实施流量造假、劫持等行为,从而导致算法推荐失真。这些基于虚假数据产生的算法推荐,会形成虚假宣传行为。

2.评价算法歧视消费者行为标准包括虚假交易、诋毁商誉与虚假信息宣传。虚构交易型评价算法歧视是互联网经营者“自导自演”或雇佣专业化人员实施虚假交易并进行虚假评价。诋毁商誉型评价算法歧视是以不正当竞争手段恶意降低竞争对手的信用评价。恶意诋毁竞争对手的行为不仅损害竞争对手的公平竞争权,更直接扰乱了市场竞争秩序。极易被忽视的是虚假信息宣传型评价算法歧视,主要是指平台利用算法以客户评价为宣传途径对商品或者服务做出不符合实际情况的宣传,并采取一定技术手段仅展示对其有利的评价。

3.价格算法歧视消费者的行为标准包括利用虚假或使人误解的价格手段歧视消费者。具体而言,经营者可能利用算法进行以下价格歧视行为:对新老用户制定不同价格方案;对不同地区的消费者设定不同价格区间;多次浏览页面的用户可能遭遇价格上涨的不公待遇等。

4.排名算法歧视消费者的行为标准包括竞价排名与虚假广告。竞价排名指平台经营者制定各类排名榜,声称排名完全基于消费者好评率、销量等客观要素,对各行业或商品服务类别进行排序,引导消费者选择,但背后排名机制往往直接有利于出价高的竞价者。还有的排名算法混淆竞价排名与自然排名,以排名的方式达到宣传之效,通过虚假广告的方式左右消费者决策。

5.概率算法歧视消费者的行为标准主要指不公允开奖。平台利用消费者的个人信息对有奖销售进行人为操控,或是使实际中奖概率低于公布概率,甚至以有奖销售为诱饵,对潜在消费者进行诱导,侵犯消费者的知情权和公平交易权。

6.流量算法歧视消费者的行为标准包括不当分配流量以及控制交易。流量算法歧视中,平台利用算法技术人为分配流量资源,实现流量变现,平台只关注是否能够提升实际利润,并不关心流量所导向的商品品质,消费者根本无缘接触到优质价廉的商品信息,更无从进行理性选择。

(二)算法歧视消费者的法律规制效果分析

通过整理出六类不同算法歧视消费者行为的法律规制条款的效力性规定,可以发现这些条款只是规制传统领域侵权行为的效力条款。这些条款是否能够规制算法歧视行为,即对其规制效果的讨论应当是当前热议算法歧视消费者问题的基础。法律规制算法歧视的效果问题可从制度因素、主体因素细化为三个子命题假设:第一,现行规制条款是否具有适当性?第二,消费者对算法歧视的法定构成要件是否有着清晰的认知?第三,裁判者对算法歧视的规定是否能合理适用?

1.算法歧视消费者规制条款内容适当性因素

制度经济学研究表明制度可以降低事件的复杂性,但制度功能的发挥与实际问题的契合度,即制度本身的适当性应是首要关注的命题。当前算法歧视消费者的法律规制热议焦点持续关注现行制度存在的问题。其中既有对算法歧视的法律规制架构的批判,也有对具体案例审查标准缺陷的分析。在算法规制原则构建方面,有学者建议引入多元利益动态平衡机制作为基础,④也有学者指出算法规制的事后监管措施难以有效解决算法歧视问题。⑤在具体领域分析方面,有学者研究了近期美国在侵犯版权、产品责任、反垄断等领域的算法歧视消费者问题。⑥有学者对算法使用者与设计者课以相应义务,确保算法的规范应用。⑦不过,基于理论推演算法规制制度的不合理仅是制度反思的预设层面,其实践层面的检验更应是算法歧视消费者的法律规制制度设计的实践基础。

据此提出命题假设1:规制算法歧视消费者的现行条款的适当性将影响制度效果,进而影响算法在市场中的功能发挥与价值体现。

2.消费者的认知程度因素

算法歧视消费者的最终落脚点是经营者和消费者之间的交易行为。二者间交易行为的最终效力是否受制于法律规范条款所限定的构成要件,受到消费者对算法歧视损害后果认知程度的影响。当前研究大多采取理论预设或个案论证来判断消费者对算法歧视危害的认知,如有学者指出不同类型个性化定价算法对终端消费者的福利损害存在不同的运作机制,损害程度也存在差异。⑧也有学者从经济学层面界定了个性化定价算法歧视消费者的边界。⑨但这种没有经过检验的理论演绎显然仅能支持部分定性研究观点,无法直观判断消费者是否意识到算法歧视所产生的危害性。因此,部分学者注意到算法歧视的实证研究不可或缺。如有学者指出应在具体场景结合算法歧视消费者的行为机制判断消费者的损益。⑩不过在具体实证研究中,对个体消费者关于算法歧视的深度理解关注,仍然存在因研究方法的选择不同,而导致存在较大差异的现象。(11)通过对案例的实证研究可能会缓解因研究标准不同而产生结果差异,因为能够进入到诉讼程序的消费者已然能够体会其遭受算法歧视对自身合法权益产生侵害。

据此提出命题假设2:消费者的认知程度因素将影响规制条款对算法歧视消费者的限定效果,进而影响消费者合法权益的保护。

3.裁判者适用法律合理的因素

司法裁判被认为是算法歧视消费者的法律规制方式的重要组成部分。(12)在归责过程中,有法官认为应以过错责任原则为基础,对确定产生算法歧视后果的平台适用无过错责任原则。(13)不能忽视的问题是,如何有效发挥司法裁判对规制算法歧视消费者的功效,作为裁判者的法院最关心的莫过于如何准确理解与合理适用相关法律。(14)不少学者认为法官对于法律知识的准确掌握和裁判技能的熟练运用是做出正确裁判的关键性要素,即面对新问题,法官也能基于专业性知识和技能从复杂的证据丛中抽丝剥茧,运用法律做出正确裁判。但也有学者提出,面对新问题,法官做出正确裁判仅依靠法律知识和裁判技能是无法应对的,故司法裁判还需要法官从社会关系网络和信息网络中获取裁判依据,有时该要素甚至取代专业知识和技能上升为司法裁判的关键性要素。(15)

据此提出命题假设3:裁判者理解与适用法律的合理性程度将影响裁判结果的公平与公正,并传导到算法歧视消费者规制条款的制度效果上。

二、算法歧视消费者法律规制的实证分析与证明

本文以司法判例中涉及规制算法歧视消费者的法律条文规范性要求为变量,从样本案例中挖掘数据信息,以反映和分析现行法律规制算法歧视消费者的制度效果。

(一)关于算法歧视消费者的认定标准分析

根据前述相关法律条文的规定,算法歧视消费者在司法裁判中需要依据传统侵权归责原则——过错责任原则分析其是否具备损害后果、侵权行为、过错和因果关系等构成要件,由于损害后果的认定分析取决于消费者的认知因素,此处以行为、主观故意和因果关系为要素展开算法歧视消费者的认定标准分析。

1.算法歧视消费者的行为认定

在本文整理的234件样本案例中,算法歧视消费者行为标准在实践认定中存在争议。其中有1例推荐算法被认定为没有向消费者提供不针对其个人特征的选项;有27例评价算法案件被认定为有虚假交易信息(13例)、虚假信息宣传(9例)、诋毁商誉(5例)行为;有29例价格算法案件被认定为利用虚假或者使人误解的手段实施价格歧视;有10例案件被认定为竞价排名(6例)、虚假广告行为(4例);有1例概率算法案件被认定为存在不公允开奖行为。值得注意的是,法院对于不当分配流量、控制交易行为的认定持谨慎态度,因此,没有经营者在流量算法案件的裁判文书中被认定存在不当分配流量、控制交易行为。进入诉讼的234例算法歧视案例中,被认定符合法定行为标准的比例为29.91%,不符合法定行为标准的比例为70.09%。

上述数据统计表明,在适用相关条款对算法歧视消费者进行行为认定时,只有行为标准能够被普通消费者所直观理解并掌握直接证据时,才能得到较好确认。没有提供不针对其个人特征的选项行为是消费者容易举证的歧视行为,而虚假信息、价格歧视、流量限制等行为在缺乏可操作的解释标准条件下,难以在司法审查过程得到有效关注。

2.算法歧视消费者的主观故意认定

源于算法的技术性特征,算法运行需要事先建立运作模型,即算法的设计者需要通过从社会经济生活中抓取数据对算法进行训练,以此形成算法运作机制。那么本身根植于社会经济生活的一些偏见就会无差别地反映到训练数据中,算法在训练中就会基于这些偏见数据得出具有歧视性的结论,并在此结论的基础上进一步完成训练,最终形成具有歧视性的运作模型。这种歧视性运作模型的生成已经脱离算法设计者的控制范畴,从而形成算法是否存在主观故意的争议。算法技术虽然是中立的,但是算法设计与投入则体现了算法设计者与使用者的主观目的。从统计数据看,推荐算法歧视(1例)、评价算法歧视(17例)、价格算法歧视(29例)、排名算法歧视(2例)均是被认为在算法设计与投入阶段存在歧视消费者的主观故意,而对算法运作阶段则暂未认定存在主观故意。依照传统的过错责任原则,责任主体只有在知晓自己的行为及后果,并且可以自由选择是否作为的时候,才应该承担法律责任。这是法律追责的根本指向,也是算法问责的根本依据。从司法实践观之,法院对算法歧视消费者行为归入不同侵权行为的主观判断标准均严格遵循过错责任原则。通过对算法歧视消费者各项审查标准的考察,可以发现法院所持的过错责任立场在确定算法责任方面存在结构性失位的问题。

其一,现有算法责任的归责逻辑仍遵循侵权归责理论传统思路,但算法自动化决策的运行逻辑使其缺乏主观过错的认定机制,导致消费者只能在事后被动举证,陷入归责滞后的境地。在算法歧视消费者的损害结果发生之后,算法责任的确认应探究算法主体的主观故意,但其主观故意的认定却遭遇经营者以算法自动化决策不存在主观意图为由进行抗辩,逃避法律责任的承担。如在刘丽莉与快手公司、李德丽网络侵权责任纠纷案中,快手公司认为,热门推荐属于系统算法自动推荐,事先无法预知热门内容,也无主观意图将涉案内容推上热门,快手公司不构成侵权。(16)

其二,传统侵权责任机制缺乏对算法使用者在算法设计、投入与使用各阶段主观意图的精准考量,泛化过错归责、责罚相当的法理,使得平台责任设置缺乏体系性、合理性。理论上算法决策服务存在算法设计、信息搜集、数据输入、数据分析与结论输出四个阶段。(17)其中算法设计、信息搜集与数据输入阶段由人为因素主导,数据分析与结论输出阶段则是算法自动化决策,应当排除人为干预因素。但样本案件中法院并未仔细分解算法运行过程,而将过错责任原则贯穿于算法决策全过程,没有区分“算法自动化决策”与“算法决策的人为干预”“算法歧视”与“算法经营者歧视”等核心概念,遂将“算法自动化决策歧视”视为“经营者歧视”,导致经营者以缺乏主观故意为由进行抗辩,而传统侵权过错责任原则不仅要求弱势消费者证明经营者存在算法歧视的侵权行为,甚至要求其证明经营者存在主观过错,无疑对消费者苛以了过重的举证责任。

3.算法歧视消费者的因果关系认定

当前算法歧视消费者的损害事实认定主要依赖举证者的证明,推荐算法歧视有1例被认定为直接侵犯消费者权益,评价算法歧视有17例被认定为不正当竞争间接损害消费者权益,价格算法歧视有29例被认定为直接侵犯消费者权益,排名算法歧视有2例被认定为不正当竞争间接损害消费者权益。但概率算法歧视与流量算法歧视暂未被法院认定为存在损害消费者权益的损害事实。

上述数据统计表明,算法歧视的理论探讨与司法实践虽能证立算法歧视损害了消费者权益。但能直接认定为算法歧视损害消费者权益的条款仅有《民法典》1195条和《价格法》14条,根本原因在于网络侵权、价格欺诈等行为是算法歧视直接作用于消费者,属于直接侵权范畴,能够满足直接因果关系要求。而评价算法歧视、排名算法歧视所产生的直接损害事实是经营者不正当竞争破坏竞争秩序、损害其他竞争者利益,其产生损害消费者权益的事实仅是法院的一种可能性论述。如在杜阳洋与能辉电子侵权纠纷案中,法院认为排名算法歧视通过虚假交易增加交易量的行为,攫取了其他经营者的交易机会,侵害了消费者的知情权,扰乱了正常交易秩序。(18)但并未阐释案外消费者权益如何受损以及给予何种救济措施。因此,经营者在算法歧视的不正当竞争诉讼中既无证据也无动力去证明案外消费者权益受损的事实与因果关系。

(二)关于消费者认知因素的分析

算法歧视的样本案例中纠纷类型与起因较为复杂。在纠纷类型上有单一和复合类算法歧视之别,在起因方面有消费者直接维权和经营者纠纷诉讼之分,可分为:(1)当平台作为交易主体而发生对平台内经营者、消费者的侵权行为时,导致消费者对平台发起的侵权之诉(约占8.5%)和平台内经营者对平台发起的侵权之诉(约占24.8%)。(2)当平台作为交易组织者时,平台内经营者对平台、其他竞争者、消费者实施侵权行为时,导致平台对平台内经营者发起的侵权之诉(约占36.6%),其他竞争者对平台内经营者发起的侵权之诉(约占19.6%),消费者对平台内经营者发起的侵权之诉(约占6.7%)和消费者对平台发起的侵权之诉(约占3.8%)。其中,消费者维权诉讼可视为算法歧视消费者的直接侵权,其余纠纷诉讼则是算法歧视消费者的间接侵权。

上述统计中算法歧视引发的纠纷大部分是经营者提起的,其中又以作为算法服务提供方的平台对平台内经营者提起的侵权纠纷为首位,而消费者提起的算法歧视维权诉讼仅占19%。前后二者的胜诉率分别为:93.49%和24.31%。大量研究表明影响胜诉率的根源在于举证能力的强弱。(19)如赵洪艳与京东等侵权纠纷案中,法院认为消费者“缺乏明确的诉讼请求,事实和理由部分亦不够具体……不能辨别被告、第三人不同诉讼地位。”(20)因此,在区分“算法行为人与算法责任人”上,消费者认知因素是影响算法歧视消费者法律规制效果的重要因素。如在平台内经营者利用平台提供算法服务进行违法经营后,平台是否应承担责任?平台一贯主张自己仅利用算法提供交易信息撮合服务,应严格区分互联网服务和交易的各方主体责任。因此,基于“算法技术中介”与“责任主体分离”两个抗辩理由,对平台提供算法服务追责的基础和理由并不明晰。

(三)关于裁判文书适用法律规范条款的分析

在算法歧视消费者的纠纷案件中,法院所援引的法律条文包括:《民法典》第1195条、《网络安全法》第43条、《电子商务法》第15条、《反不正当竞争法》第2条、第8条、第12条、《价格法》第14条、《消费者权益保护法》第55条、《广告法》第38条、《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》(以下简称《规定》),另有个别案例适用原《合同法》第60条作为裁判依据。从单个裁判文书引用规范的条文数量上看,在234例样本案例中,引用1条(款、项)法律条文的为17例,2条的46例,3条的79例,4条的58例,5条以上的34例。从援引法律条款的频次高低排序来看:引用《民法典》第1195条76次,《网络安全法》第43条69次,《消费者权益保护法》第55条65次,《反不正当竞争法》第2条29次,《反不正当竞争法》第12条13次,《价格法》第14条27次,《广告法》第38条16次,《反不正当竞争法》第8条15次,《规定》6次,《电子商务法》第15条1次,原《合同法》第60条1次。

可以发现,法院在审理算法歧视消费者案件时,徘徊在慎用与敢用、少用与多用的谨慎态度之间。尤其是法院将评价算法歧视与排名算法歧视视为虚假广告、诋毁商誉等行为体现了其运用传统规则解决新问题的思路。虽然虚假广告、诋毁商誉等在不涉及算法的市场中也大量存在,但经营者一旦使用算法技术实施上述歧视行为,则可能发生算法歧视与虚假广告、诋毁商誉的竞合。例如在百度等与某信息公司的不正当竞争纠纷案中,法院认为“由于推荐行为通常是根据事先已经设定好的算法自动生成的,搜索引擎服务提供者通常无法知悉他人实施了不正当竞争行为,因此不应当然认定其具有主观过错。”(21)可见运用传统的规则仅能解决传统虚假广告、诋毁商誉问题,很难有效区分算法歧视消费者行为,既无法保障互联网经营者发展,也很难兼顾消费者权利保护的制度需求,导致了在智慧时代法律的安定性与法律所调整的社会关系变化间不可避免地会存在紧张关系。(22)

三、算法歧视消费者责任认定的具体制度建议

从不同角度对算法歧视消费者的法律规制效果的剖析表明,现有法律制度缺乏足够制度弹性,经营者、消费者与裁判者也缺乏充分现实认知去回应算法歧视消费者的主观过错及因果关系。本文的证明过程很大程度上支持了本文的理论假设。为提高规制算法歧视消费者的法律规范制度效果,需要从制度本体的不断完善、算法服务的引导管理、司法裁判的准确严谨等方面共同努力。

(一)算法歧视消费者认定标准的完善

1.算法歧视消费者的归责原则:基于主观要素的选择

(1)过错推定原则立场:算法的人为干预

算法的人为干预是指算法使用者为了改变算法自动运行结果,而对输入数据、算法运行模型进行人为修改,从而改变算法运行结果。算法人为干预应与算法设计的主观性区分。算法设计的主观性体现的设计者主观意图,只是在人对算法设定的目标范围内,起到了替代人的作用。从哲学的角度来看,责任只能归因于具有自主行动能力的道德主体(人)。如前所述,六类歧视消费者的算法行为是以算法介入经营者服务消费者过程为标准。在推荐算法歧视中,经营者并不是根据用户的主观意愿,而是利益驱动下利用算法推送某些固定信息,进行信息的强行灌输,导致商品服务信息的单一化、固定化、同质化、闭塞化。(23)评价算法歧视中,经营者通过虚假交易伪造交易记录和评价,导致消费者无法获取商品的真实销量和评价,无法做出准确判断,仅就网络虚假信息的发布者而言,其对受害人造成的损害是有限的,(24)但其与消费者知情权和自主选择权直接发生了冲突。价格算法歧视中,经营者利用算法进行“大数据杀熟”,以消费者个人信息为基础进行数据画像,针对不同消费者区别定价,形成一人一价的畸形定价机制。排名算法歧视中,平台只以自身利益导向为基础,缺乏多元化科学的排名机制,使客观的搜索机制指引沦为广告战场,虚假广告充斥市场,直接侵蚀消费者的知情权和自主选择权。概率算法歧视中,平台经营者利用有奖销售进行虚假宣传或销售质次价高的商品,用算法人为操纵本应偶然性的中奖机制,直接侵犯消费者的公平交易权和知情权。流量算法歧视中,平台将流量作为商品销售给平台内经营者,用流量引导的方式左右消费者的选择,直接侵犯消费者的自主选择权和其他相关权益。因此,不同类型的算法服务具有不同的歧视消费者指向,侵犯的消费者权益也不尽相同。(25)

上述算法服务具有明显的人为干预色彩。虽然算法歧视消费者的行为特征和损害结果都很明显,但若进一步要求消费者证明算法使用者存在主观故意,也确实存在举证困难。考虑到算法歧视消费者行为的隐蔽性特征,认定算法歧视消费者行为的主观意图既可通过对经营者进行直接审查,也可通过对算法决策的表现形态进行间接推定。更为重要的是,可通过对传统侵权过错归责原则进行适当改良,启用过错推定原则,在主观故意这一环节实施举证责任倒置,要求平台自证清白,如果平台不能证明自己没有过错,就应承担败诉的风险。过错推定原则的适用在减轻消费者对算法歧视主观故意要件举证难度的同时,也并未对算法使用者苛以过重责任。这种衡平思想可以为上述具备明显人为干预色彩的算法歧视行为规制提供一条具备实际操作价值的可行之道。

(2)无过错责任立场:算法的自动化决策

法律应以平台设计部署算法的主观意图为追责之指向,但并不意味着过错推定是算法责任的唯一归责原则。不同场景下的算法责任不可能适用同样的归责原则,必然会随着算法处理的数据所涉利益的性质发展出不同样态的归责原则。

算法技术性特征导致的“黑箱”效应,使算法存在自主学习空间,很多决策由算法自主做出。在算法自动化决策的场景下,算法设计者和使用者甚至都无法察觉,更无法控制,主观过错更是无从谈起。如果按照传统过错责任原则处理,强求作为消费者的受害人证明经营者存在过错,相当于要求消费者证明一个本来就不存在的虚无“事实”,明显强人所难。在算法自动化决策的场景下难以适用过错责任原则。同时,算法人为干预场景下的过错推定原则也缺乏适用空间。过错推定属于过错责任原则的特殊情形,只是在程序上对举证责任做出适当突破,实体规则并没有改变,构成要件中仍然无法脱离主观过错。如果在自动化决策的场景下适用过错推定原则,不仅会使消费者无所适从,也会导致过错推定原则的理论基础被架空。

在自动化决策场景下,算法歧视消费者行为认定应当适用无过错责任原则,重点考察算法歧视行为是否给消费者带来实际损害,从法律层面对造成消费者权益损害的算法歧视行为予以否认,要求经营者赔偿消费者的损失,纠正违法行为。美国法院通常将算法等思维方法视为产品,并在算法错误造成损害时适用产品责任法。(26)算法一旦被视为“产品”,所涉产品给消费者带来损害,应适用无过错责任原则,无须考虑生产者和销售者是否存在过错。进一步分析,对于自动化决策场景下的算法歧视行为适用无过错责任原则,也与《民法典》中产品责任规则相匹配。可见,在自动化决策的场景下无过错责任原则关注到了技术化背景下消费者的弱势地位,对作为消费者的被侵权人给予倾斜性保护,在维护实质正义的同时也缓解了技术飞速发展带来的技术鸿沟,同时,结合产品责任的治理逻辑有助于改善主体技术水平差异引发的利益与风险失衡状态。(27)

2.算法歧视消费者因果关系的证明标准

技术的发展导致有关歧视消费者行为的认定标准应当有所改变,否则无法给消费者提供合理有效的救济。如算法自动化决策导致的算法歧视消费者,如果按照传统的歧视标准主张公法救济是没有问题的,算法歧视消费者行为可以按照《价格法》被认定为价格欺诈,也可以按照《反垄断法》被认定为差别待遇。但这两部法律提供的救济并不直接针对单个消费者,其仅出于维护市场秩序的目的纠正算法歧视行为,间接起到保护整体消费者的功效。(28)要对单个消费者提供救济只能依赖《民法典》或《消费者权益保护法》等私法救济,但是私法救济理论要求适用过错责任原则,即使按照前文所述在部分算法歧视消费者行为中适用过错推定和无过错责任原则,虽然降低了主观过错要件的证明难度,但消费者仍需证明因果关系。如果按照直接因果关系的证明标准,消费者会迫于无法达到证明强度而放弃私法救济途径。随着技术迭代,自动化决策应用会更加频繁,消费者证明因果关系难度会愈加困难,证明标准也应随之改变。

(1)算法显性歧视消费者行为的因果关系

算法的人为干预导致歧视消费者,发生消费者固有权益的损害,可主张侵权损害赔偿,其因果关系应采取相当因果关系规则。有学者将算法归责难题归因为算法决策逻辑相关性关系取代直接因果关系所致。(29)在算法决策技术层面理解算法如何运行,如推荐算法如何向消费者推送差异化商品,价格算法如何提高商品定价等算法运行逻辑,从消费者需求层面看,强求其完全理解并掌握上述内容所包含的技术逻辑并非必要,也并不可取。如平台利用算法向消费者进行个性化推荐时,没有提供不针对其个人信息或特征的选项,侵犯消费者知情权和自主决策权,即便平台可能承担最严格的无过错责任,消费者也很难按照直接因果关系的证明标准举证其受损事实与算法歧视之间具有直接因果关系。而根据《电子商务法》第18条的规定,平台向消费者提供商品推荐满足上述规范要求的,消费者的知情权和自主决策权就未被侵犯。换言之,在相当因果关系证明标准下,如果消费者可以证明平台未提供不针对个人特征的选项时,消费者知情权和自主决策权即受到损害,消费者正是由于推荐算法不满足法定要求而遭受侵害。对于消费者而言,完全可以依靠常识来确认上述证明过程,则上述责任成立方面的相当因果关系就会非常明确。在采取相当因果关系规则的情况下,平台作为交易主体对消费者造成侵权的因果关系的证明和认定难度相对较低。

(2)算法隐性歧视消费者行为的因果关系

当平台内经营者滥用算法服务歧视消费者时,若平台不参与平台内经营者与消费者的交易,仅提供信息传递、安全保障等服务,平台需因未履行安全保障义务而承担侵权责任。未履行安全保障义务可能是算法自动化决策导致的,而非平台的主观故意,因此属于算法隐性歧视消费者产生的责任。由于在算法隐性歧视消费者侵权责任的构成中难以依次区分算法歧视行为与消费者权利受侵害之间的因果关系,可以适当参考英美法上“事实原因—法律原因”规则的相关经验,(30)使行为与损害直接相联系,在确认行为是损害发生的必要条件的基础上,依损害的可救济性或其他政策价值因素判断行为是否构成损害的可归责的法律原因,依此方法确定责任的构成。两相比较,英美法上因果关系判断的二分法更为简洁清晰,更易操作适用。(31)首先,确定行为是否构成损害的事实原因,即产生一个结果的多个前提事实总和中的一个因素。落实到算法隐性歧视消费者中,算法隐性歧视是造成消费者权益损害结果的一个重要因素,即当平台对平台内经营者在刷单炒信、扰乱排名、乱设开奖等行为上没有尽到审查义务,消费者确实遭受了隐性歧视,即可认为平台与消费者之间存在着未尽安全保障义务与遭受歧视的事实因果关系。其次,确定行为是否为损害的法律原因,即一种自然的、未被介入因素打断的原因,没有这样的原因,就不会发生原告受害的结果。落实到算法隐性歧视消费者中,即平台若尽到审查义务,平台内经营者算法歧视行为就缺乏实施空间,消费者就不会遭受算法隐性歧视,就应认定二者间存在法律因果关系。算法隐性歧视行为对于消费者权益损害而言,既是事实原因也是法律原因的,即可确定算法隐性歧视行为与消费者损害之间具有因果关系。

(二)算法服务经营者的引导管理

在信息不对称的互联网交易中,完善平台治理是缓解消费者认知障碍、高效解决算法歧视行为的有效措施。(32)虽然平台在电商乱象中的治理能力日益优化,但平台治理依旧问题不断:一是平台规则不合理;二是平台规则被滥用。

平台规则不合理和平台权力缺乏约束有关。平台天然具有逐利性,但却缺失第三方制衡机制,所以完善平台规则可以通过加强消费者对程序制定的参与度。在有关算法歧视消费者的治理规则公布并生效之前,消费者有权知晓即将对自己产生影响的规则的详细内容,如消费者有权知晓哪些行为构成算法歧视以及哪些行为属于平台治理规则的适用除外范畴。为保障消费者实质参与到规则制定过程中,平台应对其意见作出归纳整理,对“采纳与否”的决定及理由作出合理解释,同步公示并向有关部门备案审查。在事关消费者权益事项上,消费者应具有一定的否决权和有条件的表决权。此外,要着重完善平台对算法的审查机制。变形式审查为实质审查,为平台实质审查义务制定更加明确的参照标准,适度拓宽平台审查范围。

平台规则的滥用出现在信用评价和纠纷解决两个环节。应当修复信用评价机制,如针对评价算法歧视,可对“刷单炒信”需求端开展治理,平台内经营者的刷单炒信需求源于信用评价机制过于单一化和权威化,平台对于平台内经营者的考核标准应当更加多元化。而纠纷解决环节的问题主要在于不符合ADR(33)“底线”。ADR“底线”在于作为纠纷解决人的平台必须秉持中立,在有关算法歧视消费者的纠纷解决过程中要给予双方充分的证明机会,尤其应当为消费者维权提供便捷路径,如消费者无法举证时,平台应公布前述审查环节中备案的算法,降低消费者的举证难度。同时,目前平台有关算法歧视消费者纠纷解决的人员还局限于平台内部工作人员,专业性和公正性均无法得到保障,可考虑跨领域引入第三方机构。通过提升ADR程序的“底线”,对算法服务经营者实施更好地引导管理。

(三)司法裁判的准确定位

算法歧视消费者的认定离不开裁判者对立法目的的准确理解、对法律条款的合理解释与对法律规范的合理适用。但在现有法律体系无法提供有效制度供给,规制效果不尽如人意的情况下,裁判法官需要基于主客观因素优化对算法歧视消费者行为的审查工作。

1.以算法应对算法歧视

技术的发展会带来越来越多的法律适用问题,除了改变法律规则中本身不合理的部分,法官裁判标准也应有所改良。若固守所有证据由当事人提供,法官进行认定的标准,不仅对法官的技术能力是严峻挑战,出现错误认定的几率也会显著增高,显然不利于算法歧视消费者案件的科学裁判。既然法官作为“人”,要求其认定所有证据存在强“人”所难的困境。切换角度思考,技术的发展何尝不能给法律适用带来契机呢?近些年,随着算法技术在司法裁判中逐步应用,以算法应对算法歧视的思路被逐渐重视,(34)算法技术的应用在减轻法官裁判压力的同时也可提升裁判准确率。

2.以人为控制抑制技术风险

一方面,算法存在偏见风险。算法在为经营者所用时,可能会出现脱离设计者和使用者控制的“黑箱”效应,通过自动化决策导致算法歧视消费者的不良技术后果。(35)也应当考虑到,算法作为裁判工具的过程中,也可能会出现算法偏见的风险,对证据的选取和采信做出错误判断。此时就需要进行人为控制,对算法认定证据的结果进行人工复核,以确保证据链不出现错误。(36)另一方面,应当秉承算法只适合证据认定,不适合法律适用的原则。对于证据采信的标准,由于法官的技术能力或社会经验的部分欠缺,可能存在认证难度,由算法技术替代进行初步认证是可行且科学的。但对于法律的具体适用则不适合由算法决定。同时由于法律规则本身已经在结合技术发展做出改良之后,法律如何适用对于法官而言已不是难题,其可以依据清晰的证据链较容易地得出判决结果。此时仍然适合把决定权留在法官手中,否则就会陷入技术决定一切的技术悖论,人的主体性将被消灭,这是我们不愿意看到也无法应对和控制的景象。

算法歧视消费者行为是数字经济时代的新型侵权行为,而我国目前应对歧视行为法律规则仍然遵循传统工业时代规制歧视的逻辑。通过对司法案例的实证分析,可以发现其所依赖的归责原则、因果关系等认定标准体系在面对“数字经济+歧视”的化学反应中遭遇了制度回应缺陷,故首先从立法角度,应对算法歧视消费者行为的认定标准进行改良,调整过错推定原则和无过错原则的适用范围,因果关系的认定也应拓展至相当因果关系和法律因果关系。从守法角度,应当对平台经营者的行为进行引导,通过设定合理的平台规则并科学执行,以此提升消费者对于算法歧视行为的认知程度。从司法角度,为缓解技术带来的法官认知障碍,可借助技术的辅助,以算法应对算法歧视,并以人为控制抑制技术风险。

注释:

①Hacker,Philipp,Teaching Fairness to Artificial Intelligence:Existing and Novel Strategies against Algorithmic Discrimination under EU law,Volume 55 Issue 4 Common Market Law Review,1146(2018).

②Nick Seaver,What Should an Anthropology of Algorithms Do?,Volume 33 Issue3 Cultural Anthropology,376(2018).

③丁晓东:《论算法的法律规制》,载《中国社会科学》2020年第12期,第142页。

④陈兵:《因应超级平台对反垄断法规制的挑战》,载《法学》2020年第2期,第122页。

⑤叶嘉敏:《算法风险防控视域下企业数据权利的三维构建研究》,载《江西财经大学学报》2021年第1期,第140页。

⑥陆凯:《美国算法治理政策与实施进路》,载《环球法律评论》2020年第3期,第18页。

⑦刘友华:《算法偏见及其规制路径研究》,载《法学杂志》2019年第6期,第60页。

⑧李毅、李振利:《数字经济背景下对消费者实行个性化定价违法边界的研究》,载《社会科学》2020年第2期,第119页。

⑨喻玲:《算法消费者价格歧视反垄断法属性的误读及辨明》,载《法学》2020年第9期,第90页。

⑩李丹:《算法歧视消费者:行为机制、损益界定与协同规制》,载《上海财经大学学报》2021年第2期,第28页。

(11)Lambrecht A,Tucker C,Algorithmic bias? an Empirical Study of Apparent Gender-based Discrimination in the Display of Stem Career ads,Volume 65 Issue7 Management Science,2966(2018).

(12)郑智航、徐昭曦:《大数据时代算法歧视的法律规制与司法审查——以美国法律实践为例》,载《比较法研究》2019年第4期,第120页。

(13)丁宇翔:《跨越责任鸿沟——共享经营模式下平台侵权责任的体系化展开》,载《清华法学》2019年第4期,第125页。

(14)Zuiderveen Borgesius F J,Strengthening Legal Protection against Discrimination by Algorithms and Artificial Intelligence,Volume 24 Issue 10,The International Journal of Human Rights,1572(2018).

(15)张欣:《从算法危机到算法信任:算法治理的多元方案和本土化路径》,载《华东政法大学学报》2019年第6期,第25页。

(16)刘丽莉诉北京快手科技有限公司、李德丽网络侵权纠纷案,北京互联网法院民事判决书(2019)京0491民初3719号。

(17)郭哲:《反思算法权力》,载《法学评论》2020年第6期,第37页。

(18)杜阳洋诉广州市能辉电子有限公司侵权纠纷案,广州互联网法院民事判决书(2020)粤0192民初27166号。

(19)喻玲、兰江华:《滥用市场支配地位诉讼举证困境及对策研究——基于67份判决书的实证分析》,载《江西财经大学学报》2020年第4期,第130页;吴泽勇:《不负证明责任当事人的事案解明义务》,载《中外法学》2018年第5期,第1369页。

(20)赵洪艳诉江苏圆周电子商务有限公司、北京京东世纪贸易有限公司等侵权责任纠纷案,北京市朝阳区人民法院民事判决书(2015)朝民初字第48159号。

(21)北京百度网讯科技有限公司等诉新会江某信息产业有限公司等不正当竞争纠纷案,北京市高级人民法院(2018)京民再177号民事判决书。

(22)孙跃:《论智慧时代疑难案件的裁判:机遇、挑战与应对》,载《法律适用》2020年第14期,第146页。

(23)匡文波:《智能算法推荐技术的逻辑理路、伦理问题及规制方略》,载《深圳大学学报(人文社会科学版)》2021年第1期,第148页。

(24)王若冰:《〈民法典〉视角下网络虚假信息的规制》,载《当代法学》2021年第6期,第79页。

(25)刘东亮:《技术性正当程序:人工智能时代程序法和算法的双重变奏》,载《比较法研究》2020年第5期,第75页。

(26)Chagal-Feferkorn,Karni A,Am I an Algorithm or a Product:When Products Liability Should Apply to Algorithmic Decision-makers,Volume 30 Stanford Law & Policy Review,84-85(2019).

(27)杨帆:《信用评分算法治理:算法规制与产品责任的融通》,载《电子政务》2022年第11期,第32页。

(28)肖冬梅:《“后真相”背后的算法权力及其公法规制路径》,载《行政法学研究》2020年第4期,第13页。

(29)王莹:《算法侵害责任框架刍议》,载《中国法学》2022年第3期,第175页。

(30)卜素:《人工智能中的“算法歧视”问题及其审查标准》,载《山西大学学报(哲学社会科学版)》2019年第4期,第125页。

(31)郑永宽:《论责任范围限定中的侵权过失与因果关系》,载《法律科学》2016年第2期,第103页。

(32)叶嘉敏:《算法风险防控视域下企业数据权利的三维构建研究》,载《江西财经大学学报》2021年第1期,第142页。

(33)ADR英文全称Alternative Dispute Resolution,起源于美国的争议解决的方式,一般译为“非诉讼纠纷解决程序”。被广泛运用于电子商务领域的纠纷解决,主要的ADR方式为:调解、调停、仲裁、模拟法庭、专家裁定等。

(34)李晓楠:《可信赖AI司法:意义、挑战及治理应对》,载《法学论坛》2020年第4期,第121页。

(35)马长山:《人工智能的社会风险及其法律规制》,载《法律科学》2018年第6期,第53页。

(36)李成:《人工智能歧视的法律治理》,载《中国法学》2021年第2期,第135页。

    进入专题: 算法歧视   侵权责任  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 民商法学
本文链接:https://www.aisixiang.com/data/151545.html
文章来源:本文转自《当代法学》2023年第6期,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统