胡凌:平台视角中的人工智能法律责任

选择字号:   本文共阅读 103 次 更新时间:2019-07-27 23:58:38

进入专题: 人工智能   基础设施服务  

胡凌  

   摘要:本文认为人工智能的法律研究应当从为特殊主体设计法律制度的拟制思路转向生产性思路,即理解人工智能在多大程度上帮助平台企业变得更智能(或者平台本身就是一个人工智能体),从而不断要求将平台基础服务、交易流程、终端设备、连接网络等核心要素与其调动的生产性资源相分离,在形式上看成是这些生产性资源“自愿”进入交易网络的过程。只有在法律上最终确保这一点,依托普遍的人工智能基础设施催生的自动化轻资产经济才能成为现实。这个过程恰好是上层建筑(网络法)面对经济基础(信息经济新生产方式)需要不断进行的回应和调整,也是自互联网商业化以来对法律造成的最大影响。其中涉及的核心问题之一是平台责任水平的设置问题,有必要从网络连接、基础设施服务和控制力三个角度进行讨论。

   关键词:人工智能;平台;网络连接;基础设施服务;控制力

  

   一、引言

  

   人工智能业已成为重要的法学研究话题,现有研究更多聚焦于想象,即探讨未来那些可能在技术上突破奇点从而具有自主意识的机器或人工智能体在法律上具有何种地位,从而关联起一整套关于拟制的机器“人”的法律体系和伦理关系,例如人机交互、拥有独立人格、独立承担责任、拥有言论自由、拥有财产、创造的作品得到著作权法保护等。从经验上来说这些尚未发生,但人工智能技术(从深度学习、数据挖掘到人脸识别、语音识别、自动化推荐等)已经得到越来越广泛的社会应用,有必要将关注焦点集中在现有技术应用带来的实际法律问题上。

   但问题仍然没有解决:似乎在现有技术应用和科学条件下难以判断、预测和设计高度智能化的人工智能体的法律地位(例如很难设想L3及以上的自动驾驶汽车普遍上路后给社会带来的影响,或者天猫精灵音箱进一步演变成家居机器人),但也不能说这种研究思路就错了,我们只能随着时间推移证明这些判断的真伪(只是现实发展过于迅速,应该没有人记得谁说过什么)。过去的法学知识和经验难以用来添加到对未来看似新颖的问题讨论上面,人们只能不停地对未来进行设计,这是人工智能法律研究的一个困境,即无法证实或证伪。作为经验性知识的法学如何不断被要求适应未来的跳跃性变化,既保持问题意识的连续性,又反映新问题的特殊性,是人工智能研究的深层方法论问题。

   本文试图重新审视和讨论人工智能的法律问题,既对未来保持开放(奇点确实可能存在,法律确实会承认人工智能主体地位),又立基于现有积累起来的问题意识和经验。这一角度本不难理解,即将人工智能嫁接在一个更大范围的网络法问题域中,认为目前提出的关于人工智能的问题不过是网络法核心问题的延续,从而将人工智能定位为组织社会生产的过程之一部分,而且是越来越重要的引擎;由此,其法律问题更多地是回应由自动化经济生产和价值分配引发的利益冲突,至少体现为(1)人工智能平台之间的竞争关系,以及(2)经由平台调动的生产性资源(特别是劳动者/消费者)和平台之间的法律关系。这一生产性的视角可以用来解释:(1)具有规制能力的代码(或架构)如何被用来促进和组织生产;(2)新经济需要低成本地调动社会范围内的生产性资源,降低平台责任,并要求法律回应低责任水平,包括个人信息保护、知识产权保护、平台行政义务等;(3)私人财产、隐私、劳动关系等法律问题如何伴随信息技术带来的灵活性而被嵌入更广泛的生产过程中逐渐消失。人工智能时代无疑延续了这些问题。

   这一“非人格化”的角度实际上并不排斥在未来某个时间点出现“人格化”的人工智能体,也不拒绝法律承认其特定的主体地位以及设计配套制度(这些无论如何都比技术问题容易解决,比如“拟制”)。但真正的问题是,即使出现了看上去独立的“人格化”人工智能体,其背后代表的社会生产关系和生产方式也可能没有太大的变化,仍然可以放在目前观察新经济生产方式的基本框架下讨论(例如,自动驾驶汽车或天猫精灵并非只是智能设备而是一个平台入口,从而是生产过程不可分离的有机组成)。甚至可以说,沿着这一基本框架,可以在理论上推导出“人格化”人工智能也很可能出现,或者,未来新经济的发展会要求法律承认这样一种“物种”的主体地位,而无论在本体论意义上是否真的达到了奇点。在这一过程中,我们看到的只是智能平台不断增强对灵活流动资源的调配、加强基础设施服务和提升控制力进而获利,同时在法律形式上和这些资源保持相当的距离,避免任何强责任形式(例如连带责任甚至避风港责任),最终将风险转移给社会。平台的运行越是智能和自动化,甚至将智能终端产品在形式上剥离出其控制架构,使其看上去更加独立,平台运营者越有理由要求降低平台责任,或者要求将智能终端产品“人格化”,与其在责任承担上切割,但同时又不放松对其控制和影响。就人工智能而言,这种诉求突出地体现在经由区块链技术实现的“去中心化的自主性组织”(Decentralized Autonomous Organization,下文简称DAO),以及各类业已出现的独立智能产品上。

   因此,本文认为人工智能的法律研究应当从为特殊主体设计法律制度的拟制思路转向生产性思路,即理解人工智能在多大程度上帮助平台企业变得更智能和自动化(或者平台本身就是一个人工智能体),从而不断要求将平台基础服务、交易流程、终端设备、连接网络等核心要素与其调动的生产性资源相分离,在形式上看成是这些生产性资源“自愿”进入交易网络的过程。只有在法律上最终确保这一点,依托普遍基础设施的自动化轻资产经济才能成为现实。这个过程恰好是上层建筑(网络法)面对经济基础(信息经济新生产方式)需要不断进行的回应和调整,也是自互联网商业化以来对反映工业经济生产方式的法律带来的最大影响。其中涉及的核心问题之一便是平台责任水平的设置问题。

   本文试图结合围绕平台责任的三个往往被忽视的争议点对“人工智能平台想要什么”进行讨论,它们是:(1)“连接”对于网络化的经济十分关键,如何塑造价值生产网络,同时在法律上避免承担因连接产生的第三方行为责任,重新解释避风港责任就成为新经济形态的主要争夺领域;(2)像算法、云储存、交易流程和网络这样的平台基础服务越来越成为平台活动的普遍底层服务,如何在法律上将中立的底层服务与上层交易相分离,在竞争法领域需要对实际存在的黑箱进行分割;(3)控制力对组织社会化生产十分必要,如何在不同的法律领域避免因控制力(从属性)标准而改变法律关系、增加平台运营成本,在劳动法等领域正在不断出现这类问题。这三个问题在理论上直接或间接地回应了网络法的经典“代码/架构理论”,正是在不断生成演化的架构构成的场域中,人工智能才能不断发挥其调配生产的功能。

   本文按照如下内容展开,第二节基于代码理论回顾作为一种生产方式的人工智能如何通过平台企业发挥作用;第三节讨论智能平台的生产依赖于不断生成的交易网络,并有意识地塑造这些网络与连接,但会将这些网络连接的形成描述成“自动接入”或“自主选择”,从而遮蔽自身塑造网络的现实;第四节讨论自动化的另一个面向,即智能平台的基础服务,认为平台越是智能就越有动力在竞争法上将基础服务与增值服务相分离;第五节讨论控制力和平台责任的关系,即人工智能可以使平台实际控制力进一步增强,但在法律形式上却尽力避免因这种控制力而产生的连带责任。最后总结本文的发现。

  

   二、当平台变得智能化和自动化

  

   (一)生产性代码理论

   无论是人工智能还是区块链法律研究,研究者都会追溯到网络法核心理论——代码/架构理论。这一理论清楚地将影响社会主体行为的要素简化为四类:法律、社会规范、市场与架构,并探讨它们在赛博空间中继续起作用的方式。特别地,在劳伦斯·莱斯格(Lawrence Lessig)看来,互联网上架构(代码)设计在规制人的行为上要比法律规则更为有效,在隐喻意义上,“代码就是法律”。值得注意的是,他从一个与讨论法律(特别是法律实证主义)极为相似的角度讨论比较代码的特性,本文称之为“实证性代码理论”。首先,代码被描述为一套纯粹社会学意义上存在的设施。这种想象和“赛博空间”(cyberspace)的隐喻紧密结合在一起,自然而然地延伸至空间主权的讨论。其次,即使在说明代码与商业力量关系时,该理论也较少解释代码如何按照精细的互联网经济需求进行设计,而更多地转向法律介入赛博空间的前景,聚焦于一个作为抽象社会系统的法律和另一个——代码或技术——之间的关系。这种思路融合了传统的法律与社会视角,在新经济环境下为探究法律与其他社会要素的关系增添了新注脚,也体现了法律人讲求多元规制的某种“均衡思维”。从这个意义上说,代码理论既是一种描述式经验理论,又是一种主张约束代码的规范理论(其规范性来源于宪法价值或社会共识)。第三,代码与脱胎于其中的社会经济生产状况以及价值生产方式剥离开来,以貌似中立的无害身份出现,同时获得强大的控制力和自主性。正是在这种脱离社会经济基础的“互联网例外论”语境下,平台才能够和运行于其上的经济资源加以区分,进一步引发出平台责任、网络中立等争论,构成网络法理论演进的基本逻辑。

   实证性代码理论指出了代码作为新型社会权力的功能,成为一个广为应用的框架,但没能历史地解释代码及其商业模式的兴起和复杂演进,也无法帮助人们深入理解代码的本质。互联网四十余年的发展已经充分表明,尽管政治和军事是赛博空间建立的第一推动力,作为一种新型生产方式的新经济在随后推动信息技术扩散的过程中起到了更为基础的作用。由此我们需要一种更具政治经济学意味的“生产性代码理论”,按照这一理论,赛博空间中得以产生经济价值的资源生产是代码设计的核心目标,人的行为被转化为形式多样的劳动(通过抽象的“一般数据”加以凝炼和遮掩)。代码按照商业目的创造了新型虚拟资源,是该资源的存在与承载方式,也是对该资源的数字化保护和管理手段;在力有不逮的情形下,甚至还需要法律等要素的共同保护。代码及其特殊的商业模式创造了新生产渠道,使价值得以超越传统产业组织在一个更大范围内产生。历史地看,代码的技术自主性是在不断和代码之外生产体系冲突博弈的过程中生长出来的,这一过程伴随着盗版、侵权、不正当竞争、各种鼓励大众生产的意识形态,并最终借助用户群体的集体选择而确立了合法性。同时,代码不仅试图独立于法律的介入,更希望法律能够确认其合法性,为其保驾护航。

   从这个意义上说,代码既是对赛博空间中活动空间和架构的客观描述,也是价值生产过程的驱动力,本身就代表了新型生产方式。随着代码的演进,新社会生产组织——平台——的地位愈加凸显。当驱动平台的智能算法能够进行身份认证、交易匹配、识别语音、分析偏好、帮助完成交易等,整个平台就已经成为一个人工智能体。这个人工智能体的内部组织构成尚未得到探讨,可以从架构视角划分为具有不同功能但相互联系的层次,这能够防止简单地回答智能平台究竟是企业还是市场的两重性问题。企业与市场的二分既起源于有效组织经济生产的成本(企业内部的交易成本小于通过市场机制的信息成本),也来自对组织之间的竞争秩序在法律上的维护(企业通过劳动合同固定劳动关系,并承担一定的社会保障义务)。但信息技术的低成本打破了这一分界,使得大量生产要素可以更加灵活地转移匹配,那些对生产要素具有更强控制力的平台更接近于集中式企业形态,它们可以稳定地通过各种手段从高度流动性中获利;而那些控制力较弱的平台则更像是分散化市场,无法形成用户黏性。因此有必要深入智能平台内部观察控制力的来源和实践,以便理解人工智能体的实质。

   (二)当人工智能嵌入生产方式

平台企业的形态一直在发生演进,不仅体现为服务出现在不同终端上(如可穿戴设备),(点击此处阅读下一页)

    进入专题: 人工智能   基础设施服务  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 宪法学与行政法学
本文链接:http://www.aisixiang.com/data/117437.html

1 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网