冯象:人工智能让我们害怕什么?

选择字号:   本文共阅读 474 次 更新时间:2019-04-29 23:13:43

进入专题: 人工智能  

冯象 (进入专栏)  

  

   人工智能带来了一些非常严峻且不可避免的挑战。从人机关系的视角看,主要包括两项巨大的挑战,一是机器替换人类,导致一波接一波的失业浪潮。2018年已经见证了第一波失业浪潮,这背后就是人工智能带来的革新。二是人工智能的军事化,这也是已经发生的事件。用美国科幻文学的口号来说,未来已经来到,未来并不是将来概念,我们就生活在未来当中,包括智能武器在利比亚内战中的大量使用。可见,人类的苦难已经与机器智能密切关联并深受其影响。

  

   作为一名法学家,今天我想从法律的角度谈谈人工智能带来的挑战。

  

挑战之一:个人隐私的逐渐消亡


   人工智能带来的首要挑战是个人隐私信息的消亡。在传统社会,隐私之所以被称为“私”,是因为它可以“隐”。这一中文词将其特点诠释得非常完美。英文“privacy”虽然也与“私”有关,它的词根来源于拉丁语,但加上中文的“隐”就更加生动了。

  

   当前社会已经普遍使用机器智能,它能够记录每个人的行为与信用表现,其背后涉及的法律问题就是个人的隐私权。

  

   在法律层面,隐私权是一项非常重要的权利。美国在经过了多年的宪法诉讼后,隐私权早已被确立为宪法上的一项基本权利,处于较高的法律位阶。中国通过一系列的典型案例,也已将隐私权确立为民法中的一项重要权利。尽管宪法没有明文规定,但也有许多学说支持权利的重要性。值得一提的是,中国编纂起草的统一《民法典》正在审核中,隐私权正是其中一项非常重要的内容。

  

智能手机到来:过于便利令人无法抗拒


   今天,人工智能的来临,导致隐私从人类的日常生活中消失。那么,我们是否有必要保护这种正在消失的权利?就像脸书创始人马克·扎克伯格说的,我们为什么需要隐私?我的客户很乐意把隐私交给我们,因为我们的服务能给他们带来不可抗拒的便利。这就让我联想到人工智能令人害怕之处,它过于便利,以致我们无法拒绝。尽管可以从哲学、伦理学、法学等各个角度切入,寻找多种理论上的应对方案,但人工智能技术实际上在现有的市场经济条件下,必定会按照一定的商业模式涌入社会。

  

   通过观察可以发现,推广人工智能最有利的产品就是智能手机。1980年代初,我刚到美国之时,电脑已开始普及,但互联网还仅被运用于少数大学的科研领域,普通民众很少触及。那时很难想象我们今天会生活在这样一个环境中,人与人之间的交往很难排除机器的媒介。那时,人与人之间的交往还是通过电话、书信,以及面对面的方式进行。从1990年代开始,这种情况发生了巨大的变化,互联网慢慢地从学院转移到生活当中,并广泛运用于商业活动。微软、苹果走出了第一步,带领人类步入了手机时代。在我2009年回国之时,虽然手机已变得非常轻巧,但上网仍旧不便。但到了五六年前,每个人的生活基本上都发生了翻天覆地的变化,扎克伯格和他的团队惊人地推出人工智能的商业模式。

  

AI商业模式:与知识产权相反的数据获取


   人工智能的商业模式是与知识产权相反的模式。所谓知识产权,就是在任何无形的东西上设立产权。例如,一束花并不是知识产权,但若给这束花拍照,这张照片的使用就可以成为知识产权,这朵花的香味也能做成一个具有识别性的标记,称作商标,也就是知识产权。因此,知识产权的主要用途就是禁止他人随意复制或使用,他人需要付费才能使用。

  

   最近,视觉中国将黑洞图片说成是它的著作权,这是极其荒谬的行为。在我们目前的商业竞争和经济活动中,知识产权是一个非常有效的竞争手段,因为它可以打击竞争对手,通过诉讼强迫他人付费或承担更多的成本,以至于对方不得不屈服。事实上,视觉中国是否拥有那张黑洞照片的版权并不重要,重要的是他通过诉讼逼迫他人付费,这才是他的生存之道。但若将他与扎克伯格、马云的商业模式进行对比,就会发现其中的差别。

  

   当前网络企业大平台采用免费或廉价的付费模式,以换取便利和所谓的美好、理想化的社会环境。从本质上说,商业模式的基础是对价交易,法律语言表述为,交易双方需要付出对价,形成契约。而我们付出的对价就是个人信息。从我们购买手机的那一刻起,就已经提交了个人信息,并且还需不断地提交,我称之为硬规则,因为消费者必须接受。这些数据被企业获取,用于建立数据库,再转卖给第三方或者用于其他用途,例如开发新产品等等。

  

数据财产化后,企业掌握了每个人的隐私


   数据如此重要,以至于现有的法律无法对其进行估算。数据所蕴含的巨大价值令业界非常希望将其财产化。数据财产化后的阿里巴巴,其产值将是一个令人恐惧的数字。试想,若将数据财产化,那数据的原始主人是谁?难道不是我们每一个人吗?难道数据不是我们的财产吗?若是这样思考,脸书就无法运营了,因为它需要与几亿人签订合同。因此,数据的财产化是个法律问题,目前无解。虽然利益集团的游说非常激烈,不久的将来或会进行立法,但即使没有立法,数据事实上也已经是财产了,因为它是我们每天进行的无数次交易的标的物。法学理论认为,只要能成为交易的标的物,例如数据,那它就已享有财产的地位,只不过对它的保护缺少明文规定而已。所以,这些企业事实上已经掌握了我们每个人的隐私。

  

   当然,还有一位参与数据收集竞争的主导者,即政府。在拥有发达的互联网产业之后,任何国家的政府必然深度介入数据的抓取。中国在这方面做得最好,道路每50米就安装一个摄像头,促使暴力犯罪大幅降低,即便在所有的发达国家中,中国也走在最前端。虽然从传统的隐私角度来说,这或许令人不安,但从产业发展以及政府对数据的抓取来说,这可以解决诸多问题。例如,许多传统上难办的案件到了数据时代非常容易。

  

挑战之二:引领法律走向硬规则体系


   人工智能使我们忽视原本异常繁琐的程序、调查,不得不接受一些硬规则,这对于法制建设的影响非常巨大。关于硬规则的定义,可以用生活中一个有趣的现象来解释。中国的马路中间通常都设有一排铁栏,用于分隔两个车道,它强迫车辆必须在它自己的那条车道里行驶,不得越界。相反,这也可以说明软规则的失效,即传统法律规定和政策的执行率较低。虽然政府可以选择其他整治交通的措施,但都不如硬规则方便、廉价。国内存在非常复杂的“栏杆系统”,让民众不得不开始排队。

  

政府大量介入硬规则制定,或形成新的计划经济


   硬规则带来了什么好处?它不需要像传统的法制建设那样由政府积极推动普法,也不用通过文艺作品向大众宣传规则的重要性,也无须事先征求民众的意见。一般来说,我们国家的立法应当按照民主原则,通过人民代表大会制度进行,或通过政府有关部门制定规章。但硬规则不同,硬规则是商家制度,尽管政府部门也制定硬规则,但商家的硬规则是智能社会,它通过智能终端添加到我们身上,智能手机就是最佳的例子。手机硬规则通过用户点击同意按键进入系统,之后会显示一份字体较小、内容复杂的授权合同,几乎一面倒地将权力给予了运行商。当然,如果用户不同意,也可以点取消键。这种合同在过去的人类社会中很少出现,而按照现在的制度和商业模式来看,这就是一种单方面为用户制定规则,使之通过衡量利弊或被迫接受的格式合同。

  

   像阿里巴巴这样的企业,现在已拥有非常成熟的纠纷解决机制,平台本身提供了解决纠纷的各种可能性,政府也与之合作建立了互联网法律。所以,整个法律制度实际上被人工智能引领着走向了硬规则体系的方向。这令人感到无比害怕和忧虑,值得引起世人的注意。因为这种情况将导致资本力量过于强大。在传统和现代社会,包括工业化以来的西方社会与改革开放后的中国现代化建设的新时期,对于立法和规则的制定,在民主方面都有比较明确的要求。从中国的国情与党和政府的立场来看,立法必须回应民众的要求、呼声与利益诉求,这也是中国共产党为人民服务的宗旨。但是,如果规则的制定权大量落入企业手中,其结果就大为不同了。

  

   由于政府部门同样使用智能终端,所以商家制定的规则同样适用于政府部门。从政府的角度来说,为了避免商家成为其领导者,政府只能比过去的工业化社会更大幅度地介入商业活动,这就动摇了我们改革开放目标的基本前提。中国改革开放的目标之一是建设一个健康的社会主义市场经济,按照经典的表述,市场经济就是“一只看不见的手”,拥有自动调节的作用,政府应当撤出商业活动。依据市场经济理论来说,最理想的市场经济是政府只负责一部分的监管、注册和维稳等传统要求,但智能终端、智能经济、智能技术导致政府对商业活动的介入空前加大,在一定程度上促使市场经济不得不回归新的计划经济。

  

私人过度承担硬规则的制定,将加剧贫富差距


   事实上,硬规则的制定权越来越多地归于商家,这是商家非常乐于见到的结果,因为这将增加利润收益。传统企业例如洛克菲勒家族的兴起,需经过一两代人的努力,而以扎克伯格为例的新一代富豪,从白手起家到获得成功用时较短,在短短的几年中就走完过去需要一个世纪才能走完的积累路程,由此带来的对整个社会的影响和控制是非常惊人的。它的危机表现形式就是十多年前美国发生的华尔街金融危机,其中一个运动叫做“占领华尔街”,起因就是贫富差距带来的1%的富人与99%的穷人的矛盾。

  

(点击此处阅读下一页)

进入 冯象 的专栏     进入专题: 人工智能  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 法学演讲
本文链接:http://www.aisixiang.com/data/116077.html
文章来源:文汇讲堂 公众号

1 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网