张耀铭 张路曦:人工智能:人类命运的天使抑或魔鬼

——兼论新技术与青年发展
选择字号:   本文共阅读 1942 次 更新时间:2019-01-11 21:00:21

进入专题: 人工智能   人类命运   青年发展  

张耀铭   张路曦  
市场上只能有最赚钱的一家或者最多有3-5家同类型的产品或平台存在,QQ生存下来了,MSN退出了中国;微信生存下来,易信死掉了;阿里巴巴成功了,越来越多的中小电商网站消失了。”[33]美国的情况也是如此,“最富有的1%家庭累计拥有的财富超过了整个美国财富的1/3——差不多20万亿美元。假设年利率为10%,他们每年都可以支配2万亿美元。美国工人的平均年薪是3万美元,也就是说他们能够雇用6 000万人,或者说是美国所有劳动力的40%。”[34]人工智能像“上帝之手”一样,将越来越多的财富集中在1%的少数人手中,让他们最先成为智能时代的幸运儿。

  

   第二,会影响不同技能水平劳动者的收入分配。人工智能对收入不平等的影响效果在不同的经济发展阶段也有所不同。“第一阶段,低技能的工资和自动化程度都较低,收入不平等和劳动份额较为稳定。第二阶段,自动化程度提高,技能溢价也相应提升,低技能劳动力的工资会停滞或者下降,劳动份额也会降低,因此会加剧收入不平等。第三阶段,自动化产品的份额开始稳定,低技能劳动力的工资以低于高技能工资的速度增长。”[35]在现阶段,遭受自动化冲击较为严重的主要是那些以程式化任务为主,对技能要求较低的职业。不过,世界经济论坛(WEF)早前发表了一份名为《职业的未来》的报告,预测人工智能将在今后5年改变商业模式劳动力市场,导致 15个主要发达和新兴经济体净损失超过500万个就业岗位。的确,未来无论你的领子是什么颜色,机器都会毫不留情。冰冷的事实和无情的逻辑,不断将人类命运逼向死角,让整个人类社会陷入了不公平的深渊。              

  

   3、人工智能引发的法律与伦理困境

  

   人工智能是把锐利的双刃剑,它在给人类带来巨大财富和生活便利的同时,也造成诸多的法律与伦理困境。

  

   第一,人工智能隐含着各种算法偏见。算法本质上是“以数学形式或计算机代码表达的意见”,代表着人工智能决策的逻辑结构。然而,算法并非完全客观、中立,其中可能隐含着各种算法偏见。“算法偏见存在于算法设计和运行的每一个环节,主要包括算法设计者的偏见、输入数据的偏见和算法局限的偏见。任何一个环节出现偏见都将导致算法偏见,区别在于有的算法偏见是潜在的、不可避免的,有的算法偏见则是人为的、有意图的。”[36]智能算法的基本原理就是“以过去的数据预测未来的趋势”,而过去的偏见可能会在算法中固化并在未来得以强化,造成“偏见进,偏见出”的结果。美国的研究发现,聊天机器人会在推特上散布种族主义和性别歧视的信息,用Google搜索一个通常被黑人使用的名字,相较于搜索白人的名字,得到的结果更可能与提供犯罪背景相关。在中国的资讯信息分发市场上,算法推送的内容已超过50%,已渗入从选题到分发的各个新闻生产环节。然而,“搭上所谓算法的‘便车’,一些原本信息量丰富的新闻客户端推荐的内容越来越单一,一些原本客观公正的内容生产者变得越来越偏激,一些新闻媒体原本宏大的格局变得越来越狭小”[37],这给新闻的未来带来了很大的负面影响。因此,我们在欢呼科技进步的同时,有必要对新技术忽视价值理性的后果进行认真检讨。

  

   第二,人工智能使个人的隐私受到侵犯。个人隐私是指公民个人生活中不愿为他人(一定范围以外的人)公开或知悉的秘密。隐私大体分为信息隐私、空间隐私和自决隐私等。信息隐私主要包括个人登录的身份和健康状况、个人的信用和财产状况、电子邮箱地址、网络活动踪迹等。空间隐私是指自然人享有的个人生活私密空间(领域),不受他人侵入、窥视、骚扰的权利。因此,王利明教授说,没有隐私就没有真正的自由。自决隐私“是指个人不受外界干扰、可自主决定其隐私生活的权利”[38]。比如个人信息,权利人有权决定如何使用,哪些信息可以公开,哪些信息不可以公开。在大数据海量、多样、实时采集和保存的当下,上述三种隐私均存在着被人工智能侵犯的风险。人工智能可基于其采集到的无数个看似不相关的数据片段,通过深度挖掘分析,得到更多与用户隐私相关的信息,识别出个人行为特征乃至性格特征,导致现行的数据匿名化等安全保护措施荡然无存。接入新语境的隐私侵犯,具备了一系列新的特点:(1)侵权主体:从传统的“侵权行为人”变成各种“电子端口”;(2)侵犯方式:从“侵入性” “干扰性”变得更智能、更隐蔽;(3)获取隐私内容更多元、更隐秘,甚至深谙“读心术”,读出你曾经以为可以“秘而不宣”的心理活动;(4)侵权的追责将异常困难,因为隐私主体举证难度大,侵权主体难以认定,损害结果不可逆转[39]。

  

   第三,人工智能生成作品引发著作权问题。人工智能作品的出现颠覆了人们对于作者与版权、发明家与专利等带有人身性质的知识产权权力义务关系的传统认识。当下的人工智能基于机器学习和深度学习,已经能够自行判断、独立抓取相关素材,并以一定创造性的方式加以重新表达。如此就出现两个与著作权相关联的问题:(1)人工智能生成的内容是否能够基于创造性标准认定为作品。(2)人工智能软件的设计者、使用者或著作权人是否可认定为人工智能生成内容的著作权人。对于作品的创造性,世界知识产权组织有明确的解释,即“作品是作者自己的创作,完全不是或基本上不是从另一作品抄袭来的。”[40]在中国的司法实践中,判断作品是否具有创造性,法院强调的是作品是否能够表现出作者的个性和主观性。人工智能能够模拟人脑的神经网络和深度学习,已经具备创作有个性和主观性作品的条件。由此可以说,人工智能生成的内容,只要是机器人独立完成的,即构成受著作权保护的作品。从现行著作权法来看,作为著作权主体的作者主要包括创作者与投资者两类。人工智能生成内容乃是代表设计者或所有者意志的行为,“因此在面对人工智能生成内容的法律争议问题上,对该内容是否是作品完全可以适用独创性判断标准,并在满足的前提下,以代表所有者意志创作为理由将著作权归属于人工智能所有者享有。”[41]人工智能创作作品的出现,无疑对知识产权提出了新的挑战,也凸显了现行著作权法律的滞后性与局限性。

  

   第四,无人驾驶汽车带来法律挑战。在澳大利亚、加拿大、德国和英国,每10万辆车平均会发生5-10起致死事故。过去4年美国发生的事故25%是因为驾驶员在行驶过程中发送信息造成的。谷歌开发的无人驾驶汽车累计行驶200万英里没有引发一起事故,奇点大学教授布拉德·坦普尔顿兴奋地评价:“无人驾驶汽车不会疲劳、不会酒驾、不会分心、不会路怒,也不需要休息,除非它需要充电了。”然而,不久他就被打脸了。特斯拉自动驾驶汽车于2016年5月首次在佛罗里达州出现交通死亡事故,这引发了全美对既有道路交通事故责任主体认定规则的热议。2016年9月,美国交通运输部公布了全球首个无人驾驶汽车政策文件《联邦自动驾驶汽车政策》。这是美国政府在推动无人驾驶汽车“发展和进行监管上迈出具有关键意义的第一步,会在世界范围内产生示范作用,刺激世界各国竞相研究制定发展无人驾驶汽车政策,并推动技术研发”[42]。

  

   在全球范围内,美国和中国在自动驾驶领域遥遥领先。波士顿咨询(BCG)预测,到2022 年带有城市自动驾驶模式的汽车上路;2025年以后,无人驾驶汽车会大量出现,全球市场价值将达到约420 亿美元。由于庞大的汽车销量和消费者对科技的需求,中国有望成为最大的无人驾驶市场。然而,现有的法律制度与保险体系等都不是为自动驾驶时代的交通量身定制的。自动驾驶技术的发展对我国既有的道路交通事故处理规则提出了严峻的挑战。挑战之一,法律规制对象的转变。法律规制的对象不再是车辆的驾驶人员,而是智能驾驶系统的开发者、制造者。针对自动驾驶,北京、重庆等市已出台诸多相关法律文件,旨在规制和保障自动驾驶汽车产业发展,避免事故风险,确保自动驾驶的正面效应。挑战之二,交通事故责任主体的认定。自动驾驶使得支配力开始从人类驾驶者向智能系统转移。“运行支配者因掌握机动车的支配力而成为危险的开启者、控制者和终结者,其最有能力和可能规避、减少或杜绝危险的发生,这也是其成为责任主体的重要原因之一,而汽车生产者因掌握运行支配也具有了成为责任主体的可能。”[43] 面对挑战,目前公安部正在配合立法部门修改《道路交通安全法》,界定自动驾驶汽车相关主体责任。

  

   第五,“人机之恋”引发伦理危机。目前机器人的种类已很多,从应用环境与应用领域来看,大致可分为工业机器人、服务机器人、特种机器人三大类。根据发展趋势,伴侣机器人的出现也在情理之中。2007年人工智能专家大卫·列维出版了畅销书《与机器人的爱与性》,在书中他预言人类与机器的性爱将在半个世纪后成为一个严肃而认真的议题。人和机器人坠入爱河,将和人类之间迸发爱情一样平常。机器人从不欺骗,也不会伤心,可以教会我们如何成为更棒的朋友和情人。2010年,美国新泽西州的“真实伴侣”公司宣布世界上第一款性爱机器人Roxxxy诞生。它除了具备充气娃娃的所有功能外,还有向主人发送电子邮件、上网升级自己的程序、自动扩充词汇量等功能,甚至会陪人聊天。5年之后,这款机器人在美国已经有数千人预定,包括肤色、发色和胸部大小都可以定制。2017年10月,沙特阿拉伯授予香港汉森机器人公司生产的美女机器人索菲亚公民身份。索菲亚拥有仿生橡胶皮肤,可模拟62种面部表情,其“大脑”采用了人工智能和谷歌语音识别技术,能识别人类面部、理解语言、记住与人类的互动。索菲亚在沙特说,它希望用人工智能“帮助人类过上更美好的生活”,人类不用害怕机器人,“你们对我好,我也会对你们好”。

  

   作为史上首个获得公民身份的机器人,它受到媒体的“热捧”成为网红,接受了联合国副秘书长的访谈,走向了机器人生的巅峰。从理论上说,索菲亚成了世界上第一个“有人权”的机器人。亚里士多德曾说:“奴隶是有灵魂的工具,工具是无灵魂的奴隶。”当作为“工具”的索菲亚们,有了像人一样的“灵魂”和思维、面部表情和声音、柔情似水的“情感”时,它们也就脱离了纯工具的范畴。这无疑是人工智能给人类命运共同体带来的伦理危机与现实挑战。

  

   人与机器人的区分,在今天似乎变得没有那么清晰明朗。我们一旦放开人工智能“电子人格”的权利,就意味着人与机器人的边界变成了一个难分彼此的门槛。这就迫使我们反思:我们把智能机器人看成何物?我们该如何定义它们?人和机器人建立怎样的关系是可能的、有必要的、合乎道德的?是否允许一些具有平等地位的“电子人格”的主体与人类对话和协商?更重要的是机器人是否会对人类命运构成威胁?人与人工智能之间的关系究竟是竞争、敌对,还是协作、共存?

  

麻省理工学院教授雪莉·特克尔认为:“爱情意味着从对方的视角品尝人世间的惊喜与艰辛,由双方共同的经历、体验、悲伤和喜悦而形成。当我们把目光投向大众媒体的时候,常常担心我们的文化正走向‘低智商化’。而《和机器人的爱与性》则表现出‘低情商化’:固执地背离人性中伴侣关系的复杂面,将虚假的情感关系视为新美学。”[44]人类发明了技术,技术也反过来重塑了人类的情感生活。出于对亲密关系的渴望,我们与机器人的关系正在升温,(点击此处阅读下一页)

    进入专题: 人工智能   人类命运   青年发展  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益笔会 > 科学精神 > 科学评论
本文链接:http://www.aisixiang.com/data/114486.html
文章来源: 中国青年社会科学 公众号

3 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网