冯象:人工智能让我们害怕什么?

选择字号:   本文共阅读 767 次 更新时间:2019-04-29 23:13:43

进入专题: 人工智能  

冯象 (进入专栏)  

   贫富差距不仅是中国改革开放出现的情况,亦是全世界的趋势。而网络技术、网络产业极大地推动了社会的分化。不久前,美国黑石集团共同创始人、全球主席兼首席执行官苏世民给麻省理工大学捐款建立人工智能学院,明确要求该学院必须包括关于人机伦理的研究,而这类研究必须解决贫富分化、财富过度集中的问题。可见,苏世民已经清醒地认识到,人类社会所面临的新挑战,是财富的巨大分化带来的社会难题,作为富豪,他有责任提出这个问题,而学者必须在研究科技的同时关注伦理问题。实际上,“钢铁侠”埃隆·马斯克也经常提及未来社会在伦理层面对现代人类有何种要求的问题。所有的前沿活动都已提出了类似对人类生命的意义、社会的稳定、人机关系的建立等根本方面的问题,中国也不例外。中国“基因编辑婴儿”事件,本质是肆意践踏医学和生命科学最基本的不伤害原则,暴露了国内对于科技伦理的忽视。尽管背后的投资人和合作者都是美国人,他们以研究艾滋病的名义开展试验,一步一步突破伦理瓶颈,不断吸引韩国、美国等其他国家的投资,进行商业冒险。


   这表明,商业资本在市场博弈中具有盲目性,缺乏伦理约束。正如马克思说的,如果有100%的利润,商人会怎样选择?如果有300%的利润,即便上绞刑架也无所畏惧。既然如此,我们该如何注意伦理问题?一方面,必须加强政府部门和行业本身的自律和外部约束。政府部门相当于外部约束、外部监管,行业本身也有自我教育、自我培训等自律的要求。

  

挑战之三:深刻改变生活习惯和生命意义


   从科学发展的角度来说,探索是非常必要的。对那些不得不发展的产品而言,我们必须在技术条件与科学原理上继续探索,以便获得对人类有益而非有害的结果。人工智能在这方面的表现特别醒目。

  

麦当劳的味觉配方秘诀:按基因喜好迎合全人类口味


   当今社会显然已离不开人工智能,可以预见五年、十年后更是如此,因为当代的孩子是与手机这类智能终端一起长大的,只是接触多少存在差异。从上幼儿园、小学就开始添加微信,用手机在线上做作业已变得十分普遍。在人工智能深入渗透我们生活的情况下,如何正确使用是一个巨大的挑战。

  

   开发人工智能的商家非常聪明,智能终端通常根据反复实验研究人的心理和习惯,以及由基因决定的倾向性来设计界面,因此,一个出生不久还不会说话的婴儿却会很快发现手机或平板电脑的可爱之处,并与之互动,这是设计的成功之处。

  

   以麦当劳为例,麦当劳的快餐为何那么容易令小孩着迷?因为它是实验室的产物。麦当劳提供的快餐是以工业化养殖的牛、猪、鸡作为原始材料,经过混合、配方以及化学处理,调试出令全球小孩都喜欢的口味,并为此成立了一所麦当劳大学。在美国稍微年轻一点的人群,全都是它的常客,即便是含着金钥匙出生于贵族家庭的小布什也爱吃这种垃圾食品,因为他无法拒绝这种根据人类基因构成研制出的味觉配方。

  

   终端界面的设计也是如此,新发布的产品也许会被用户挑剔,比如华为制造的可折叠手机最初也受到批评,但很快就寻找到了感觉与方向。因为华为拥有全球最顶尖的设计团队,所以对于主界面的设计细节超乎普通人的想象。但这些考虑背后的商业驱动因素并不仅仅是为了用户使用方便,而是要让用户无法摆脱。

  

改变审美趣味,机器设置的产品影响生命意义


   微软小冰作诗是个很有意思的现象,经常有人在社会、媒体上评价小冰作诗或者其他机器人作曲的事情,总体评价并不太好。如果将机器人与杜甫、李白相比,那简直差强人意,机器人不过是把五四以来新文学运动涌现出的作家作品加以学习,然后组合,生产出几句称为诗的语句。需要注意的是,微软研发小冰的意图并非让它成为杜甫,华为研发5G产品也并非想让其成为爱因斯坦或牛顿,他们的根本目的是占领市场。AlphaGo团队研究下围棋并非喜欢下围棋,而是研究作为顶级的透明规则游戏的围棋,将其研发产品投入市场,进而实现取代人类智慧的最终目标。因此,我所关心的是小冰下一步如何发展,如何商业化,商业化之后如何改变我们与下一代人类对诗歌、文学以及艺术的感受。这一团队以及它的竞争者或许已在基因层面探索人类对文字和音乐的感受,以便研发出的产品能够改变人机关系,我将其称作较为终极的挑战,因为它改变了生命的意义。

  

   尽管科学技术发展,政治朝代更迭,不同社会存在不同的发展路径,但自远古人类留传下来的宗教、伦理、法律、商业等方面的人类生活基本存在一个共识。但今后的发展可能无法预测,因为人类内心最深处的一些爱好和习惯,以及智力所能投放的领域将被取代。所以,当我看到柯洁在围棋比赛中负于机器时痛哭的画面,感到些许悲哀。作为世界顶级的围棋选手,他却被机器人击败了,并且在赛后说“我回去让机器复盘检查错在哪里”。过去他只需自己复盘,而现在,机器会立即指出他的错误。这说明,机器与人力已不处于同一段位了,在机器面前,人类如同孩童一般。机器教给人类最初级的下法,而其本身的下法人类已不可理解。

  

   其他行业也面临同样的问题。如果机器学会作诗作曲,做出我们普遍喜欢的产品,如同科幻电影中那般,那人类的生活就将完全改变。可以想象那个时代,杜甫将是极少数学院派研究的对象,因为机器已经研发出完全不同的风格,让我们从小就会喜欢。音乐、美术、戏剧表演都是如此。

  

未来走向?知识产权化的暴政?数据国有化?


   法律也可能被人工智能所改变,因为法律规则本身就很难区别其制定者。当我们知晓法律制定的来源是机器时,或许也会认为这是比较公正的,因为人类很容易通过算法获得信息,尽管算法的背后依然存在偏见,或者算法本身被用于偏见。但想挑战算法的合法性或合理性则相当困难,因为其过于专业。一旦机器大规模介入立法,人类将无法理清规则,因为每部机器都会将规则无限复杂化,其复杂程度就像顶级围棋水平一样远超人类所能理解的范围,只有利用机器才能与之对抗,那时,我们是否需要机器?这是一个终极挑战,它不仅颠覆了生命的意义,也颠覆了日常生活,它提供的便利和规则正在温水煮青蛙式地将人类逼至无法反抗的境地。

  

科技发达下,进入共产主义或成为可能


   对此,我最近撰写的新书《我是阿尔法》中,提出了两种最终解决方案:一是彻底知识产权化的暴政。由于财富的高度集中,必定会诱惑更多专制和硬规则的普遍约束,某种意义上就像法西斯作为一种政治制度的专制。二是数据国有化。随着政府部门越来越深地介入商业活动,最终每次商业交易都必须由第三方政府参加,此时是否还是市场主体?每只手背后都是政府、商家以及我们心甘情愿所提供的信息,早已不是市场主体了。那时,分工将变得不太重要,机器会大规模出现,因此,我才提出共产主义的概念。前提当然是党和政府依然坚持为人民服务。事实上,列宁曾说,人类将按照科学的进步程度来接受共产主义,共产主义在科学技术不发达的情况下是无法实现的,按照传统马克思主义观点注定是行不通的,因为能力有限。1960年代,一位苏联数学家提出综合数学模型,解说计划经济成功与失败的可能性,并获得了诺贝尔经济学奖。受此启发,我认为计划经济并非过去式,只不过不适合科技不发达的时代,将来人类有可能计划得非常完善,考虑到每一个人的需求。

  

无人驾驶安全系数更高,法律会逐步制定


   目前许多领域已经能够做到资源的合理分配与使用,最简单的就是交通管制。若没有现在的网络和摄像监控设备,管制交通将非常困难。人类现在已初步拥有无人驾驶技术的研发手段,无人驾驶并不是一辆独立的车,而是像人类一样能够转弯、辨识方向、避开障碍物,具有自主意识的车。无人驾驶的未来目标是彻底改善整个交通系统。一位英国评论家甚至提议,考虑到过高的风险因素,在未来应当全面禁止人类驾驶。现在,美国研发的无人驾驶车辆,包括小汽车、载重车、拖车等,经过几十万公里路程的测试,证明其安全系数已经大大超过人类驾驶员。虽然无人驾驶也发生致行人死亡的事故,但经过检测发现,这并非是系统漏洞,而是电脑经过所有数据整合之后,做出更安全的自主综合判断,在危机无法避免的情况下,撞死路人而非乘客的社会风险更低。这种判断的精确是人类无法与之相比的。

  

   当前雄安新区建设的首要目标是疏解首都功能,但更远大的目标是建成全方位改造的新城市系统,以便容纳未来的无人驾驶。可想而知,新交通系统首先必须遍布传感技术,然后计算投入运行的每辆车并与整个系统联网,这就需要华为的5G技术。每辆车每毫秒的判断都须经过系统的严密计算,由于人脑远不如机器,因而机器驾驶将比人类驾驶安全得多。只是目前法律层面还未出现一个可供探讨的方案,企业也不愿在投入之后引发许多纠纷。因此,新技术需要法律同步地为它提供一些规则。当然,总体上我们还是比较乐观的,法律会逐步地提出一个解决方案。

  

进入 冯象 的专栏     进入专题: 人工智能  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 法学演讲
本文链接:http://www.aisixiang.com/data/116077.html
文章来源:文汇讲堂 公众号

1 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统