刘奇:人工智能:引出诸多可期可虑的社会课题

选择字号:   本文共阅读 604 次 更新时间:2017-10-08 19:25:09

进入专题: 人工智能  

刘奇 (进入专栏)  

   人工智能的福与祸

   人工智能是福是祸,现在众说纷纭。乐观派认为,人工智能将人类从辛勤的劳动中解放出来,人类终于可以把生命消费在美好的事物上了。从这个角度来看,人工智能可以给人类带来以下几个方面的福利。

   一是把大多数人从劳动中彻底解放出来。有人预测,占社会1%的精英将成为“神人”,所有的事情都由这些“神人”所设计的机器人完成。另外99%的人将成为“闲人”,他们由人工智能创造的社会财富保障其生活,只做自己感兴趣的事情,不再需要为了生计再去劳作。

   二是“数字劳动力”可以提高服务质量,降低服务成本,使服务个性化。

   三是改变“不劳动者不得食”的人类社会基石。不劳动者照样可以丰衣足食,由1%的“神人”创造出极丰富的社会财富,用一个合适的社会分配制度让99%的“闲人”尽享生活的乐趣,只要不违法、不侵犯他人,可以尽意而为。

   四是人类想象中的“乌托邦”因为AI技术成为现实,这是一个崭新的社会课题。

   在人工智能带来的诱惑面前,有一批人始终保持着对人工智能的高度警惕。包括比尔·盖茨、史蒂芬·霍金、马斯克在内的很多人都对人工智能的发展提出了担忧。未来,机器很可能将人类从劳动中解放,但也很可能出现人类的生存反过来遭到机器这个人类创造物的威胁,人类将面临前所未有的变革,需要主动做出改变去迎接AI时代带来的问题和挑战。具体而言,主要有以下三个方面问题。

   第一个问题就是精英结盟。具体而言就是资本精英和知识精英结盟,变成了“神人”,“二八定律”将被打破,世界将只有1%的“神人”和剩下99%的“闲人”,如果制度变革滞后,很可能造成富者巨富、贫者赤贫的严重两极分化,带来许多社会问题。

   第二个问题是大量失业。过去的技术革命都有新的技术替代,比如英国的工业革命虽然被形容为“羊吃人”,但新的技术也造就了新的就业机会,失去土地的农民至少还能到城里当纺织工人。而人工智能革命就不存在职业转换了,所有工作都可以由机器人代替,人类彻底没事可做。牛津大学的一份报告称,到2033年,很多行业会彻底消失。

   第三个问题是伦理问题。1956年,人工智能之父马文·明斯基就提出了一个著名观点:“人不过是肉做的机器,而钢铁做的机器有一天也会思考,人与机器的边界将不复存在,未来世界将人机共存。”这个观点一旦成为现实,一系列的伦理问题就会接踵而至。有自主意识的机器人完全符合生命的一切特征,它算不算一个新的生命物种?它能否被人格化?它有没有隐私权等人权所对应的“机器人权”?人类可不可以伤害人格化的机器人?机器人犯罪怎么处罚?比如无人驾驶汽车撞人了,应该由谁来承担责任?由车主承担?由安装自驾系统的汽车制造商承担?还是由编写软件的程序员承担?又该如何实施惩罚?

   以色列作家尤瓦尔·赫拉利在《人类简史》中提出了一种生命的概念,即以能够自行独立演化的计算机程序为代表的无机生命。如果这一概念成真,那么程序算是一个人吗?如果我们删除了这个程序,算是谋杀吗?我们还可以进一步假想,如果我们将自己的大脑整个备份到硬盘上,再用计算机来读取运作,让计算机像我们一样去思考和感受,那样的计算机是我们吗?或者算是别人?如果备份了我们的大脑记忆的计算机控制了我们,到底算是我们的永生还是人类的灭亡呢?著名科技作家凯文·凯利写过一本书叫《科技想要什么》,提出一个观点说科技其实是一种生命形态,它符合生命的一切特征,人类只不过是科技的父母,是它生命第一个阶段的保育员,紧接着它会踏上自己的生命演化的进程,人类就再也控制不住科技了。

   第四个问题是价值观问题。人工智能时代,人都不一定再是真人了,还要不要追求真善美?真善美的外延和内涵是什么?新的标准又是什么?比如利用技术可以把人类大脑中痛苦的记忆删除,留下的都是美好的记忆,这是不是人类的自我欺骗?失去痛苦记忆的人又如何分得清好坏真假?

   第五个问题是哲学问题。新陈代谢是自然规律,高度智能化的机器人提供服务,使人类不再需要靠结婚来繁衍后代,人类的正常延续将会中断。同时,高度发达的医学可以让人长生不老,人若不死,生有何意义?总之,从哪儿来、到哪儿去的人类终极哲学命题将面临挑战,人们的思维方式需要重新调整。推演到地球生命的进化,人类是从原始的有机物到单细胞,再逐步到灵长类动物,并且发展出超越其他一切生物的智慧,这条进化路径是唯一的吗?AI告诉我们,如果有合适的条件,极有可能还会有其他生命的进化,并且产生不一样的进化结果。这也说明人类离最顶级的生命形态和智慧还有很远的距离,也很可能不是唯一可以进化到顶级形态的生命。

  

   如何应对人工智能的崛起

   著名科学家霍金曾表达对AI崛起的警惕和担忧,他认为,各国应该共同采取行动,甚至组建“世界性政府”,监管和控制AI技术的无序而快速的扩张。2017年2月,欧洲议会就一项提案进行投票,提出要设计一套全面法律,界定人工智能带来的责任和道德问题。关于机器人的定位问题,提案提出要把机器人定义为“电子人”,也就是说把这些机器当成某种特殊的人,而且建议新机器人要登记注册。欧盟基本权利宪章里的“人权、尊严、平等、知情权和隐私”等原则也将被考虑赋予机器人。在设计层面,提案提出两点建议:一是设计者应该确保机器人有一个紧急切断装置,在必要的时候可以将其关闭。二是要确保机器人在使用时没有风险,使用者不必担心受到身体或心理上的伤害。在伦理层面,提案提出机器人不得用于武器和军事用途,既要防止机器人伤害人类,也要防止机器人为它们主人的利益最大化而行事。提案还提到涉及人工智能破坏行为的保险问题,未来机器人的生产者和所有者需要为机器人可能造成的破坏性行为缴纳保险。

   牛津大学公共政策学者马切伊·库辛斯基认为,必须从制度设计上回应一个根本性的问题,是什么让人之所以为人?是对超高效率的追求,还是非理性、不完美和怀疑等等任何非生物实体的特质?只有回答了这些问题,才能在AI时代确定必须保护和维护哪些价值,从而确保更大的安全和公平。而创造更平等未来的关键之一是数据,人工智能的进步,依赖于对大量人类活动的在线和离线数据的获取与分析。人类必须完全掌控自己创造的这些大数据,才能占据对人工智能的主动权。

   AI技术是一把双刃剑,人工智能可能在几十年内超越人类,如果不为此做好准备,人类控制自己创造物的能力将受到挑战,进而危及人类掌控自己的命运,甚至生存权利。我们看到了AI技术的风险,但不能就此因噎废食,搁置这项技术的研究,更何况AI技术迅猛发展的趋势已经是不可逆的,挡也挡不住的。AI时代,基因工程、再生医学和纳米科技等领域的科学技术将会进展飞快,除了医治疾病,也能让衰老的组织再生,人的寿命会趋向于无限延长。届时我们对于生物人种的死亡,需要重新思考。

   要解决这些诸多领域的问题就需要一大批有知识、有技术、有良知的社会学家、自然科学家、工程技术人员和政治家进行世界性的协作、协调和协商,用一套共用的语汇体系和一个共同的概念框架,从科学的视角找到平衡点,制订出一系列能处理技术、治理和伦理之间相互关系的政策,如已经出现的“AI伙伴计划”“AI道德规范与治理基金”等,都是可供参考的应对思路。在这一轮人工智能的变革中,中国和世界第一次站在同一个起点上,第一次平等地拥有了资本、公司、技术、人才等要素。人工智能的争夺是未来世界最主要的争夺,中国没有任何的空间犹豫和后退,需要政府、企业、个人都参与到这个巨大的变化中,携手引领人工智能革命。

  

   (作者为国务院参事室特约研究员、中国农业经济学会副会长)

  

   阅读延伸

   人工智能将提供90%以上的工作

   中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任王飞跃在“人工智能与未来社会:趋势、风险与挑战”学术研讨会上发言指出:很多人担心AI时代的到来,再加上“技术奇点”“人类将变成机器人的奴隶”“人工智能毁灭人类”等许多观点,特别是“人工智能很快将使50%甚至70%的工人失业”等看法更使大家心慌不安。对此,我的看法恰恰相反。

   二百年前,我们的问题就是担心机器夺去我们的工作进而毁灭人类,甚至把机器都烧了,这就是英国著名的“卢德运动”。今天的机器已非二百年前的机器,强大多了,但夺走我们的工作没有?我们离开机器还能工作吗?很大程度上,我们今天的工作是机器给的,计算机为我们创造了大量新工种。我坚信,未来不是人工智能使50%至70%的工人失业,未来是人工智能为我们提供90%以上的工作。

   老子《道德经》开头是“道可道,非常道”。有人解读为:“道,可道,非常道”。对我而言,“道”就是算法智能,“可道”就是语言智能,“非常道”就是人类大脑里的想象智能。所以,我相信车比人跑得快,飞机比人飞得高,计算机比人存得多、算得快、判得准,但我不相信它们比人类更“聪明”,如果不是用语言智能重新定义聪明的话!其实,语言智能根本就说不清什么是“聪明”,什么是“智能”,那完全是想象智能的事。

   前段时间,《人类简史》《未来简史》的作者尤瓦尔·赫拉利称人工智能将使我们变成“无用阶级”,引起人们一阵担心。无用了?那怎么行!其实,这是人类的进步,一个稳定和成规模的“无用阶级”的产生,是走向智能社会的必要保障。我们不应忘了四百年前徐光启翻译《几何原本》时的感言:无用之用,众用之基!

   每个人都不应被别人的语言智能所“忽悠”,要立足自己的算法智能,发挥自己的想象智能,以合适的语言智能表达出来。我想象的人工智能技术,就是能让我们实现知识的自动化、智能的自动化,是从工业社会走向智能社会的时代科技。而且我希望国家的《新一代人工智能发展纲要》,能让我们“直道超车”,实现智能全球化的规划,成为保障“中国梦”实现的“智能梦”。(高楼 摘编)

进入 刘奇 的专栏     进入专题: 人工智能  

本文责编:frank
发信站:爱思想(http://www.aisixiang.com),栏目:天益笔会 > 科学精神 > 科学评论
本文链接:http://www.aisixiang.com/data/106330.html
文章来源:北京日报

2 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统