梅剑华:人工智能与我们:前奇点时代的地方性困惑

选择字号:   本文共阅读 994 次 更新时间:2021-08-17 22:49:07

进入专题: 人工智能   奇点  

梅剑华 (进入专栏)  

  

   梅剑华,北京大学哲学博士、山西大学哲学社会学学院教授、博士生导师、北京大学外国哲学研究所兼职研究员、中国人民大学哲学与认知科学交叉平台研究员、《认知科学》期刊主编、中华全国现代外国哲学学会理事、维特根斯坦学会理事。研究方向为:心智哲学、实验哲学、人工智能哲学、儿童哲学;语言哲学与形而上学;先秦哲学与中西哲学比较。曾任首都师范大学哲学系主任,萨尔茨堡大学、匹兹堡大学、罗格斯大学等大学访问学者。主持1项国家社科基金青年项目:实验语言哲学的批判性研究;主持1项国家社科基金重点项目:当代意识问题的形而上学研究。发表论文数十篇,主编《自我问题》,即将出版心智哲学专著和实验哲学专著。

   本文为“一乘名师讲堂”视频专访梅剑华教授的文字实录。

  

   一乘:人工智能的发展正在加速。当它突破某一个临界点,人类的制度、秩序、道德和生活方式等等都会发生根本变化,一些东西会崩溃,一些东西会重建。您觉得“奇点”会在什么时候来临?会带来哪些大问题?人类又该如何应对?“奇点”会不会宣告人类的末日?

   梅剑华:好,谢谢。我觉得不用谈奇点,我们目前面临的问题已经很多了。大概一年前,我遇到一个从广州过来的警察朋友,我们两人的职业差别很大,他做刑警,我是老师。但我们见面第一次聊的话题就是人工智能。他感概说以后自己可能会失业,为什么呢?以前做刑警,需要自己去收集很多信息,要靠自己的能力去查案,现在不太一样了。因为现在整个网络技术的发展,所有的材料、侦查到的信息,只要放在眼前,结果就是唯一的。一个凶手,他出去杀人,所有地方都有他的摄像,有他过去的犯罪经历,还有很多关于他的住宿、银行卡交易等所有信息,那么需要人去判断的部分越来越少。现在人工智能这种大的发展已经产生了很多问题,警察行业已经算是比较复杂的行业,很多更简单的行业包括餐厅送餐的机器人、扫地机器人,已经开始系统的替代了。

   这个问题对中国尤其重要,因为中国是一个劳动密集型的国家,被替代的这些人该去干嘛?他们从农村出来,以前可以贩卖自己的劳动力,现在人工智能抢夺了劳动力市场。我们的教育体系,又没有培养出更多从事技术性脑力劳动的人,所以这实际上构成了一个很大的问题。它的问题不是说奇点来临之后才是问题,奇点来临是人类文明面临的问题,可是我们现在面临的问题可能是中国自身的问题,当然这里面还是有必要把奇点讲清楚,现在很多人会讨论奇点。

   我们一般说奇点来临,就是所谓的人工智能超越人类智能那一刻,甚至有人称作人工智能统治人类智能那一刻,在面对机器智能的时候,我们人类现有的一些能力和手段都已经不行了。这个问题,哲学里面讨论的不是很多,也是最近十几年才讨论,纽约大学有一位哲学家叫大卫.查尔莫斯,他在2012年发过一篇文章叫《奇点——一个哲学分析》,这篇文章有60多页。在他之前哲学界没有很严肃地讨论这个问题,奇点问题在论坛上,科学家会讲,企业家会讲,可是没有人去严格对待它。他这篇文章出来之后,大概有二十多个回应,包括哲学家、科学家、作家等,说明这一问题已经进入到我们人类文明的思考层面,而不仅仅是我们平时谈论的议题。他认为,我们不要讨论奇点实际能不能来临,我们首先要讨论奇点在逻辑上可不可能,如果它可能的话,我们就要思考可能之后的状态,人类不能只思考当下实际的状态,要思考未来的可能性,这是现在哲学界讨论奇点问题的一个方向。

   我认为奇点到来是有可能的,那么奇点来临之后会造成什么状态呢?很多人会说,是不是机器文明把我们给灭了,如果是真的,假设有这个状态,那我们现在讨论它也没有意义,因为我们被灭了,这个世界就不存在了;另外一种可能性,我们把机器灭了,如果我们把机器灭了,那就不是奇点了。奇点就是所谓的机器智能超越了人类智能,超越之后会达到一个什么样的效果,使得我们现在谈论奇点之后的世界还有可能?那无疑是机器智能、机器人和人类共存的一个时代。

   这个共存实际上很多人已经讲过,就是一种脑机融合、人机结合,就是我们要变成更具有智能的人类、新人类,而不是我们有一个新的物种叫机器人。我对这点有一种执念,我认为机器还是要跟人发生关系,或者说人类是机器的开关,也是它的终结者。这里面不排除有一些现象,比如机器有可能在局部领域超过我们,甚至可能出现一种缠斗、厮杀和碾压的局面,在整体上我觉得不是,要不然人类文明也不会发展到这个阶段。有人把现在机器人的发展称作人类文明的最后一次演化,我们人类物种经过几百万年的演化,最后成为这样一种形态,在所有的功能上都变得非常强大,尤其是思维能力。

   对于奇点的认识,第一,我认为它是有可能来的;而且我对它来临之后的世界有一种乐观心态。我纠正一个看法,很多人会认为我们太乐观了,包括很多哲学家会认为,机器人不可能超越人类。举了很多例子,比如说人有情感,有自我意识,有感受,但机器人没有;人有创造力,机器人没有。很多人都是基于他自己的立场看问题,如果你放宽人类文明的视野,我们的人工智能发展才70年,我们人类文明是多少年?从最远古的物种演化到现在,是几百万年甚至上亿年才到人类文明现在这个状态,机器人才六七十年,你怎么要求它70年就能够达到悠久历史所产生的人类文明呢?所谓的几千年的人类文明、文化的演化,还有每一个个体的几十年的演化,才使得我们各位能够坐在这个地方聊天,聊哲学问题、社会问题。那你想一想,如果你希望机器的智能像人一样,它也应该有这样一个演化阶段,它也要接受一个最根本的比如说基础算法的改进,要有一个社会习得、个体禀赋习得的过程。这三个阶段机器都得需要很长的时间去适应。所以在当下这个时间段,很多人说奇点不会来,人工智能根本上不会超越人类,或者说它跟人不一样,我觉得不能下这样的断语,至少我觉得是开放的,这是我想谈的第一点,我们对奇点应该保持一个开放乐观的心态。

   因此讲我们人类怎么应对的问题,我觉得我们现在是怎么应对的,以后可能不会差太远,而且我们现在也很难设一百年后去怎么应对,包括我们国家30年前怎么应对的,100年前应对的方式跟现在完全不一样,那还只是人类文明的方式,机器文明出现之后确实会发生很多变化,所以我认为奇点不是人类文明的末日,它有可能会塑造一种新型的人类。我们现在经常讲的人工智能很多是专家系统,有一天真的有可能这些专家系统都整合到某一个人身上,而且根据这个人的禀赋去整合,比如有的人可能喜欢下棋,他就愿意把下棋的这一部分整合到自己身上;有的人喜欢长跑或旅行,那么他可能在他的生理机制上求改变,这样他可以走很远的路,看到很多风景,我相信这根本上还取决于人的主观意愿,那他就可以把现在的各种专家,按照自己的喜好去整合。因此,那个时候也不是说我们最后就变成了一个超人,每个人都是超人也不现实,因为我们毕竟是有一个生物演化、文化演化的过程,每个人是生出来的,每个人长下来的个性是不一样的,不大可能通过这样一种方式,最后达到所有都是一样的结果,因此最终那个世界也不是到了同质化的社会,还是有一些各种各样的个性的发展,比如你想学下象棋,报了一个象棋培训班;你想练武术,就报武术培训班,到那时候,可能就不是报个武术培训班这样一个事情,很可能是直接给你植入一些东西,让你在这方面变得比较有特点。不管是经济的问题,成本的问题,他不大可能在所有方面都要全面发展,最后还是会形成很多差异,形成一个差异化社会。

   一乘:人工智能算法的发展给我们带来很多便利,同时也在支配着我们的行为,外卖小哥被算法支配,刷新闻刷小视频消磨时间也是被算法支配,《未来简史》中讲到“生物也是算法”,对此您怎么看?

   梅:我是这么看的,我们现在不是讲自动驾驶吗,就从这开始讲吧。很多人包括哲学界说,我们要给自动驾驶设计一套算法,不仅是算法,还要有一套规则,它面对某个情况该怎么做?包括我们讲的“电车难题”,关键时刻要救人的时候,你要救一个人还是救五个人,或者杀一个人或杀五个人?这样的难题现在从人类转移到机器上去了,要如何给机器设计?希望如果这个事情解决不了,自动驾驶早晚会有问题。

   我认为,我们为什么要给机器这么多负担呢?人类都解决不了的问题,凭什么要让机器去解决?很多人完全没有意识到这个问题。实际上,人类在面对这种处境的时候都是有对策的,所以我现在认可一种平庸伦理,或者叫平庸机器人伦理,我们不要设定一个依靠康德主义规则来的机器人,也不要设置一个依靠儒家德性来的机器人,而是通过大量真实的人所做的道德选择,大量的数据分析。我们给机器人输入,让它像人一样反应,可能有时候反应对,有时候反应错,它只要在我们人类道德行为的平均水平就可以了。至于说所考虑的极端条件,其实有人提出过解决方案,中国科学技术大学的陈小平老师,就提出开放系统和封闭系统,自动驾驶会面临很多问题,可是如果我们给自动驾驶一个封闭系统,这些问题你都不会遇到,比如说我们现在把所有公路全部封闭起来,或者说我们造一条快速路,这完全可以,只是说现实上可能哪个城市不能做,哪个城市能做的实际问题,可是你要做,理论上是没有问题的。最后全封闭,那当然就是在轨道上运行,就跟我们现在的有轨电车一样,你可以把很多我们现在人类可能面临的问题,预先给规避掉。

   从这个意义上说,我认为不要再让机器人去面对伦理问题,我们需要的是让机器人变得更强,跑得更快,更稳定,这个方面我觉得是可以的,至于能力方面,可以用其他方式消解。

   说到这个地方,我说一下平台问题,我认为,现在互联网有个大的转变,从以前的内容提供商变成平台,十年前我们的互联网上面是有思想的,可以学到知识,获得思想,能够交流,大概从九十年代末期到2010年左右,互联网是很多年轻人学习的平台。可是现在很多大的门户网站已经没有任何内容了,它的新闻很多人都不看,它真正起作用的就是各种各样的部落平台,各种平台包括滴滴、当当、京东、美团、淘宝等购物的平台、打车、交通包括交易的平台,给我们提供了很多便利;相反,我们这种知识、思想的传播,可能更多地依赖于微信、抖音甚至很多新媒体,新媒体提供了新的传播渠道,而传统的网络通道已经不够用了,这就变成了一个所谓的技术平台。

   所以很多人会把这种技术平台解读为纯粹技术的,因此认为算法有偏见,就是所谓的“外卖小哥被困在算法里”,外卖小哥不是被困在算法里,其实我觉得在这点上马克思是对的,人是被压迫的,是有这么一批人,有意设计这样一个系统,不断的榨取劳动者的利益。我一直反对把平台纯粹的解读为技术平台,平台算法包括设计平台的人,包括制定政策的人,有很多角色在里面。前不久我跟一个做人工智能技术的朋友交流,我发现我跟他对平台的理解是不一样的,当很多听众提问的时候,批评平台的意思跟我是一样的,但他说平台你不能批评,平台就是个技术,你不能指责技术,可是我觉得这个平台从一开始设立,这里面不仅是技术,因此你不能单纯的去批评这个平台,当然你去批评平台,你找平台的设计者的时候,他也会给你倒苦水,他会讲很多其他问题,认为这里的税收太高,盈利问题,生存问题,如果没有这个平台,可能你们更不便利等等,但是认为在这个意义上,与其是要解决技术问题,倒不如说是解决相关的很多其他问题。

赵汀阳老师有一句很著名的话“一个或所有问题”,哲学问题的特征是,当你抓住一个问题去研究的时候,发现它跟其它问题都连着,其实我们的问题也一样,你抓到平台的那种所谓被困在算法里面的问题,你会发现有很多问题是连着的,比如说为什么有人会当外卖小哥?因为他以前在农村里的收入不高,他到这个地方虽然被歧视,可是他还是比以前的收入有提高,所以现在才有所谓的乡村振兴嘛。他如果不在这个地方,那得有一个出口,平台也得有竞争性平台,(点击此处阅读下一页)

进入 梅剑华 的专栏     进入专题: 人工智能   奇点  

本文责编:admin
发信站:爱思想(http://www.aisixiang.com),栏目:学人访谈
本文链接:http://www.aisixiang.com/data/128089.html
文章来源:爱思想首发,转载请注明出处(http://www.aisixiang.com)。

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统