梅剑华，北京大学哲学博士、山西大学哲学社会学学院教授、博士生导师、北京大学外国哲学研究所兼职研究员、中国人民大学哲学与认知科学交叉平台研究员、《认知科学》期刊主编、中华全国现代外国哲学学会理事、维特根斯坦学会理事。研究方向为：心智哲学、实验哲学、人工智能哲学、儿童哲学；语言哲学与形而上学；先秦哲学与中西哲学比较。曾任首都师范大学哲学系主任，萨尔茨堡大学、匹兹堡大学、罗格斯大学等大学访问学者。主持1项国家社科基金青年项目：实验语言哲学的批判性研究；主持1项国家社科基金重点项目：当代意识问题的形而上学研究。发表论文数十篇，主编《自我问题》，即将出版心智哲学专著和实验哲学专著。

　　 本文为“一乘名师讲堂”视频专访梅剑华教授的文字实录。

　　 一乘：人工智能的发展正在加速。当它突破某一个临界点，人类的制度、秩序、道德和生活方式等等都会发生根本变化，一些东西会崩溃，一些东西会重建。您觉得“奇点”会在什么时候来临？会带来哪些大问题？人类又该如何应对？“奇点”会不会宣告人类的末日？

　　 梅剑华：好，谢谢。我觉得不用谈奇点，我们目前面临的问题已经很多了。大概一年前，我遇到一个从广州过来的警察朋友，我们两人的职业差别很大，他做刑警，我是老师。但我们见面第一次聊的话题就是人工智能。他感概说以后自己可能会失业，为什么呢？以前做刑警，需要自己去收集很多信息，要靠自己的能力去查案，现在不太一样了。因为现在整个网络技术的发展，所有的材料、侦查到的信息，只要放在眼前，结果就是唯一的。一个凶手，他出去杀人，所有地方都有他的摄像，有他过去的犯罪经历，还有很多关于他的住宿、银行卡交易等所有信息，那么需要人去判断的部分越来越少。现在人工智能这种大的发展已经产生了很多问题，警察行业已经算是比较复杂的行业，很多更简单的行业包括餐厅送餐的机器人、扫地机器人，已经开始系统的替代了。

　　 这个问题对中国尤其重要，因为中国是一个劳动密集型的国家，被替代的这些人该去干嘛？他们从农村出来，以前可以贩卖自己的劳动力，现在人工智能抢夺了劳动力市场。我们的教育体系，又没有培养出更多从事技术性脑力劳动的人，所以这实际上构成了一个很大的问题。它的问题不是说奇点来临之后才是问题，奇点来临是人类文明面临的问题，可是我们现在面临的问题可能是中国自身的问题，当然这里面还是有必要把奇点讲清楚，现在很多人会讨论奇点。

　　 我们一般说奇点来临，就是所谓的人工智能超越人类智能那一刻，甚至有人称作人工智能统治人类智能那一刻，在面对机器智能的时候，我们人类现有的一些能力和手段都已经不行了。这个问题，哲学里面讨论的不是很多，也是最近十几年才讨论，纽约大学有一位哲学家叫大卫.查尔莫斯，他在2012年发过一篇文章叫《奇点——一个哲学分析》，这篇文章有60多页。在他之前哲学界没有很严肃地讨论这个问题，奇点问题在论坛上，科学家会讲，企业家会讲，可是没有人去严格对待它。他这篇文章出来之后，大概有二十多个回应，包括哲学家、科学家、作家等，说明这一问题已经进入到我们人类文明的思考层面，而不仅仅是我们平时谈论的议题。他认为，我们不要讨论奇点实际能不能来临，我们首先要讨论奇点在逻辑上可不可能，如果它可能的话，我们就要思考可能之后的状态，人类不能只思考当下实际的状态，要思考未来的可能性，这是现在哲学界讨论奇点问题的一个方向。

　　 我认为奇点到来是有可能的，那么奇点来临之后会造成什么状态呢？很多人会说，是不是机器文明把我们给灭了，如果是真的，假设有这个状态，那我们现在讨论它也没有意义，因为我们被灭了，这个世界就不存在了；另外一种可能性，我们把机器灭了，如果我们把机器灭了，那就不是奇点了。奇点就是所谓的机器智能超越了人类智能，超越之后会达到一个什么样的效果，使得我们现在谈论奇点之后的世界还有可能？那无疑是机器智能、机器人和人类共存的一个时代。

　　 这个共存实际上很多人已经讲过，就是一种脑机融合、人机结合，就是我们要变成更具有智能的人类、新人类，而不是我们有一个新的物种叫机器人。我对这点有一种执念，我认为机器还是要跟人发生关系，或者说人类是机器的开关，也是它的终结者。这里面不排除有一些现象，比如机器有可能在局部领域超过我们，甚至可能出现一种缠斗、厮杀和碾压的局面，在整体上我觉得不是，要不然人类文明也不会发展到这个阶段。有人把现在机器人的发展称作人类文明的最后一次演化，我们人类物种经过几百万年的演化，最后成为这样一种形态，在所有的功能上都变得非常强大，尤其是思维能力。

　　 对于奇点的认识，第一，我认为它是有可能来的；而且我对它来临之后的世界有一种乐观心态。我纠正一个看法，很多人会认为我们太乐观了，包括很多哲学家会认为，机器人不可能超越人类。举了很多例子，比如说人有情感，有自我意识，有感受，但机器人没有；人有创造力，机器人没有。很多人都是基于他自己的立场看问题，如果你放宽人类文明的视野，我们的人工智能发展才70年，我们人类文明是多少年？从最远古的物种演化到现在，是几百万年甚至上亿年才到人类文明现在这个状态，机器人才六七十年，你怎么要求它70年就能够达到悠久历史所产生的人类文明呢？所谓的几千年的人类文明、文化的演化，还有每一个个体的几十年的演化，才使得我们各位能够坐在这个地方聊天，聊哲学问题、社会问题。那你想一想，如果你希望机器的智能像人一样，它也应该有这样一个演化阶段，它也要接受一个最根本的比如说基础算法的改进，要有一个社会习得、个体禀赋习得的过程。这三个阶段机器都得需要很长的时间去适应。所以在当下这个时间段，很多人说奇点不会来，人工智能根本上不会超越人类，或者说它跟人不一样，我觉得不能下这样的断语，至少我觉得是开放的，这是我想谈的第一点，我们对奇点应该保持一个开放乐观的心态。

　　 因此讲我们人类怎么应对的问题，我觉得我们现在是怎么应对的，以后可能不会差太远，而且我们现在也很难设一百年后去怎么应对，包括我们国家30年前怎么应对的，100年前应对的方式跟现在完全不一样，那还只是人类文明的方式，机器文明出现之后确实会发生很多变化，所以我认为奇点不是人类文明的末日，它有可能会塑造一种新型的人类。我们现在经常讲的人工智能很多是专家系统，有一天真的有可能这些专家系统都整合到某一个人身上，而且根据这个人的禀赋去整合，比如有的人可能喜欢下棋，他就愿意把下棋的这一部分整合到自己身上；有的人喜欢长跑或旅行，那么他可能在他的生理机制上求改变，这样他可以走很远的路，看到很多风景，我相信这根本上还取决于人的主观意愿，那他就可以把现在的各种专家，按照自己的喜好去整合。因此，那个时候也不是说我们最后就变成了一个超人，每个人都是超人也不现实，因为我们毕竟是有一个生物演化、文化演化的过程，每个人是生出来的，每个人长下来的个性是不一样的，不大可能通过这样一种方式，最后达到所有都是一样的结果，因此最终那个世界也不是到了同质化的社会，还是有一些各种各样的个性的发展，比如你想学下象棋，报了一个象棋培训班；你想练武术，就报武术培训班，到那时候，可能就不是报个武术培训班这样一个事情，很可能是直接给你植入一些东西，让你在这方面变得比较有特点。不管是经济的问题，成本的问题，他不大可能在所有方面都要全面发展，最后还是会形成很多差异，形成一个差异化社会。

　　 一乘：人工智能算法的发展给我们带来很多便利，同时也在支配着我们的行为，外卖小哥被算法支配，刷新闻刷小视频消磨时间也是被算法支配，《未来简史》中讲到“生物也是算法”，对此您怎么看？

　　 梅：我是这么看的，我们现在不是讲自动驾驶吗，就从这开始讲吧。很多人包括哲学界说，我们要给自动驾驶设计一套算法，不仅是算法，还要有一套规则，它面对某个情况该怎么做？包括我们讲的“电车难题”，关键时刻要救人的时候，你要救一个人还是救五个人，或者杀一个人或杀五个人？这样的难题现在从人类转移到机器上去了，要如何给机器设计？希望如果这个事情解决不了，自动驾驶早晚会有问题。

　　 我认为，我们为什么要给机器这么多负担呢？人类都解决不了的问题，凭什么要让机器去解决？很多人完全没有意识到这个问题。实际上，人类在面对这种处境的时候都是有对策的，所以我现在认可一种平庸伦理，或者叫平庸机器人伦理，我们不要设定一个依靠康德主义规则来的机器人，也不要设置一个依靠儒家德性来的机器人，而是通过大量真实的人所做的道德选择，大量的数据分析。我们给机器人输入，让它像人一样反应，可能有时候反应对，有时候反应错，它只要在我们人类道德行为的平均水平就可以了。至于说所考虑的极端条件，其实有人提出过解决方案，中国科学技术大学的陈小平老师，就提出开放系统和封闭系统，自动驾驶会面临很多问题，可是如果我们给自动驾驶一个封闭系统，这些问题你都不会遇到，比如说我们现在把所有公路全部封闭起来，或者说我们造一条快速路，这完全可以，只是说现实上可能哪个城市不能做，哪个城市能做的实际问题，可是你要做，理论上是没有问题的。最后全封闭，那当然就是在轨道上运行，就跟我们现在的有轨电车一样，你可以把很多我们现在人类可能面临的问题，预先给规避掉。

　　 从这个意义上说，我认为不要再让机器人去面对伦理问题，我们需要的是让机器人变得更强，跑得更快，更稳定，这个方面我觉得是可以的，至于能力方面，可以用其他方式消解。

　　 说到这个地方，我说一下平台问题，我认为，现在互联网有个大的转变，从以前的内容提供商变成平台，十年前我们的互联网上面是有思想的，可以学到知识，获得思想，能够交流，大概从九十年代末期到2010年左右，互联网是很多年轻人学习的平台。可是现在很多大的门户网站已经没有任何内容了，它的新闻很多人都不看，它真正起作用的就是各种各样的部落平台，各种平台包括滴滴、当当、京东、美团、淘宝等购物的平台、打车、交通包括交易的平台，给我们提供了很多便利；相反，我们这种知识、思想的传播，可能更多地依赖于微信、抖音甚至很多新媒体，新媒体提供了新的传播渠道，而传统的网络通道已经不够用了，这就变成了一个所谓的技术平台。

　　 所以很多人会把这种技术平台解读为纯粹技术的，因此认为算法有偏见，就是所谓的“外卖小哥被困在算法里”，外卖小哥不是被困在算法里，其实我觉得在这点上马克思是对的，人是被压迫的，是有这么一批人，有意设计这样一个系统，不断的榨取劳动者的利益。我一直反对把平台纯粹的解读为技术平台，平台算法包括设计平台的人，包括制定政策的人，有很多角色在里面。前不久我跟一个做人工智能技术的朋友交流，我发现我跟他对平台的理解是不一样的，当很多听众提问的时候，批评平台的意思跟我是一样的，但他说平台你不能批评，平台就是个技术，你不能指责技术，可是我觉得这个平台从一开始设立，这里面不仅是技术，因此你不能单纯的去批评这个平台，当然你去批评平台，你找平台的设计者的时候，他也会给你倒苦水，他会讲很多其他问题，认为这里的税收太高，盈利问题，生存问题，如果没有这个平台，可能你们更不便利等等，但是认为在这个意义上，与其是要解决技术问题，倒不如说是解决相关的很多其他问题。

赵汀阳老师有一句很著名的话“一个或所有问题”，哲学问题的特征是，当你抓住一个问题去研究的时候，发现它跟其它问题都连着，其实我们的问题也一样，你抓到平台的那种所谓被困在算法里面的问题，你会发现有很多问题是连着的，比如说为什么有人会当外卖小哥？因为他以前在农村里的收入不高，他到这个地方虽然被歧视，可是他还是比以前的收入有提高，所以现在才有所谓的乡村振兴嘛。他如果不在这个地方，那得有一个出口，平台也得有竞争性平台，(点击此处阅读下一页)