彭国翔:人工智能最终一定是人类的威胁吗 ——一个儒家的视角

选择字号:   本文共阅读 199 次 更新时间:2021-04-07 17:53:05

进入专题: 人工智能   儒家   传统文化  

彭国翔  

  

   作者简介:彭国翔,浙江大学人文学院求是特聘教授、博士生导师(浙江杭州310058)。

  

   摘要:迄今为止,海内外学界多半将人工智能的未来发展视为人类的威胁。这一担忧不仅是基于人工智能已经在许多方面发展出了超出人类的能力,更是基于人工智能将来有可能拥有类似人类的意识、意志乃至情感。如果将人工智能视为人类的威胁这一担忧基于人工智能有可能发展出自身的意识、意志和情感,那么,超越人类中心主义,从儒家“万物一体”的角度来看,在拥有更强能力的同时,和人类同样拥有意识、意志和情感的人工智能,不必一定只能是人类的威胁,而是有可能成为人类的护卫和朋友,有可能是“福”非“祸”。作为和人类一样具有意识、意志和情感的“类人类”,人工智能不但可以帮助人类解决人类自身无法胜任的问题,更能够和人类一道使这个地球变得更加美好和安全。这一可能的实现,取决于人类是否能够从“一体”的立场出发去对待人工智能。

  

   〔关键词〕人工智能  人类中心主义  万物一体  类人类

  

   引言

  

   迄今为止,在世界范围内的知识界和文化界,关于人工智能的问题已经产生了大量的反思。反思的视角多种多样,具有不同的文化背景。不过,从儒学作为一种思想和精神性的传统对人工智能问题进行的反思,似乎尚不多见。本文之作,即是希望从儒学的角度对人工智能的相关问题予以思考。不过,本文并不打算做出某种定然的判断和结,而是提供一种观察,提出一个问题。在此基础上,针对如今较为流行的所谓人工智能威胁论的论断,本文尝试从儒学的视角提供一种替代性的论证和看法。

  

   如今,极为流行且被很多人接受的一种看法是:对于人工智能来说,存在着一种日益增长的可能,即人工智能日益变得比人类智能更为优越,最终不再受到人类的控制。人工智能未来的发展,越来越被视为构成人类的一种威胁。这一点,是我检视目前很多讨论人工智能的文字时得出的一个基本印象,可以说是我的一个观察。而我的问题是:认为人工智能最终将成为人类威胁的担忧,其理论的预设(postulate)是什么?这种理论预设的合理性是否需要检讨?此外,对于这种人工智能威胁论的观点,我将要提出的替代性的看法,则是从儒家的“万物一体”观这一视角出发,指出人工智能在终极的意义上未必注定成为人类的威胁,反倒有可能成为一种和人类相似的“类人类”(human-like creature)。对于人类来说,这种新的“类人类”是“威胁”还是“护卫”,是“敌”还是“友”,是“祸”还是“福”,相当程度上取决于人类以何种心态来看待那种作为“类人类”的人工智能。如果人类能够以“一体”之心来对待人工智能,作为“护卫”和“友类”的高度发展的人工智能,便将会和人类一道携手建立一个更加美好而安全的世界。

  

   一、“人类的威胁”:关于人工智能发展的根本忧虑

  

   人工智能的发展已经极大地扩展了人类经验的世界,对人类社会的繁荣做出了极大的贡献。不过,和其他高科技的创新一样,人工智能在给人类的生活带来便利的同时,也带来了许多不确定的因素。尤其是,人工智能近年来令人吃惊的快速发展的潜力,导致了人类对自身未来安危的担忧。

  

   关于人工智能有可能给人类带来什么,有着各种各样的担忧。所有的担忧至少可以分为三个不同的层次。首先,担心拥有人工智能的机器人对人类生活方式的消极影响。这种影响表现在一些具体的方面。例如,智能机器人取代了大量的人力,造成人类严重的失业问题。再比如,电子智能用品的广泛使用,严重影响了人际关系。情形之一是,家人沉溺于各自的电子产品而疏于彼此之间的深度交流(不仅是少年儿童,也包括成人,想想如今手机的使用即可知);情形之二是,情趣机器人(Sex robots)很可能会极大地改变人类的性关系(包括两性关系和同性关系),进而影响人类社会的基本伦理。其次,担心人工智能被专制和极权的政治所利用,成为控制和奴役人类的杀器。最后,也是最为终极的担忧,则是担心人工智能最终不仅拥有比人类各方面更强的技能,而且有了自己独立的意识、意志和情感,从而不再为人类所控制,反过来控制、奴役甚至毁灭人类社会。目前,第一个层次的担忧已经不再是一种设想,因为现实生活中许多工作已经开始逐渐由机器人来完成,相关领域中越来越多的人员的确已然或者即将面临失业的危险。第二个层次所担忧的问题在全球不同的社会体制中也都或多或少已然发生,在民主社会甚至已经引发了围绕如何保障民权的立法和司法层面的讨论。而最后一个层次的担忧,也是最为根本的一种,即认为人工智能虽然是人类的发明和制造,但将有可能摆脱人类的控制,反过来控制、奴役甚至摧毁人类。对于这一担忧,谁又能断言不过是杞人忧天的天方夜谭呢?

  

   虽然只有在人工智能具备了优越于人类的智力和诸多能力,尤其是具有了自己独立的意识、意志以及情感,不再只是单纯地遵循人类的指令行事的情况下,最后一个层次的担忧才得以成立。但是,人工智能最近的发展却显示出这种情况并非遥不可及,而是有可能成真。1997年,IBM的超级电脑“深蓝”(Deep Blue)击败了国际象棋冠军卡斯帕罗夫(Kasparov);2011年,IBM的超级电脑“沃森”(Watson)完胜两位智力节目的世界冠军;2015、2016和2017年,谷歌深心(Google DeepMind)开发的人工智能围棋软件阿尔法狗(AlphaGo)分别三次战胜世界围棋冠军樊麾、李世石和柯洁。既然这些例子已经毫无疑问地证明人类的智力完全能够被人工智能击败,那么,如此发展下去,我们又如何能够简单地认为,具有自己意识、意志乃至情感的人工智能只有在电影和电视节目中才会出现呢?

  

   然而,值得思考的是,为什么人工智能具有和人类一样的意识、意志和情感这样一种可能性会令我们人类如此担忧和紧张呢?答案在于:许多人认为,一旦人工智能脱离人类的控制,足以与人类的智力相匹敌甚至超越人类,那么,它最终将会反过来控制人类甚至摧毁人类文明。马斯克(Elon Musk)、盖茨(Bill Gates)和不久前去世的霍金(Stephen Hawking,1942-2018)关于人工智能的警告,正是这样一种担忧的最有代表性的反映。在2014年10月英国《卫报》(The Guardian)的一篇报道以及在2015年1月英国BBC和美国《华盛顿邮报》(The Washington Post)的两篇报道中,马斯克和盖茨都明确表达了人工智能对人类是一种“威胁”(threat)的看法。而霍金在2014年12月BBC的一次访谈节目中说了这样一句话:“人工智能的发展,最终会成为人类终结的魔咒。一旦人类发展人工智能,后者将独立启动,并以一种不断增长的速度重新设计自身。人类受限于缓慢的生物演化,无法与人工智能匹敌,将为其所取代。”其中“人类终结的魔咒”一语,更是广为流传,成为人工智能威胁论的经典表述。至于从哲学方面对于人工智能威胁论较为系统的论证与思考,则以鲍思确姆Nick Bostrom)等人的著作为代表。既然在人工智能发展居于前沿的西方世界,有如此具有代表性的各界人物表达了对于人工智能将来可能危及人类的忧虑,在往往西方稍有风吹草动便“闻风而起”的中文世界,这种担忧和警告引发许多回响和附议,也就自然而然了。

  

   事实上,人工智能目前已经开始在控制人类方面发挥了很大的作用。例如,运用大数据等智能手段搜集和识别个人信息,虽然在提供生活便利和维护社会治安方面做出了贡献,但同时是否会导致一种奥威尔意义上的(Orwellian)对社会的数字化控制(digital control),也已经引起了广泛的警觉和反思。不过,这种意义上对于人类的控制,其实还只是人工智能作为一种工具和手段被一部分人用来控制其他一部分人。在严格的意义上,这还不是人工智能自身对于人类的控制。我们这里所说的对于人工智能危及甚至毁灭人类的担忧,是指当人工智能具有了超出人类的各种能力,尤其是具备了不受制于人类的独立的意识、意志乃至情感的情况下,自身成为控制人类的一种存在和力量。这种情况远比人工智能被部分人用来作为控制其他人的工具更令人担忧。

  

   二、人类担忧的预设及其反思

  

   无疑,这样一种担忧是完全可以理解的。拥有超强能力和意识、意志以及情感的人工智能有可能成为现实,这不仅是很多人的看法,也是本文的出发点。如果这一情况不会发生,这种可能不会变成现实,那么,人们自然也就不会有这样的担忧了。不过,如果检视有关人工智能的各种研究文献,我们便会发现,占据主导地位的人们的担忧,正是在人工智能拥有超强能力和自己的意识、意志以及情感这个意义上来说的。那么,这种担忧所赖以建立的理论预设又是什么?这种理论预设自身是否需要检讨呢?

  

   在所有关于人工智能的讨论中,尤其是担忧人工智能将来威胁甚至毁灭人类的讨论中,似乎存在着一种不言自明的假定:人工智能不应该脱离人类的控制,只能作为服务于人类的工具而存在。此外,这一假定也隐含了另一个不言自明的信条:人工智能一旦脱离了人类的控制,必将是危险的,因为其结果必定是人工智能将试图控制甚至摧毁人类的文明。仔细想来,我们人类目前对于人工智能发展的最为根本的担忧,确实是由这彼此相关的两点构成的。这种假定,正是我们许多人所有的那种根本担忧的基本预设。

  

   需要指出的是,这种预设不是有关“能够”的问题,而是有关“应当”的问题。换言之,这种不言自明的预设,是认为人工智能“不应当”拥有自己的意识、意志和情感,因为一旦人工智能发展出较之人类更强的能力,它就会成为人类无法掌控的一种力量。仔细想一想,我们不得不说,这种预设其实不过是一种我们人类中心主义的思维方式(an anthropocentric thinking)的结果。它只是意味着这样一种看法:作为人类的发明和制造,人工智能只应该为人类所控制,作为人类的一种工具发生作用,它们自身不应该拥有和人类一样的那种意识、意志和情感。

  

   如此一来,这种预设所隐含的就是这样一个问题:在各种具体的能力之外,人工智能是否应该被允许去发展并具有属于其自身的意识、意志和情感?诚然,人工智能的确是人类的发明和制造。或者说,它可以被视为人类智力的一种外部延展。但是,如此人工智能就不应该被允许拥有自身的意识、意志和情感,这样的逻辑和理由公平吗?如果说人类中心主义的思维方式恰恰是一种我们人类应当超越的东西,那么,对于这一问题,我想我们就必须承认,其答案应当是可以讨论的。事实上,随着生态的问题以及自然由之而来的生态意识等各种因素的促动,对于人类中心主义的反思和批判,早已进入人类自我意识的领域。既然如此,在人工智能威胁论的问题上,我们同样应该深入反省有可能长期以来“习焉不察”的心态,检讨其背后的理论预设。

  

假如答案是肯定的,那么,最有说服力的理由便是:一旦人工智能拥有了自己的意识、意志和情感,不可避免的结果便是,它会反过来试图控制甚至毁灭人类。(点击此处阅读下一页)

    进入专题: 人工智能   儒家   传统文化  

本文责编:sunxuqian
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 哲学 > 中国哲学
本文链接:http://www.aisixiang.com/data/125928.html
文章来源:作者授权爱思想发布,转载请注明出处(http://www.aisixiang.com)。

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统