金观涛:我们活在“盛世”,却从未如此恐惧风险

选择字号:   本文共阅读 6698 次 更新时间:2019-07-28 17:16:55

进入专题: 人文精神   人工智能   科学精神  

金观涛 (进入专栏)  

  

   我们虽然生活在一个基本没有风险的太平盛世,对风险的恐惧却达到了历史上从来没有过的程度。这不仅表明个人理想的消逝,还意味着人碰到灾难时的惊慌失措,标志着我们再也没有面对孤独和死亡的力量了。

  

   为什么今天会存在普遍的人工智能焦虑?原因正是人文精神的丧失,这使得我们为人工智能技术的快速发展所迷惑,这才是我所担心的,而不是技术发展本身。

  

   南都观察:这次访谈的主题将主要围绕“科技与人文”展开。在2017年发表的《反思“人工智能革命”》 一文中,您表达了身为哲学家的忧虑,认为当前人工智能革命是一场“退回到原点的革命”,其背后是“科学被技术异化和人文精神的丧失”。有观点认为您对当前新兴技术的发展前景过于悲观,对此,您有什么回应?

  

   金观涛:在我看来,这是一件显而易见的事情。虽然我研究的是21世纪的哲学,但我是一个20世纪的人,并不完全清楚当代社会需要什么。当时《文化纵横》的编辑劝我应该将这方面的想法写出来,才有了那篇关于人工智能的评论文章。

  

   我相信,人应当是驾驭技术的,也就是技术的主体。技术首先是一个好东西,而技术进步之所以会带来种种危害,是因为我们丢掉了个人的主体性和道德性,这是人工智能所不具备的。只要掌握人工智能技术的基本原理,就会发现人工智能根本不可能具有个人的主体性意识。我很疑惑为什么很多人会担心它会形成独立意识。事实上,人类至今都还没有完全弄清楚什么是“意识”,这时人工智能作为“人造物”怎么可能具有意识呢?

  

   南都观察:这可能是受到好莱坞科幻电影(如《黑客帝国》)的影响?

  

   金观涛:好莱坞科幻电影所展示的不是真实的世界。我们的先辈即便看再多的科幻电影,也不会伤害自身的个人主体性,更不会担心人工智能将取代人类。

  

   为什么今天会存在普遍的人工智能焦虑?原因正是人文精神的丧失,这使得我们为人工智能技术的快速发展所迷惑,这才是我所担心的,而不是技术发展本身。

  

   需要补充说明的是,我在《反思“人工智能革命”》一文中指出,人工智能和历史上有过的新科技带来的生活方式和生产方式大变革相似,并不会改变现代社会的基本结构。但不可否认的是,人工智能正在影响现代社会的组织形式。

  

   众所周知,现代社会除了由法律和契约提供组织框架以外,还必须向所有人提供不同类型的公共事务服务,如治安、交通设施、教育、医疗等等;为此就要设立处理不同类型问题的专门机构来管理社会,如军队和政府科层组织。

  

   科层组织之间的功能实现和协调,要利用符号表达的共享知识。因此,随着现代社会的复杂化,必定出现技术官僚的膨胀。而人工智能革命,必定会向社会管理层面深入。如果它运用得不好,会使现代社会生长出超级而无能的官僚机构;如果它运用得好,可以促使人能更好地发挥自主性和创造性,甚至可以取代科层管理中不必要的机构。正因如此,新兴技术的发展更需要人文精神的制约,使之向好的方向发挥作用。

  

   南都观察:就您刚才提出的“人工智能不可能具有主体性”这一说法,美国人工智能伦理学家温德尔·瓦拉赫有一个不同的说法:人工智能的道德发展将经历操作性道德、功能性道德,和充分的道德主体性三个阶段。其中操作性道德比较低端,是指道德已完全掌握在设计者和使用者手中;第二个阶段是功能性道德,稍微高端一些,因为这个阶段机器自身已经有能力响应道德挑战;第三个阶段就是计算机可以自己做道德决策的阶段,当然第三个阶段还是开放性的,哲学家、工程师们还需要探讨单单靠一台机器能否成为道德主体的问题。操作性道德和真正的道德主体之间还有着很多的空间。

  

   金观涛:我不了解这个人的学术研究,但你介绍的观点中涉及现代西方哲学对“道德”的一个误读,其将道德视作一个纯粹的公共性社会机制。

  

   事实上,人只有先具备自主性,才能有道德。例如,在孔子那里,善首先是个体的自觉。儒家的君子人格,和社会上知不知道无关,正如一朵兰花开在山谷,根本没有人知道,但它却依然芬芳。善的追求并不需要涉及别人。而在西方人看来,只有在分面包的时候才讲道德,不涉及社会、人际关系的道德伦理是没有意义的。

  

   换句话说,道德源于个体对善的追求,“善”是“好”的普遍化,每个人凭内心就能知晓何为“好”,而不取决于其做了一件好事还是坏事。从这个意义上来说,机器根本不可能成为一个道德主体。

  

   举个例子,哲学家菲利帕·福特(Philippa Foot)于1967年提出过一个“有轨电车难题”:假设你看到一辆刹车坏了的有轨电车,即将撞上前方轨道上的五个人,而旁边的备用轨道上只有一个人,如果你什么都不做,五个人会被撞死。你手边有一个按钮,按下按钮,车会驶入备用轨道,只撞死一个人。你是否应该牺牲这一个人的生命而拯救另外五个人?

  

   这个伦理学思想实验是荒谬的,它体现的是一种功利主义道德观,将大多数人的幸福视作道德。这种道德观是不成立的,例如在古罗马斗兽场中,人与兽、人与人的搏斗会给现场所有人带来快乐,但我们能因此说人与兽、人与人的搏斗是道德的吗?

  

   总之,道德意味着人有选择的能力,这个选择能力包含着人对自己的态度,这是“人之为人”的前提所在。

  

   南都观察:目前社会上还存在另一股截然相反的思潮:技术革命使得人类认识和操控世界的能力越来越强,人们似乎能够自己扮演“造物主”的角色,对人类社会的前景又无限乐观。您如何看待这种思潮?

  

   金观涛:这是一种科学乌托邦,反映的是一种“理性的自负”。

  

   20世纪社会人文社会研究最重要的成就,就是发现“默会知识”和市场的关系。人类可共享的知识都是可以用符号表达的知识,但它不可能包含每个人都具有的“默会知识”。

  

   经济学家利用“默会知识”的存在,证明了基于理性和科学知识的计划经济不可能代替市场机制。一个充分利用人类知识的社会,一定是立足于个人自主、互相交换自己的能力和知识形成的契约组织。忽视所有个人具有的“默会知识”,把理性和可表达的知识做出的人为设计社会制度付诸实践,会出现与原来意图相反的后果,如计划经济带来的短缺、浪费以及普遍的贫困。哈耶克称这种对可表达知识的迷信为“理性的自负”。今天随着大数据和人工智能的应用,这种理性的自负再一次出现在人工智能领域。

  

   为这种理性的自负制作一份解毒剂,是当前思想工作者的一项重要工作,其核心就是恢复人的主体性。

  

   南都观察:相较于人工智能领域,这种“理性的自负”在生命科学领域似乎表现得更明显。

  

   金观涛:是的,现在最大的问题不是人工智能,而是生命科学。

  

   我的儿子是一位生命科学家,他对未来生命科技的发展前景非常乐观。但我总是和他唱反调,我说:“人不可能扮演上帝的角色,最后迟早会出现一条自然法则来证明生命科学是有限制的。科学家应该去将这个限制找出来,而不是为技术的突飞猛进而狂欢。”

  

   但与此同时,基因工程新进展所引发的巨变即将发生、无可阻挡。从历史上看,人总是在没有完全理解一个东西之前就开始操控、应用它——从蒸汽机、电力到互联网、人工智能和生命科技,这也许是人的宿命。既然如此,我们该怎么办呢?

  

   有个说法:人类的求知欲是无限的,其也将毁灭于自己的求知欲。其实,求知欲分两种:一是宏观的和哲学的;二是微观的和细节的。我认为:人类将毁灭于自身宏观理解能力远远跟不上对细节的了解和操纵。这一点在生命科学中表现得最明显。尽管人类对自身的认识和操控能力越来越强,但是,人对生命的宏观理解,都远远跟不上对生物细节知识的了解和操纵。

  

   南都观察:这里似乎存在一个悖论——在面对人工智能革命的时候,您强调人的主体性问题;在基因革命面前,您又说不要将自己当成上帝。

  

   金观涛:在我看来,这两者之间没有矛盾。

  

   科学发展有一个不变的内核:以人为中心,其指的是,人总是借由控制自己可控的变量,来研究自己不可控的对象。人从来不以自己可以直接控制的东西作为科学研究的对象。一把椅子为什么在这里?除非它涉及破案,即认识另一个主体的行为动机,否则我们不会为此作专门研究,更不会设立一门学科。因为那些人可以控制的变量集是我们能够做各式各样受控实验的前提。通过这些受控实验,我们获得真实的经验,界定稳定的存在,去理解世界和自己。

  

   也就是说,科学发展既涉及人的主体性发挥,也包含对未知世界的敬畏和敞开。

  

   而一旦人的主体性和探索未知的精神丧失,其影响将是毁灭性的。举个例子,全球最大的在线影片网站Netflix可以根据大数据分析精准地预测每个用户喜欢看哪部影片。研究表明:用户会更喜欢Netflix推荐给他们的影片,甚至超过于喜欢他们自己挑选的影片。

  

   不难想象,在不远的未来,我们的电脑和手机可能比我们自己更知道我们每顿饭都想吃什么、下一次旅游想去哪,机器会帮我们做出选择。长此以往,人的自由意志将被慢慢腐蚀。无孔不入的多介质媒体将我们完全包围,使每个人都变成肤浅的信息复制传播器,所有人都活在永恒的当下,只关注转瞬即逝的时尚和“此时此地”(Here and Now)。

  

此外,1990年代,德国哲学家贝克(Ulrich Beck)提出现代社会是一个风险社会,这不无道理。表面上看,(点击此处阅读下一页)

进入 金观涛 的专栏     进入专题: 人文精神   人工智能   科学精神  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益综合 > 学人风范 > 当代学人
本文链接:http://www.aisixiang.com/data/117464.html
文章来源:南都观察家 公众号

27 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网