刘永谋:科技伦理:智能时代人机关系应走向技术控制的选择论

选择字号:   本文共阅读 11854 次 更新时间:2023-06-06 11:51

进入专题: 科技伦理   人机关系  

刘永谋 (进入专栏)  

 

1、“饭碗丢失”的担忧

最近十年,新科技的发展问题,比如移动互联网、AI、元宇宙、生成式人工智能的社会冲击问题,引起人文社会学科几乎每个分支的关注。传统上为科技哲学领域尤其是STS、科技伦理、科技政策所关注的问题,如今成为经济学、传播学、管理学、法学、社会学、文论以及哲学其他二级学科所广泛关注。一方面这凸显了我们研究的重要性,但另一方面这也引起“饭碗丢失”的担心。毕竟,相比科技哲学而言,其他学科的影响力和资源要强很多。

于是,一个重要的问题凸显出来:在群雄逐鹿的情形之下,科技哲学研究有什么过人之处、独特的地方?搞科技伦理治理,为什么不交给其他人文社会科学的同仁,甚至自然科学家呢?大家知道,这种情况已经在很多地方。

科技伦理现在很热,但热闹最后可能不是我们的。想要留住热闹,需要大家共同努力,要真正研究出一点东西,被社会所认可,而不仅仅是发表几篇文章,才能保住科技伦理。其中一个问题是:使用什么样的研究范式、达到什么样的研究目标。

前一阵,我们在《道德与文明》上发表一篇文章讨论算法伦理的研究方法论,总结目前的研究范式主要是3个,即规范的、结构的和批判的三种范式。规范范式试图以某种伦理规范来贯彻或束缚AI发展,结构范式主要思考研究对象的结构-功能问题,而批判范式在哲学反思中很常见,总是说这也不对那也不对。不同学科研究思路是不同的,比如传播学主要是结构-功能范式。几天前,人大新传的彭兰也讲了智能时代的人机关系,讨论的便是人机关系的结构及其功能提升。我现在的想法是应该在中国语境中结合多种范式。大家有兴趣,可以看看那篇论文。

同样是讨论人机关系,我们的讨论与彭兰差别很大。我们这里讲的内容,实际上是清华新传《全球传媒学刊》的约稿,马上发出来了,围绕我提出的技术控制的选择论展开。

无论如何,科技伦理研究不能完全搞成海德格尔式的“大批判”:这也不行,那也不好。在中国目前的情况下,尤其是全球科技竞争的大背景下,新科技比如GAI肯定是要发展的,在这个大方向下考虑如何让它发展得更好、更伦理、更能被社会所接受。有些人以为,科技伦理就是要管着科技,不让它做这个、做那个,显然这种想法是有问题的。

怎么办?米先生刚刚说:我们要问一问,我们能为世界做些什么?按照段伟文的话说:科技伦理治理与其说把科技纳入伦理,不如说是让伦理进入科技。总之,基本立场非常重要。我的说法是:走向行动的技术哲学。一是要走向科技。不懂新科技谈科技伦理,别人不听你的。从这个意义上说,科技伦理不能被简单地理解为伦理学的分支。二是要走向实践,或者说走向操作。玄谈什么主体性、存在论之类的陈旧话题,没有介入性的操作性建议,没有太多价值。如果心有余力,考虑和工程师、政策制定者、社会大众一道,做一些“现场工作”。

2、智能革命与机器演进历史

首先我们勾勒了机器研究四阶段的历史,这个大家比较熟悉,即手工工具时期、机器工具时期、自动机器时期和智能机器时期。智能机器方兴未艾,一方面发展速度很快,另一方面开始打破人与机器之间的界限人机关系正走向物理界面的交互融合、精神层面的依赖共生。

目前AI发展还处于早期,一旦它发展成熟,人机关系将会如何?不同的人有不同判断。我有一个“AI无知之幕”或“AI新无知之幕”的想法。从某种意义上说,AI出现让人类面对“新无知之幕”,即不知道人机协同进化的最终结果而要做出选择。政治哲学中讲的“无知之幕”,粗略说是有关国家如何建构的:大家聚在一起商量建成一个国家,结束人与人之间野蛮暴力状态,但是每个人都不知道在建成后国家中自己将处于哪一个阶层、哪一种角色,在这种对未来无知状态中来讨论应该如何安排新国家的社会制度。你想,你可能是社会中最弱势群体,你会不会更穷人提供必要的制度保障和救济措施呢?

“新无知之幕”是一个隐喻,盲人摸象中应对未来与拟主体、能力超强的AI共同的生活。总的来说,我们对AI未来样态及能力的不确定,对未来AI与人类相处模式及关系的不确定,对AI迅速发展下的社会变革与走向的不确定,对AI善恶取向与伦理尺度问题的不确定。“AI新无知之幕”就笼罩唐.伊德所谓“它异关系”之中,是在智能机器的主体性地位急速提升、功能无穷强大、涉及领域无限延伸,几乎成为一个完全独立于人的“它者”形势下,人机关系未来陷入的一种必然、神秘而又未知、无解的境地。显然,这就是各种机器乌托邦想象的根源。

3、理解当代人机关系的三个视角

近年来,围绕人机关系的变化、走向与审度,出现了来自不同领域、不同向度、不同视角的多种声音,这些声音可概括为人机友好论、人机敌对论和人机协同论三个方面。前两种观点的不同立场之间所关涉的仍是早期技术哲学领域中“技术工具论”与“技术实体论”的问题,人机协同论则必须面对“AI新无知之幕”。

AI究竟有没有自主性呢?技术的工具论与技术的实体论争论不休。有些哲学家尝试提出调和的观点,比如芬伯格提出了“技术设计”的观点,意思是技术发展是同时协调技术要素和社会要素的结果。举个例子,我们骑的自行车,小时候主要载物载人,要有车筐、有后座,男人都骑着二八自行车,非常结实,现在很多人是拿来锻炼身体或者远足骑行的,所以要很漂亮,跑上地,现在的共享单车,主要是解决从家到地铁站所谓“最后一公里交通”的问题的,就非常简单。这些自行车技术要素上是大同小异的,区别就在于融合的社会要素不一样。

我怎么看技术的自主性的争论呢?

第一,工具论向实体论的变迁,也就是说越来越多的人从工具论转向实体论,是技术发展得越来越复杂的结果。当技术相对比较简单的时候,人们比较容易相信工具论。而当技术变得越来越复杂,一般人难以或者完全理解不了,单个的人无法驾驭或操纵复杂技术系统的时候,人们比较容易相信工具论。

第二,技术的自主性争论根源于如何理解人与技术、人与机器关系的问题。有人认为机器帮助人类,也有人说人机是对抗关系,而现在越来越多的讲人与机器是协同进化的。人机协同进化论很有道理,但这是一种“上帝视角”或“宇宙视角”,站在非常超脱的位置看人机关系。的确,人与机器必然是协同进化的,但是协同进化的最终结果也可能是人类灭绝。有意义、有价值的是人类视角,也就是说在人机协同进化中人类应该如何选择应对方案,以确保人族福祉。也就是说,人机协同不能不面对“AI新无知之幕”。

第三,我不喜欢实体论,为什么?显然,实体论容易走向技术失控论——既然技术有自主性,它要去向何方,人类是无能为力——兰登.温纳就是典型。并且,在中国语境下,一般认为马克思是技术工具论者。技术工具论意味着我们可以控制技术发展。当然,我们可能需要对简单技术工具论进行发展,使之成为一种更复杂、更切合智能时代的工具论。

4、以技术控制的选择论应对新挑战

有些人可能说,如果协同进化的结果是人类灭绝,为什么不安然接受呢?“上帝让我死,我死好了。”这是典型的消极宿命论的观点。我无法接受。什么时候佛祖、上帝、太上老君出来说过,我要用新科技把人类给灭绝了?人类都灭绝了,谁给他们烧香修庙?这是开玩笑。显然,这种协同观点本质上是一种实体论。

无论是工具论、实体论,还是技术设计论,它们都是哲学观念,而并非自然科学意义上的客观理论,也就是说你不能说在科学意义上哪一个对或哪一个就错了。哲学观念是不能用实验或观察来检验、证实或证伪的。因此,我以为,工具论与实体论的争论,在实践中直接指向的是技术能不能控制的问题,这个问题的答案不应该从技术中寻找,不在于技术,而在于人类,在于人类的选择:第一,我们有没有决心和勇气控制技术的发展,第二,更重要的是,为达成对技术的控制,我们愿意做出何种付出甚至牺牲。比如,手机很好玩,让人上瘾,以至于有人说:为什么要找女友找男友呢,难道是手机不好玩了吗?你想控制手机上瘾,本质上是控制你放纵从手机上获得的感官刺激。我的想法,可以称之为“技术控制的选择论”。

技术控制的选择论与赛博格社会兴起不相悖。在赛博格社会中,如何还能区分人与机器呢?不能。人是什么,几千年哲学家都没有说清楚,《终结者》想要灭绝人类的“天网”也不可能搞清楚。为什么?在我看来,人就是不确定性本身。人机之分,人机之防,背后有强烈的价值观支撑,即:人不是机器,人不能被当作机器对待。机器人不断发展之后,问题不仅是人不能被当作机器对待,而且是机器人也不能被当作机器对待。对不对?现在已经有人在讲机器人权利了。不管是人的权利还是机器人权利,本质上是人与人之间以机器为中介的关系。因而,即使赛博格社会到来,还是要对技术进行控制的。

技术控制的选择论有什么具体建议呢?我们的论文会具体做一点讨论,当然还需要进一步发展,但它本质上是一种马克思主义的技术工具论,相信新科技能为中国特色社会主义建设服务。

进入 刘永谋 的专栏     进入专题: 科技伦理   人机关系  

本文责编:SuperAdmin
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 哲学 > 科学哲学
本文链接:https://www.aisixiang.com/data/143483.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统