刘永谋:“科学人”崛起:智能革命推动身心设计吗?

选择字号:   本文共阅读 1838 次 更新时间:2023-09-11 11:32

进入专题: 人工智能  

刘永谋 (进入专栏)  

传统观念认为,当“六亿神州尽舜尧”,理想社会自然到来。当21世纪之交生物工程和人类增强技术的迅猛推进,尤其是智能革命的兴起时,新科技的伟力不仅昭示于自然改造中,而是深入到智人的改造中——我称之为自觉的身心设计——理想主义者们将“完美智人梦想”实现的希望寄托于新科技之上。

智人的身体与灵魂可否用新科技改造,应不应该用新科技改造?在大规模的身心设计实施之前,必须要对身心设计的合理性进行论证。

1.从身心选育到设计

虽然一直面对巨大的争议,但人类对自己的身体和灵魂实施改造(或提升)的活动由来有自,这是当代人类学研究日益证明的事实。比如,兰厄姆认为,智人的攻击性行为一直在减少,这与人类在2030万年前开始的自我驯化过程有关。人类的自我驯化与家养动物的驯化一样,能够找到类似的解剖学特征,比如耳朵耷拉、脑容量减少等。

有文字以来的历史表明,智人主动的种族选育行为一直存在,比如避免和遗弃残疾、阻止遗传病和精神病人生育以及杀婴等。20世纪纳粹对犹太人的种族灭绝罪行,便是类似优生学改造走到极端的疯狂案例。

更为温和的是各种人文宣教活动对人的精神改造,比如与智人差不多久远的宗教活动,现代以来建制化的识字与教育活动,以及20世纪以来大规模的意识形态宣传活动,均依照类似的逻辑展开。

在很多人看来,人文宣教活动成效并不明显,尤其很难说智人今日之心灵状况要优于古人。在卢梭等人看来,原始人才是高贵而纯洁的,而今人贪婪而堕落。从某种意义上说,传统的智人改造活动基本属于群体选育活动,并不能精确地控制个体的改造过程,而基于新科技的身心设计工程便可以做到这一点。也就是说,身心设计是智人自我改造的当代新形式。

今天的人性乌托邦主义者越来越多将希望寄托于新科技的发展。很多人相信,运用多种技术手段的“能动者改造”工作,很快会或已经沿着不同的思路展开。比如,用技术方法改善个体道德水平的人性进步思路,用技术方法调节个体心理状态的情绪管理思路,用技术方法来控制个体行为的行为控制思路,用技术方法增强能动者的身体和智力的人类增强思路,以及用技术方法塑造协作、利他和高效社区的群体调节思路。

身心设计的目标是“更好的智人”,可如何才是更好的智人呢?在技治社会中,更好的状态主要意味着整个社会更高的效率。更好的智人在身心两方面都应有利于社会效率的提高。因此,身心设计工程对智人进化的自然选择进行的技术干预,将从智人的身体和心灵两方面大规模、制度化地实施。

在身体方面,更高、更快、更强、更聪明的肉体,可以为效率提高奠定坚实的基础。与地球上其他动物相比,人类身体能力并不突出,不能像老鹰一样翱翔,不能像猎豹一样奔跑。更重要的是,智人的肉身能存活的环境过于狭窄:在沙漠中暴晒不了几天便会昏倒,徒手潜水深度极限只有100米左右。如果智人要走向星际种族,能长期在太空中航行,需要更强壮的肉身。

个人效率与社会效率不尽一致。比如,人与人之间竞争、紧张和敌对的状态,也许对于某个人的效率有利,但对于整体效率却是有损的。社会效率的追求支持某种道德准则,尤其是与合作、集体、善良相关的要求。因此,更高的社会效率呼唤“更有道德”——这意味着技治新道德,但它的很多方面与旧道德并不相左——的新人。

2.科学人的强势崛起

21世纪之交,智能革命方兴未艾,身心设计越来越被接受。为什么?我以为,新的观念尤其是“科学人”的崛起,给身心选育到身心设计的转变提供了重要的合理性基础。

随着技治社会向智能社会迈进,智能不再匮乏,其奥秘在于消解信息、数据、知识、智慧与智能之间的界限。智能由此扩展,当然亦由此拉平,最后会像塑料大棚一般覆盖地球。“智能大棚”的“后现代温室效应”,将传统冰冷而坚硬二元对立逐一消解。机器智能与人类智能的类比,逐渐融化人与机器的对立。比如,有趣的不是人被视为智能机器,而是机器人被要求须以人文主义方式对待。权利观念先冲决人种堤坝(黑人、犹太人的权利)、性别堤坝(女人、同性恋的权利)、人群堤坝(罪犯、性工作者的权利),再扩散到物种隔离之外(动物、植物和生命的权利),最后关切对非生命自然物的保护(山川河流的权利),自然不会遗漏机器人的权利。剧变的不是世界,而是主体的观念。主体死了,机器人有了智能,“科学人”在祛魅的世界中茁壮成长。

通俗地说,科技智人对自身的过去、现在和未来之认识,不再求助于之前藏身于哲学、文学、宗教、神话、巫术乃至迷信中的“智慧”,而越来越多地依赖于新科技激发的“智能”。在世界的科学图景中,“科学人”取代现代以来主体的生态位,与“机器人”相得益彰。此时,科技智人的行为与情感被还原为物理、化学、生物的参数,并不再为人性的瑕疵而不知所措,而将之视为正常的演化不足。譬如爱情,根本不是苔丝的纯洁或卡门的疯狂,而是人体某些化学物质如多巴胺、内啡肽的分泌。科学人的刺激-反应过程,必须也只有用自变量与因变量映射变化的函数关系来描述,可以也必须通过改变自变量而控制因变量的方式来加以调节。

21世纪20年代,“所有人都应该被测量、控制和改造”的观念成为智能社会的新人观,以免科学人成为社会效率最后的短板。各种精致的行为主义、自然决定论、环境决定论、基因决定论等日益盛行,对智人的行为、思想、文化和命运予以某种泛唯物主义的解释。它们坚信环境变量与智人行为之间存在一致的函数关系,质疑灵魂、心灵、意志等概念是多余的形而上学阑尾;相信各种人类学事实均应在基因突变、生物性状、地理环境、生物资源、气候变化等自然方面挖掘因果性,以理解智人之间的互动规则以及建基于其上的人类文明之基本样态、兴衰存亡,坚决去蔽形形色色的奇迹说、神话和迷信。

此时,相对于人形机器,机器人形的状态才是关键。人们相信人形机器是无辜的,被玷污的是蒙尘的世俗之心。像机器一样,不再是讽刺,而是一种理想。在日本的科幻剧中,机器人先于智人得道。佛陀被理解为纯粹的人形机器,他奋力缠斗的不是魔军而是人性——或者说,人即是魔。由是观之,旧社会的问题不是太没有人性,而是太人性了。

由此,科学人可治理,待治理,必须治理,这是它的根本规定性。科学人的崛起,与技治社会的崛起二位一体。在智能社会中,自然之技治不能容忍荒野,主体之技治不能容忍野蛮。一开始问题是机器对人的适应,后来问题成为人对机器的适应,最后问题终结于人与机器完全融合。

围绕科学人(观念)的崛起,智人的观念世界在发生翻天覆地的变化。

第一,观念先行。行动必须能科技地加以解释,以科技的名义获得合理性,盲目、激情和非理性在技治社会被认定为原罪,无知成为某种道德缺陷。新的观念世界生产出海量的新技术,技术与技艺将难以区分,艺术家会以大国工匠的身份为荣。一切都是技术,一切均以匠心为高。

第二,观念必致行动。新观念生产的目标是社会效率,不再是向真理逼近,因此必须导致实质性的行动。此时,观念必须有用才能生存,真理无用一样会被褫夺衣冠,真与善、美被熔炼成一块整钢。

再次,观念日益操作化。当观念导向治理行动,控制代替求真成为新科技的动力。当真理在很大程度上被等同于可操作,表现为预测、调整、达标和调整的控制论闭环。它不再是宏大的,而是琐细的。此时,科学人感到真理的温暖,反对超越性的无情宏大叙事。

最后,观念向权力靠拢。传统观念将知识视为独立于权力和政治的中立性力量,而技治知识与治理行动紧密连接,更多知识意味着更大的行动力量。传统的观念真理尊崇在技术新世界被观念威权尊崇取代。因此,技术观念与政治观念的关系问题,将始终困扰着智能社会,给技术政治学提供肥沃的生长土壤。总之,培根所言“知识就是力量”,实实在在地是智能治理和技治社会的座右铭。

我是谁,我从哪里来,我往哪里去,一直是诞生起智人心心念念的根本性问题,催生了哲学之思。到科学人这里,自我觉醒彻底步入唯物主义的轨道,形成新的与其他生命尤其是其他哺乳动物像连续的人之解释。我猜测,当身心设计进行到某种程度,科学人将完全被奥肯人即完全被科学改造之后的理性人即取代,类似问题将彻底失去重要性,哲学亦将从字面意义上终结。换言之,哲学是专属智人的思维方式。

遗憾的是,科学人并不是真正的新人,而是信奉新人观的旧人。实验室逻辑从自然扩展到人类社会,整个技治社会迟早成为人性改造的巨大实验室。如露西隐喻指出的,智人一直“在路上”,科学人将自己——不仅是心灵,还包括肉身——献祭给新科技。他们愿意自我牺牲,但自我革命的路刚刚开始。

3.机器人与无用之人

“科学人”的新观念,给自觉的身心设计提供了合理性证明。可是,大规模的身心设计,会随着智能革命开始?总的来说,智能社会的推进,至少给出3个相互联系的理由:1)智能社会从AI辅助生存社会走向机器人劳动社会,智人正在成为“无用之人”;2AI不断“进化”,加剧智人身心的退化;3)未来与硅基生命的竞争中,作为碳基生命的智人处于明显的劣势。以上3个问题要彻底解决,必须时时建制化的身心设计工程。

先讨论“无用之人”的问题。

当代经济活动与科技发展纠缠得如此紧密,以至于离开技术创新就无法正常持续下去。技术突破推动经济扩张,当代经济不能无增长地运行。这导致2个问题:一个是增长极限问题,即地球资源最终框定经济增长的“天花板”,另一个是富裕社会问题,即当科技生产力发展到劳动者生产的物质财富,已经甚至超过满足社会成员舒适生活的需求。此时,问题的重心不再是如何生产更多的商品,更重要的是如何公正而合理地分配它们。

很难否定地球增长极限的存在,但它的量级很难确定。资源的范围及其利用效率,随着技术创新不断扩大和提高。当地球资源利用达到极限,科技智人只有走出地球,有效利用月球和太阳系其他星球的资源,才能向更高级文明前进。如果走不出地球,增长极限便是智人文明的极限。因此,增长极限问题实质是人类社会如何突破地球资源瓶颈,超越地球文明而成为星际文明。

至于富裕社会,很多人认为早已到来。大家都承认,富裕社会的前提是技术经济的兴盛。没有新科技支撑的贫穷社会不可能让所有人都过上舒适生活,只能剥削者奢侈浪费而劳动者困窘饥寒。每个人舒适生活所需的物理条件或生活物资品,可以大致估算出来,而整个社会的物质生产能力也能大致估算出来。如果后者估算出来的数字大于前者之和,还能留下足够的物质财富供社会发展和建设之用,就可认定富裕社会已经到来。

21世纪20年代,技治社会开始在经济活动中大规模使用AI,很快会使得上述两大问题变得越来越明显。

我认为,就生产力而言,智能社会的发展很快经过2个阶段,即AI辅助生存社会和机器人劳动社会。ChatGPT的爆火,标志着AI辅助生存社会正在到来。也就是说。很快人类就将存在于AI辅助生存的环境中。在劳动方面,工作中很多问题将由AI协助处理,甚至完全交给机器人完成。比如文案工作,先由AI给出初稿,再由智人精修,现在几个人的文案工作未来交给一个人就可以了。在生活方面,AI辅助作用未来同样显著。比如,智能冰箱可以自行与供货商通信,完成例行的食品补充工作;生成式AI可以制定备选的出行方案,供旅行者选择,并帮助预订旅馆和餐食。显然,在AI辅助生存社会中,智人与AI的竞争加剧,不能在能力方面超过AI的人会怀疑自己是不是“无用之人”。

可以预见,也许不需要100年时间,机器人便有能力取代人类所有的体力劳动和绝大部分的脑力劳动。并且,机器人不眠不休,完全可以将科技生产力提升到难以想象的高度。此时,智能社会进入机器人劳动社会,经济稀缺性发生重大转变,理论上物质资源的稀缺性已被终结,但通过制度安排人为地保留下来,以此种稀缺性为基础的旧经济学得以苟延残喘。

显然,当机器人劳动社会完全到来,理论上智人很快就会迎来地球增长极限。在极限到来之时,科技智人得设法使人类文明在地球之外站住脚跟,否则可能被锁死或逐渐衰退。而AI富裕社会将经济不平等推向极端:大量被AI代替劳动之后的“无用之人”,没有劳动报酬如何养活自己、抚育后代呢?没有钱,机器人生产再多的物资,也免不了穷人挨饿的厄运。厄运会不会激变为暴力冲突,穷人暴力与机器人暴力相撞会不会灭绝穷人?

显然,AI增长极限问题和AI富裕社会问题,并非纯粹的新科技发展问题,而是新的制度安排问题。所以,技治社会是极富裕与高风险并存的政治经济学社会,经济问题在智能平台上与政治问题完全结合在一起。有前途的科技城邦,安排好走出地球和人人经济自由的制度解决方案,从根本上与机器人劳动的情形相匹配,将之转化为有利条件而不是无法压制的社会冲突。否则,飞速发展的机器人生产力,很可能将智能社会引向深渊,而科技智人会第一次真正感受到:过高的生产力,也可能是强大的破坏力。

4.AI进化与智人退化

讨论AI将铸成“无用之人”,实际在讨论人的退化问题。在反人类中心主义视角下,生物只有演化,而没有进化或退化。显然,生物的进化或退化,是结构-功能主义意义上的,即按照多数人的理解,进化意味着适应性的功能增强和效率增加。

细究之,功能与效率是含混的人类主义观点。相比于克罗马农人出现之初,今日之智人适应性增加了吗?与在地球上生存了数十亿年的病毒相比,赤裸的人类显然适应性要差很多。全球核大战之后,人类很容易被彻底灭绝,而蟑螂、老鼠肯定不会,细菌、阿米巴虫就更不会了。

然而,人类创造了技术物,在技术物辅助之下,技术-人的适应性急速增加。更为关键的是:技术-人不光被动地适应,还创造地适应,即在严酷的自然中创造宜居的场所。也就是说,智人进化的点在于智能爆发之后从生物适应性转向技术适应性。

因此,强调人的意识-认识,与强调人的创造-技术,是同一件事情的两面。强调这一点,是要指出将科学与技术对立起来,在21世纪已经完全没有意义,因为已经不再有不创世的纯粹真理活动。很多人没有意识到,真理和自由都可能是某种演化中阶段性的东西。雅斯贝尔斯指出:“自由仅仅是一种过渡,即在一个短暂的时期中意识到超越者是人的真正的实存,但在技术机器的发展中又趋于完结。技术的机器只有通过自由的完结才能发展。”

今人所理解的真理与自由,并没有很长历史,可以追溯到文艺复兴。而且,四五百年间人的真理与自由,至今众说纷纭,不明所以。创制人之真理与自由的思想家,高喊着人当为世间标杆,当为宇宙立法。可是,智人对此从来就没有过足够的信心,自后现代主义思潮之后信心更是丧失殆尽。毕竟,它们都是一种信仰。如果大家不相信,它们就不存在。而如果大家坚信它们,智人又被局限于结构-功能之中,即通往更复杂的人体、更亢进的精神和更强大的技术。

现象学运动反对此种日渐清晰的人类命运,无法接受人的机器化问题——我将之视为技术时代最大的威胁。真正的分裂不在人与机器的二分,而在于技术-人的身体中。

按照一些人的说法,技术-人发明技术之后,人就停止进化,转向了作为人的器官的技术进化。真实的情况是:技术进化伴随着人的退化,不仅是肉体的退化,也包括精神的退化。当文字出现之后,智人的记忆力和口传时代相比就有下降。当电脑出现之后,越来越多的人提笔忘字。在我看来,无法接受此在在世的阶段性,与面对强大的技术力量无法坚信技术控制论,都属于精神的退化。回顾数万年的现代智人演化史,顽强的生命冲动是智人繁荣的生物学-文化学基础,看起来今天明显在减弱。

人类要不要繁衍下去吗?在疲于内卷而不婚不育不爱的“躺平青年”看来,这居然成为一个疑问。当然种族延续重任不能还原为个体责任,不能将人类繁衍作为某种道德责任,但是此种风尚难道不是某种精神退化的兆头?在苍茫宇宙中,人类必定是阶段性的演化物,但这不是因此站在上帝视角看问题的借口。硅基生命如果真的到来,智人不能放弃控制新科技的奋斗,否则就不再是真正的智人。

这并不是说“无用之人”与人的退化问题完全等同,因为无用讲的是作为功能的人之无用。如果“无用之人”的威胁,让我们退缩、泄气和无所作为,那才是真正的退化。在我看来,它是一个警醒,提醒我们的人族的信心在消失,我们的肉体和精神在萎缩,我们决不能把所有的赌注押在机器之上。

我们可以生活在AI辅助生活的社会,但可能灭绝在机器人劳动社会中。在未来五百年中,人类应该树立宏大的理想,比如将人类文明散布宇宙,否则可能在双重退化中自我毁灭。当然,更有可能的是,在未来一百年中,超级AI还没有到来,人类已经在气候变化和核大战中跌下了文明的危崖。

5.硅基与碳基的竞争

有些人如拉伍洛克以为,科学人自觉的身心设计,很快会输给超级AI量子态的电子迭代,而有机生命迟早被电子生命——即超级人工智能——所主宰。此类未来观往往以信息至上论为基础,即信息或信息化是宇宙演化的终极目标,而在物质、能量向信息的转换过程,宇宙实现自我意识成为某种知性宇宙。对此,拉伍洛克指出:

如果宇宙的运行像我的猜想一样遵从人则宇宙原则,那么宇宙的首要目标是将所有的物质和辐射转化为信息。我们在火的时代里已经迈出了第一步。现在,我们正处于人类世让位于新星世的关键时刻,知性宇宙的命运将取决于人类如何响应。

拉伍洛克将生命繁衍类比程序(可)复制,将生命演化类比程度(可)迭代,因此想象超级人工智能可以摆脱智人而自我设计和自我复制,因而是新的生命形式,可称之为电子生命、无机生命或硅基生命。并且,电子生命主动选择自身的演化方向,纠正演化中的误差,通过计算机迭代的方式迅速进化,无需等待类似人类的缓慢自然选择过程,所以是比智人更高级的生命形式。

拉伍洛克预计,在新星世电子生命很快会主宰地球,人类无法理解通过心灵感应沟通的电子生命,必定沦落到寄人篱下的处境之中。之后,电子生命的演化进程不可预料,可能会改造地球环境导致地球死去和人类灭绝,也可能电子生命离开地球,前往更适宜的居住星球。总之,智人在电子生命面前不堪一击。

由于坚持技术控制的选择论,我不赞同上述新星世理论。我将现时代的特殊性定位于全面技治社会或智能治理社会的开始,拉伍洛克则定位于新星世的即将开始,我们的定位都与智能革命有关,即相信AI的发展将改变人类历史。拉伍洛克主张非人类中心主义,人族灭绝不影响宇宙的演化,智人被机器人取代没有什么大不了。而我相信人类中心与非人类中心的争论毫无意义,因为无论未来如何,智人都不应放弃为种族延续而奋斗,都应该选择为控制新科技发展而努力,并且不惜为如此奋斗努力而做出牺牲。

某些人想象自己是上帝,尝试神一样思考,站在宇宙中回望智人与机器人的竞争,我总觉得有一丝滑稽的味道。人类一思考,上帝就发笑;人类假装神一样思考,上帝会被笑死。

问题的关键在于:有意进化优于自然进化,谁选择前者更可能取胜。首先,自然进化有陷阱,有些物种演化失败了,可有意进化同样有风险,而且是更高的风险。道理很简单:由于电子迭代的速度,微小的缺陷会急速放大,可能在来不及纠错的时候产生致命性灾难。就韧性而言,演化缓慢未必没有优势。其次,机器人可以自我设计,智人同样可以进行自觉的身心设计。当然,我认为,智人的身心设计活动需待更成熟的条件,尤其是技术准备、观念准备和制度准备,但它已经在酝酿,迟早要大规模地实施。并且,智人身心设计可以融合电子迭代的成果,由此赛博格-瓦肯人会因为保留人类灵魂(比如直觉思维)而获得优势。

反过来,智人想在与机器人的竞争中胜出,势必拥抱自觉的身心设计。实际上,对于超级AI的出现及其时间点,我并不乐观。尤其是,智人如今还来得及对机器人发展进行控制。但是,智人面对的争胜压力并不止于机器人,而主要是地球环境的限制和变化,因此我赞同以适当、适度和有限的身心设计应对未来,提升智能社会的适应性。在很长的时期中,AI迭代会处于人类的控制之下,而且人类可以利用AI演化的成果,采取赛博格即有机智能与无机智能相融合的策略。

关于人类危崖尤其是生态危机,拉伍洛克认为智人没有能力独自解决,必须依赖电子生命的帮助,才能安然过度危崖。对此,我并未如此悲观,起码目前智人仍然有机会。AI自我设计是一个假设,现在并没有发生,而且这种设计最终是不是只是某种高级的复制,即局限于一个框架中无法达到提升新物种的高度。而借助技术工具,智人完全可以将自身改造成新的超级物种,即我所谓的瓦肯人。

6.结语

无论如何,智能社会中的新形势、新观念和新问题,使得越来越多的人严肃地思考大规模的身心设计工程的可能性。我们看到,科学人崛起和智能革命席卷,给实施身体设计提供更多理由,但这些理由既非常复杂,也非常含混,更是包含巨大的生存性风险。因此,问题转向身心设计究竟应如何进行,而不是简单的是或否的判断。

总之,在与AI的进化竞争中,智人未必一定会落败。从根本上说,这只是个信心问题,因为以智人今天的智慧,未来如何基本靠猜测。更重要的是,在技治社会中,预测与控制是同一过程。也就是说,在落败发生前,人类难道不能努力做些什么?只要智人不再浑浑噩噩地错失机会,就有争胜的可能性。

进入 刘永谋 的专栏     进入专题: 人工智能  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 科学 > 科学评论
本文链接:https://www.aisixiang.com/data/145967.html
文章来源:本文转自不好为师而人师者,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统