刘永谋:乌托邦还是敌托邦:未来科学城邦的N种可能

选择字号:   本文共阅读 1320 次 更新时间:2021-10-15 00:50

进入专题: 乌托邦   未来科学城邦  

刘永谋 (进入专栏)  

本文为9月24日在北京大学出版社线上博雅论坛演讲稿的未编辑稿,即发表于《民主与科学》2021年第4期,月底即印刷。



1.问题引入


在我看来,我们生活的时代,与其说是科学时代,不如说是技术时代。这就是我在北大出版社新书的书名“技术的反叛”的主旨。也就是说,在21世纪之交,技术与科学在知识上开始“平起平坐”,在社会重要性上已经超过科学,我称之为“技术的反叛”。

理想中的技术时代,可能成为解放的时代,成为平民的时代。现实中的技术时代,可能成为规训的时代,成为权贵的时代。总之,技术的反叛催生技术“新世界”,而技术新世界未来的天空,被不确定性所笼罩。

技术反叛之后,未来的科学城邦究竟将会怎样?这便是今晚我的讲题。

对此,思想家们各持已见。总的来说,对未来的趋势存在两种相反的判断:一种是乐观主义的,认为结果肯定是科学乌托邦;另一种是悲观主义的,认为结果肯定是科学敌托邦。

近来智能革命方兴未艾,两种极端想法都与对人工智能即AI科技的未来想象融合起来,催生我所谓的AI理想国与AI机器国,分别是乐观主义和悲观主义的典型看法。

我们从乐观主义的AI理想国讲起。



2.“人人经济自由”



注意:我们关注的不是幻想家或空想家,而是思想家,他们对于技术新世界的未来有深入思考,想法都有根有据。

所有AI理想国的构想,都建构在对智能革命的一个乐观预期之上,即机器人最终将代替人类完成绝大部分的劳动,即使不是所有劳动的话。Robot本意是“机器劳工”,发明机器人就是让它代替人类劳动。要不,我们为什么要发明和制造机器人呢?大家想的是,理想的机器人就是“活雷锋”,能力超强,无需休息,不怕危险,不要工资,任劳任怨,一心为人,为此甚至可以毁灭自己。

从远景来看,就算人类劳动在智能革命之后不能完全根除。就生产力的贡献而言,那时人类劳动也可以忽略不计。这个问题我称之为“AI失业问题”。蔡斯称之为“经济奇点问题”:由于AI取代人类劳动,当大多数人永远不再工作,“经济奇点”就到来了。

显然,人类不用劳动,思想家就可以以此前提构想理想国了。对不对?一些技术统治论者,将斯科特、罗伯等人的思想与智能革命结合起来,提出一种我所称的“能量平衡社会的蓝图”。

这些人是从能量角度看待社会的。斯科特认为,传统社会是低能社会,主要靠的是人力以及少量的畜力、风力和水力,而工业革命之后,现代社会进入高能社会,机器成为最主要的能源来源,人力占比微不足道。

这个结论,斯科特是带领一帮工程师在北美实地调查和测量之后的得出的,不是拍脑袋的。并且,他们还计算了当时一个承认要过上舒适生活,需要消耗多少能量。按照这个思路,所有社会成员过上舒适生活所需要的能量,就可以计算出来。对不对?然后,再加上社会交易成本、各种损耗,我们可以得出一个有限数字。从理论上说,当社会生产力超过这个数字,人类社会就应该进入“大同世界”了。

不少人认为,发达国家已然进入“富裕社会”,即社会生产的物质财富已经足够社会成员过上好日子了。斯科特认为美国在1929年就已经如此,而加尔布雷思认为的时间节点是20世纪70年代。但是,现实中的美国还是有很多人在流浪、乞讨,吃不饱、穿不暖。现在AI飞速发展,富裕社会”进入“AI富裕社会”,问题会变得更加突出。

显然,这是社会制度的问题,光靠科技和生产力发展永远解决不了。对不对?那么,“能量平衡社会的蓝图”打算怎么解决问题呢?

(1)全社会统一生产,机器人全力开动,产出绝对丰富的物质财富,在全社会范围内平均分配,人人都过上好日子——通俗地说,人人都财务自由。

(2)取消货币,取消商品交换,用能量券来测算生产和消费,实行按需分配。能量券表征的是生产某个东西的能量数,可以避免货币通胀和经济危机导致的测量不确定问题。比如说,一桶牛奶在经济危机中可能一文不值,但生产它所消耗的能量不变,用能量券测算是一样的。

(3)需要转换多少能量,需要消耗多少能量,需要分配多少能量,在AI的帮助下实现能量负载平衡,即能量投入和消耗的平衡。也就是,AI要随时不断地收集整个社会的能量流动信息。

(4)老人、小孩、残疾人和病人,分配同样的产品和服务,因为不是因为你劳动,而是因为你是人,就享有同样的分配权,分得同样点数的能量券。

(5)根据机器人生产能力提高的状况,大大缩短工作时间,直至基本取消人类工作。斯科特在1929年的测算是,25到45岁之间要工作,每天工作4天,一年工作165天,生产的东西就完全够用了。

(6)能量券记名到个人,不能转让、出借、赠予和继承,还有有效期,总之不能积累,也不能通过银行储蓄获利。也就是说,在经济上保持所有人的基本平等,消灭贫富悬殊。

(7)政府由行业顶级专家组成,主要管理技术-经济事务,保障所有社会成员的经济自由,对经济之外的多数事务尤其是宗教和文化事业保持宽容。

不劳动之后,人类干什么呢?罗伯设想的是,从事文化、艺术、体育和科研活动,以此逐渐提升整个人性,人类会越来越完美。



3.“机器人牢狱”



最近有一些人在谈什么“电子共产主义”、“数字社会主义”,均属于AI理想国的乐观主义。但是,更多人对智能社会的未来非常悲观,设想的完全是我所谓的“智能操控社会的蓝图”。

研究网络哲学的人,都非常熟悉互联网的电子圆形监狱理论。圆形监狱是边沁提出、福柯等人发展的一种治理理论。

边沁认为,他所处时代所面临的严重治安问题,都可以运用圆形监狱的原理加以解决。圆形监狱是圆形的,中间是看守的监视塔,四周是环形分布的一间间囚室。看守可以24小时监视囚犯,囚犯却看不到看守,囚犯相互之间也不能交流。即使看守并没有看着囚犯,囚犯也会觉得有人在监视。简而言之,圆形监狱的基本原理就是:无处不在的监视。

福柯指出,圆形监狱不光进行监视,还可以对囚犯进行改造,并且生产和运用改造人的行为的知识。他称这种改造为规训,圆形监狱是典型的规训机构。他还认为,统治者发现圆形监狱改造人的效果很好,就把它用于军队、工厂、学校、少管所等许多地方,于是西方社会在19世纪下半叶变成了监狱社会。

网络社会兴起之后,一些人认为,信息技术加剧了当代社会规训化的趋势,整个社会日益沦为“电子圆形监狱”。在具体意象上讲,电子圆形监狱的Logo是奥威尔小说《1984》中的电幕:对所有人进行监视。

显然,这种理论关注的是人的隐私被侵犯,但智能革命之后,就不再仅仅是隐私问题,因为除了监视,机器人可以采取行动,比如对人进行拘押。对不对?机器人监控和行动的能力,如果无所顾忌地应用到公共治理中,会产生比电子圆形监狱更强的负面效应。换句话说,到了智能革命之后,电子圆形监狱才可能成为真正的牢狱:从监视、审判到改造,全部可以委托智能技术一体化实施,整个社会可能走向我所称的“智能操控社会”。

这就是当今敌托邦科幻文艺的一个大类,即“AI恐怖文艺”所要抨击的景象,它最著名的Logo是好莱坞电影《终结者》系列中的天网(Skynet):机器人对人类的牢狱统治。

“智能操控的蓝图”所勾勒出来的未来社会,完全是一架完整、严密和智能的大机器:由于AI技术的广泛应用,每个社会成员都成为这个智能机器上的一个小智能零件,而且是可以随时更换的零件,和钢铁制造的零件没有差别。

(1)AI机械化,即把人、物、社会所有一切都看成纯粹机械或智能机器。AI对所有的一切要事无巨细地进行智能测量,包括人的思想情感,均可以还原成心理学和物理学的事实以此来进行测量。科幻文艺会想象出机器人女友,甚至如电影《她》中纯粹是一个没有实体的感情程序。

(2)AI效率化,也就是说,AI机器乌托邦的核心价值主张是效率。科学技术最有效率,没有效率的东西比如文化、文学和艺术都是可以取消。社会运行的目标就是科学技术越来越发达,物质越来越丰富,人类文明不断地扩展,要扩展到整个地球,扩展到月球,扩展到火星……著名好莱坞科幻影视系列作品《星际迷航》,就是这种不断星际殖民梦想的最著名的通俗表达之一。

(3)AI总体化,也就是说整个社会是一个智能总体,按照建基于物联网、大数据、云计算和AI等智能技术之上的社会规划蓝图来运转。所有国家政党、社会制度、风俗习惯以及个人生活全面被改造,没有人能够逃脱总体化的智能控制。

(4)AI极权化。AI机器乌托邦是反对民主和自由的,认为民主和自由没有效率,支持的是由智能专家、控制论专家掌握国家大权,公开实行等级制度,然后以数字、智能和控制论的方式残酷地统治社会。



4.“半人半神的生活”



实际上,很多对于未来技术社会的构想,很难简单地说是乌托邦,还是敌托邦。比如,有一类运用心理学、生物学来运行社会的未来科学城邦的构想,我称之为“完美人性社会的蓝图”,大家的评价非常不同,可谓仁者见仁,智者见智。

在人类学中有一种说法:智人是非常残暴的物种,是唯一不以食用为目的可以大规模灭绝同类的物种。这种观点认为:在生物学上人类各种族都属于同一个物种而智人,而历史上人属并非只有智人一种,比如尼安德特人、弗洛勒斯人,就像蛇种类繁多——有水蛇、旱蛇、有毒蛇、无毒蛇等等,但是历史上其他种类的人都被智人灭绝了。

这种观点对不对另说,但很容易让人想到一个问题:如今的智人十分好斗,国家与国家之间的战争不断,社会上人与人之间的竞争非常残酷,如果能让人类在本性上变得更平和、更善良,未来社会才更有可能进入理想社会。对不对?

从某种意义上说,世界各大宗教、各级学校教育正试图改造人类的脾气性格。然而,几千年的宗教、教育活动,还有其他文化艺术活动,看起来对人类的改变不大。我们可以自信说:现代人比古代人更聪明、更有知识,但完全不敢说:现代人比古代人更nice。对不对?于是,一些心理学家和生物学家提出,应该运用科技方法比如手术、吃药、基因改造等等,让人类向善,再运用科技方法运行社会,使之成为科学的理想国。

在《现代乌托邦》中,威尔斯设想未来“世界国”要成立专门的一般心理学部,专门提升人性。在未科学城邦中,人类不仅长得漂亮,身体好,人口数量、寿命、智商等远远超过今日,更重要是品德、心性方面原因超过今天的人类。未来人是高尚的人、完满的人,脾气温顺,心灵纯洁,乐于奉献,与人合作,诚实勇敢,极富创造力(威尔斯尤其强调这一点,这与他的科学决定论和科技乐观主义的立场是一致的),追求知识与艺术……从某种意义上说,未来的完美人类和我们相比,已经不再是一个物种。在《神秘世界的人》中,威尔斯就说他们过着“半人半神”的生活。

威尔斯的想法听起来是不是很好啊?尤其对于喜欢谈道德、分君子小人的中国人而言,好像特别合乎“德治”的逻辑。对不对?然而,仔细想一想,事情没有那么简单,威尔斯自己就怀疑“完美人性社会的蓝图”。

威尔斯早期设想过一个“莫罗博士岛”。博士运用生物和医学的技术,把孤岛上的动物去除兽性,增加人性,使之成为兽人。一开始,兽人们“情绪稳定”,社会秩序井然,最终出了事故,导致整个岛上的秩序崩溃,莫罗也被野兽杀死。

莫罗使用两种技术办法改造野兽:一是手术治疗,二是技术催眠。前者假定某些生理结构是兽性的根源而必须加以改造或去除,后者以技术手段将莫罗规定的规则植入兽人的大脑结构之中。除此之外,就是对违规者进行残酷而公开的惩罚,以杀一儆百。

最后怎么出事的呢?有一只美洲豹手术做到一半,跑了,然后兽性大发激起了其他兽人的兽性,更关键的是莫罗在追捕美洲豹过程中死了。兽人一开,YYDS的莫罗也会死,莫罗规则立马就没人相信了。

《莫罗博士的岛》说明了问题的复杂性。国家或社会的制度性人性改造,结果是人人向善,还是一批人被改造为奴隶、另一批人成为生物学意义上的主人呢?这个问题大家去想。



5.“群众情绪稳定”



如果人类不可能达到完美人性,一些人退而求其次,提出可不可以把当代人类的情绪控制一下,以此减少破坏社会秩序的行为,这样社会肯定会和谐很多。通俗地说,“群众表示情绪稳定”,国家就好治理了。类似的构想,我称之为“情绪控制社会的蓝图”,典型比如斯金纳提出的“瓦尔登湖第二社区”。

斯金纳的学问属于行为主义心理学。这种理论认为,有机体包括人类在内的行为,与外部环境存在确定的函数关系,因此测量、改变和操纵各种变量,就可以预测、改造和控制人类的行为。斯金纳提出所谓的行为工程,即一套改造人类行为的技术方法,基本逻辑在于:某种行为如果伴随着好的结果,它就会被正强化,即越来越多地发生;反之,则被负强化,即发生得越来越少。

如果社会大规模实施行为工程,减少不利于社会和谐的行为,增加有利于社会和谐的行为,未来的科学乌托邦会不会到来呢?乍一想,不无道理。斯金纳就如此构想出“瓦尔登湖第二”的。

“瓦尔登湖第二”的目标是实现美好生活,包括4个方面:1)好的健康状况;2)不快乐的劳动最小化,3)锻炼、发展每个人的天分和能力,(4)放松和休息。

为了实现美好生活,行为工程的实施坚持2个原则:1)最小消费,2)非竞争性。小消费原则指的是经济上要减少不必要的消费,这样可以减少不愉快的劳动时间。这继承了梭罗《瓦尔登湖》中的思想,故名之为“瓦尔登湖第二”。非竞争性原则指的是既有的社会竞争性太强,要代之以人际和谐合作的小社区,反对个人竞争,提倡人与人之间的高效配合。也就是说,斯金纳认为既有社会效率不高,主要是因为浪费以及内斗,只有消除这两点才可能实现美好社会。

在政治上,“瓦尔登湖第二”是一个个的小社区,不需要建制化的政府。它们之间的关系也是和谐互助,进而可以实现全世界永久和平。大家在政治上平等,设计社区的行为科学家也没有特殊权力。

在经济上,社区成员基本没有个人私有财产。经济地位人人平等,没有阶级差别。没有货币,财富属于整个社区。人人都要参加体力劳动,社区采用工分制。小孩子很小就适度参加工作,提倡每个人快乐而创造性地工作。

在生活方面,营造人人平等合作的和谐文化,反对任何人比他人名气更大,声望更高。发展家政技术,解放妇女。每个人16、17岁结婚,18岁的女性生第一个孩子,22、23岁结束生育投入工作。结婚夫妻保持独立,分房居住,孩子由社区公共机构抚养。

将行为科学运用于后代的教育过程,学生在接受教育过程中,自然地融入社会生活。对于不好的消极情绪比如嫉妒,用行为工程技术加以消除,反过来要强化好的情绪比如快乐。

大家看到,斯金纳的设想很有些“小国寡民”的味道,同时加入情绪控制的心理学元素。他的想法提出之后,一度非常时髦,不少人将之付诸实施。当然,这些社区如今基本上关门,幸存的比较有名的是弗吉尼亚的双橡树(Twin Oaks)社区,2019年底还有不到100人的社员。

制度性控制社会成员的情绪,能不能做到,对不对,最后会是什么样的结果呢?对于斯金纳的想法,批评者很多,一些反对者甚至直接称他为纳粹分子。不过实际上,斯金纳是个非常温和的人,甚至和他一些最主要的反对者私交很好。

然而,在现实社会中,控制大家的情绪已经在一定程度上实施了,比如流行的“心灵鸡汤”、员工励志,以及不断强调“正能量”。

对此,马尔库塞曾专门进行批评。他称之为“本能管理”,即对人类的某些本能如破坏性的情绪进行有组织的、过度的压抑。他并没否定情绪需要管理,但认为当代资本主义社会对群众情绪的压抑过头了,很多根本不必要,玩玩就是为了维护统治阶级的严酷统治。本能管理让人们普遍机身紧张,精神病发病率大大增加,结果是“富裕社会”成了“精神病社会”。



6. “专业的事情专业人员干”



还有一些思想家认为,未来科学城邦要科学地运转,而不是拍脑袋进行决策,就必须由专业的管理人员,依照科学的管理科学工程与原理来治理。为什么?道理很简单:“专业的事情专业人员干”。管理社会、治理社会公共事务谁最专业呢?当然是专业管理人员。类似的构想,我称之为“科学管理社会的蓝图”,“科学管理之父”泰勒就有此种乌托邦想法。

在泰勒看来,管理学属于自然科学工作,要将物理学、力学和机械科学的知识和方法运用到工作场所尤其是工厂之中。这就是“科学管理”。

怎么运用呢?比如研究一下搬砖工作。第一,找几个搬砖快的工人。第二,研究搬砖采用的基本动作和工具。第三,用秒表测量基本动作所需要的时间,选择最好的工具。第四,消除无用的、慢的动作,得到最高效的科学搬砖方法。

这叫时间-动作研究。在此基础上,管理工程师把科学搬砖方法教给工人,并且实行差别计件工资,搬砖越快,工资越高。这里要有个基本定额,完成定额拿基本工资,超过定额就拿奖励工资。“磨洋工”、“摸鱼”、“划水”,肯定没有奖励。

泰勒以为,科学管理工厂,工厂产量会增加,工人工资则会增加。但是,科学管理却同时遭到工人和资本家两方面的反对。为什么呢?归根结底是因为资本家和工人存在根本上的利益冲突。

泰勒想的是:科学管理提高生产效率,必须同时实现雇主和雇工两方面的效益,对于劳资双方均有利,从而使得劳资关系越来越和谐,改变劳资双方对抗的观念。这种“和谐工厂”的美好梦想,泰勒称之为“思想革命”,认定它是科学管理真正能实现的基础。

然而,在现实中,“和谐工厂”可能成为“血汗工厂”。搬砖的定额应该定为多少?定得低,很多工人都可以拿到奖励工资,这样资本家吃亏。定得高,几乎无人能得到奖励,利润都归资本家所有,工人就会被残酷压榨。

对于资本家而言,怎么劳动、怎么发工资、怎么管理工人,泰勒制下是由工厂计划部门的管理工程师来研究决定的。因此,既是厂子更赚钱了,不少资本家还是觉得不爽,不愿管理权旁落。

可是,泰勒及其门徒相信“思想革命”,因此觉得科学管理不仅能运用在工厂中,还可以运用到政府部门、教育机构等所有劳动场所之中;科学管理不仅可以提高效率,还可以解决经济萧条、失业和贫苦等社会问题。为什么呢?科学管理之后,工人工资增加,消费能力提升了,就不会出现商品相对过剩导致的经济萧条和经济危机。商品有人买,雇主就不会裁员,因而失业、贫困问题也就解决了。你看看,泰勒主义者想得多好啊?!

泰勒主义者之后,不少思想家继续强调专业管理知识对于社会运行的关键作用,主张将社会领导权交给专业的管理人员。其中,最典型的是伯恩哈姆的“经理革命论”。

伯恩哈姆认为,世界正在发生经理革命,未来社会既不是资本主义,也不是社会主义,而是职业经理人全面掌权的管理社会。他所谓的经理人,指在技术方面实际运转着公司、政府和NGO非政府组织的专业管理者,他们真正决定着各种社会组织的运转过程。

那么,伯恩哈姆心中未来理想的管理社会是什么样子的呢?

在经济方面,资本主义有限国家被无限管理国家取代,经济基础是政府国有制,国家对主要生产工具进行控制。国有经济实际由经理人支配,国家几乎成为唯一的雇主,垄断分配权,资产阶级被铲除。

在政治方面,经理人成为统治阶级,控制国家和政府,权力从民主制议会转换到国家机关手中。管理社会中政治与经济融合,政府官员也是经济裁决者。

在意识形态方面,个人主义由国家主义、民族主义和集体主义所代替,崇尚金钱变为崇尚劳动,计划主义代替自由创造,责任、秩序、效率和纪律的强调代替权利、自由的讨论。

伯恩哈姆的设想,受到奥威尔的激烈批评。奥威尔著名小说《一九八四》,很多想法都针对伯恩哈姆。比如,未来世界由大洋国、欧亚国和东亚国3个超级大国构成,超级大国之间持续战争,以及超级大国对内意识形态宣传的内容,等等。简而言之,他认为,伯恩哈姆赞扬纳粹德国和斯大林苏联,认为它们代表未来趋势,显然是为极权主义辩护,根源是因为懦弱和崇拜权力,而这是左派高级知识分子的通病。



7.结语:“介于乌托邦与敌托邦之间”



科技如何改变社会运行和公共治理活动,如何使得未来社会成为科学城邦?还有很多其他的回答。比如“经济计划社会蓝图”,即未来科学城邦根据经济学专业知识来运行,由专家对社会经济活动进行大规模地计划,既可以提高效率,也可以减少浪费。再比如“全球技治社会的蓝图”,即国家消亡,组织全球政府,按照科学原理和技术方法来运转社会,实现和谐世界和全球永久和平。

一小时的时间,不可能列举未来科学城邦的所有设想。有一点很确定:很难简单地用乌托邦或敌托邦,来给设想来定性。对不对?比如前述AI理想国、AI机器国的构想,过于极端,被多数理论家认为不大可能出现。比如,丹尼尔.贝尔对未来科学城邦的设想,我称之为“智能治理社会的蓝图”。他承认智能技术对于未来社会的基础作用,但认为它有优越的地方,也存在困扰的问题,并非绝对的乌托邦或敌托邦。

在现实之中,极端情况更不可能出现。比如,机器人把劳动都做了,人类真的会去搞高尚活动吗?会不会天天打麻将,无事生非呢?在电影《机器人瓦力》中,在机器人照料之下,人类变成了行尸走肉,吃饭都是机器人喂到嘴里。比如,极权主义“机器人牢狱”真的牢不可破吗?网络的应用实际上存在2种并行的趋势:一方面电子监控确实可以作为极权利器,但是同时自上而下的网络民主、网络监督和信息披露也很常见。对不对?

也就是说,我认为,未来科学城邦必然是“介于乌托邦和敌托邦之间”的。至于究竟会走出一条什么样的道路?不同的国家和地区,不同的文化类型,不同的民族特性,不同的历史和国情,不同的科技发展水平,未来科学城邦之路不会都一样。这需要深入的研究。但是,有一点要清楚:技术治理的势不可挡,无法逃避。

诸位!技术时代,如何自处呢?这是一个与每个人相关的问题,值得每个人认真思考。只有人人关注新科技的发展,人人争取应有权利,才能走出一条“介于乌托邦与敌托邦之间”更好的、现实的未来科学城邦发展道路。



进入 刘永谋 的专栏     进入专题: 乌托邦   未来科学城邦  

本文责编:陈冬冬
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 社会学 > 社会学理论
本文链接:https://www.aisixiang.com/data/129031.html
文章来源:本文转自不好为师而人师者,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统