刘永谋:警惕新科技的治理滥用

选择字号:   本文共阅读 4184 次 更新时间:2022-11-06 01:01

进入专题: 新科技  

刘永谋 (进入专栏)  


近年来,在治理活动中,滥用新科技的现象不少,影响很大,备受社会关注。

2020年5月,北京市部分城区居家办公,有公司被曝出要求员工居家办公期间每5分钟抓拍一次人脸,以免员工居家不办公,因涉嫌侵犯员工隐私,导致舆论哗然。2022年6月,河南发生“赋红码事件”,更是闹得沸沸扬扬。一些因“取款难”而找郑州几家村镇银行维权的储户健康码被赋红码,有些被赋红码的储户人都不在郑州,一律按照防疫政策要被隔离,哪儿也去不了。

如何看待类似现象?它产生的原因是什么?又应该如何应对?我们可以从技术治理的角度展开分析。

1.“技治社会”与“治技社会”

我所谓的技术治理,指的是在社会运行尤其是政治、经济领域当中,以提高社会运行效率为目标,系统地运用现代科学技术成果的治理活动。

支持技术治理的技治主义思想滥觞于19世纪中叶,诞生不久便在西方社会遭到各种各样的批评,比如人文主义者指责它把人视为机器,自由主义者指责它侵害人的自由。但是,在各种批评声中,技治主义却在社会治理实践中引发许多技治运动,并逐渐向全世界传播。进入21世纪,技术治理已经成为全球范围内治理领域的基本趋势。从这个意义上说,我以为,当代社会可以简称为“技治社会”。

技治社会是科学运行和专家治理的技术决定论社会。所谓技术决定论社会,指的并不是技术已经决定当代社会的发展,而是乐观的技术决定论已经成为技治社会最重要的意识形态。此时,人们普遍或多或少地赞同技术决定论,并相信技术将把整个社会推向更美好的未来。因此,当代社会必然会坚持我所谓的“技治二原则”,即科学运行社会和专家治理国家,而这正是技治社会笃信技术决定论的重要表现。

在技术决定论的指导下,鉴于新科技成为技治社会最重要的动力,控制技术也成为技治国家的基础性任务。为什么呢?

首先,各种科技知识生产部门如大学、科研院所和高新科技企业的研发部门,日益膨胀成为当代社会的核心机构。大量的人财物力投入其中,国家不得不对它们进行必要的控制,以促进整体科研效率,维持正常的科研秩序。至于国家是否真的能“规划”科技,或者国家被专家所“规划”,以及国家与科技的“靠拢”会是何种结果,则会不断困扰技治社会的治理者、科研部门和社会公众。

其次,海量的新科技知识被生产出来,并被迅速地运用于包括治理领域在内的社会各个角落,极大地改变着整个社会的基本面貌。然而,新科技应用的社会效果难以预计,正面效应总是伴随着意想不到的负面结果。因此,为了真正提升社会福祉,当代社会不得不对新科技的应用进行控制,尤其要设法规避新科技风险。

最后,在技治社会中,专家以新科技的名义享有前所未有的权力。当代社会治理的一个重要特征是:很多治理问题都与新科技发展有着或多或少的关系,比如近来热议的气候政策问题、碳中和问题、科技伦理治理问题等。由于专业原因,普通公众很难对专家的建议和决策发表意见,专家的权力存在失控的可能,必须用制度化的方法对专家权力进行约束。

综上所述,技治社会同时意味着治理技术社会,简称为“治技社会”。

随着物联网、大数据、云计算、虚拟现实(VR)、人工智能(AI)以及区块链等智能技术的兴起,将技术治理推向智能化的新阶段。而新冠疫情的爆发,又极大地刺激运用智能技术的智能治理的全速推进,使得技治社会向着智能治理社会演化。同时,智能治理社会意味着治理智能技术的社会,即当代社会需要花费巨大精力治理智能技术。最近被热议的大数据治理、算法治理和区块链治理,均属于智能治理的具体形式,上述案例也属于智能治理领域,均涉及如何治理智能技术,使之有益于公众利益的问题。

2.科技之名,伪治理之实

具体到技术治理系统的运行,当代社会大量存在的技术治理活动,同样存在着对它们进行控制的问题。换言之,技术治理同时意味着“治理技术”。为什么呢?

历史经验表明:技术治理并不只有“机器乌托邦”一种模式,还有许多其他的不同实施模式,都能与具体的社会现实很好地结合起来。为了使得技术治理与中国国情相适应,技术治理理论要研究如何去理解和选择、调整、控制技术治理。对技术治理活动进行控制,被我称为“技术治理的再治理”,必须要对技术治理中采用的技术——我称之为技治术——进行调控,因而涉及治理技术的问题。当然,这里被治理的不是所有技术,而是已被用于治理活动中的技术,目标是减少甚至消除技治技术的负面效应,以提高技治系统运行效率,更要让技治系统造福社会。

理解技治系统,容易出现2个观念误区:1)高效技术用于治理同样高效。有时候,改造自然的高效技术用于与人相关的治理活动却变得非常低效。2)高效的技治系统必定造福社会。有时候,高效的技治系统被用于伤害人类福祉的行动中。这两种情况都没有很好地完成提高社会运行效率的目标:前者本身就很低效,浪费整个社会有限的治理资源;后者本身的高效,结果却是社会运行的总体效率低下。过度的员工监控就属于后一种情况:智能技术用于监控员工似乎很有效,但明显有损于社会福祉,引发各种争议、诉讼和仲裁等也有损于总体效率。

更严重的问题是,伴随着技术治理的兴起,越来越多的伪技术治理现象出现了。伪技术治理打着科技之名,号称用新科技进行治理,但实际贯彻的却是其他目标,尤其是攫取利益和权力,而非技术治理追求的提高社会运行效率。河南赋红码事件名义是用大数据技术治理疫情,实际却是防止储户维权,显然属于伪技术治理现象。

为什么伪技术治理要冒充技术治理?因此如此能获得好处。尤其是在中国,大家普遍信任科技和专家,国家和社会对技术治理给予许多实际的支持,冒称技术治理就能分享信任和支持。显然,一个社会技术治理越是受重视,伪技术治理就越是层出不穷。这就像假茅台酒很多,恰恰说明它的受欢迎程度。当伪技术治理治理盛行,导致大量负面的效应和问题,人们往往将它们怪罪于新科技和技术治理,这不利于科技的发展和技治系统的运行。因此,要警惕和抵制伪技术治理现象。

从真伪专家的角度看,存在两种伪技术治理现象。在伪科学活动中,有很多伪专家,讲着伪科学,骗取信任,迷惑公众。这类伪专家一般都是为了骗财,一旦跑到政治和治理领域兴风作浪,就与伪技术治理现象相关,属于我所称的“伪科学的治理术”。还有一种情况是:专家是真专家,但在治理活动中并未真正坚持科学运行社会原则。也就是说,专家执政并不一定等于科学执政,这种情况我称之为“非科学的专家政治”。

在当代社会治理活动中,“非科学的专家政治”并不少见。一类是:某个专家起初因为专业能力被提升至高位,之后却没有实践技术治理,而是利用科技玩弄权术,为某些人谋求私利。按照布鲁诺.拉图尔的观点,今天的科学(Science)已经转向研究(Research),与各种社会利益因素纠缠不清,早已不是以纯粹求真为最高旨趣的实践活动。在此情形下,专家掌权后因私利故意偏离技术治理的情况,就很容易出现。另一类是:在执行科学运行社会原则时,专家并非故意为之,而是无意地造成偏差,从科学技术中“导出”非理性、非科学的治理方式。其中的原因在于治理转译的复杂性:治理转译可能变成治理误译,最终使得技术治理成为伪技术治理。

当然,仔细追究起来,有意的“非科学的专家政治”也与治理误译有关:因为它同样要用治理误译将非科学的治理术“装扮”成“科学”的形象,所以有意者必须故意进行治理误译。最近,在汉语世界的一个流行词“话术”,可以很生动地讽刺此类处心积虑的治理误译。总之,“非科学的专家政治”与治理误译关系紧密,其中的区别只在于有意与无意。

3.非故意的治理误译问题

我们以进化论到社会达尔文主义的转译,来说明无意的“非科学的专家政治”中的治理误译问题。在《物种起源》中,生物进化是无目的、无方向的,不过是不断的生物突变和自然选择过程。也就是说,进化并不意味着进步。到了20世纪之交,在社会达尔文主义思潮中,进化与进步被等同起来,生物进化也被解释为生物从低级到高级发展的过程。在《社会静力学》中,斯宾塞断言:

进步不是一种偶然,而是一种必然。文明并不是人为的,而是天性的一部分;它和一个胎儿的成长或一朵鲜花的开放是完全一样的。人类曾经经历的和仍在经历的各种改变,都起源于作为整个有机的天地万物之基础的一项规律。……可以肯定地说,人类的各种机能都必然会训练成完全适合于社会性的状态;可以肯定说,邪恶和不道德必然要消失;可以肯定地说,人必然要变得完美无缺。

在达尔文的著作中,并没有此类结论或假定。从外部环境来说,斯宾塞的观点与当时即维多利亚时期英国盛行的乐观主义不无关系。社会达尔文主义将生物之间的生存斗争的自然法则运用于人类社会,得出诸多人类社会运行的治理原则,比如淘汰社会中的不适应者是社会进步必不可少的步骤,所以应当放任社会淘汰甚至主动人工淘汰。因此,如白芝浩所言:

这种逻辑下的经济社会政策,背后潜藏了如下价值判断、道德立场和伦理态度:人与人之间、民族与民族之间弱肉强食是“自然”而合理的现象;这显然属于有利于既得利益者的强权逻辑。从此强权逻辑出发,可以进一步引申出更为激进的主张,即我们所熟知的纳粹主义者的主张:社会中那些不能适应的失败者,无论是种族、民族还是阶层或个人,都是比较低劣的人,他们不值得同情,活该承受“自然”淘汰的命运。

20世纪之交,社会达尔文主义在全球流行,影响甚巨。在中国,严复将赫胥黎的《进步与伦理》翻译为《天演论》,加入大量的社会达尔文主义的思想,并由此得出大量关于社会运行的治理命题,比如“优胜劣汰”等观点带有明显的道德意涵,而在《物种起源》中生物进化是没有任何道德意涵。在“互争”篇章,严复强调“与天争胜”,与各国各民族斗争,并认为这是赫胥黎不同于斯宾塞之处,实际完全是严复自己的转译,并非赫胥黎的原意。可以说,刺激各国竞争和民族争胜的社会达尔文主义,对于两次世界大战的爆发不无关系。

到第二次世界大战结束,社会达尔文主义已经成为贬义词。越来越多人反对进化等于进步的观点:如果生物进化是低级向高级进化,阿米巴虫的适应能力比人更强,那阿米巴虫比人就更高级,所以“从低级到高级”是人站在主体立场上的价值评价。若如此,evolution也不应该翻译成“进化”,而应该翻译为“演化”。只有消除进化论中的“价值增生”,才能避免从它开始的治理误译。但是,这无疑是非常困难和复杂的。

4.技术治理并非技术统治

归根结底,伪技术治理产生的原因是对科技的误读和滥用。“伪科学的治理术”以伪科学为根据,完全不是科学,却假充最新科技。无论有意还是无意,“非科学的专家政治”对科学原理和技术方法的理解都是错误的、片面的。它们均将科学视为一种有力的操控术,而不是探索和造福社会的真理术。

最近30年来,治理理论很流行,“治理”(governance)在很多场合中都取代了“统治”(government)一词。虽然各家对治理的定义差别不小,但均认为治理根本上意味着社会运行中支配原则的转变,不同于统治依赖于国家强制力,而是要“依靠多种进行统治的以及相互发生影响的行为者的互动”。总的来说,理解“治理”的要点在于:1)治理主体是多元的,而不仅局限于政府,甚至有些情境中政府并不在治理活动中担纲主导。2)治理活动强调互动,参与治理活动各方均发挥积极性和能动性,尽量不要依赖不平等的强制力。3)治理活动强调在不断的自组织运动,在行动过程中“创造”各方满意的治理成果。4)治理活动经常以说理的方式来达成不同程度的支配,表现为知识与权力相结合的治理术,而非暴力与权力相结合的统治术。

因此,技术治理不等于技术统治,智能治理不等于智能统治。技术治理不能等同于有权者运用科学原理和技术方法来统治无权者,而是要理解为某种治理术应用情境中各种利益相关者通过多种互动行动推动社会向前发展。否则,坚持技术统治的观念,容易将新科技视为操控术,催生大量的伪技术治理现象。在现实中,具体的技术治理出现的很多问题,都与错误的技术统治论思想有关。

信息技术兴起之后,吉尔.德勒兹告诫我们:必须警惕智能技术滥用,智能治理社会可能成为智能操控社会。他认为,当代社会可能正在滑落到控制社会。他指出:“我们正在进入控制社会,这样的社会已不再通过禁锢运作,而是通过持续的控制和即时的信息传播来运作。”也就是说,社会运行日益强调信息科技在控制中的作用:对统治的社会,与之相应的是简单或力学的机器;对惩戒的社会,与之相应的是高能的机器;对控制的社会,与之相应的是控制学和电脑。”

福柯批判现代社会,斥之为规训社会,即社会对每个人的身体和行为进行改造,使之成为驯服的臣民。通过比较规训社会与控制社会,德勒兹谈到控制社会的一些重要特征:1)信息科技的基础作用。2)禁锢被控制代替,前者有清晰的主体型塑目标,后者强调不断地调制的过程。3)签名被数字代替,前者说明权力深入到个性化的人,后者只关心识别口令,完全不关心信息背后的人。换言之,人在控制社会完全“消失”了。4)规训社会的危险是被动混乱(主要根源于信息掌握不全)和主动破坏的危险,控制社会的危险是被动干扰(信道噪声)和主动的电脑犯罪(如电脑病毒传播)。5)销售取代了生产,生产是规训社会的轴心,销售是控制社会的轴线。营销学成为社会控制的工具,人们被莫名其妙的成功学激励,变成厚颜无耻的逐利享乐之辈。因此,“人不再是被禁锢的人,而是负债的人。”

在德勒兹担忧的智能操控社会中,智能技术被用于精确操控每个社会个体的目标中,完全放弃了探索世界的求真理想,也违背了提升社会运行效率的技治目标,成为伪技术治理的帮手。此时,整个社会就可能沦为某种信息技术所操控的社会即信息操控社会。总之,技术治理有边界,越过界限就沦为技术操控;技术治理为整个社会效率提高服务,服务于某些人或集团的私利就沦为技术操控。

5.技治、非技治与准技治

如何避免伪技术治理?这是非常复杂的制度建设问题,牵涉到国家治理体系完善和治理能力提高的方方面面。比如,消除误解,树立正确的科学技术观念;制衡专家,警惕知识权力失去控制;约束政府,防止技术治理沦为操控;人民参与,保证新科技为人民服务,等等。就技治系统本身的运行而言,应对伪技术治理问题,涉及到正确技治观的确立,坚持我所谓的有限技术治理观念。

治理活动存在各种各样的形式,比如德治、法治、神权治理和金钱政治等。技术治理属于其中新近流行的形式之一,由于科学技术的强势地位才在当代社会日益占据主流位置。伪技术治理属于非技术治理,它的问题在于冒称技术治理而不当牟利,而不在于它不是技术治理,因为并非技术治理才能成为好的治理。在技术治理诞生之前,也存在很多受人称道的治理方式。总之,治理活动效果的好坏,要根据它设定治理目标来评判,而不是根据科学与否来评判。

对于技术治理,要有正确的认识,认清新科技用于治理活动的有限性。既不要认为,用上智能技术,治理就科学了;也不要认为,只要治理技术化,什么问题都解决了。在中国,技术治理必须服从中国特色社会主义民主制度,为国家治理体系和治理能力现代化的目标服务。在实践活动中,不要夸大技术治理的作用,尤其不要迷信智能治理,严守治理与操控之间的界限,警惕技治过程可能出现的问题,不断纠错纠偏,才能更好地应用发挥技术治理的作用。

在疫情技治过程中,很多人发现:由于情况千变万化,尤其是病毒不断迅速变异,在海量数据基础上制定的一揽子应对方案,实施后效果并不好。相反,混合各种技术的、非技术的拼凑型治理方案却效果良好。即使是哪里冒头治哪里的“打地鼠”治理方案,只要响应得迅速,也比总体化大数据治理方案更为奏效。原因其实很简单:治理是行动,而非理论,治理情境非常复杂,不是数据模型所能完全刻画的。

中国疫情治理成绩的取得,归根结底依靠的是村镇、街道和社区等基层治理的有效治理。基层组织治理能力的差异,直接导致中西方公共治理模式选择、治理措施与运行效率等各个方面的差异。

的确,以健康码、行程卡、微信群为代表的大数据技术在基层疫情应对中发挥了不可替代的作用。但是,中国基层组织治理疫情时,并非完全是执行某个自上而下的总体技术治理方案,而是会结合自身情况融合诸多其他的非技术治理措施,尤其很多从古代就流传下来的传统封控措施。大数据等技术治理方法与传统非技术治理方法有机结合起来,形成某种我所称的“准技术治理方案”,在实际的疫情技治发挥了重要的作用。

显然,准技术治理是一种有限性的技术治理模式。首先,准技术治理具有很强的地方性色彩,与具体治理语境相关,最好一地一议、因地制宜。其次,准技术治理要及时而不断的调整和变化,不固守某个单一的路线、模式和方案,尤其是病毒变异应对也要变化。最后,准技术治理要重视专家意见,更要约束专家权力,重视基层组织的意见,吸取人民群众的智慧。

正如伊德所言:“现实的或物质性的技术总是具有部分透明性或准透明性(quasi—transparency),这是技术所带来的放大效应的代价。”在真实的治理情境中,大数据治理面对的正是技术上准透明性的被治理对象。无论新科技发展到什么程度,技术世界的准透明性都是无法改变的,完全透明的社会都是一种想象。如果治理者把数据世界当作真实世界,注定要在治理行动中遭遇失败。如果把正式知识当作全部知识,非正式组织的力量肯定要给治理者教训。因此,准技术治理不是完美的技术治理,但却是令人满意的务实主义治理方案。



进入 刘永谋 的专栏     进入专题: 新科技  

本文责编:admin
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 哲学 > 科学哲学
本文链接:https://www.aisixiang.com/data/137773.html
文章来源:本文转自《民主与科学》杂志2022年第5期,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统