摘要:“遥控”作为一种“能—控物”的技术方式,是现代技术对持握在手的实际性“能—控物”的一种不断超越。人工智能算法塑造下的“遥控”总是不断地跨越各种各样的距离限制,极大地扩展了人类活动空间和范围。然而,它由此引发了一个“本源性生存伦理”问题:“遥控”对距离的消除能否带来世界的切近?相比于“伦常日用”中人“让工具抽身而去”而切近一种“上手状态”而言,“遥控状态”以一种“让身体抽身而去”的方式把人和用具“融为一体”。这种“能—控物”由“上手状态”到“遥控状态”的形态转变,应该同时是一种实际性的“让身体抽身而去”的“能—自控”。因为,“身体的抽身而去”不应成为一种使世界幽灵化或傀儡化的技术展现,它要想成为一种真实的世界之“切近”,就必须匹配一种伦理之“能”的“能—自控”,而后者乃是以一种技术“具身性”的构成环节为前提的——它产生的效应,是人在身体习性和物态特征层次上基于技术调节的伦理关联性转变。即“去身化”“脱域化”的“能—控物”作为“遥控状态”,要求一种“具身化”“体塑化”的“能—自控”,来为自己预为前提(预为备案)并预作担保。否则,世界的“转身疏离”将不可避免。遥控行动从基于传统用具的“按钮”到基于智能化遥控设备的“点击”,再到可穿戴、可坐乘、可触控或视控、可嵌入的“智能体”,遥控行为的物态特征的转变揭示出技术设备与人的“脱域化”及“具身性”回返的辩证运动。其结果就是,人与生活世界的疏离化既然受到“遥控”的世界化作用,“世界的切近”必然要求这种疏离的被扬弃。这意味着,直面生活世界的整体性疏离,我们亟须展开“遥控”作为算法现象的实践理性批判——特别说来,是展开“遥控”作为算法现象的技术伦理批判。它通过追问“距离的消除能否带来世界的切近”,问向人类实践的控制论旨趣如何从“控物”层次向“自控”层次之深度转变以及此种转变的良机何在。
关键词:遥控 算法现象 世界的切近 上手状态 技术伦理
在人工智能“算法”实现全域支配或遥控的时代,人类“控物”能力进入不断迭代升级的加速发展之中。“遥控”似乎进入我们生活的各个角落。这使得以无线电为代表的“远程通信技术”(现代性“遥控”的早期形态)显得基础而朴素。然而,我们不应忽略一个基本事实:这项在20世纪二三十年代开始逐渐得到应用的技术,使人类第一次以信息方式实现了“世界的联通”。尽管这种联通在今天甚至发展为一种基于算法的“万有一体”“万物互联”的“物联网”形态,但是在追溯现代技术把“世界”作为“被安排”“被调控”“被摆置”之整体的能力和野心方面,现代意义上的世界之被“遥控”的原型或最早形态其实早已显露于此。从早期远程通信技术到今天的人工智能算法技术,现代技术扩展人类“能—控物”的深度和广度的方式,带来了一个令人困惑但意味深长的“遥控现象学”问题:世界越来越被把握为一个可控的整体,这在“遥控”作为算法现象的技术构架中甚为突出。然而,如此“被遥控的世界”与生活其中的存在者的关联却越来越疏离了。
今天,“遥控”作为算法现象,总能使“远在天边”之物倏忽之间“达于”并“迫近于眼前”。然而,面对这种“迫近”,我们要反复追问的一个问题是:这样由技术“集置”而组建的生活为什么总让人感到疏离呢?距离的消除为何不能带来“世界的切近”呢?遥控的技术现象学分析在此追问中有待展开,且有待以此为一条作为算法现象的“遥控的技术伦理批判”预备道路。
“遥控”成了哲学问题
从一种描述意义上看,人类生活的美好在于世界以适当方式变得“切近”而非“疏离”。世界的“陌异化”或“疏离化”是一种典型的现代性表征。这样的描述,产生了一种颇为流行但令人沮丧的观点,即认为现代世界因其与人的“不切近”而“并不美好”。细究其缘由,盖源于现代性置身于一种“结构性的”矛盾之中:人类越是实现对世界的技术化控制,越是想要通过一种控制论工具切近世界,便愈为深切地感受到我们生活于其中的世界正在“抽身离去”,并进而体会到世界的“不切近”。因此,从总体形态上看,现代性总是在一种高速运转(甚至高速旋转)中让我们的生活世界遭遇某种日益“陌异化”的“不可掌控之物”的侵扰,并被周遭充满的危险“环伺”。世界因此变得越来越不“真切”,越来越不“切近”。
上面所说的“不切近”,尤其表现在当今由“算法”塑造一切、支配一切的智能化时代的技术展现中。这种“不切近”在由算法塑造的社会世界里,甚至总是以日常管控和监督的“便捷”与“切近”的生活形式呈现。不论是“扫码付款”还是“人脸识别”,不论是“智能声控”还是“无人驾驶”,在某种意义上都属于作为算法现象的“遥控”。它对控制论景观的改变,是使得以往那些“因持握在手”而实际性的“掌控”,变成某种“因距离消解”而不在场的“遥控”。我们在美团消费餐品,在京东购物,在当当浏览书籍,或者在网站看电影,在线预订旅馆房间等,都依赖且受制于算法的“预测建模”和“遥控处置”。在这些日常生活的具体情景中,“因持握在手”而实际性的“掌控”愈来愈为智能化时代的“因算法在线”而快速便捷的“遥控”所取代。
毫无疑问,“世界的切近”与人类面对“不可掌控之物”的处置方式和基本态度紧密相关。这些“不可掌控之物”既有来自大自然的危险事项,也有来自人类虚构的可怖之物,而更多的则是来自人类活动自身。在这个意义上,“世界的切近”,实际上建立在一个朴素但又不失浪漫的概念基础之上,即我们世界中的所有事物都以某种方式转化为一种“本源性生存伦理”的“人的诗意栖居”。诗人木心在他的诗作《从前慢》中写道:
记得早先少年时/大家诚诚恳恳/说一句是一句。
清早上火车站/长街黑暗无行人/卖豆浆的小店冒着热气。
从前的日色变得慢/车、马、邮件都慢/一生只够爱一个人。
从前的锁也好看/钥匙精美有样子/你锁了,人家就懂了。
木心的吟唱,回荡着一种深层地对“遥控化世界”或“世界遥控化”的拒绝。一个追求诗意栖居的“诗者”根本不需要思考如何更快更好地“控物”问题。因而,“从前慢”,是“不以控物为目的”的与世界相与或共在,并由此去面对“不可掌握之物”,且让世界如此这般“切近”。这种审美式的处置方式和基本态度,是诗意地让“切近”的世界(生活)成为“一首诗”或是“一幅画”。
世界的“不切近”或“世界的远遁”,最为典型地体现在“从前慢”这样一种“不以控物为目的”的“诗意栖居”被现代性对世界的“全面掌控”所取代。现代技术的高速运转和魔幻式发展提供了人类“能—控物”的各种最为“近便有效”的实现方式。而基于控制论世界图景的现代技术的运用,又使得“遥控”作为算法现象的世界构造成为可能——它提供了人类“能—控物”的一种极大化、极致化的基础架构,以至于我们可以说,“物联网”“脑机接口”“基因编辑”“机器人模拟”“干细胞克隆”等“控物”形态,皆是“寄寓于”且“加速着”一种“作为算法现象的遥控”的技术架构之上。于是,“不以控物为目的”的“从前慢”被“一切都被遥控支配”的“现在快”取代。
从一种哲学性质的反思性视角看,我们更愿意把诗人的吟咏看作一名孤独的“写诗的人”对同样孤寂的“运思的人”的邀请和召唤,即海德格尔所说的“召唤思”——召唤或者呼唤一种瞩目于未来的哲学之“运思”与“诗思”同行,好让“思之运动”能达于“遥控的世界化”和“世界的遥控化”,以回应在现代技术“魔幻式”的加速涌现中,我们如何才有可能更好地“规划”“世界的切近”,或者说“被规划”于“世界的(于我们的)切近”中。
“遥控”作为人类“能—控物”的技术展现形式,其现象形态之表征,就是一种“不上手的掌控”。这是一种与实际性的“持握在手的掌控”相对的“能—控物”的另一种形式。在这个意义上,就“遥控”之为哲学问题而言,一个“遥控现象学”的视域有待展开。
不上手的掌控:隐秘支配类型及其祛魅者的附魅
追溯来看,“遥控”的“发生学机制”根源于一种“隐秘支配类型”的诞生。“遥控”的隐秘本质及“超验设置”有其“古老范型”和“现代类型”。
从一般权力结构看,“遥控”起源于行动主体“S”(Subject)通过某个中介“X”完成对客体“O”(Object)的“不上手的掌控”。我们把这个遥控模式记为“S-X-O”。主体“S”达于客体“O”的掌控方式,不是以直接“上手掌控”的形式进行,而是通过发挥这个“X”的功能达至一种“能—控物”的状态。问题的关键在于,在这个“S-X-O”模型中,那个起“遥控”作用的“X”到底是什么?人类文明的内在动力结构表明,文明总是以各种不同的“范型”设计或筹划了起遥控或支配作用的“X”。
我们在遥控的“古老范型”中看到,“X”的原初模型及其功能通常是由“古老神话叙事”“宗教神秘主宰”和“形而上学超验本体”等赋予某种“隐秘支配类型”以超级遥控的支配型及正当性授权。这里,作为隐秘支配类型的“X”通常具有伦理实体的属性,往往关联着支配性资源之占有。它或者是通过“上帝视角”,或者是通过一只“看不见的手”,来达成“S-X-O”的控制性占有。当然,我们也看到,这一古老范式中的“X”也有其对应的“可见”经验形态。例如,将庞大帝国联通起来的“驿站”和将“天国”消息播于尘世的“教堂”。这种巨系统“遥控”的权力运作,不论化身为“神秘宗教权威”,还是化身为“隐秘政治权力”,都要求一种“玄学”或“形而上学”的先验论证来确保其伦理普遍性的“名正言顺”。
当然,在上述支配类型中,其隐蔽的虚无主义本质在于:一旦神秘“X”不再神秘,古老的“隐秘支配类型”及其哲学形而上学构造就必然面临破产的命运。如此一来,作为隐秘支配类型的“X”,在遥控的现代类型中,必然从其“古老范型”的隐秘处现身出来,以现代世界的全面“技术展现”“资本逻辑”或“生命治安”等形式,公开其遥控现代型的“双重魅影”:第一,由于“遥控”的古老范式“被颠覆”,世界呈现为“魔力的丧失”,或曰“祛魅化”,这是第一次“祛魅”;第二,面对世界“魔力的丧失”(“祛魅化”),一种以“切近于世界整体为目的”的生存论伦理诉求将再次呈现,它表现为对世界之“祛魅”的再次“祛魅”,或曰“祛魅化”的“祛魅”,是“再祛魅”或“第二次祛魅”,此即表征为让世界重新“附魅”且让世界切近于我们“在—世界—中—存在”的一种伦理希望——我在此指认,海德格尔称之为“存在意义”的再次呈现或者“绽现”即此种希望之表征。
从词源上看,现代汉语中“控制”一词的“词义”通常指的是“掌握住”或“使其不能任意活动或超出一定范围”。“掌控”“驾驭”“把持”“支配”——这些动词,表示使“受控者”按“控制者”的意愿行动。从字面上看,“遥控”的“S-X-O”模型蕴含一个基本内在张力:“遥”则不能“控”,“控”则需“持握在手”;可是“遥控”却偏偏要强调一种“不拿在手里”(“不上到手头上来”)而能“远距离”的控制,一种“不在场的”或者“不与受控对象直接接触”的“掌控”。这如何可能?显而易见,如果没有“超能力”、没有“隐秘支配类型”的介入,人们对此种魔法式的“不上手的掌控”便无能为力。如果说,遥控的“古老范型”是通过神秘化遥控模型“S-X-O”中的“X”来进行神话、宗教、政治或形而上学的构造,那么,它的现代类型则是通过理性化和技术化(特别是在现代信息技术和人工智能算法技术的支持下)完成对传统的“手”及其神秘化的“X”的庖代或超越。于是,现代类型的“遥控”,就与强调“在场”且与物切近的“上手”或“涉身”形成了鲜明对比。
从算法现象的原初模型看,现代类型的遥控虽然也是通过传递信息(下达指令)使对象或客体做出反馈和调节来实现,但是,算法现象的“遥控”不是基于信息的单向传递,也不是对某种速度受限的一种“身体到达(如交通技术)”的遥控,而是一种高速、双向的信息传递、处理和反馈过程。其遥控模型“S-X-O”中的“X”作为一种技术展现形式,以人工智能算法基础上的智能化遥控技术为代表,是一种“能—控物”的世界化构造的现代型的完成,我们称之为“世界的遥控化”和“遥控的世界化”。就“世界的遥控化”而言,“控制论”的创立者维纳早就有所指认。他指出,“消息的运输”扩展了人的活动能力,“人的语言所达到的地方、人的知觉能力所达到的地方,也就是他的控制能力扩展所及的地方,而且在一定意义上也就是他的肉体存在扩展所及的地方”。“世界的遥控化”沿着这条控制论路径,在算法现象中达到极致。就“遥控的世界化”而言,今天我们构造世界的方式已经离不开由人工智能算法加持下的“信息自动化或智能化”所开辟的道路。例如,它使得教师和学生不必身处同一间教室就能组织和开展线上教学活动,无人机的操控者也不必亲临战场就能对军事目标实施打击。在这些例子中,遥控体现的控制力在“能—控物”层次上的扩展,代表了“遥控的世界化”的两种技术倾向:一是控制过程加速减少甚至取消了“上手操作”,这是技术自动化或算法智能化的倾向;二是人工智能算法通过不断的“算力提升”和“机器学习”完成遥控即时化,以克服时空距离的阻隔,实现通信控制同步。这是信息传输即时化或算法控制同步化的倾向。
现代类型的遥控在世界加速化、可及性以及生活范围拓展方面,使人们的生活无比快捷便利。可是,遥控作为以“距离的消除为目的”的“能—控物”,实际上并没有带来“世界的切近”(或“近距离或无距离的亲切友好”),而是产生出一种巨大的疏离。例如,在以“量子位”为单位的计算技术构造人工智能算法的框架系统中,量子计算将使人工智能、网络安全、仿真实验、“数智医疗”等技术以“指数级”加速发展,然而量子世界的“能—控物”在达成遥控的“友好界面”之前却要经历复杂而漫长的“充满风险的”特别是“不友好的界面”,且即使“友好界面”出现,它也会随即为新出现的“指数级”计算的技术界面所覆盖。海德格尔较早注意到现代技术的这种加速化的负面作用。他在《物》这篇论文中写道,“时间和空间中的一切距离都在缩小”,“人类在最短时间内走过了最漫长的路程。人类把最大的距离抛在后面,从而以最小的距离把一切都带到自己面前”。海德格尔列举了无线电、飞机、电视等例子。他指认,“电视机达到了对一切可能的遥远距离的消除过程的极顶”,“不过,这种对一切距离的匆忙消除并不带来任何切近;……小的距离并不就是切近。大的距离也还不是疏远”。当千篇一律的无距离状态把一切都搅在一起,“那又怎么样呢?难道把一切都推入无距离状态中,不比把一切都搞得支离破碎更可怕吗?”我们看到,在20世纪中叶,这种观点是一种颇具前瞻性的示警。海德格尔彼时还只能去“预判”一种技术的生活化或者“遥控化的世界”,而智能时代已然揭开了一个可以从算法支配的数字化世界内部去观察“生活的技术化”或“世界的遥控化”的实际进程。
“智能化遥控”实现了一种特殊的“能—控物”习惯。遥控的“古老范型”及其“现代类型”似乎可以在智能化的电子世界和即将到来的量子世界中不断地更新其内容、结构和形态,并朝向一种“友好界面”进行迭代重构。它预示着一种让世界重新变得“切近”起来的可能。在这里,伦理世界的希望呈现于日常生活的“不上手的掌控”。例如,在照护病人、孝养老人、看护婴儿、无人驾驶等行动中,“智能化遥控”不仅在“能—控物”的“用物”习惯方面进行技术协调,还在与之相关的“能—自控”的“用生”习惯方面进行道德协调。而一个令人深思的遥控现象的深层关切是:“用物”习惯的技术协调,作为一种智能化遥控的算法现象,本身就是一种“道德协调”的现实展现。人工智能算法让世界重新“附魅”的逻辑就在于这种“用物用生”中“技术—伦理”双重协调机制的融合。
从生存史的视角看,这里所说的“技术—伦理”的双重协调,是由“工具—机械—设备”的用具形态衍化,改变了人与物(尤其是技术物)打交道的方式——它在人的生活世界的维度,推进了一种“操劳(操持)—操控—操作”的形态演化。从生存论的视角看,“机械类型”的“操作”进入人的生活世界,不是淘汰了先前的“工具”,而是把先前的“工具”衍化成一种以“机械的工具”为中心的“操控”类型;同样,“设备类型”进入人的生活世界也不是淘汰了“机械”“操控”,而是把“机械操控”衍化成为以“智能机械”为核心的“操劳”(“操持”)。所以,作为算法现象的遥控,并不替代一般意义的“上手状态”,而是与“上手状态”并存于生活世界。它继承了“上手状态”的诸多基本特征,它是“无需掌握的控制”,是“不在手中的上手”。从用具谱系学看,“上手状态”不仅适用于描述操劳中人与工具的“切近”关系,也可刻画和对比“遥控状态”下的人与世界关系之“切近”的理由与根据。
回到遥控事情本身
今天,“遥控状态”乃是一种实际发生且有待全面展开的人的技术化生存的状态。但是,我们根据何种“X”进入“S”对“O”的遥控状态,从而使“S”实际地被此种“遥控状态”所标定或支配呢?
这一问题,在事关遥控之根据和理由的层次上,使得遥控现象学不只是进行“事实层面”的现象描述,而更应进入“价值层面”的深度揭示。例如,“由传感器构成的电子皮肤”“由神经网络驱动的人工智能视觉算法”等新技术的应用,使得“上手状态”必然表征为一种“不上手的掌控”。
然而,遥控现象学关注的问题焦点,显然并非将“电子皮肤”或“人工智能视觉算法”等技术设备预设为遥控的根据和理由,而是要透过使“上手状态”表征为“不上手的掌控”这一现象事情本身去揭示其生存论的根据和理由。
因此,遥控现象学的第一个原则是要面向并回到“遥控事情本身”。这在总体上规定了它所关注的问题视域,大致说来,由以下三个问题环节构成:(1)“不上手的掌控”是如何发生的;(2)“不上手的掌控”面临着(或者带来了)怎样的“生存论风险”;(3)一种遥控现象学的忧惧意识,为何构成生存论本源伦理学所必不可少的本质直观——它是否以及如何才有可能开展出一种有助于人类未来之能“预见风险”、能“防范风险”以及能“治理风险”的技术伦理学“远见”。
从“遥控现象学”视域的三个问题环节看,“遥控”是对实际性“持握在手的掌控”的一种持续性超越的追求。这个问题最先要求对“遥控”之为人的“能—控物”这件事情本身进行朴素的现象学还原,以肃清其根据和理由。从人的实际性的在世而言,只有当“持握在手的掌控”遭遇“不在手”或“不上手”(因“空间距离太远”或因“时间距离太久”)之状况时,“遥控”的实际需要才得以产生。而催生这种需要,恰恰是由“上手的掌控”变得“失控”这件令人忧烦之状况所引发。因此,从隐喻义看,“遥控”本身作为人的“能—控物”,始终隐蔽着巨大的“不在掌控之列”或者“失去控制”(简称“失控”)的风险或危险。
智能化“遥控”带来的巨大的“近便快捷”也隐蔽着巨大的风险。一旦人工智能算法现象将“遥控世界化”和“世界遥控化”的控制论世界图景展开之时,这种隐蔽的风险就会转化为一种系统性的“生存论风险”。因此,不论是人的身体实践还是心智活动,都需要纳入针对这种“不上手的掌控”所揭示的实践理性批判的“问题视域”。它厘定了作为遥控现象的实践理性批判要对之进行深究的技术伦理问题:(1)为何“遥控的世界化”对“距离的消除”不能带来“世界的切近”?(2)为何“世界的遥控化”所带来的“生存论风险”在今天以及在未来人的生活世界中会变得日益紧迫且不可避免?(3)为何“何不早早规划未来”的“预作打算”需要调整人们看待遥控问题的视角,即要把关注的焦点从人之“能—控物”的“技术之维”转向人之“能—自控”的“伦理之维”?因此,遥控现象学以上述三大“问题”为探究之指引,必然上升到遥控现象学的一般性的前提批判:谁在遥控?以何种方式遥控?遥控结果如何?有何风险?如何防范或治理?遥控现象学的“问题域”在此问题指引下,要求从一种“本源性生存论根源”来追溯遥控现象本身。
从现实形态上看,任何一种遥控现象,在其一般意义上,都源于人之“能—控物”的实践能力。前文表明,相较于“上手状态的掌控”,遥控作为“能—控物”的一种形式,直接呈现为“不上手的掌控”。因此,遥控现象学的一般性“能指”,“指向”两个层次的“能”:第一,它指示人的“控物”之“能”,属于人在“能—控物”层次对“上手—掌控”的一种超越;其二,它指示人的“自控”之“能”,属于人在“能—自控”层次对“在场—自控”的一种超越。
据此,从行动逻辑看,一个“遥控”行动之所以能够顺利地发生,需要以行动者“能—自控”为前提,这意味着,“谁在遥控”的问题,不是简单地探明“单一行动主体”之为“谁”的问题,还关联着占有支配性资源(“能—遥控”)的那个“谁”(包括其复合性或复数性的构成)及其遥控行动的实践合理性问题。因而,从遥控现象产生之日起,它就已然在存在者层次和存在论层次上展开了一个“遥控伦理的问题域”。
从“存在者”层次看,一个不能“自控”者无法实施“遥控”行动,若强行如此,大概率会导致行动“失控”或者引发“失控”的行动。这表明,“谁在遥控”的“谁”,先在地拥有道德上的重要性,并因此关联着品质之善、德性之能、义务和责任的规范或规定。“以何种方式遥控”的“方式”,同样需要附加不可缺少的道德上的考虑,以匡正“行动者如此行动(在遥控事态上)”所依据的根据和理由,而这一定关联着某些与规范性、合理性、正当性有关的道德上的议程。而“遥控的结果”,则伴随着善好、幸福、效用(功利)等与结果相关的价值评估及风险规避问题,且要求将遥控事情本身慎重地纳入后果论讨论的视域之中,因而总是在“向后看”的归责评估和“向前看”的功利计算方面进入道德上的结果评价与后果评估。
从“存在论”层次看,遥控伦理的问题域是与人的“能—控物”和“能—自控”两种“能在”(从“能在论”作为一种人的“存在论规定”看)方式紧密相关的。这两种人的“能在方式”在存在论上标画出“能在”作为人的主体性自由或意志自由的现象学上的基本规定。我们把前者称为一种与技术学实践范畴之“能”相关的“能在论”课题。它的发展在今天表现为以提升“控物能力”的各种“指数级”加速发展的现代技术的“能—实现”为代表性标志。人们在智能化遥控的“范型”中,将会看到它所展现的一种全新的“科学—技术—经济”的一体化。我们把后者称为与伦理学实践范畴之“能”相关的“能在论”课题。其发展以提升人和人类自控能力以及与之相关的伦理普遍性生存为主,是人在道德领域或社会领域的自立法度,主要来自精神、德性、价值和规范方面的自我确立和自我技艺(自我技术)。
在今天,这两种“能在论”的辩证关系,是一个硬币的两面,二者“你中有我”“我中有你”,共同关涉科技与伦理相互关联的功能状态及其展现的问题论域。随着人的“能—控物”在技术上走向成熟且日益发展到极致,人们今天对“人工智能算法”超越人之“控物”能力且极大化扩展“不上手的掌控”(即现代技术展现的“遥控”)的担忧与日俱增:“能—控物”者在日益技术化的遥控现象中反而为其掌控之物所控,这前所未有地挑战着人之“能—自控”的限度;而如果没有基本的或者基准层次上的“能—自控”,放任人类“控物”能力的无限膨胀,“机器人”统治人类便不可避免。
因此,人类在此问题上遭遇的遥控伦理学的技术伦理难题在于:现代性遥控使得“能—控物”在技术上总是不断地迭代升级;然而,现代人类型的“能—自控”在伦理上又止步不前。这一巨大的“技术—伦理”反差,最典型地展开了“遥控”作为算法现象的技术伦理批判的“问题域”:当遥控的隐秘支配类型,即其“古老范型”中被神秘化(神化)的“X”,成为一种为人工智能算法所展现的现代技术支配类型,而当“世界的遥控化”在算法的解蔽逻辑中彻底完成之时,现代人类型的“能—自控”是否可能及如何可能?
身体的抽身而去:伦常明察的技术伦理史重构
作为算法现象的“遥控”或“遥控化”的世界,不只是人之“能—控物”形态的改变,还赋予现代人“能—自控”以一种不断“迭代升级”的“伦常明察”之可能,以适应人之世界的“能—控物”的智能化构造。在此意义上,作为算法现象的遥控,由三个独特且相互关联的“伦常明察”之要素构成。
第一,“让身体可以抽身而去”。人工智能算法改变了“伦常明察”的结构形态。人类行动者几乎完全从日常决策程序中退出。他或她只需要下达指令——或者通过点击屏幕,或者通过在线预约,或者通过“声控”“手势控”甚至“意念控”(例如通过智能头盔读取人脑意念),人工智能、数据库、网站和自动化程序就能从实际决策中取代人来做出“明察”式决策或进入实际性操控。在人工智能算法支持下的自动化“遥控”情景中,监督、操控或决策更像是一个分类学问题,而必不可少的自由裁量权则转移到算法专家和模式识别的数据分析师手中。这意味着“身体的抽身而去”在一个遥控化的伦常明察的日常世界中带来了“伦常世界”的改变:人类行动者或主体的角色,被“算法明察”功能化地改变或者转换成为基于人工智能算法产品的“用户”或“客户”。
第二,“让控制完全基于算法”。人工智能算法嵌入伦常明察的日常生活设计、组织实践或者程序,它衍化成为一种基础性的信息架构的核心。这带来的一个世界化效应就是:一切似乎都是由算法说了算。计算主义或数据主义,在这种新的信息架构中,化身为一种旨在遥控生活与世界的核心理念或原则。它构成日常生活、商业组织和公共服务的运作方式。这种基于算法的控制,标志着一种技术伦理史重构的展开。例如,技术伦理之推进人的“伦常明察”的日常生活或周围世界的设置,在“物联网”(IoT)条件下获得了最具代表性的遥控伦理的支持,它使得世界的“被遥控化”不再是一种偶发的个别化事项,而是一种走向极致的世界化展现。
第三,“让算法扩展应用于世界化”。在算法社会中,个人及个人的生活皆“由描述和预测其行为的数据集定义”。“伦常明察”的伦理普遍性,由此通道获得了其奠基性的技术协调形式。它提供了一种“时空距离被消解”或“被打包压缩”后的算法世界的控制论图景。例如,在数字化医疗中,算法扩展到个人医疗生活的领域,应用于疾病预警、诊疗的指引提示并提供就医建议和与健康相关行为的指导和约束等。算法现象预设了一只“看不见的手”进行“全域遥控”(预测、支配、控制、预警、约束等),从而使得基于算法“遥控”的“切近”成为可能。“遥控”作为算法现象,改变着技术、权力、资本和知识的“组合形态”,而当这种“新组合”以“能—控物”的形态应用于“世界化”之时,它在人的“用物习性”和“用生规范”(儒家“利用厚生”之规范)方面,进入技术伦理史重构并成为哲学批判的主题就成为必要。
不难看到,当作为算法现象的“遥控”成为世界“世界化”的组建环节之时,“遥控现象”就不能只是一种单纯的“算法技术现象”,而是一种使世界“世界化”的本源生存论的伦理现象,且更为根本地构成一种生存论层次的哲学问题。“遥控现象”作为一种智能化时代人之“能—控物”的技术方式的最为集中的展现,是现代技术对持握在手的实际性“控物”的一种不断超越。它所触及的技术现象学景观,吸引人们去设想开发一种类似电影《银翼杀手》中的“悬停汽车”“飞行汽车”的设置,也会引发关于“数字人化身”和“机器人化身”的“智能化按钮”之设想。人工智能(或机器人)模式下算法塑造的“遥控”,扩展了对“遥控”概念的通行理解——它甚至成了一种生活世界的“座架式”构造。作为算法现象的“遥控”,总是不断地跨越各种各样的距离限制,且作为一种“超越性技艺(技术)”的典型代表,极大地扩展了人类实践的时空限制、活动范围和日常生活之“伦常明察”的广度与深度。
在日常“伦常明察”中,“算法扩展应用于世界化”的表现,就是用具“称手性”(或“上手性”)成为组建人“在世”之“伦常明察”的基本方式。当用具称手时,行动者“用物—控物”的注意力从其正在使用的用具上移开,关注“被制作”的东西;而使用者越是注意不到用具,对它的使用反而越是起劲。“它也就越发昭然若揭地作为它所是的东西来照面,作为用具来照面。”使用者与用具的这种打交道的方式,被海德格尔称为“上手状态”(Zuhandenheit)。上手状态在“用”中体现物的“切近”。在上手状态下,用具被“视而不见”,唯当其坏了、不称手了、作为用具的特性遭到破坏了,它才重新被引起注意,而这时它却也脱离了上手状态,“切近的上手事物的特性就在于:它在其上手状态中就仿佛抽身而去,为的恰恰是能本真地上手”。不引起注意,恰恰说明作为用具的上手事物是称手的。日常“伦常明察”中“顺畅丝滑”的“用物—控物”设置,隐含着一种最好的“用物—控物”,这就是“伦常明察的技术伦理史”所要达到的“遥控状态”。
作为“算法的遥控现象”,使得上手状态揭示的人与物的切近关系,不再是人的主观层面的“伦常明察”和“切近便利”,而是在“人—用具”融为一体的“能—控物”中,让“用具”作为“不上手的掌控”成为使用者身体的一部分的“伦常明察”和“切近便利”。我们可以用眼镜的例子解释这种现象。近视者或者患有眼疾者通过眼镜看到调整修正后的世界。“当他适应了这种看世界的方式,便与眼镜融为一体,眼镜完全透明了,当眼镜找不到了、损坏了、度数不合适了,它才重新引起使用者的注意,眼镜以‘抽身而去’的方式融入使用者日常经验中。”人工智能算法下的VR眼镜,则将“眼镜用具”的这种“抽身而去”的特性发展到极致。“在远距离无线遥控中,设计用来抓取和浇灌封闭容器中玻璃管的机械手臂,必须把一种灵敏的触觉‘反馈’给操作者。如果越接近这种技术所允许的不可见性和透明性,并且越能扩展身体感觉,那么这种技术就越好。”这种技术产品在人的直接经验层面的“抽身而去”,被称为“具身关系”。即技术以一种特殊方式被融入人的生活世界。我们借助技术来感知,并由此转化了知觉和身体感觉。当人通过技术感知世界,技术就被纳入身体之中。因此,在“具身关系”下“抽身而去的技术”与“抽身而去的身体”一样,都不是作为“现成在场”的认识主体(或行为主体)和“现成在手”的“控物对象”(或认识客体),而是“被当作什么(‘X’)用”的手段和“被当作什么(‘X’)看”的方式。那么,技术在其“何所向”“何所用”的预设目标中,如此将自己刻画成为的那个“X”,在遥控现象学中,是作为一种“用具”之“善”使“做得好”的“伦常明察”甚至成为“目的自身”。
危崖时刻的遥控器伦理远见、预防和治理
在人工智能算法支配一切的时代,“遥控”从一种古老的隐秘支配类型发展成一种全域性技术遥控的伦理展现。它不仅体现为更加便捷有效(加速化)地组建人的“能—控物”的技术化进程,而且体现为更加严谨有序(规范化)地组建人的“能—自控”的伦理化进程。然而,必须深刻地意识到,在这种双重支配类型的“技术—伦理”进程中,一种对“伦常明察的技术伦理史”的“明察”,从一开始就明白无误地指向“遥控现象”隐蔽着的“遥不可控”的生存性风险。其实,就实际发生的技术伦理事件而言,单个遥控行为的“遥不可控”(例如电视遥控器失灵)并不构成生存性伦理风险,但由人工智能算法支配的全域性“遥控现象”则不同,它将人类文明带到一个“危崖时期”。人类文明的“危崖”显露峥嵘的标记,就是“人为风险”超过纯粹“自然风险”的时刻。其时间节点大致可追溯至1945年7月世界上第一颗原子弹爆炸——从那时起,世界就进入一个将全人类生存或地球文明存续的希望绑缚在被称为“核按钮”装置的“遥控器伦理”之上。
第一,“危崖时刻”的遥控器伦理,在“能—控物”“能—自控”维度预设了一种“远距离伦理”。“我们需要一个远见”——这是“遥控器伦理”致力于更好地连接今天和明天的“绝对命令”。
“时间性维度”的“遥控器伦理”,诉诸“到时性”的“远见”,以抗衡遥控即时性及其所带来的伦理价值观上的短视。因此,遥控器伦理的首要原则是未来性原则。在这个意义上,“我们需要一个远见”——这句话,不再是一句无关紧要的警言,而是“遥控器”这样的设置成为人们“行动代理者”之后,我们必须遵从的“绝对命令”。“到时性”是从时间视野连通今天和明天而让良知凸显和责任回归的伦理性到时。它是从生存性伦理根源上对于长远考虑的“远见”的切近——“到时性”的良知凸显和责任回归,是为人类未来的所有可能性而保持我们对“遥不可控”的生存性风险的警惕与专注。它的心理学机制是通过延迟满足而“让未来到时”。因此,在“‘人—技’具身关系”下的遥控现象中,人自身可能会被视为一个与“遥控器”的终端合而为一的特殊“设置”,而时间性视域的向后开启(而非向前回溯)典型地体现在人工智能算法所内蕴的“未来已来”的“到时性”。
这意味着,“到时性”不是一个孤立而隔绝的主体上的道德造诣。从一切可以称为“遥控器”的设置都有“待时”功能看,“遥控器”的素质作为指引关联,体现了主体与他人在“能—控物”“能—自控”维度的规范性关系本身的品质。例如,对于“感应遥控门”的设置而言,它仿佛总是在等待为穿行者而开启。人到了,它就自动感应并即时敞开;人离开,它就随即关闭。“即时性”指向“当下”。“待时”指引“到时性”——指向未来。这意味着遥控器本身内含以未来导向的“到时性”平衡和纠正当下导向的“即时性”。美国恒今基金会最著名的一个事件,是在内华达国家公园腹地的一个山洞深处建造了一座大钟,“设计建造这座钟的目的是保证一万年内都能准确计时,但是它真正的用途其实是心理上的:可以让我们站在一万年的时间尺度上思考问题”。
“到时性”概念在古希腊人那里被称为“Kairos”,在古汉语语境下被称为“天时”“时中”。古典时期的“到时性”意味着“时机正好”“正当其时”。现代技术将“到时性”建构为由人工智能算法驱动的“待时功能”。这意味着“时机”已经转化为由遥控器伦理所表征的“到时性”。因此,遥控器伦理的第一原则,应从“到时”的生存伦理功能中诠释其未来性原则。从其连接今天和明天的绝对命令看,它是“去召集过去和未来在现时中会面”。遥控“即时性”的哲学寓意,其实有指向事情之“触发”“生成”和“成全”的远距离或远见的生存性伦理内涵。它不是无缘无故的到时,也不是自然的“编年形式”或“钟表形式”的时序,而是“关键时刻”的启动、创建、改变和转折。
第二,“危崖时刻”的遥控器伦理,在“能—脱域”“能—具身”维度预设了一种“为他者的伦理”。“我们需要一种‘预防’”——这是“遥控器伦理”致力于更好地连接自我和他者的“绝对命令”。
危崖时刻的“遥控器伦理”必定要把排除、防范、规避一种“坏的遥控到时性”置于绝对优先地位。面对由算法现象组建的智能化系统和设备带来的可能的灾难性生存风险,“我们需要一种‘预防’”——构成一条符合算法世界的道德形态学原则的“绝对命令”。其实质和核心就是要尽最大可能避免和终止某种由算法支配的相对“不利的”(特别是“坏的”)“遥控到时性”。当通用人工智能(AGI)或机器人进入我们的生活,这一“预防式伦理”的命令是以一种“空间性筹划布局”方式嵌入算法支配的遥控设置。它当然要以“远见”为前提,但却以展开“空间性维度”的“遥控器伦理”为预先行动和预防行动的理由与根据。“空间性维度”的“遥控器伦理”把对生存性风险的预防,“埋设”在一切“数智时代”算法的底层架构逻辑中。底层架构算法以保护人类的价值为旨归。它通过基于算法的“基础大模型”设置降低风险的伦理方案以抗衡遥控“脱域性”和“具身性”所可能带来的伦理价值观上的“非人化”或“非人类化”,特别是由之带来的“数智化”“利维坦”效应。
那么,如何在“空间性维度”进行基础性底层架构呢?著名的“荷兰方案”是可资借鉴的例子。它通过空间性筹划布局(“与海水共存”)把“人类生存的危崖状况”转化为机遇,以便于使“世界向好”。这个案例以隐喻方式揭示了“空间性维度”的“遥控器伦理”(“遥控可及性原则”)对算法现象的基本价值定位。
(1)作为算法现象的“遥控可及性”以空间智能为其伦理普遍性的框架,将“为他者的责任或伦理”预设为保护人类的价值的最高价值原则。
(2)“空间智能”虽然是人类的一项古老能力,但它在“遥控的世界化”和“世界的遥控化”的算法驱动模式下,必定扩展为“能—脱域”“能—具身”的“数智化”遥控能力;由这种能力带来的世界“脱域化”和“具身化”引发的潜在灾难性生存风险,要求“遥控设置”具备“踩刹车”和“紧急救援通道”功能,以便让人工智能或机器人控制的“不上手的掌控”重新回到由人类主体控制的“上手状态的掌控”。
(3)在这一点上,空间智能被描绘为人工智能的“北极星问题”。它呈现为解决遥控可及性的分布式“世界大模型”,即利用图像和其他数据对三维世界进行决策的一种算法框架——基于该模型,我们可解决以责任为中心的遥控可及性及其预防性伦理问题,以便将“荷兰方案”引入智能化算法世界。
(4)由此,在类似于“元宇宙”(Metaverse)“价值链”下提供一种“将自我与他者连接起来”的标准,以回应“我们需要一种预防”的“遥控器伦理”之召唤。
(5)空间智能既是“数智化技术的价值伦理建构”(包括网络算力、人工智能、游戏技术、显像技术如AR或VR,以及区块链技术的价值赋能),又是“世界遥控化的契约伦理建构”(通过智能合约和去中心化结算平台保障政治经济系统稳定透明),它由此提供了将“自我与他者连接起来”的具备遥控可及性的技术伦理框架。
(6)技术在“能—脱域”“能—具身”的空间维度的智能化演进表明,智能空间的技术不再是受人或人类支配的单纯工具,而是具备自身逻辑的自治系统和自洽体系,如果基于算法遥控的技术自身问题不再被还原为人的自身性问题,那么“荷兰方案”的启示就在于:人机伦理问题实际上就是一个“结构耦合问题”,即基于系统条件的相互连接以促进“自我与他者连接”。因此,“荷兰方案”基于预防的伦理在算法现象或遥控器伦理中的引入,提供了一个通过技术方式解决伦理问题的扩展方案。
(7)空间性的“能—脱域”“能—具身”,是以“物”之切近的信念为依据的自由的技术展现形式。空间性“脱域”“具体”可能进展到一种基于“物”的“能—脱域”“能—具身”的技术展现方式上。相对于“不能及”或“不可及”的“陌异空间”的“抽象性”,在诸如“远山来与此堂平”的切近中,空间性的“脱域”或“具体”需建立在“远山之为物”与“人之栖居”的“来切近”的信念基础上。
(8)以物为中介的“自我与他者连接”的伦理信念,在遥控即时性、可及性、安全性层次上可以相互嵌套,从而使得支配和控制法则更自由、多元并具备分布式相互制衡的“民主化素质”。
不难看到,“我们需要一种‘预防’”是基于“道德想象力”的一个“绝对命令”。道德想象力指向“行动者行动”的前瞻性或“提前性”,它通过展开对“动机”的移情想象和对结果的预测想象,提前预测和预防行为后果。遥控行动从基于传统用具的“按钮”到基于智能化遥控的“点击”,再到可穿戴、可坐乘、可触控或可视控、可嵌入(或可意控)的“智能体”以及各种“无人化”遥控的技术设置,此类物态形式揭示出技术与人的“脱域化”及“具身性”回返的辩证运动。其结果就是,人与生活世界的疏离化既然受到“遥控的世界化”的作用,“世界的切近”必然要求这种疏离的被扬弃。因此,在算法世界中构造道德想象力,从而基于技术调节与道德调节相互作用、相互转化的原理,从更长远角度预测、预知、预防技术引发的道德变化,就是一种基于预防的遥控伦理学的纲领性主旨诉求。
第三,“危崖时刻”的遥控器伦理,在“能—切近”“能—去远”维度预设了一种“切近整体的伦理”。“我们需要一种‘治理’”——这是“遥控器伦理”致力于更好地“连接个体和整体”的“绝对命令”。
人工智能算法下的遥控现象如何避免自我中心困境?“小距离”或“距离的消解”能否令“物”变得“切近”,从而使他者的“照面”或“进入”不是加强而是消解了“世界之疏远”?回应这个问题之前,我们需要重提一个老生常谈的观点,即伦理问题的全部意义基于一个基本生存论事实:“我们从来都不是单独存在的”,而是基于“个体和整体的连接”。由于基于算法的遥控现象让“可及性”“以不及的方式可及”,伦理空间作为关联性“可及”(包括“及人”“及物”)在脱出自我藩篱且与他者联结的意义上获得了一种超越性。这种超越性由“能—切近”的“算法可及”支持,而提供了“将个体与整体关联起来”的方式。它必然面临列维纳斯所说的对“出离孤独之可能性的共(avec)的质疑”。这些对“共”的质疑,包括但不限于如下疑难:“遥控可及”的伦理空间,通过人工智能算法能够解决我们以往“通过视觉、通过触觉、通过共情、通过共同劳动”和他者在一起的“共在”问题吗?它能使我们更好地生活在一起吗?进一步的问题乃是:由“算法”驱动的联结,能成为我们“走出孤独”“出离自我”“面对他者”的公共性或共在性之联结吗?这一伦理空间如何实现?或者,换一个问法:有一种能使我们真实地出离自身的个体存在而面对“能—切近”“能—去远”之“整体”吗?
在一个由算法遥控支配的世界图景下,行为正当性理据诉诸“能—切近”“能—去远”的“遥控连接”。“能—切近”指主观意愿上的“意欲亲近”,“能—去远”指客观效果上的“距离克服”。基于“遥控器”的连接,同所有“支配类型”一样,其让个体切近整体的方式,受到某种普遍性本质力量支配。对这种“以不可及方式可及”“以不上手方式上手”“以不掌控方式掌控”的支配型而言,一种“切近整体的伦理”首先是对“支配型”普遍本质力量(或权力)的伦理治理。基于算法现象的遥控同样受到马克思·韦伯所说的三种支配型的作用——不同之处在于,遥控支配的“正当性根据”在算法支配的指数型世界里需要更快的反应速度。因此,在指数型世界里应对“传统权威”“英雄人物(科技精英)”“合法化官僚”所构成的普遍性算法权力引发的风险或不安,人类“能—自控”的伦理治理是其必不可少的前提条件。在这一维度,“遥控器伦理”的目标是通过治理以降低指数性风险,它一方面使一切“拥抱数智化的积极作为”真实地建立在安全、可信赖的技术授权和数智化带来的机会的基础之上,另一方面遥控化世界的“全生命周期”构成将个体与整体连接的纽带,它通过技术与伦理的整合以避免、解决、预防、消除不必要的伤害及易受攻击的漏洞,以确保人类、环境和生态系统的安全。
“智慧城市社区”是上述伦理治理的具体例子。我们称“智慧城市社区”为“平台城市”。它通过基于算法遥控的城市平台雇用机器人,从事快递业务、社区通勤、物流配送、餐饮服务、学业辅助等,通过人工智能传感器管理从空气质量、个人健康、公共安全到交通流量等几乎所有事情。在平台型遥控的“智慧城市社区”,速度与情境、算法与人文、机器规范与道德建构、人类主体与机器类人主体之间的内在一致性及协调性,不再通过身体习惯(如点击按钮、键盘)来完成,而是通过算法现象的“遥控器”习惯(如“电竞游戏”中的意念控制)的迭代升级进行。如此一来,身体的“能—自控”让位于身体的“抽身而去”,而真正让一个“智慧城市社区”保持积极能量的因素,则是一种“切近整体的伦理”意义上的“数智化”的“能—自控”——它要求所有为平台城市开发的算法(软件)都将是“开源”的,以便每一个人(每一个城市社区成员)都可以使用它、完善它,并推动它不断迭代升级。
结语:遥控的伦理本质
遥控伦理学着眼于“遥控”作为算法现象的技术伦理批判,它的全部努力可归纳为对以下问题的回答:“距离的消除为何不能带来世界的切近?”如果这是一个面向“事情本身”(基于“是”的判断)的“事实澄清”,那么进一步从“事”之形态上升到“行”之形态的“价值澄清”就需要另一个面向“行事本身”(基于“应该”的判断)的发问:“距离的消除如何带来世界的切近?”这个问题是从道德形态学基于“行事本身”而对遥控的“伦理本质”的深度发问:遥控现象中的伦理因素到底意味着什么?
在遥控世界化的意义上,“具身智慧”使“遥控伦理问题”聚焦于算法现象的“技术授权”——“遥控伦理问题”作为澄清技术授权的技术伦理批判问题,有可能一跃而成为一个不可回避的未来哲学问题。
500年前的遥控,作为一种隐秘支配类型,属于君主们的政治技术。30年前的遥控,在无线电、互联网等远程控制技术的拓展下,属于现代技术构架,服从于跨国资本、大型科技公司和各国政府进行“现代性建构”的政治经济新平台构建。今天,基于算法的遥控,在“‘人—用具’融为一体的‘能—控物’”以及“身体抽身而去的‘能—自控’”中,我们人人都因技术因素而参与到整体性生存关联体系中。在遥控状态下,与其说技术授权是生活筹划的工具,毋宁说它是一切生活谋划的根基与前提。生活尚未展开,它就早已经被遥控而来的技术授权支配。或许在未来的某一天,我们会遭遇世界遥控化的失控,我们可能会成为一个没有技术授权的孤独个人,当此之时:何处能安放我们真实的“自己”?何处是我们“在世界中存在”的“栖所”?
我们需要一门“危崖时刻的遥控伦理学”。它的核心观点是:世界上最危险的“危崖”是,“世界的遥控化”和“遥控的世界化”总是伴随着失控的风险,而先行思考“遥控现象可能失控”的危机以及由此引发的忧惧,意味着一种新的伦理意识之生根发芽的契机——它,正如我们所表明,指向“一种远见”“一种预防”“一种治理”。
人们总是倾向着眼于历史的经验来思考并解决面临的危险和麻烦,偏好于把过时(过去)的方案运用于未来的问题。但是,在一个一切都被把握为一个可控的整体的世界图景下,我们面临的每一个风险,无论是存在论风险,还是政治经济风险或环境风险,更多地需要一种能够伴随始终的“提醒”。遥控的技术伦理批判旨在“提醒”:当人人都是遥控器的终端时,效率和速度不能带来世界的切近,距离的消除也不能带来世界的切近,面向每一个个人的技术授权在提供遥控世界化的便捷切近或距离消除的同时,也可能会使我们重新陷入被支配、被遥控的新的奴役状态。
*本文系国家社科基金重大项目“人工智能伦理风险防范研究”(项目号:20&ZD040)、国家社科基金重大项目“大数据背景下人工智能及其逻辑的哲学反思”(项目号:19ZDA041)的阶段性成果。论文对遥控伦理问题的关注,是在与刘同赫讨论“算法现象与生活世界”问题时受其提出问题及观点的启发进一步提炼成形的,在此特别予以说明并谨致谢忱。论文中有些观点,参考了刘同赫博士论文《算法现象与生活世界——能力向度下技术物功能的正当性分析》,北京师范大学2024年博士学位论文。
田海平,北京师范大学价值与文化中心研究员,哲学学院教授
本文刊于《江海学刊》2025年第3期