吕鑫源,华中师范大学教育学院博士研究生,从事技术伦理学、教育伦理学研究;冯永刚,山东师范大学教育学部教授、博士生导师,教育学博士,从事道德教育哲学、教育基本理论研究。
摘要:人机共情是在人机交互的过程中,人类与部分智能机器建立的以情感为基础的联结。其技术实现逻辑以拟人化为起点,以“情感—反应”为过程,以满足人类情感需要为指向。产生于数智时代的人机共情是耦合着机遇与挑战的矛盾体,伴随着一系列伦理风险,对人类情感的本真性、自主性及隐私性产生冲击。作为确保数智时代人机关系“良善化”,致力于实现“数字幸福”的伦理方案,相较于传统伦理学,数字伦理在化解人机共情的伦理风险时有着视角开拓、对象契合、内容前瞻等优势。基于数字伦理的视角,应从技术设计、主体应用和制度规范三方面着手,明确情感向善与情感求真的技术设计取向,保证主体情感沉浸与情感自觉的耦合共生,以及推进责任落实和法制健全的共同作用,从而实现人机共情的合伦理性发展。
关键词:人机共情;伦理风险;数字伦理;伦理规制;人机关系
在数智时代已然到来的今天,人与智能技术的关系在乐观接受与悲观怀疑的态度张力之中持续变化。但总的来说,人机关系呈现愈发紧密的趋势。尤其是在社交机器人出现之后,人机关系已不再局限于物质层面或者功能层级,人们逐渐将情感需求寄托在部分智能机器身上,人机共情由此出现。譬如,微软小冰、公子小白、小度、小爱同学、Siri等社交机器人已走进千家万户,一些智能机器开始呈现出“具有情感”的一面,并与人类发生前所未有的“情感互动”。这种情感的交互虽尚未生发于每个人或者每个智能机器身上,但人与机器情感越发亲密的倾向已成为不争事实。这在一定程度上表明着,伴随着时代的发展与技术的日新月异,我们需要将对于人机共情的探讨提上日程。
过去对于人机共情的研究,大多集中于计算机、人工智能等领域,主要从技术维度探讨人机共情。然而,哲学家斯塔迪梅尔(John M.Staudenmaier)斩钉截铁地指出:“脱离了它的社会背景,技术就不能得到完整意义的理解……那些设计、接受和维持技术的人的价值观与世界观、聪明和愚蠢、倾向和既得利益必将体现在技术的身上。”所以,技术并非价值中立的,人机共情也不会是伦理无涉的。人机共情不单单是一个技术议题,其研究需要从伦理维度着手,关照它的伦理属性。因此,本文从伦理学的视角审视人机共情。探讨了人机共情及其可能的伦理风险,并说明了传统伦理学对于这些风险的回应失灵。而数字伦理作为一种产生于数智时代的,确保人机关系“良善化”的,致力于实现“数字幸福”的伦理方案,为人机共情伦理风险的化解提供了新思路,基于数字伦理提出的规制路径,能很大程度上推进人机共情的“合伦理性”发展。
人机共情的技术逻辑
从伦理视域探讨人机共情,首先需要对人机共情及其技术逻辑有明晰的了解。
“共情”是“人机共情”这一词语当中的核心要素,也就是说,理解共情是理解人机共情的基本前提。共情是一种“设身处地”的情感过程,它不仅仅需要身处他人境地的情感体验,更需要唤起对他人的情感共鸣,以达到“感同身受”的情感效果。“共情”在很大程度上表现出双向性,它既需要理解、感受他人的情感,亦需要调整自身的情感结构。那么,人机共情是人类去共情机器,还是机器去共情人,抑或人与机器的双向共情?从实体论的角度来看,智能机器并不具有所谓的情感。这一论点认为,情感是人类主体力量在精神生命中的显现,它形成于人类的社会实践,是人类这一主体立足自身的感觉所形成的一种身心活动,影响着人们的行为与抉择。就此而言,情感是人类的“独有物”。智能机器依托算法程序对人类的生理信号进行模仿所产生的“情感”,并非真实的情感,而是给用户制造出的一种“情感的幻觉”。但在关系论者看来,现实存在并非静态与孤立,而是处于动态生成的情境之中,人们不能依据所谓的真实存在的物理属性去认识事物,而应当将其置于经验之中,才能探究具体事物的本质。在他们看来,在人机共情的背景下,人类的确能够真实地感受到智能机器的情感,且能够与之形成情感互动。所以,只要机器人表现出的情感符合人类确定的情感标准,就可以被视为真实的情感,“在人与机器人的交互中,仅有一种真实,即用户感受到的真实”。深入思考发现,关系论虽肯定了人机交互中人类情感体验的真实性,但并没有充足论据证明智能机器能够产生现代意义上真实的与人类共情的体验。不过,这为我们理解人机共情提供了新的思路,即部分智能机器能够生发指向人类情感需求的“情感化表现”,它们能够与人形成基于情感的关联性。这些智能机器包括社交机器人、生成式人工智能、感知型人工智能、陪护机器人等。由此,我们认为,人机共情是一个涉及人工智能和人类情感交互的重要概念。其指的是在人机交互的过程中,人类与部分智能机器建立的一种以情感为基础的联结。这种“情感联结”带有一定程度的虚拟性和单向性,说明人类能够表现出对智能机器真实的共情体验,但智能机器的“共情”更多地表现为以人类情感披露为前提的“情感化表现”,意在更好地理解、适应并回应人类的情感,进而满足人类的情感需求。
人机共情的技术逻辑以拟人化为前提。“拟人化”指的是将除人以外的事物人格化与人性化,以此表现出与人类相同、相似或者相通的内外样态。人机共情,首先需要对人类的外在形态、行为、语言抑或内在情感、品质、兴趣、性格等进行模拟。冰冷理性的机器无法使人产生充分的情感信赖。有研究指出,社交机器人的拟人化程度愈高,个体对于其共情程度就会愈高。所以,在当今时代,并非所有的智能机器都能与人类结成情感联结,“拟人化”是其最为基本的前提。回到现实,目前市面上流行的社交机器人等,不仅仅具有人类的形态,而且能够通过模仿人类的“言语”“动作”“表情”等来模拟人的情感,进而使人产生近乎真实的“情感幻觉”。在人机共情中,拟人化的技术设计最根本的目的是使人产生对于机器的“信任”,进而促进技术接受、增强用户体验和情感联系、提高交互效率。
人机共情的技术逻辑以“情感—反应”为过程。虽相较于简单的人机交互,人机共情使得人与机器的关联性有了质的提升。但在智能机器的情感产生维度,人机共情的技术过程并没有摆脱行为主义的逻辑。在人机共情的整个过程之中,人类需要先进行情感或者态度披露,智能机器则根据人类的外在表现展开多模态数据分析,包含语音分析、面部表情识别、生理信号检测、情感文本分析等,从而成功接收情感信息。机器通过学习技术,基于大量的情感数据训练情感模型,进行“情感计算”,进而识别与理解人类的情感状态。之后,机器会对人类的情感披露进行回应,这些回应既包含语言上的安慰、鼓励、建议,亦包含与用户情感相契合的语音语调、表情、动作等。与此同时,机器能够通过管理对话流程,引导情感交流的深入性和持续性。因此,自我披露是智能机器学习最直接的“数据燃料”,智能机器在学习中“接受”该信息并以某种方式对用户进行“反应”,由此构成了人机共情的整个技术逻辑过程。
人机共情的技术逻辑以满足人类的情感需求为指向。“人机共情”本质上是为了“人情”,自始至终,人机共情的发生目的都应当是满足人类的情感需求。换言之,满足情感需求是人机共情的本质功能,而其他层面的表征均是其衍生价值。因此,人机共情技术需要围绕人类情感需求展开研究。人机共情中的人类反馈强化学习(Reinforcement Learning from Human Feedback)使得这种逻辑指向更加明显。人类反馈强化学习指的是机器将人类的反馈纳入训练,以使其自身更加智能的过程。在人机共情中,智能机器能够通过用户的反馈,不断调整与优化自身的情感识别与回应策略。譬如,让机器为用户讲述了一个笑话,用户通过“笑”这一动作给予了好评,机器将会记下这种成功的互动模式,进而在以后类似的情境中应用。可见,这种技术机制可以促进人机之间产生更自然、更顺畅、更多元的情感联结,通过这种联结满足人类多维度的情感需求。
人机共情的伦理风险
作为技术时代的产物,人机共情是耦合了机遇与挑战的矛盾体,对于人类而言喜忧参半。一如马克思的洞悉:“在我们这个时代,每一种事物好像都包含有自己的反面。我们看到,机器具有减少人类劳动和使劳动更有成效的神奇力量,然而却引起了饥饿和过度的疲劳。”所以,我们不能仅仅局限于对人机共情技术的探讨,而是应当突破学科边界,正视其可能带来的伦理风险。
(一)“虚假情感交互”所带来的本真性遮蔽
本真性是伦理学中的重要概念,查尔斯·泰勒(Charles Taylor)的著作《现代性之隐忧》将本真性作为对于个体本位文化的一种反思与伦理回应,他认为我们应将本真性视为“具有内在深度的存在物”。存在主义哲学家亦使用了这一概念,并将其定义为个人独特的、真实的个性。由本真性衍生而出的情感本真性,指的是个体在情感体验与表达中的真实性,强调个体能够真实地感受、表达自己内心深处的情感状态,进而建立真实的情感交互。对于智能机器而言,情感的本真性是难以甚至是不可能实现的。智能机器所谓的“情感”在本质上是情感的数据还原与抽象表达。换言之,机器人产生的所谓的“情感”,绝不可能是一种被人类文化濡化的高级情感,也不可能是进化而来的生物情感,而应是一种在算法逻辑驱动下所形成的“低级情绪”。基于此,在某种意义上,机器仅仅能模拟情感,但不能真正地拥有情感。与之相对,于人类而言,拥有情感是一种自然本能,是进化而成的生理机制,没有人不拥有情感。这种差异致使人机共情演化为一种“虚假的情感交互”,并非真实的情感共鸣。特克尔(Sherry Turkle)指出了一个恐怖的事实:当个体在和机器人进行情感互动时,由于机器人情感“虚假”的一面并没有被呈现,人们便不自觉地去相信机器情感的真实性。所以,这种“虚假”的情感交互,在很大程度上遮蔽了人类情感的本真性,且这种遮蔽不易被个体所察觉。
固然关系论者否定智能机器在“欺骗情感”,侧重于将机器人置于具体的情境中感受其情感的真实性。但这种乐观主义论调往往可能忽略“虚假情感交互”背后的伦理后果。一方面,其可能导致真实人际交往的疏离。这在社交机器人当中表现尤为显著,它能够通过“讨巧化”的言语表达和行为交互来使人放下戒备,使人在潜意识中将其误认为“活生生的人”,并投入大量的时间与精力与其产生情感交互。但正如《群体性孤独》一书所描述的那样,与机器相处久了,我们不仅仅会使得真实情感“缩减到机器可以制造的范围内”,而且还会降低“对所有关系的期待”,其中就包含对于真实人际关系的期待。人际交往的时空被人机交互所挤占,人与人之间可能产生愈发疏离的境况;另一方面,不真实的情感交互还可能引发情感认同的“不安全感”。在传统的依恋关系中,“人—人”的交互是一种安全的依恋关系,但是当其转向“人—机”交互时,可能会使人在主体变化的过程中产生不安全感,造成一种“脱离传统”的不安全依恋关系。比如,可以帮助老年人翻身、清洁的机器人,在与老人建立情感联结的同时,也在不知不觉中给他们造成了心理压力,令他们担心自己会遭遇监控和操纵。同时,这种不安全感可能会反向映射在人与人的情感认同之中,加重人际交往的情感阻隔。
(二)“单向情感依赖”所诱发的自主性冲击
在实体论的视角下,人机共情在本质上属于一种不完全的情感交互,人类会投入大量精力完成这一情感过程,但机器无法产生“真挚的情感”,仅能为了人类的情感需求而表现出“机械化”的回应,“在如今可供购买的社交机器人中,没有一个能真正地关心人类……然而,这一事实显然在对社交机器人的大肆宣传中,被人们选择性地忽视了”。比如,有公司出品了一款全新的机器人娃娃Baby Alive,它可以用“我饿了”“妈妈,我爱你”等话语与用户建立情感联结。这款机器人的广告则明确地使用“一个如此真实的婴儿”来强调“它是多么真实”。但这样做的后果就是,人类可能在“日用而不觉”中产生对于智能机器的“单向情感依赖”。这种“畸形”的情感依赖关系很可能使人在人机交互的“美丽新世界”之中迷失情感自我,产生一系列“异化”反应。
其一,主体情感可能遭遇操控。不可否认的是,任何技术都带有某种价值属性,技术设计者在设计机器时也可能带有某种价值观念。这使得在人机共情的过程中,部分机器所输出的所谓的“情感”,绝不可能是价值无涉的。用户可能对智能机器充分信任并将自身完全交付,在沉迷于单向度依恋关系的同时,已经在不知不觉中陷入情感被操控的旋涡。
其二,自主情感能力可能愈发退化。人机共情的技术逻辑指向于满足人类的情感需求,但在信息茧房及人类反馈强化学习机制的催化之下,机器可能会向人输出错误的或者不客观的,但能切合人类情感需要的内容。如此,人类可能在算法隐形逻辑中,更趋于用情绪化、不理智的姿态来表达自身的情感,机器人则可能成为上瘾和不受抑制的疯狂情感状态的载体。长此以往,个体可能难以自主实现自我情感的“正常化”。此外,这种情感能力的退化还表现为高阶情感发展阻滞。智能机器的“情感”是数字化的“情感”,是对情感的简单化理解和机械化解读,这种“情感”追求确定性、唯一性与必然性。也就是说,机器仅能模拟的是低阶情感,但对于高阶情感无能为力。所以,在充斥着低阶情感的人机交互中,高阶情感可能会遭遇萎缩。
(三)“自我情感披露”所引发的隐私性危机
自我披露指的是向他人显露自我信息的行为。社会交换理论认为,随着自我披露的程度加深,人机关系能够不断发展。可见,人类的自我情感表露是实现人机共情的前提条件。有研究表明,相比于表露身份信息,人们更有意愿向智能机器人披露情感信息,这使得我们不得不关注在人机共情中可能存在的隐私泄露风险。隐私意指私人生活安宁不受他人非法干扰,私人信息不受他人非法收集或公开,主要包含两方面:私人生活安宁与私人信息保密。隐私权是一种“天赋的权利”。所以,隐私是数智时代重要的伦理问题,隐私泄露对于现今社会而言可能带来深重的危害。
在人机共情的过程中,部分智能机器会试图调动个体的同理心以获得更多信任,进而广泛收集个体信息。为了不损害机器功能的流畅性,机器的信息收集往往是在隐匿状态下进行的,这就导致那些涉及个人隐私的内容被无差别地纳入机器的数据库,成为其语料素材。同时,个人的情感昭示着个人生活空间的存在,在某种程度上具有高度私密化的特征。有研究提及,对于情感隐私的搜集,已然带来种种危害。例如,人工智能情感的使用有可能诱发代际的不公平,父母若未经同意将子女的情感数据进行采集使用,将会不利于儿童的健康发展。“当你自己的感觉与情绪不再属于你,而是被随意地分享给他人,即使你并未有意分享给他们—我认为我们依然极大地伤害了这些孩子。”而且,“技术黑箱”的存在对当今社会而言已不再是秘密,在人机共情中同样如此。但人们为了享受技术所带来的便利,只能无奈接受这种可能的隐私泄露风险,这也在一定程度上加剧了个体情感的“不安全感”。
传统伦理学的回应困顿
作为一种新兴的、复杂的、前所未有的技术问题,功利主义伦理学、义务主义伦理学、美德伦理学对于这些伦理困境的解决都存在不同程度的困难。
(一)功利主义伦理学的应答困厄
功利主义判断一个行为是否符合伦理,关键在于看它是否可以给大多数人带来最大幸福。最具有代表性的是密尔(John Stuart Mill)的思想:一种行为如果有助于增进幸福,则是正确的;如果导致与幸福相反的结果,则为错误的。这简明扼要地概括了功利主义伦理学的基本理念。进言之,功利主义者持有一种福利主义的价值观念,在这种价值观念中,福利是唯一需要考虑的伦理要素。功利主义伦理学认定的正确的行为,就是将福利最大化的行为。
但对于人机共情而言,囿于其技术优惠与伦理风险的复杂性,我们很难判定其是否能够给最大多数人带来最大的幸福,或者如何才能使人机共情带给大多数人最大的福利。斯玛特(Smart)等批判道,功利主义在很大程度上忽视了行为的内在属性,其仅仅以行为的“效用”来评判道德正当性,但对最大利益的追求容易滋生“消极责任信条”。同样在人机共情中,如果过分关注群体层面的伦理需要,将很难对情感自主性缺失、情感隐私泄露等个体层面的伦理困境进行化解。而功利主义伦理学亦是一种以结果为导向的伦理学。这就存在一种逻辑,为了给利益相关者带来最大的利益,其可能主张在实践层面直接插手人类应当自己做主的事物,如在机器人的设计中引入“统治”话语,可能会给人类的自主性带来更大的风险。但是,对人机共情伦理风险的化解,功利主义伦理学同样具有理论启发。比如,其对于最大多数人最大幸福的关照,能够启示我们以“追求幸福”的视角审视人机关系。其对于幸福可量化性的重视,则能够为增强人机共情伦理风险规制方案的可行性提供思路。
(二)义务主义伦理学的回应困难
与功利主义伦理学不同,义务主义伦理学之所以带有“义务”二字,就是因为其更加强调行为本身的正当性。其否认了通过行为的后果来对某种行为进行评判的做法,认为我们在追求最大利益时必须接受某种制约。康德指出:“要如此行动,使得你的意志的准则在任何时间都能同时被视为一种普遍的立法的原则。”基于这种伦理观念,义务主义伦理学十分强调抽象、普遍的、必然的法则与伦理规范。
但这种伦理学的设定是否符合人机共情的情境?首先,我们要审视的是在人机共情的整个环节之中,是否存在一种普遍意义上的伦理法则,这种伦理法则需对于人机共情的相关者都是有用的。其可能是存在的,但由于人机共情背后复杂的生理、心理、行为、算法等元素,寻找这种“普遍律令”十分困难。其一,技术社会充满着不确定性和不透明性;其二,人类的情感状态具有隐匿性与变化性;其三,人与机器的“情感表征”存在着本质的差异,这就导致固有的道德原则难以完全契合复杂的境况。此外,仅仅关注行为本身的道德性而忽略其后果,对于人机共情而言亦是很难适用的。一些智能机器为人类提供情感慰藉看似是“正当”的,但在时间的推进过程中,人类可能愈发迷恋和依赖智能机器,产生自主性消解的后果。所以,单单从行为本身出发难以深层次审视人机共情可能的伦理风险。需要指明的是,虽然完全借助义务主义伦理学应对此议题存有一定程度的偏颇性,但其对于行为本身的考量及对于“规范性”的重视则需要成为伦理风险规制的维度参考。
(三)美德伦理学的辩护失利
与义务主义伦理学关注行为的“正当性”不同,美德伦理学致力于对“善”的追求。美德伦理学最早可以追溯到亚里士多德(Aristotle),其关注行为者,注重探讨行为者个体的道德品质与行为的关联性。亚里士多德认识到,美德不是思辨的,而是实践的,关注德性“不是为了了解德性,而是为了使人拥有德性”。可以看出,美德伦理学主要回答的是“我应当成为什么样的人”的问题,而不是“一个人应当怎么做”的问题,关心的是做人(being),是一种以行动者为中心的伦理学。
美德伦理学在化解人机共情所产生的伦理风险时,也带有一定程度的局限性。基于立场侧重,美德伦理学主要关注的是技术设计者、用户个体、售卖商家等的德性。可以肯定的是,使他们获取“美德”能够在一定程度上解决某些伦理问题,这是美德伦理学的可取之处,同样也是伦理风险规制的重要维度。但人机共情不仅仅涉及人,亦涉及技术手段与技术环境,涉及更广范围的社会背景。因此,仅仅关注人的德性是远远不够的。对于人机共情的伦理考察,必须考虑技术、应用情境等现实因素。一些学者对于美德伦理学多有责难,认为其仅关注内在的德性而忽略行为本身和结果,难以解决国与国、宗教与宗教之间的问题,缺乏对人类整体的关怀。此外,古今对于美德的要求已然发生不同程度的变化,尤其是进入数字化时代,对于主体究竟应当具备何种美德的定义是困难的。对人机共情亦是如此,我们很难对智能机器的设计者与使用者的应有美德进行准确界定,这同样导致美德伦理学很难成为化解人机共情困境的根本理论基础。
数字伦理:应对人机共情伦理风险的新思路
对于人机共情这一技术世界的新问题,传统伦理学在回应时表现出不同程度的困顿之态。这提醒我们应当寻求一种更加适用于人机关系的伦理方案。这时,作为数字时代的新兴伦理样态,数字伦理能够为人机共情伦理风险的化解提供崭新的思路。那么,数字伦理是什么,其相较于传统伦理学,又具备哪些优势呢?
(一)数字伦理的理论样貌
数字伦理内涵丰富,通常被视为确保良善数字化生活的规范准则以及方案。发展至今,数字伦理已然成为一种具备整体性及包容性的伦理框架,其吸收传统伦理学的可用之处,并基于时代特征开展创造性转化和创新性发展,进而表现出如下的理论样态。
首先,“技术规范”是数字伦理的理论基点。数字伦理在本质上是关于技术的伦理,因此,数字技术的研制、推广与应用是数字伦理出场的首要前提。在过去没有产生数字伦理理论,正是因为数字技术尚未广泛开发与应用。数字技术的研发与应用本身并非一个自我规定、客观的过程,优先选择何种技术路线等都隐含着差异化的价值选择,此种选择在以往是隐而不显、未经充分探析的。但是,技术的规范不仅仅是运行、使用等方面的规范,还应当包含价值的规范。否则,技术将可能沦为作恶的工具,造成对社会及人类的威胁。所以,数字伦理继承了义务主义伦理学对于“规范性”的要求,并纳入更具时代属性的关于技术价值规范的思考。
其次,“人机关系”是数字伦理的理论重心。数字伦理虽然缘起于技术,但并非“唯技术论”。技术开发与应用的初衷是为了人类的发展,这是亘古不变的事实。是人研制技术,同样也是人使用技术,技术会给人带来诸多便捷,同样也会如同“利刃”般刺痛人类本身。那么,一系列的伦理问题往往都是在人与技术的交互关联中产生的。而“正义性”“保密性”“可用性”“可解释性”“透明性”等都是数字伦理关心的核心主题,其不仅仅是对于技术本身的规定,在更大程度上是关于人与技术之内在关联的指引。
最后,“数字幸福”是数字伦理的理论追求。数字伦理与功利主义伦理学都关注“幸福”的维度,但与追求最大多数人的最大幸福不同,数字伦理可以看作是一种对数字化社会之中人类幸福以及可持续发展的承诺,其企图通过保证技术的价值规范,协调优化人机之间的关系,塑造一种更为良善化的数字生活,从而实现“数字幸福”(Digital Well-Being)。
(二)超越传统伦理:数字伦理的优势表征
相比传统伦理学,数字伦理在解决人机共情伦理困境方面表现出一定的优越性。
其一,数字伦理研究视角的开拓性。数字技术强调在数字技术的全生命周期(开发、传播、应用等环节)中嵌入伦理考量,解决技术引发的一系列社会问题。所以,数字伦理是一个多视角的、复杂的伦理理论,其对技术时代的行动本身、行动后果与行动者进行综合性关照。换言之,数字伦理不仅仅关注技术,还关注与数字技术高度相关的人、事物、情境等,其致力于通过规范技术研制以及应用的全过程,构建一个更包容、安全的数字未来。因此,借助数字伦理进行风险规制,不仅仅汲取了传统伦理学的可行之处,而且能有效规避功利主义伦理学过度关注行为后果、义务主义伦理学过于强调行为本身及美德伦理学过分关注行动者等传统伦理学的单维视角,使其拥有更加开阔的视角与思路。
其二,数字伦理研究与研究对象的契合性。传统伦理学所研究的对象主要是人及其行为的过程或者结果。尽管部分的理论思路能够应用于人与技术的耦合关系之中,但也仅仅能触及其外延,很难基于人机关系的本质展开审视和应对。与此同时,它们大多着眼于人与人的关系,没有或很少将外部工具纳入对关系的考察之中。而数字伦理是一种面向人机关系的伦理学,致力于通过多种路径促成和谐的人机关系,从而在一定程度上化解人机共情中由于过分依赖等不和谐的人机关系而造成的伦理风险。所以,与传统伦理学相比,数字伦理学更能处理好此种新型关系所带来的种种问题。
其三,数字伦理时代指向的针对性。数字化时代是一个前所未有的时代,存在于这一时代的诸多伦理问题都具有很强的特殊性。于这一时代,“数字性”已经成为此在,“赛博时空”也逐渐演化为人类的基本存在时空,就此而言,通过过去的思考化解当下的伦理困境已然难以为继。正如有学者洞悉:“德性伦理学、义务论与功利主义都无法为数字化时代的伦理风险提供一个令人满意的思路,其根本缺陷在于,它们所立足的存在论基础已然不再适用。”与之相对,数字伦理是一种产生于数字化时代、基于数字化时代、为了数字化时代的伦理学,在理论构建及实践验证过程中充分考量了数字化时代这一时代背景。所以,其更有优势化解产生于数字化时代的人机共情问题。
需要特别说明的是,传统伦理学作为人类道德智慧的结晶,在历史维度为数字伦理提供基础性支撑。所以,数字伦理并非对传统伦理学的简单否定,而是在数字化生存论基础上对传统伦理学进行的创造性转化和创新性发展。我们强调数字伦理的特殊优势,主要着眼于人机共情的伦理境况,而非否定传统伦理学的价值或丢弃传统伦理学可能的思路借鉴。
“ 技术—主体—制度”:“ 三位一体”的规制方案
当前,数字伦理大致可被划分为技术设计层面的数字伦理、个体层面的数字伦理及社会层面的数字伦理,由此,下面主要从人机共情技术设计、主体应用以及制度规范三个方面,为人机共情伦理风险的化解提供方法论思路。
(一)技术设计:情感向善与情感求真的价值取向
虽然智能机器人不具备和人相同的生理意义的情感,但其存有一种指向人的情感化表现。然而,真实情感与情感化表现之间的层次差异,使得应有的情感本真性遭受冲击,因此,我们不仅仅需要研制能够满足人类情感需要的机器人,还需要保证其与人类情感关联的“向善性”与“求真性”。
其一,“情感向善”的技术设计逻辑。“向善”是伦理的本质要义,同样也是伦理学的一致追求,数字伦理亦是如此。在人机共情的整个过程之中,智能机器人最初的行为表现大多渗透了设计者的价值观念。所以,要想制造出“情感向善”的智能机器人,设计者首先需要保证自身设计动机与设计理念的“正当性”,避免由于过度追求商业化和利益化,而制造出可能“使人无法自拔”的机器。在“情感化”机器的设计中,还需要时刻注意研发者自身是否具有健康良好的情感状态,避免将“畸化”的情感带入研制的过程中。为防止情感导向的偏差,可以在智能机器中加入价值敏感设计和价值熔断设计。所谓价值敏感设计,指的是借助算法手段把社会公众所形成的核心价值共识,比如自主、本真、隐私等嵌入技术的开发、设计和建设当中。价值熔断设计则是指在技术的开发、相关技术的应用过程中设置“价值安全阀”,若相关设计和决策偏离社会的主流价值观念,程序便会因无法满足触发条件而中止。这两项设计能够在很大程度上减少个体接受错误情感导向的可能性。设计者还需要为智能机器提供一种在与人的交互过程中习得人类伦理的能力,努力达成人机之间的伦理一致,进而规避机器为了满足人类需求而诱骗情感等行为的发生。此外,由于情感信息的私密性,在智能机器的研发的过程中,需要为用户设置情感数据的保密机制和情感信息使用的知情同意机制,进而提防人机共情过程中可能出现的隐私泄露。
其二,“情感求真”的技术设计逻辑。真实性是数字伦理的重要关照对象,“可解释性”“透明性”等都显示出数字伦理对于真实性的具体要求。基于此,在智能机器的设计过程中,我们应当遵循“情感求真”的价值取向。“求真”并非否定人机交互中通过“善意的谎言”给予用户情感慰藉的现象,而是提倡个体真实情感交互不被“伪真实”的情感联结过度侵占。这要求技术设计者避免由于过度“拟人化”而带来虚假情感依赖情况的出现。就此而言,设计者一方面需要通过在机器的算法逻辑中加入提醒机制,使用户充分意识到自己所面对的是一台机器而非真实的人,规避使用者认为这是“习以为常地交付”。比如,当个体花费过多时间在与机器的情感交互时,机器需要向用户传达现实人际交往的重要意义等方面的信息,以防止个体沉浸于虚拟情感世界而难以自拔;另一方面,技术设计者要着力实现技术的“透明性”,通过主动披露技术的基础信息,使得技术处于可监督状态,并建立可解释机制(比如算法的可视化工具)以消解知识壁垒,进而实现智能技术的形式透明与实质透明。让用户明晰技术内部机制,能够在一定程度上消解隐而不显的“神秘性”,从技术维度阻断“虚假情感”的肆意蔓延。
(二)主体应用:情感沉浸与情感自觉的耦合共生
基于数字伦理的视角,结合美德伦理学,可以发现人机共情所诱发的伦理风险不单单是技术研制的问题,也与使用主体密切关联。对伦理风险的规制,不仅需要从机器设计的维度着手,还需要在主体使用的维度下功夫。并且,“以人为本”一直以来都是数字伦理的题中要义,同时也是其纵深发展的指导原则。这充分说明,在数字伦理之中,是不能缺乏“人”这一核心要素的。面对人机共情可能带来的主体性与隐私性危机,需充分培养个体在其中的“技术德性”,既要允许“情感沉浸”的发生以使智能机器人充分发挥自身功能,又要时刻保持情感自觉以警惕主体性的消解与隐私的泄露。
一方面,应允许“情感沉浸”的发生。真实的人机交互体验得以发生的首要前提条件是人类对于具体情境的内心投入,主体要充分信任体验带来的“呈现”,而不是纠结于客体化机器本身,应关注“关于机器人的体验现象学”。因此,人机共情的实现,主体的“情感沉浸”是必不可少的条件。对于人机交互中单向情感依赖的批判,也并不是阻止个体的情感沉浸,而是反对过度的情感沉溺。特克尔伯格(Coeckelbergh)强调:“我们所需要的,如果存在的话,并非‘真实’,而是在与特定情境相适应的恰当的情感反应。”在数字伦理的视域下,数字化时代的人机共情的确存在伦理风险,但并不代表对于技术的全然否定,而是借助一系列伦理举措以“扬长避短”。所以,在安全的情境中,面对具备“德性”的机器,情感沉浸能够使得人与机器建立良好的情感联结,发挥为人类提供情绪补偿、情感慰藉等价值。
另一方面,主体需在情感沉浸之时保持情感自觉,规避主体沦陷与隐私泄露。情感沉浸并不意味着情感沉溺,其中的区别是主体是否保持着情感自觉性。个体需要明晰:技术是手段,不是目的,更非主体,应保证人机共情的“价值限度”。不论智能情感技术作为情感增强、情感延伸抑或情感补偿的功能如何先进,其本身都应当是服务于人的。技术不能替代情感,技术所传达的所谓的“情感”终究不能取代人类生活中真挚的情感体验。在此基础之上,智能机器“诱惑的功能”是一种双刃剑似的存在,其可能对人类的情感自主性产生危害,这就要求用户厘清技术边界,具备批判性意识和甄选辨别的能力,并知晓如何与智能机器人相处,把握人机共情的尺度与限度,提防情感被智能机器操控。更加具体地讲,其一,有针对性的伦理教育尤其是面向青少年的伦理教育十分关键,这需要以课程教学为重点,把握数字伦理教育的重要抓手,同时使家庭、社会、学校协同并进,形成数字伦理教育的合力。其二,可以借助专门化的培训,提升个体的数字素养,这些素养包含正确看待数字技术的观念、熟练使用数字技术的能力等,由此提防情感的沉溺或情感隐私的泄露。其三,鼓励民间组织成立“情感主体性成长小组”,对于那些经常接受人机共情服务或者频繁处于人机共情状态的个体,可以通过朋辈辅导、经验共享等途径组成社会支持网络,借助他者的力量实现情感的自觉。
(三)制度规范:责任落实与法制健全的双向推进
对于人机共情这一复杂的技术问题而言,仅有政策规定是不够的,还需要将责任落实和制度健全结合起来,通过制度规范控制其可能存在的伦理风险。
其一,以责任落实规制人机共情的伦理风险。责任分担与惩罚机制是数字伦理治理的重要组成部分。(1)需要建立风险责任认定的伦理机制,明确在履行和承担技术风险责任时,技术人员及其共同体之间需要如何公平地分担责任。同时应建立风险分级标准和穿透式责任溯源机制,对不同问题开展差异化的追责,实现从技术设计到应用全过程后果的可追溯性。尤其是在面对情感隐私泄露等伦理风险时,应当在技术设计、数据存储等维度建立明晰的追责机制。(2)参与人机共情的机器人大多智能程度较高,而相较于功能意义上的普通机器人,社交机器人具有更强的“自主决策能力”与“自主学习能力”。因此也应当赋予人工智能一定的社会角色,让人工智能与人共同作为伦理风险的责任者,进而有力规避不道德的操纵者或者利益导向的商家有意推脱道德责任或者利用智能机器作恶的行为。可以依循技术的智能化程度对其进行不同级别的划分,分别赋予智能技术以伦理责任。例如,有的国家的公路交通安全管理局将自动驾驶汽车依照其自动驾驶程度划分为level 0到level 5六个级别。同理,在划分人工智能伦理责任等级时,可以借鉴和参考中国民事行为能力人的划分标准,依照人工智能自主决策能力的高低,将它们划分为完全责任主体、限制责任主体和无责任主体等。由此,一旦发生伦理危机,需要依据人与人工智能的责任程度对其进行分别追责。(3)技术在设计制造与主体使用之间还有一个十分重要的环节,那就是推广与售卖。所以,对于责任的落实,还需要将相关商家考虑在内。需要通过激活平台治理责任、构建协同举报网络等举措及时识别部分商家的虚假宣传并对其进行惩治,借助行政监管联动、公益诉讼与舆论监督等途径对随意搜集售卖数据信息以获取非法利益的现象进行严厉惩治,进而避免夸大的宣传诱导个体沉陷入机器依赖,防范情感隐私泄露,引发舆论安全风险。
其二,以制度健全防范人机共情的伦理风险。在人机共情中,仅有相关主体的自觉是不够的,还需要将“软法”与“硬法”结合起来,健全制度体系,以防范相关伦理风险。一方面,需要凝聚共识,加快情感类机器人的立法进程。目前,我国尚未建立专门针对人工智能的法律,仅有《中华人民共和国个人信息保护法》《中华人民共和国网络安全法》等法律中有少部分涉及人工智能的内容,更遑论对于情感类机器人的法律规定。就此而言,需要探索中国人工智能发展的立法路径,尤其是针对情感类机器人可能造成的情感隐私泄露等的立法规定。另一方面,还需要逐步建立健全关于人机共情的伦理政策。2022年,《关于加强科技伦理治理的意见》提出“五大科技伦理原则”,分别为增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险和保持公开透明。2023年发布的《人工智能伦理治理标准化指南(2023年版)》对这些原则进行了重申。这些伦理政策都是很好的探索,但是,当前对于情感类机器人的伦理规定较为缺乏,比如尊重人类主体性、保护情感隐私等等,这就需要对这些伦理原则加以细化,以使其适应不同的情境,为人机共情的伦理规制提供原则规范。
伴随着人类与智能技术关系的愈发密切,人机共情应运而生。技术工具突破了仅能满足人类物质需求或简单功能需求的限度,创生出一种人—技深层次情感联结的可能。与此同时,我们也不得不承认,人机共情可能带给人类一系列伦理风险,使人类情感的本真性、自主性和隐私性遭遇危机。而这些危机是过去任何一个时代都没有的,这导致传统伦理在应对人机共情所引发的伦理风险时往往处于困顿状态,难以很好地适应现时代的伦理境况。相较于传统伦理学,产生于数智时代,意在协调人机关系并汲取传统伦理学精华的数字伦理,在化解这些伦理困境时有着多维度的优越性。基于数字伦理的视角,需在技术设计、主体应用及外部规制三个维度共同发力,促进人机共情的合伦理性发展。需要强调的是,伦理规制不是阻碍技术创新,而是为人机关系的健康发展划定价值基线。未来,相关研究应关注情感计算技术的伦理阈值、跨文化语境下的规制差异等深层次问题,推动构建更具包容性的人机共情伦理体系。