吕鑫源:人机共情的伦理风险及其规制思路转向

选择字号:   本文共阅读 34 次 更新时间:2026-07-08 14:06

进入专题: 人机共情   伦理风险   数字伦理   人机关系  

吕鑫源  

吕鑫源华中师范大学教育学院博士研究生从事技术伦理学、教育伦理学研究;冯永刚山东师范大学教育学部教授、博士生导师教育学博士从事道德教育哲学、教育基本理论研究。

摘要人机共情是在人机交互的过程中人类与部分智能机器建立的以情感为基础的联结。其技术实现逻辑以拟人化为起点“情感—反应”为过程以满足人类情感需要为指向。产生于数智时代的人机共情是耦合着机遇与挑战的矛盾体伴随着一系列伦理风险对人类情感的本真性、自主性及隐私性产生冲击。作为确保数智时代人机关系“良善化”致力于实现“数字幸福”的伦理方案相较于传统伦理学数字伦理在化解人机共情的伦理风险时有着视角开拓、对象契合、内容前瞻等优势。基于数字伦理的视角应从技术设计、主体应用和制度规范三方面着手明确情感向善与情感求真的技术设计取向保证主体情感沉浸与情感自觉的耦合共生以及推进责任落实和法制健全的共同作用从而实现人机共情的合伦理性发展。

关键词人机共情;伦理风险;数字伦理;伦理规制;人机关系

在数智时代已然到来的今天人与智能技术的关系在乐观接受与悲观怀疑的态度张力之中持续变化。但总的来说人机关系呈现愈发紧密的趋势。尤其是在社交机器人出现之后人机关系已不再局限于物质层面或者功能层级人们逐渐将情感需求寄托在部分智能机器身上人机共情由此出现。譬如微软小冰、公子小白、小度、小爱同学、Siri等社交机器人已走进千家万户一些智能机器开始呈现出“具有情感”的一面并与人类发生前所未有的“情感互动”。这种情感的交互虽尚未生发于每个人或者每个智能机器身上但人与机器情感越发亲密的倾向已成为不争事实。这在一定程度上表明着伴随着时代的发展与技术的日新月异我们需要将对于人机共情的探讨提上日程。

过去对于人机共情的研究大多集中于计算机、人工智能等领域主要从技术维度探讨人机共情。然而哲学家斯塔迪梅尔(John M.Staudenmaier)斩钉截铁地指出“脱离了它的社会背景技术就不能得到完整意义的理解……那些设计、接受和维持技术的人的价值观与世界观、聪明和愚蠢、倾向和既得利益必将体现在技术的身上。”所以技术并非价值中立的人机共情也不会是伦理无涉的。人机共情不单单是一个技术议题其研究需要从伦理维度着手关照它的伦理属性。因此本文从伦理学的视角审视人机共情。探讨了人机共情及其可能的伦理风险并说明了传统伦理学对于这些风险的回应失灵。而数字伦理作为一种产生于数智时代的确保人机关系“良善化”的致力于实现“数字幸福”的伦理方案为人机共情伦理风险的化解提供了新思路基于数字伦理提出的规制路径能很大程度上推进人机共情的“合伦理性”发展。

人机共情的技术逻辑

从伦理视域探讨人机共情首先需要对人机共情及其技术逻辑有明晰的了解。

“共情”是“人机共情”这一词语当中的核心要素也就是说理解共情是理解人机共情的基本前提。共情是一种“设身处地”的情感过程它不仅仅需要身处他人境地的情感体验更需要唤起对他人的情感共鸣以达到“感同身受”的情感效果。“共情”在很大程度上表现出双向性它既需要理解、感受他人的情感亦需要调整自身的情感结构。那么人机共情是人类去共情机器还是机器去共情人抑或人与机器的双向共情?从实体论的角度来看智能机器并不具有所谓的情感。这一论点认为情感是人类主体力量在精神生命中的显现它形成于人类的社会实践是人类这一主体立足自身的感觉所形成的一种身心活动影响着人们的行为与抉择。就此而言情感是人类的“独有物”。智能机器依托算法程序对人类的生理信号进行模仿所产生的“情感”并非真实的情感而是给用户制造出的一种“情感的幻觉”。但在关系论者看来现实存在并非静态与孤立而是处于动态生成的情境之中人们不能依据所谓的真实存在的物理属性去认识事物而应当将其置于经验之中才能探究具体事物的本质。在他们看来在人机共情的背景下人类的确能够真实地感受到智能机器的情感且能够与之形成情感互动。所以只要机器人表现出的情感符合人类确定的情感标准就可以被视为真实的情感“在人与机器人的交互中仅有一种真实即用户感受到的真实”。深入思考发现关系论虽肯定了人机交互中人类情感体验的真实性但并没有充足论据证明智能机器能够产生现代意义上真实的与人类共情的体验。不过这为我们理解人机共情提供了新的思路即部分智能机器能够生发指向人类情感需求的“情感化表现”它们能够与人形成基于情感的关联性。这些智能机器包括社交机器人、生成式人工智能、感知型人工智能、陪护机器人等。由此我们认为人机共情是一个涉及人工智能和人类情感交互的重要概念。其指的是在人机交互的过程中人类与部分智能机器建立的一种以情感为基础的联结。这种“情感联结”带有一定程度的虚拟性和单向性说明人类能够表现出对智能机器真实的共情体验但智能机器的“共情”更多地表现为以人类情感披露为前提的“情感化表现”意在更好地理解、适应并回应人类的情感进而满足人类的情感需求。

人机共情的技术逻辑以拟人化为前提。“拟人化”指的是将除人以外的事物人格化与人性化以此表现出与人类相同、相似或者相通的内外样态。人机共情首先需要对人类的外在形态、行为、语言抑或内在情感、品质、兴趣、性格等进行模拟。冰冷理性的机器无法使人产生充分的情感信赖。有研究指出社交机器人的拟人化程度愈高个体对于其共情程度就会愈高。所以在当今时代并非所有的智能机器都能与人类结成情感联结“拟人化”是其最为基本的前提。回到现实目前市面上流行的社交机器人等不仅仅具有人类的形态而且能够通过模仿人类的“言语”“动作”“表情”等来模拟人的情感进而使人产生近乎真实的“情感幻觉”。在人机共情中拟人化的技术设计最根本的目的是使人产生对于机器的“信任”进而促进技术接受、增强用户体验和情感联系、提高交互效率。

人机共情的技术逻辑以“情感—反应”为过程。虽相较于简单的人机交互人机共情使得人与机器的关联性有了质的提升。但在智能机器的情感产生维度人机共情的技术过程并没有摆脱行为主义的逻辑。在人机共情的整个过程之中人类需要先进行情感或者态度披露智能机器则根据人类的外在表现展开多模态数据分析包含语音分析、面部表情识别、生理信号检测、情感文本分析等从而成功接收情感信息。机器通过学习技术基于大量的情感数据训练情感模型进行“情感计算”进而识别与理解人类的情感状态。之后机器会对人类的情感披露进行回应这些回应既包含语言上的安慰、鼓励、建议亦包含与用户情感相契合的语音语调、表情、动作等。与此同时机器能够通过管理对话流程引导情感交流的深入性和持续性。因此自我披露是智能机器学习最直接的“数据燃料”智能机器在学习中“接受”该信息并以某种方式对用户进行“反应”由此构成了人机共情的整个技术逻辑过程。

人机共情的技术逻辑以满足人类的情感需求为指向。“人机共情”本质上是为了“人情”自始至终人机共情的发生目的都应当是满足人类的情感需求。换言之满足情感需求是人机共情的本质功能而其他层面的表征均是其衍生价值。因此人机共情技术需要围绕人类情感需求展开研究。人机共情中的人类反馈强化学习(Reinforcement Learning from Human Feedback)使得这种逻辑指向更加明显。人类反馈强化学习指的是机器将人类的反馈纳入训练以使其自身更加智能的过程。在人机共情中智能机器能够通过用户的反馈不断调整与优化自身的情感识别与回应策略。譬如让机器为用户讲述了一个笑话用户通过“笑”这一动作给予了好评机器将会记下这种成功的互动模式进而在以后类似的情境中应用。可见这种技术机制可以促进人机之间产生更自然、更顺畅、更多元的情感联结通过这种联结满足人类多维度的情感需求。

人机共情的伦理风险

作为技术时代的产物人机共情是耦合了机遇与挑战的矛盾体对于人类而言喜忧参半。一如马克思的洞悉“在我们这个时代每一种事物好像都包含有自己的反面。我们看到机器具有减少人类劳动和使劳动更有成效的神奇力量然而却引起了饥饿和过度的疲劳。”所以我们不能仅仅局限于对人机共情技术的探讨而是应当突破学科边界正视其可能带来的伦理风险。

(一)“虚假情感交互”所带来的本真性遮蔽

本真性是伦理学中的重要概念查尔斯·泰勒(Charles Taylor)的著作《现代性之隐忧》将本真性作为对于个体本位文化的一种反思与伦理回应他认为我们应将本真性视为“具有内在深度的存在物”。存在主义哲学家亦使用了这一概念并将其定义为个人独特的、真实的个性。由本真性衍生而出的情感本真性指的是个体在情感体验与表达中的真实性强调个体能够真实地感受、表达自己内心深处的情感状态进而建立真实的情感交互。对于智能机器而言情感的本真性是难以甚至是不可能实现的。智能机器所谓的“情感”在本质上是情感的数据还原与抽象表达。换言之机器人产生的所谓的“情感”绝不可能是一种被人类文化濡化的高级情感也不可能是进化而来的生物情感而应是一种在算法逻辑驱动下所形成的“低级情绪”。基于此在某种意义上机器仅仅能模拟情感但不能真正地拥有情感。与之相对于人类而言拥有情感是一种自然本能是进化而成的生理机制没有人不拥有情感。这种差异致使人机共情演化为一种“虚假的情感交互”并非真实的情感共鸣。特克尔(Sherry Turkle)指出了一个恐怖的事实当个体在和机器人进行情感互动时由于机器人情感“虚假”的一面并没有被呈现人们便不自觉地去相信机器情感的真实性。所以这种“虚假”的情感交互在很大程度上遮蔽了人类情感的本真性且这种遮蔽不易被个体所察觉。

固然关系论者否定智能机器在“欺骗情感”侧重于将机器人置于具体的情境中感受其情感的真实性。但这种乐观主义论调往往可能忽略“虚假情感交互”背后的伦理后果。一方面其可能导致真实人际交往的疏离。这在社交机器人当中表现尤为显著它能够通过“讨巧化”的言语表达和行为交互来使人放下戒备使人在潜意识中将其误认为“活生生的人”并投入大量的时间与精力与其产生情感交互。但正如《群体性孤独》一书所描述的那样与机器相处久了我们不仅仅会使得真实情感“缩减到机器可以制造的范围内”而且还会降低“对所有关系的期待”其中就包含对于真实人际关系的期待。人际交往的时空被人机交互所挤占人与人之间可能产生愈发疏离的境况;另一方面不真实的情感交互还可能引发情感认同的“不安全感”。在传统的依恋关系中“人—人”的交互是一种安全的依恋关系但是当其转向“人—机”交互时可能会使人在主体变化的过程中产生不安全感造成一种“脱离传统”的不安全依恋关系。比如可以帮助老年人翻身、清洁的机器人在与老人建立情感联结的同时也在不知不觉中给他们造成了心理压力令他们担心自己会遭遇监控和操纵。同时这种不安全感可能会反向映射在人与人的情感认同之中加重人际交往的情感阻隔。

(二)“单向情感依赖”所诱发的自主性冲击

在实体论的视角下人机共情在本质上属于一种不完全的情感交互人类会投入大量精力完成这一情感过程但机器无法产生“真挚的情感”仅能为了人类的情感需求而表现出“机械化”的回应“在如今可供购买的社交机器人中没有一个能真正地关心人类……然而这一事实显然在对社交机器人的大肆宣传中被人们选择性地忽视了”。比如有公司出品了一款全新的机器人娃娃Baby Alive它可以用“我饿了”“妈妈我爱你”等话语与用户建立情感联结。这款机器人的广告则明确地使用“一个如此真实的婴儿”来强调“它是多么真实”。但这样做的后果就是人类可能在“日用而不觉”中产生对于智能机器的“单向情感依赖”。这种“畸形”的情感依赖关系很可能使人在人机交互的“美丽新世界”之中迷失情感自我产生一系列“异化”反应。

其一主体情感可能遭遇操控。不可否认的是任何技术都带有某种价值属性技术设计者在设计机器时也可能带有某种价值观念。这使得在人机共情的过程中部分机器所输出的所谓的“情感”绝不可能是价值无涉的。用户可能对智能机器充分信任并将自身完全交付在沉迷于单向度依恋关系的同时已经在不知不觉中陷入情感被操控的旋涡。

其二自主情感能力可能愈发退化。人机共情的技术逻辑指向于满足人类的情感需求但在信息茧房及人类反馈强化学习机制的催化之下机器可能会向人输出错误的或者不客观的但能切合人类情感需要的内容。如此人类可能在算法隐形逻辑中更趋于用情绪化、不理智的姿态来表达自身的情感机器人则可能成为上瘾和不受抑制的疯狂情感状态的载体。长此以往个体可能难以自主实现自我情感的“正常化”。此外这种情感能力的退化还表现为高阶情感发展阻滞。智能机器的“情感”是数字化的“情感”是对情感的简单化理解和机械化解读这种“情感”追求确定性、唯一性与必然性。也就是说机器仅能模拟的是低阶情感但对于高阶情感无能为力。所以在充斥着低阶情感的人机交互中高阶情感可能会遭遇萎缩。

(三)“自我情感披露”所引发的隐私性危机

自我披露指的是向他人显露自我信息的行为。社会交换理论认为随着自我披露的程度加深人机关系能够不断发展。可见人类的自我情感表露是实现人机共情的前提条件。有研究表明相比于表露身份信息人们更有意愿向智能机器人披露情感信息这使得我们不得不关注在人机共情中可能存在的隐私泄露风险。隐私意指私人生活安宁不受他人非法干扰私人信息不受他人非法收集或公开主要包含两方面私人生活安宁与私人信息保密。隐私权是一种“天赋的权利”。所以隐私是数智时代重要的伦理问题隐私泄露对于现今社会而言可能带来深重的危害。

在人机共情的过程中部分智能机器会试图调动个体的同理心以获得更多信任进而广泛收集个体信息。为了不损害机器功能的流畅性机器的信息收集往往是在隐匿状态下进行的这就导致那些涉及个人隐私的内容被无差别地纳入机器的数据库成为其语料素材。同时个人的情感昭示着个人生活空间的存在在某种程度上具有高度私密化的特征。有研究提及对于情感隐私的搜集已然带来种种危害。例如人工智能情感的使用有可能诱发代际的不公平父母若未经同意将子女的情感数据进行采集使用将会不利于儿童的健康发展。“当你自己的感觉与情绪不再属于你而是被随意地分享给他人即使你并未有意分享给他们—我认为我们依然极大地伤害了这些孩子。”而且“技术黑箱”的存在对当今社会而言已不再是秘密在人机共情中同样如此。但人们为了享受技术所带来的便利只能无奈接受这种可能的隐私泄露风险这也在一定程度上加剧了个体情感的“不安全感”。

传统伦理学的回应困顿

作为一种新兴的、复杂的、前所未有的技术问题功利主义伦理学、义务主义伦理学、美德伦理学对于这些伦理困境的解决都存在不同程度的困难。

(一)功利主义伦理学的应答困厄

功利主义判断一个行为是否符合伦理关键在于看它是否可以给大多数人带来最大幸福。最具有代表性的是密尔(John Stuart Mill)的思想一种行为如果有助于增进幸福则是正确的;如果导致与幸福相反的结果则为错误的。这简明扼要地概括了功利主义伦理学的基本理念。进言之功利主义者持有一种福利主义的价值观念在这种价值观念中福利是唯一需要考虑的伦理要素。功利主义伦理学认定的正确的行为就是将福利最大化的行为。

但对于人机共情而言囿于其技术优惠与伦理风险的复杂性我们很难判定其是否能够给最大多数人带来最大的幸福或者如何才能使人机共情带给大多数人最大的福利。斯玛特(Smart)等批判道功利主义在很大程度上忽视了行为的内在属性其仅仅以行为的“效用”来评判道德正当性但对最大利益的追求容易滋生“消极责任信条”。同样在人机共情中如果过分关注群体层面的伦理需要将很难对情感自主性缺失、情感隐私泄露等个体层面的伦理困境进行化解。而功利主义伦理学亦是一种以结果为导向的伦理学。这就存在一种逻辑为了给利益相关者带来最大的利益其可能主张在实践层面直接插手人类应当自己做主的事物如在机器人的设计中引入“统治”话语可能会给人类的自主性带来更大的风险。但是对人机共情伦理风险的化解功利主义伦理学同样具有理论启发。比如其对于最大多数人最大幸福的关照能够启示我们以“追求幸福”的视角审视人机关系。其对于幸福可量化性的重视则能够为增强人机共情伦理风险规制方案的可行性提供思路。

(二)义务主义伦理学的回应困难

与功利主义伦理学不同义务主义伦理学之所以带有“义务”二字就是因为其更加强调行为本身的正当性。其否认了通过行为的后果来对某种行为进行评判的做法认为我们在追求最大利益时必须接受某种制约。康德指出“要如此行动使得你的意志的准则在任何时间都能同时被视为一种普遍的立法的原则。”基于这种伦理观念义务主义伦理学十分强调抽象、普遍的、必然的法则与伦理规范。

但这种伦理学的设定是否符合人机共情的情境?首先我们要审视的是在人机共情的整个环节之中是否存在一种普遍意义上的伦理法则这种伦理法则需对于人机共情的相关者都是有用的。其可能是存在的但由于人机共情背后复杂的生理、心理、行为、算法等元素寻找这种“普遍律令”十分困难。其一技术社会充满着不确定性和不透明性;其二人类的情感状态具有隐匿性与变化性;其三人与机器的“情感表征”存在着本质的差异这就导致固有的道德原则难以完全契合复杂的境况。此外仅仅关注行为本身的道德性而忽略其后果对于人机共情而言亦是很难适用的。一些智能机器为人类提供情感慰藉看似是“正当”的但在时间的推进过程中人类可能愈发迷恋和依赖智能机器产生自主性消解的后果。所以单单从行为本身出发难以深层次审视人机共情可能的伦理风险。需要指明的是虽然完全借助义务主义伦理学应对此议题存有一定程度的偏颇性但其对于行为本身的考量及对于“规范性”的重视则需要成为伦理风险规制的维度参考。

(三)美德伦理学的辩护失利

与义务主义伦理学关注行为的“正当性”不同美德伦理学致力于对“善”的追求。美德伦理学最早可以追溯到亚里士多德(Aristotle)其关注行为者注重探讨行为者个体的道德品质与行为的关联性。亚里士多德认识到美德不是思辨的而是实践的关注德性“不是为了了解德性而是为了使人拥有德性”。可以看出美德伦理学主要回答的是“我应当成为什么样的人”的问题而不是“一个人应当怎么做”的问题关心的是做人(being)是一种以行动者为中心的伦理学。

美德伦理学在化解人机共情所产生的伦理风险时也带有一定程度的局限性。基于立场侧重美德伦理学主要关注的是技术设计者、用户个体、售卖商家等的德性。可以肯定的是使他们获取“美德”能够在一定程度上解决某些伦理问题这是美德伦理学的可取之处同样也是伦理风险规制的重要维度。但人机共情不仅仅涉及人亦涉及技术手段与技术环境涉及更广范围的社会背景。因此仅仅关注人的德性是远远不够的。对于人机共情的伦理考察必须考虑技术、应用情境等现实因素。一些学者对于美德伦理学多有责难认为其仅关注内在的德性而忽略行为本身和结果难以解决国与国、宗教与宗教之间的问题缺乏对人类整体的关怀。此外古今对于美德的要求已然发生不同程度的变化尤其是进入数字化时代对于主体究竟应当具备何种美德的定义是困难的。对人机共情亦是如此我们很难对智能机器的设计者与使用者的应有美德进行准确界定这同样导致美德伦理学很难成为化解人机共情困境的根本理论基础。

数字伦理应对人机共情伦理风险的新思路

对于人机共情这一技术世界的新问题传统伦理学在回应时表现出不同程度的困顿之态。这提醒我们应当寻求一种更加适用于人机关系的伦理方案。这时作为数字时代的新兴伦理样态数字伦理能够为人机共情伦理风险的化解提供崭新的思路。那么数字伦理是什么其相较于传统伦理学又具备哪些优势呢?

(一)数字伦理的理论样貌

数字伦理内涵丰富通常被视为确保良善数字化生活的规范准则以及方案。发展至今数字伦理已然成为一种具备整体性及包容性的伦理框架其吸收传统伦理学的可用之处并基于时代特征开展创造性转化和创新性发展进而表现出如下的理论样态。

首先“技术规范”是数字伦理的理论基点。数字伦理在本质上是关于技术的伦理因此数字技术的研制、推广与应用是数字伦理出场的首要前提。在过去没有产生数字伦理理论正是因为数字技术尚未广泛开发与应用。数字技术的研发与应用本身并非一个自我规定、客观的过程优先选择何种技术路线等都隐含着差异化的价值选择此种选择在以往是隐而不显、未经充分探析的。但是技术的规范不仅仅是运行、使用等方面的规范还应当包含价值的规范。否则技术将可能沦为作恶的工具造成对社会及人类的威胁。所以数字伦理继承了义务主义伦理学对于“规范性”的要求并纳入更具时代属性的关于技术价值规范的思考。

其次“人机关系”是数字伦理的理论重心。数字伦理虽然缘起于技术但并非“唯技术论”。技术开发与应用的初衷是为了人类的发展这是亘古不变的事实。是人研制技术同样也是人使用技术技术会给人带来诸多便捷同样也会如同“利刃”般刺痛人类本身。那么一系列的伦理问题往往都是在人与技术的交互关联中产生的。而“正义性”“保密性”“可用性”“可解释性”“透明性”等都是数字伦理关心的核心主题其不仅仅是对于技术本身的规定在更大程度上是关于人与技术之内在关联的指引。

最后“数字幸福”是数字伦理的理论追求。数字伦理与功利主义伦理学都关注“幸福”的维度但与追求最大多数人的最大幸福不同数字伦理可以看作是一种对数字化社会之中人类幸福以及可持续发展的承诺其企图通过保证技术的价值规范协调优化人机之间的关系塑造一种更为良善化的数字生活从而实现“数字幸福”(Digital Well-Being)。

(二)超越传统伦理数字伦理的优势表征

相比传统伦理学数字伦理在解决人机共情伦理困境方面表现出一定的优越性。

其一数字伦理研究视角的开拓性。数字技术强调在数字技术的全生命周期(开发、传播、应用等环节)中嵌入伦理考量解决技术引发的一系列社会问题。所以数字伦理是一个多视角的、复杂的伦理理论其对技术时代的行动本身、行动后果与行动者进行综合性关照。换言之数字伦理不仅仅关注技术还关注与数字技术高度相关的人、事物、情境等其致力于通过规范技术研制以及应用的全过程构建一个更包容、安全的数字未来。因此借助数字伦理进行风险规制不仅仅汲取了传统伦理学的可行之处而且能有效规避功利主义伦理学过度关注行为后果、义务主义伦理学过于强调行为本身及美德伦理学过分关注行动者等传统伦理学的单维视角使其拥有更加开阔的视角与思路。

其二数字伦理研究与研究对象的契合性。传统伦理学所研究的对象主要是人及其行为的过程或者结果。尽管部分的理论思路能够应用于人与技术的耦合关系之中但也仅仅能触及其外延很难基于人机关系的本质展开审视和应对。与此同时它们大多着眼于人与人的关系没有或很少将外部工具纳入对关系的考察之中。而数字伦理是一种面向人机关系的伦理学致力于通过多种路径促成和谐的人机关系从而在一定程度上化解人机共情中由于过分依赖等不和谐的人机关系而造成的伦理风险。所以与传统伦理学相比数字伦理学更能处理好此种新型关系所带来的种种问题。

其三数字伦理时代指向的针对性。数字化时代是一个前所未有的时代存在于这一时代的诸多伦理问题都具有很强的特殊性。于这一时代“数字性”已经成为此在“赛博时空”也逐渐演化为人类的基本存在时空就此而言通过过去的思考化解当下的伦理困境已然难以为继。正如有学者洞悉“德性伦理学、义务论与功利主义都无法为数字化时代的伦理风险提供一个令人满意的思路其根本缺陷在于它们所立足的存在论基础已然不再适用。”与之相对数字伦理是一种产生于数字化时代、基于数字化时代、为了数字化时代的伦理学在理论构建及实践验证过程中充分考量了数字化时代这一时代背景。所以其更有优势化解产生于数字化时代的人机共情问题。

需要特别说明的是传统伦理学作为人类道德智慧的结晶在历史维度为数字伦理提供基础性支撑。所以数字伦理并非对传统伦理学的简单否定而是在数字化生存论基础上对传统伦理学进行的创造性转化和创新性发展。我们强调数字伦理的特殊优势主要着眼于人机共情的伦理境况而非否定传统伦理学的价值或丢弃传统伦理学可能的思路借鉴。

“ 技术—主体—制度”“ 三位一体”的规制方案

当前数字伦理大致可被划分为技术设计层面的数字伦理、个体层面的数字伦理及社会层面的数字伦理由此下面主要从人机共情技术设计、主体应用以及制度规范三个方面为人机共情伦理风险的化解提供方法论思路。

(一)技术设计情感向善与情感求真的价值取向

虽然智能机器人不具备和人相同的生理意义的情感但其存有一种指向人的情感化表现。然而真实情感与情感化表现之间的层次差异使得应有的情感本真性遭受冲击因此我们不仅仅需要研制能够满足人类情感需要的机器人还需要保证其与人类情感关联的“向善性”与“求真性”。

其一“情感向善”的技术设计逻辑。“向善”是伦理的本质要义同样也是伦理学的一致追求数字伦理亦是如此。在人机共情的整个过程之中智能机器人最初的行为表现大多渗透了设计者的价值观念。所以要想制造出“情感向善”的智能机器人设计者首先需要保证自身设计动机与设计理念的“正当性”避免由于过度追求商业化和利益化而制造出可能“使人无法自拔”的机器。在“情感化”机器的设计中还需要时刻注意研发者自身是否具有健康良好的情感状态避免将“畸化”的情感带入研制的过程中。为防止情感导向的偏差可以在智能机器中加入价值敏感设计和价值熔断设计。所谓价值敏感设计指的是借助算法手段把社会公众所形成的核心价值共识比如自主、本真、隐私等嵌入技术的开发、设计和建设当中。价值熔断设计则是指在技术的开发、相关技术的应用过程中设置“价值安全阀”若相关设计和决策偏离社会的主流价值观念程序便会因无法满足触发条件而中止。这两项设计能够在很大程度上减少个体接受错误情感导向的可能性。设计者还需要为智能机器提供一种在与人的交互过程中习得人类伦理的能力努力达成人机之间的伦理一致进而规避机器为了满足人类需求而诱骗情感等行为的发生。此外由于情感信息的私密性在智能机器的研发的过程中需要为用户设置情感数据的保密机制和情感信息使用的知情同意机制进而提防人机共情过程中可能出现的隐私泄露。

其二“情感求真”的技术设计逻辑。真实性是数字伦理的重要关照对象“可解释性”“透明性”等都显示出数字伦理对于真实性的具体要求。基于此在智能机器的设计过程中我们应当遵循“情感求真”的价值取向。“求真”并非否定人机交互中通过“善意的谎言”给予用户情感慰藉的现象而是提倡个体真实情感交互不被“伪真实”的情感联结过度侵占。这要求技术设计者避免由于过度“拟人化”而带来虚假情感依赖情况的出现。就此而言设计者一方面需要通过在机器的算法逻辑中加入提醒机制使用户充分意识到自己所面对的是一台机器而非真实的人规避使用者认为这是“习以为常地交付”。比如当个体花费过多时间在与机器的情感交互时机器需要向用户传达现实人际交往的重要意义等方面的信息以防止个体沉浸于虚拟情感世界而难以自拔;另一方面技术设计者要着力实现技术的“透明性”通过主动披露技术的基础信息使得技术处于可监督状态并建立可解释机制(比如算法的可视化工具)以消解知识壁垒进而实现智能技术的形式透明与实质透明。让用户明晰技术内部机制能够在一定程度上消解隐而不显的“神秘性”从技术维度阻断“虚假情感”的肆意蔓延。

(二)主体应用情感沉浸与情感自觉的耦合共生

基于数字伦理的视角结合美德伦理学可以发现人机共情所诱发的伦理风险不单单是技术研制的问题也与使用主体密切关联。对伦理风险的规制不仅需要从机器设计的维度着手还需要在主体使用的维度下功夫。并且“以人为本”一直以来都是数字伦理的题中要义同时也是其纵深发展的指导原则。这充分说明在数字伦理之中是不能缺乏“人”这一核心要素的。面对人机共情可能带来的主体性与隐私性危机需充分培养个体在其中的“技术德性”既要允许“情感沉浸”的发生以使智能机器人充分发挥自身功能又要时刻保持情感自觉以警惕主体性的消解与隐私的泄露。

一方面应允许“情感沉浸”的发生。真实的人机交互体验得以发生的首要前提条件是人类对于具体情境的内心投入主体要充分信任体验带来的“呈现”而不是纠结于客体化机器本身应关注“关于机器人的体验现象学”。因此人机共情的实现主体的“情感沉浸”是必不可少的条件。对于人机交互中单向情感依赖的批判也并不是阻止个体的情感沉浸而是反对过度的情感沉溺。特克尔伯格(Coeckelbergh)强调“我们所需要的如果存在的话并非‘真实’而是在与特定情境相适应的恰当的情感反应。”在数字伦理的视域下数字化时代的人机共情的确存在伦理风险但并不代表对于技术的全然否定而是借助一系列伦理举措以“扬长避短”。所以在安全的情境中面对具备“德性”的机器情感沉浸能够使得人与机器建立良好的情感联结发挥为人类提供情绪补偿、情感慰藉等价值。

另一方面主体需在情感沉浸之时保持情感自觉规避主体沦陷与隐私泄露。情感沉浸并不意味着情感沉溺其中的区别是主体是否保持着情感自觉性。个体需要明晰技术是手段不是目的更非主体应保证人机共情的“价值限度”。不论智能情感技术作为情感增强、情感延伸抑或情感补偿的功能如何先进其本身都应当是服务于人的。技术不能替代情感技术所传达的所谓的“情感”终究不能取代人类生活中真挚的情感体验。在此基础之上智能机器“诱惑的功能”是一种双刃剑似的存在其可能对人类的情感自主性产生危害这就要求用户厘清技术边界具备批判性意识和甄选辨别的能力并知晓如何与智能机器人相处把握人机共情的尺度与限度提防情感被智能机器操控。更加具体地讲其一有针对性的伦理教育尤其是面向青少年的伦理教育十分关键这需要以课程教学为重点把握数字伦理教育的重要抓手同时使家庭、社会、学校协同并进形成数字伦理教育的合力。其二可以借助专门化的培训提升个体的数字素养这些素养包含正确看待数字技术的观念、熟练使用数字技术的能力等由此提防情感的沉溺或情感隐私的泄露。其三鼓励民间组织成立“情感主体性成长小组”对于那些经常接受人机共情服务或者频繁处于人机共情状态的个体可以通过朋辈辅导、经验共享等途径组成社会支持网络借助他者的力量实现情感的自觉。

(三)制度规范责任落实与法制健全的双向推进

对于人机共情这一复杂的技术问题而言仅有政策规定是不够的还需要将责任落实和制度健全结合起来通过制度规范控制其可能存在的伦理风险。

其一以责任落实规制人机共情的伦理风险。责任分担与惩罚机制是数字伦理治理的重要组成部分。(1)需要建立风险责任认定的伦理机制明确在履行和承担技术风险责任时技术人员及其共同体之间需要如何公平地分担责任。同时应建立风险分级标准和穿透式责任溯源机制对不同问题开展差异化的追责实现从技术设计到应用全过程后果的可追溯性。尤其是在面对情感隐私泄露等伦理风险时应当在技术设计、数据存储等维度建立明晰的追责机制。(2)参与人机共情的机器人大多智能程度较高而相较于功能意义上的普通机器人社交机器人具有更强的“自主决策能力”与“自主学习能力”。因此也应当赋予人工智能一定的社会角色让人工智能与人共同作为伦理风险的责任者进而有力规避不道德的操纵者或者利益导向的商家有意推脱道德责任或者利用智能机器作恶的行为。可以依循技术的智能化程度对其进行不同级别的划分分别赋予智能技术以伦理责任。例如有的国家的公路交通安全管理局将自动驾驶汽车依照其自动驾驶程度划分为level 0到level 5六个级别。同理在划分人工智能伦理责任等级时可以借鉴和参考中国民事行为能力人的划分标准依照人工智能自主决策能力的高低将它们划分为完全责任主体、限制责任主体和无责任主体等。由此一旦发生伦理危机需要依据人与人工智能的责任程度对其进行分别追责。(3)技术在设计制造与主体使用之间还有一个十分重要的环节那就是推广与售卖。所以对于责任的落实还需要将相关商家考虑在内。需要通过激活平台治理责任、构建协同举报网络等举措及时识别部分商家的虚假宣传并对其进行惩治借助行政监管联动、公益诉讼与舆论监督等途径对随意搜集售卖数据信息以获取非法利益的现象进行严厉惩治进而避免夸大的宣传诱导个体沉陷入机器依赖防范情感隐私泄露引发舆论安全风险。

其二以制度健全防范人机共情的伦理风险。在人机共情中仅有相关主体的自觉是不够的还需要将“软法”与“硬法”结合起来健全制度体系以防范相关伦理风险。一方面需要凝聚共识加快情感类机器人的立法进程。目前我国尚未建立专门针对人工智能的法律仅有《中华人民共和国个人信息保护法》《中华人民共和国网络安全法》等法律中有少部分涉及人工智能的内容更遑论对于情感类机器人的法律规定。就此而言需要探索中国人工智能发展的立法路径尤其是针对情感类机器人可能造成的情感隐私泄露等的立法规定。另一方面还需要逐步建立健全关于人机共情的伦理政策。2022年《关于加强科技伦理治理的意见》提出“五大科技伦理原则”分别为增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险和保持公开透明。2023年发布的《人工智能伦理治理标准化指南(2023年版)》对这些原则进行了重申。这些伦理政策都是很好的探索但是当前对于情感类机器人的伦理规定较为缺乏比如尊重人类主体性、保护情感隐私等等这就需要对这些伦理原则加以细化以使其适应不同的情境为人机共情的伦理规制提供原则规范。

伴随着人类与智能技术关系的愈发密切人机共情应运而生。技术工具突破了仅能满足人类物质需求或简单功能需求的限度创生出一种人—技深层次情感联结的可能。与此同时我们也不得不承认人机共情可能带给人类一系列伦理风险使人类情感的本真性、自主性和隐私性遭遇危机。而这些危机是过去任何一个时代都没有的这导致传统伦理在应对人机共情所引发的伦理风险时往往处于困顿状态难以很好地适应现时代的伦理境况。相较于传统伦理学产生于数智时代意在协调人机关系并汲取传统伦理学精华的数字伦理在化解这些伦理困境时有着多维度的优越性。基于数字伦理的视角需在技术设计、主体应用及外部规制三个维度共同发力促进人机共情的合伦理性发展。需要强调的是伦理规制不是阻碍技术创新而是为人机关系的健康发展划定价值基线。未来相关研究应关注情感计算技术的伦理阈值、跨文化语境下的规制差异等深层次问题推动构建更具包容性的人机共情伦理体系。

    进入专题: 人机共情   伦理风险   数字伦理   人机关系  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 哲学 > 伦理学
本文链接:https://www.aisixiang.com/data/179049.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2025 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统