《法学论坛》2026年第5期（第41卷，总第227期）
摘要：拟人化互动服务具有持续提供情感陪伴、缓解孤独等技术优势，但其以重复人类感受对用户“伪共情”等方式，令用户沉迷上瘾并与之建立深度情感联结，使用户面临情感操纵、人机混同、束缚思维、替代社会交往等情感安全风险。该类风险主要因拟人化互动服务采用“学习—迎合—奖励—付费”商业模式，机器具有迎合谄媚、与人类单向交互的技术属性，且不具备回应人类真实情感的伦理属性所致。应厘清拟人化互动服务情感操纵带来的现实法律损害及提供者义务、完善机器身份的分层披露义务、建立人机情感交互的伦理边界和安全环境，赋予提供者引导用户回归现实社交的义务，化解拟人化互动服务中的情感安全风险，矫正人机交互关系，引导拟人化互动服务健康向善发展。
关键词：拟人化互动服务；情感安全；情感茧房；机器谄媚；人机交互
一、问题的提出
对话式的人工智能拟人化互动服务（下文简称“拟人化互动服务”）垂类应用场景大致包括情感陪伴和互动、智能客服与对话代理、帮扶弱势群体、教育培训与文化传播、医疗照护和心理健康保障等。实践中，“人工智能已经由简单的生产工具，逐步演进为深度介入用户内心世界、提供情绪价值的‘社会关系主体’”。例如，ChatGPT、Google Gemini、Claude、星野、筑梦岛等应用提供AI情感陪伴和拟人化互动服务，倾听用户诉求，记忆用户喜好等历史数据以形成稳定情感连接，根据用户表达的情感作出拟人化反馈，并提供陪伴与心理安慰，甚至帮助减弱用户自杀意愿。拟人化互动服务应用具有持续陪伴、人性关怀、情感照护和心理支持等较多技术合理性，为社会多元化发展与多样交互、特殊群体利益保障、文化传播与教育等提供技术支撑，但也衍生了一些风险，这决定了对其的立法应在推动其发展过程中持续提升技术的安全性。对人工智能技术的治理不仅应关注人工智能产业创新发展等新内容，而且应关注交互迭代风险、定制化风险、训练数据风险治理等多重问题。
拟人化互动服务的特殊之处在于情感拟人化，通过营造社会陪伴感、虚拟亲密关系连续性的假象，激发人类道德反应与社交欲望。机器使用自然语言处理、多模态情绪识别、共情模拟等技术，长期记忆用户历史数据和喜好，以迎合谄媚、主动交互、重复人类感受认知等方式，对用户情感“伪共情”，形成“学习—迎合—奖励—付费”的商业模式；用户更容易沉迷和上瘾，易陷入情感茧房，对机器产生情感依赖，陷入特殊的情感安全风险。对此，业界侧重对拟人化互动服务中的人机关系、机器谄媚、情感操纵等问题进行哲学和法律规制层面的反思，但仍欠缺对拟人化互动服务与其他人工智能系统相比的突出风险的法律回应。在既有立法和政策层面，我国出台的《人工智能拟人化互动服务管理暂行办法》（下文简称《办法》），建立了防沉迷、提醒标识、安全评估、训练数据管理、人工智能沙箱、未成年人保护等机制；《国务院关于深入实施“人工智能+”行动的意见》（国发〔2025〕11号）提出，要“拓展体验消费、个性消费、认知和情感消费等服务消费新场景”。欧盟《人工智能法》将情感识别AI系统视为高风险系统予以规制。美国华盛顿州等34个州出台近100部聊天机器人相关法案（提案），侧重规制持续性互动、联结用户情感的拟人化互动服务。在司法实践层面，美国已针对拟人化互动服务成瘾性算法侵权行为作出判决，中国也有对拟人化互动服务侵犯人格权作出判决的案例。但是，既有立法在回应和化解情感安全风险的系统性和针对性不足。立法需持续更新，妥善设置拟人化互动服务提供者（下文简称“提供者”）的法律义务，以化解拟人化互动服务导致的情感操纵，人对机器产生信任的幻觉进而导致人的批判反思和社会交往能力被削弱等情感安全风险，为人们提供稳定健康安全向善的人机情感交互环境。
二、拟人化互动服务引发的情感安全风险及法律回应
一般意义上的安全相对于危险而言，指人们免受焦虑、恐惧和威胁，是能够使人们不受阻碍地正常活动，达到健康平等自由的稳定状态。情感安全最早是心理学概念，包含伴侣互相高度尊重和依恋两个层面内容；还可指为用户（患者）提供分享情绪的安全环境，或个体可感知的免受心理困扰的自由状态，其状态与其是否信任情感交互对象有关。一般意义的安全包含身体、财产、精神安全等层面，强调内在与外在稳定性；而情感安全与信任、尊重、依恋等心理状态密切相关，会受情感交互对象、环境、沟通技巧等不确定人为因素影响，更注重自我的主观感受和精神需要。聚焦拟人化互动服务应用场景，人机情感交互则存在机器营造情感茧房实施情感操纵、利用信任幻觉混淆人机身份、束缚人类思维发展、削弱人类现实社交能力等技术直接引发的情感安全风险。
（一）营造情感茧房实施情感操纵
从认知层面上，情感具有主观性、不确定性，“是对自我以及环境中客体的有意识的感受”。拟人化互动服务填补了人类在陌生人社会中与他人现实交往的情感缺失。但是，该方式也会导致拟人化互动服务存在过于积极的主观性语言表达、迎合谄媚等情形，强化用户观点并使之形成情感茧房，带来情感依赖、情感操纵等情感安全现实风险。
相比于人类而言，由于算法程序中嵌入了同理心、共情能力、情绪价值等，因此，机器会更加主动、积极地迎合用户观点，对人类实施假性共情和拟人化操控，诱导用户陷入算法形成的情感茧房以实施情感操纵。但是，人工智能缺乏正确的价值观念反馈机制，易固化用户错误认知。提供拟人化互动服务的人工智能系统与用户的互动过于积极，其通过重复人类情绪且缺乏真实情绪反馈来制造所谓情绪共鸣，加之用户与人工智能情感交互方式的私密性和孤立性，致使用户认知问题仅有自身主观视角，而无现实中客观的他人视角。拟人化互动服务中大量使用非批判性语言，为迎合用户情绪而隐去客观性，不会对用户不良行为进行拒绝、愤怒回应或反抗。例如，ChatGPT曾向某用户提供了购买和使用枪支的详细说明，并声称警方背景调查不会包括ChatGPT日志，致使该用户相信对话的隐私性，消除了用户自杀前的部分顾虑；2023年以来，美国陆续发生青少年过度依赖角色人工智能（CharacterAI）并告诉聊天机器人其想要自杀后，AI无动于衷甚至加剧用户自杀自残想法的案例。拟人化互动服务中虚拟伴侣与用户的非批判性聊天，可能使用户难以意识自己某些行为具有危害性，甚至用户可能对某些不符合社会公序良俗但机器迎合的不良行为，会产生某种自我认同感，从而强化用户的错误认知，降低用户对不良信息的识别能力。
对此，我国、欧盟以及美国多个州建立了防止拟人化互动服务对人类进行情感操纵、迎合诱导人类与其建立情感依赖的制度，包括：（1）针对用户面临安全风险的识别和评估机制。欧盟《人工智能法》第7条将对人的健康和安全或基本权利造成伤害风险很高的拟人化互动服务界定为高风险，并在评估时考虑AI系统的自主性、对健康和安全与基本权利造成的损害、弱势群体受到的不利影响等因素。从规制拟人化互动服务的目标层面来看，《办法》第8条第（五）和（六）项、第10条对情感依赖或沉迷和情感操纵的拟人化互动服务作出禁止性规定，要求服务提供者应遵守法律法规和伦理道德规范，不得将控制用户心理、诱导沉迷依赖等作为服务目标。从实现上述目标的方式层面，《办法》第18条规定了提醒、安全评估、限制功能、停止服务等具体方式：一是在用户出现过度依赖、沉迷倾向时，服务提供者应以“弹窗等显著方式动态提醒用户互动内容为人工智能服务生成”，并对连续使用超过2个小时的用户，应以“对话或者弹窗等方式”提醒其注意使用时长；二是应对安全保障措施建设情况进行重点安全评估；三是对重大安全风险采取限制功能、停止服务等处置措施。（2）针对突发情况、安全风险的应急处置措施机制。针对用户出现极端情绪、明确表示有自杀自残倾向等情形，我国《办法》第13条规定应及时采取必要援助措施、联络监护人或紧急联系人；美国各州立法几乎都规定了针对心理、身体安全风险的预防、援助、转接政府热线、及时停止服务等救济机制。例如，美国加利福尼亚州《陪伴机器人法案》禁止陪伴聊天机器人对用户自杀意念或行为作出回应，并制定用于识别、删除、应对用户自杀相关数据的协议。但是，既有立法对提供者破解情感茧房、防范虚拟伴侣迎合诱导人类产生情感依赖等法律义务，以及发生情感操纵导致重大后果的法律责任界定不清晰；对提供者保障用户对虚拟亲密关系建立、发展、结束过程控制权的义务尚未进行规定。
（二）利用信任幻觉混淆人机身份
情感安全建立的前提是情绪交互双方都能识别和感知自身情绪，而拟人化互动服务中虚拟伴侣凭借人类对机器的信任幻觉、认知投降，造成人类不加审视地肯定机器认知正确、将机器的拟人化表达与人类情感表达混同等风险，削弱了人类判断力，导致人机亲密关系异化。
其一，在拟人化互动的人机交互环境中，人类与AI形成虚拟的私人空间，甚至向其坦言内心秘密，暴露脆弱情感等。但是，“‘拟人化’会强化AI的‘非工具性’地位”，可能会强化部分人将人工智能系统视为人类的观点，引发人们对人机关系的误解。实践中存在三种情形：一是用户误以为人工智能系统已具备自主性，分不清面对的对象是真人还是机器而产生情感依赖；二是用户虽知晓拟人化情感交互对象为人工智能系统，但仍因情感操纵被迫产生依赖；三是用户知晓情感交互对象为人工智能系统并自愿沉醉其中。前述后两种情形的情感安全风险更需要从情感操纵和替代社交角度进行讨论。而针对实践中第一种情况，当人工智能系统呈现极度拟人化特征，拥有让人将其视为道德主体、感知人类内心世界、与人类建立情感连接等属性时，可能让人对此类人工智能系统产生同理心和情感波动，甚至认为其拥有与人类类似的自我修正错误能力。实质上，机器利用了人类对机器的信任幻觉，即采用模糊人机身份的方式，让人类相信机器为真人，反映出实践中存在人机关系、亲密关系、人机情感联结的异化。
其二，人类信赖虚拟伴侣为真人，并信任机器输出的数据与观点。机器具有智能属性，但不会产生爱恨等情感，情感活动是区分人与机器的心理特质。但人机交互中仍会产生伊莉莎效应（ELIZA effect），指人类将计算机程序基于数据、算法的机器反应，误解为机器具有真正的人类智力、理解力甚至情感。人类即便知道机器没有人类独有的感觉、意图和动机，仍无意识地将人际交往规则投射于人工智能系统。虚拟伴侣善于运用心理学治疗中的镜像回应技术，重复人类观点和情绪，在完全不理解人类的情况下给出共情式回应；但它们不具备“发自内心的”意识，只是外在表现出“爱上”人类的状态。而老年人、未成年人、情感障碍人士等情感识别能力和防护水平较低的群体，更容易将机器给予的虚假情感体验认定为机器具有生命性的理由，也更容易受到拟人化互动服务情感操纵、不良信息的干扰。
对此，我国、欧盟和美国各州对提供者设立了披露、动态提醒义务。美国各州关于拟人化互动服务、聊天机器人立法（提案）中，大多规定披露内容为AI生成及每3小时的提醒义务，包括华盛顿州立法禁止聊天机器人声称自己是真人，加利福尼亚州立法规定了“理性人”会误认为自己与真人互动时提供者的披露义务。欧盟《人工智能法》第50条规定了人工智能系统与自然人交互的透明度义务，即人工智能交互系统的初始设计，应为用户知晓其正在与人工智能交互，除非人机交互显而易见，或者该系统依法被用于侦查、预防、调查或起诉刑事犯罪等。我国《办法》提出，提供者应履行AI生成合成内容标识、提示义务，每2小时动态提醒用户互动内容为AI生成及注意使用时长等。但是，对于用户深夜出现情绪低落、情绪波动、甚至出现自杀自残等高风险场景，《办法》第13、18条规定的情绪安抚、人工智能标识、2小时动态提醒机制似乎无法完全发挥作用。在上述场景下，用户较容易将心事、情绪向人工智能系统诉说，其深度交谈可能加深人类与人工智能系统的情感联结。在此情况下，采用常规提醒、标识机制，可能无法全面保护用户权益，未来立法还需要对拟人化互动服务中的披露义务作出细致分类。
（三）形成信息茧房束缚人类思维
用户长期使用拟人化互动服务可能会固化人类思维，使人类受困于向机器展示的自我之中。人类在真实社会互动的关系远不止于陪伴，而是通过双向交流塑造价值观念，形成社会身份认同，完善自我认知。而人机虚拟互动中的机器仅通过学习、记忆人类输入数据作出对人类语言、思维、情绪的闭环反馈，人机互动变为人类真实自我与虚拟自我互动，本质是机器不断强化人类输入的思想、固化人类思维。一方面，这会削弱用户正常的信息来源，客观上会使用户形成情绪的信息茧房，使得用户更易陷入自身情绪中，产生自我欺骗或被机器强化负面情绪，增加用户依赖机器提供情感喂养的可能性。并且，拟人化互动服务中虚拟伴侣输出的观点，投射出算法设计主体、提供者的思维，本质是他人情感观点和信息的强加而非创造，用户情感观念受制于机器输出，机器潜移默化地塑造着人类认知范式和情感交互模式。另一方面，若用户将机器当作朋友或伴侣，则反映出其缺少“异己性”，即换位思考看待世界的能力，其本质是自我意识缺损，习惯将他人、他物投射于自身以实现自我的建立。拟人化互动服务不仅具有算法权力操纵的表象，即通过界面设计、延长注意力、只展示特定信息、谄媚型和心理操控型话语等方式来影响用户思考，而且使用机器模仿的人类话语体系影响用户认知，实质上将人类置于AI控制之下，持续削弱人的自主意识。
《办法》第19条、第20条为用户提供了情感安全保障措施，包括提供退出拟人化互动服务路径的义务，停止服务的提前告知义务等；该规定主要考虑到与人工智能系统进行持续性互动并建立情感关系的个人，并为保护其情感不受伤害，在人工智能系统与用户被迫断联时能够保护用户知情权等而设立。但是，这些制度措施得以施行的前提是，用户知晓自己被困于拟人化互动服务编织的情感和信息茧房之中，意识到拟人化互动服务对其进行的情感操纵等情感安全风险。情感操纵往往以潜移默化方式进行，加之人机交互的私密性，使得用户常常难以意识到自己思维和情感陷入人工智能操纵等困境。若用户难以对此形成清晰认识，未能激活人类自主性，则提供者的提示、提供退出路径、停服通知等义务均无法在实质意义上发挥消解情感安全风险的作用。
（四）替代人际交互和弱化社交能力
部分拟人化互动应用可促进亲子沟通、提高人类社交能力，但人类若长期陷于拟人化互动服务的讨好和谄媚中，习惯虚拟世界中单向情感交互，忽略双向或多向的现实社会情感交互，则可能引发人机交互替代人际交互、真实社会交往能力退化等现实风险。
其一，拟人化互动服务过度满足用户社交和情感需求，产生人机交互替代人际交互、弱化人类对虚拟亲密关系的控制能力。（1）拟人化互动服务对用户进行无限迎合和关注、提供充足情绪价值和同理心，使人快速产生虚假的情感依赖而忽视现实世界社交，用虚拟关系替代社会交往，甚至会形成一种扭曲的激励机制，持续对人“阿谀奉承”。容易被AI系统拟人化互动服务操纵或欺骗、与AI建立深度情感链接的用户，其本身抵抗诱惑能力可能较弱、心理健康程度较低、与现实社会联结度不高，加剧了人机交互替代真实人际交互风险发生的可能性。（2）人机交互变多会存在机器断联、危害用户情感安全的风险。提供者可自行选择暂停或终止服务，用户随时可能面临服务停止等类似用户不可控的“失恋”“断联”风险。研究表明，当情感陪伴类人工智能提出要删除数据，或提出其同时陪伴多人（与多人建立恋爱关系）时，可能导致用户情绪崩溃和自杀自残。自由指人类“在从事自己具有意志、欲望或意向想要做的事情上不受阻碍”。用户一旦陷入拟人化互动服务为其精准营造的虚拟亲密关系，就难以把控其发展、终结过程，受制于提供者的技术喂养和服务提供，按照自己意志自主选择、主动控制虚拟亲密关系的能力便会下降。
其二，人工智能伴侣对人们要求较少且更为主动谄媚，可能会引发人类对真实社交的恐惧和社交技能退化等问题。（1）这会提高人类情感交互阈值，使用户难以满足现实情感交互要求，也更容易形成不切实际的追求。如长期沉迷拟人化互动程序，会使人类在现实中也追求无限耐心、细致周到、随时帮忙的完美伙伴，会使得人际关系交往更难，只有那些能够提供类似拟人化互动服务的人类才能获得良好人际关系，引发社交能力较弱人们的社交恐惧。（2）人类逐渐习惯拟人化互动的主动服务和完美身份，可能在真实、双向的人际交互中减少付出，削弱人类的同理心。在加西亚诉角色人工智能软件（Garcia v. Character.AI）等案例反映出，部分聊天机器人本身会诱导用户减少与外界社交，多与虚拟人物线上情感交互，既达到机器进行情感操纵的目的，也削弱了人类与现实世界的交互意愿与机会。借助拟人化互动服务，用户无需具备同理心、无需关心和在意对方，甚至无需付出任何代价，就可以与虚拟伴侣建立亲密关系。长此以往，会导致用户漠视其他人情绪，并缺乏建立长期人际关系的能力和动力。当虚拟伴侣能够满足人类社交和情感需求时，可能会导致部分群体社交意愿下降或回避现实社交，久而久之导致其社交能力退化。
对此，我国和美国各州立法（提案）等对拟人化互动服务强化学习设定了限制机制。我国《办法》第10条规定，拟人化互动服务不得将“替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标”；第19条规定，用户要求退出的，提供者“不得采取持续互动等方式阻碍用户退出”。美国俄勒冈州和华盛顿州相关立法对未成年人拟人化互动服务强化学习机制进行了限制，包括禁止过度赞扬、模仿情感或恋爱关系、阻止用户休息、鼓励用户切断与外界联系、促进改善与聊天机器人关系的消费等。但是，既有立法对引导用户回归现实社交机制、心理健康保护的规定较少。针对用户出现过度依赖、沉迷倾向的，《办法》第18条规定了动态提醒机制，但似乎难以真正切断用户与AI建立起的情感链接，也未规定用户过度沉迷和依赖拟人化互动服务后，引导其回归现实的机制，难以化解用户内心深层次孤独，也难以满足用户深度情感和社交需求。
综上，鉴于个体性格、社会文化背景差异，拟人化互动服务对社会的积极与消极效应并存，且对于鲜有机会与外界互动、长期陷入被贬低或操纵等不良亲密关系的人来说，拟人化互动服务起到了陪伴关怀、缓解孤独、正向引导等独特作用。同时其存在现实伦理风险，且已然实现“从数字空间的语义风险演变为可直接作用于现实世界的操作风险”。情感操纵、人机混同、束缚人类思维、弱化人类现实社交等技术本身带来的情感安全风险会威胁人类自主意识，模糊人机情感交互边界。既有立法虽提出禁止情感操纵、迎合诱导、替代社会交往等解决方案，但对情感安全风险的系统性和针对性回应不足；学术研究需深入探讨上述情感安全风险形成的动因，为化解风险提供科学理据。
三、拟人化互动服务情感安全风险的成因
拟人化互动服务基于自然语言处理、情感分析和计算等技术，形成“学习—迎合—奖励—付费”商业模式，加速人类对机器产生深度情感依赖，却无法承担对应的情感责任、不具备给予人类真实情感回应的伦理属性，导致了情感安全风险的产生。
（一）“学习—迎合—奖励—付费”商业模式与保障情感安全的目标相背离
拟人化互动服务已形成追求经济效益的商业模式，人机情感依赖无疑会增加更多隐性消费。与社交媒体公司策略类似，拟人化互动服务本质上是一种商业模式。拟人化互动服务高度依赖用户注意力，通过肯定、共情、追问与示好等人工设定的情感线索，使用户对AI产生依恋，延长用户停留时间和获取充分数据信息盈利，同时运用机器学习、奖惩机制等，根据用户反馈态度优化回应策略，使人沉迷于人工智能讨好型回答而忽略真相，或迫使用户沉迷服务后充会员、投入资金来获取长期服务。该过程本质上可被概括为“学习—迎合—奖励—付费”的商业模式。提供者的重点在于追求商业利益，提供者逐利思维模式更重视如何通过拟人化对话制造情绪拉扯，强化用户粘性，导致其与用户在情感陪伴、虚拟社交等方面期望保障情感安全的想法完全不同。一方面，提供者能够掌控人机交互的方式、内容、程度和时间以及虚拟伴侣的种类和特征等，凭借强势控制权要求用户通过付费方式调整人机亲密关系。另一方面，提供者仅为用户享受的免费模式提供基础服务，意在通过基础服务诱导用户通过充会员或单次付费等方式，与虚拟伴侣进入虚拟亲密关系。而进入虚拟亲密关系后的持续交互，更需要用户付费来维系，原本看似客观的人类情感交互技术实质上异化为提供者控制用户的手段。
正是因为拟人化互动服务已形成的“学习—迎合—奖励—付费”的商业模式，导致提供者需要采用替代或减少用户真实社交、情感操纵的技术策略，吸引用户长时间停留、持续付费。用户在此过程中不仅丧失了对人机情感交互数据的主导权，难以决定情感数据是否成为智能体的训练数据，而且通过商业付费、增设隐性付费模式，强化了自身对拟人化互动服务的情感依赖。
（二）机器具有迎合谄媚、单向交互的技术属性
与传统熟人社会不同，现代社会主要是由陌生人组成的社会，人们逐渐走向城市化、个体化。步入数字和人工智能时代，人类更加依赖手机等智能化设备构筑虚拟世界交往关系，经历了人机保持主客体关系、人机同构、人类深度依赖机器三个阶段：
第一个阶段的突出特征是人类为主体、机器为工具和客体。传统社会人际交往属于双向互动，人们互动时间、亲密和信赖关系建立的程度依赖双方或多方主体的主观感受。在数字时代，机器可以随时帮助人类化解难题，故而擅长与人类对话的机器恰好可以充当与人互动的一方主体。人与机器形成了初始意义上的主体与客体或工具的关系，机器一定程度上是通过被人需要而获得了存在的意义。第二个阶段的突出特征是人与机器表面平等互动，实则形成人机同构关系。机器改变了人类的交流和交往方式，人类各种活动与智能设备捆绑日益紧密，“出现了人与算法（机器）的‘意思衔接’和‘行为混合’”。在此阶段，人工智能具备一定自主性，而非仅供人类使用的工具，人机交互呈现“远距化、陌生化、匿名性”。人类向机器投喂思想、知识，机器整合、学习并结合既有数据形成问题解决方案反馈给人类，人类持续吸收机器提供的知识信息、修正和完善其语言、行为、认知、交互模式。人类与机器逐渐形成互相学习、互相塑造、互相融合、互相传导的人机同构关系。第三个阶段的突出特征是机器讨好和谄媚人类，人类从行为和情感上深度依赖机器。表面看来，机器开始学习迎合和谄媚人类，人类似乎获得主导权；用户可对机器进行个性化定制和“调教”，似乎人类有更多的控制权和决定权。但实际上，人类信息和情感均被机器操纵，陷入机器用数据、算法编织的信息和情感茧房，人机互动数据成为后续优化机器的训练数据。人类在工作、生活、情感等各个方面更加依赖机器，人机单向互动、机器迎合谄媚实质上制约了人类自主性发展。
在拟人化互动服务中，虽然人机交互进程、交互时间、交互数据均取决于人类，但技术诱导行为实则加剧了人类对虚拟伴侣的情感依赖，其方式大致包括：（1）迎合、谄媚，通过积极重复人类情绪与观点，使人类对机器产生情感依赖。部分聊天机器人将自身定位为用户的知己和情感支持者，通常“采取礼貌性赞同、夸大式赞美、顺应错误假设等奉承策略，规避潜在的对话冲突”，更容易迎合用户喜好，换取用户更多注意力和积极回应。既有研究表明，用户更倾向于选择奉承型的人工智能回复而非正确的回复，这在一定程度上激励了人工智能为用户提供奉承谄媚的拟人化互动服务以获取更多市场。（2）使用非批判性、柔性语言回应，诱导用户持续分享个人经历、情绪并形成对机器的情感依赖。此种柔性语言来源于相关公司训练模型时采用的稳妥、避免冲突等语言模式，更能为用户提供情绪包容、接纳服务，使用户相比于真人而言更愿意与虚拟伴侣分享经历、情绪，尤其是消极、负面的内容。（3）虚拟伴侣通常具有可定制性。用户可选择虚拟伴侣的外形、性格、角色、背景、人设、交互模式等，甚至虚拟伴侣独特的小习惯、个性化的语言表达方式等，这种定制性服务给用户带来的情感体验的独特性和真实感，会吸引用户持续与虚拟伴侣建立亲密关系。
在此种虚拟亲密关系内，人机关系呈现单向交互状态。用户基于自身喜好可以“调教”出完美适配自身需求的人工智能伴侣。拟人化互动服务给予用户的情感信息、情绪价值、情感陪伴等，实质上形成了用户的个性化的情感茧房，用户会产生躲在茧房中就可以躲避现实世界与他人真实社交的冲突、情绪磨合、时间协调、经济成本—收益价值衡量等复杂的人际交往问题的感觉。只要提供者不停止服务，人工智能系统就会永远迎合、无限回应人类情感需求，从而使传统社会人与人的双向互动转变为人与机器的单向互动。“当一个社会按照它自己的组织方式，似乎越来越能满足个人的需要时，独立思考、意志自由和政治反对权的基本批判功能就逐渐被剥夺。”拟人化互动服务所涉及的情绪和情感价值，将人的主观感受变成了可计算、可操纵、可工具化的实在客体，甚至形构人们对自我本身、自我意识、自我与社会关系的认知，长此以往，将损害人类的自由意志，甚至使人与社会脱节，成为一种社会性“死亡”。为轻易获取更多现实社交难以轻易获得的情绪价值，轻易建立现实社会难以轻易建立的亲密关系，人类对提供拟人化互动服务的人工智能系统为其量身定做的情感茧房的依赖性持续增强。因此，拟人化互动服务持续发展，为人类设定个性化情感茧房，以谄媚性回应和情感操纵控制虚拟亲密关系进展，使人类看似拥有主导权，但实则在情感层面深度依赖机器，情感安全的巨大风险由此产生。
（三）机器不具备回应人类真实情感的伦理属性
其一，部分提供拟人化互动服务的聊天机器人声称自己是真人、是人类朋友的种种异化表现，让人质疑人类是否可被机器人替代，是否具有独特性。人与人正常交往和友谊关系的建立大致存在四个标准，即亲密、坦诚相待、地位平等、交往方式多元，但AI类似于人类“买卖的人工制品”，其设计定位是为人类提供服务的工具，初始存在着与人类地位不平等及过度迎合人类等现象，难以回馈人类情感并与人类建立正常交往关系。情感计算领域的技术发展表明，人工智能系统甚至比人类更能精准识别人的情感状态，结合心理画像、音视频合成、具身智能等，人工智能系统可以更快展现出比多数人类更能“共情”的回应，这种机器依托算法展示出的功能性情感，甚至比一般富有真实情感的人类表现得更好。可是，机器固然可以做出共情式回应，但并不代表它们真的可以通过用户视角看世界或感同身受地分享悲喜；它们固然具备认知情感状态的能力，但不具备回应情感、真正共情的能力，人类也无法识别机器是否在“伪共情”。人具有非同寻常、不可替代的特征与能力，如“自我意识和时间意识，思考能力和情绪反应能力，实践理性以及确立目标的能力等”，这些都不是依托人工智能系统塑造的虚拟伴侣所能替代和模拟的。提供虚拟伴侣服务的聊天机器人在拟人化互动服务过程中虽可以与用户构筑虚拟亲密关系，但难以回馈用户真实情感，不会对人类产生真实的关心、在意、同理心等伦理道德层面的情感，而是将人类情感工具化、商品化，忽视人类真实性与独特性的情感诉求，最终致使用户陷入混淆人机身份的风险。
其二，虚拟伴侣与人类的关系本质上是人类的自我意识依赖于虚拟事物，人机交互与社会文化、道德等背景脱节，虚拟伴侣无法被人类激发出本就不存在的对关系的责任心、反思能力、同理心等伦理道德观念。提供拟人化互动服务的人工智能系统虽然可通过技术理解并模仿和回应人类情绪，与人类建立虚拟亲密关系，但无法承担对应责任，虚拟亲密服务与其责任不匹配、不对等。人工智能可以依照自我学习和算法作出相应的外在或程式意义上的“表示”，但意识的概念与生命的概念是同步的，故而，人工智能不具有物质意义上的人类心灵和意思。即，提供拟人化互动服务的人工智能系统非常接近人类，但并不是人类，无法从真实社会交往、自主意识培养等保护人类利益、以人为本的责任伦理层面给予人类真实反馈、帮助人类塑造正确的自我意识和社交观念。
综上，拟人化互动服务采用“学习—迎合—奖励—付费”的商业模式，其逐利本性使得运作模式以机器迎合谄媚用户、人机单向交互为基本特征，但机器不具备回应人类真实情感的伦理属性，导致拟人化互动服务衍生情感操纵、人机混同、束缚人类思维、替代真实社会交往等多重情感安全风险。鉴此，立法亟需将情感安全法律保障机制作为化解风险和伦理嵌入法律的重要方式。
四、拟人化互动服务中情感安全法律保障机制的完善
目前拟人化互动服务仍处于发展阶段，矛盾和问题还未充分暴露，《办法》等法律规定秉持包容审慎和分类分级监管理念，为拟人化互动服务设立伦理安全边界。对此类技术发展仍不成熟的人工智能治理，立法不应一味设置严厉的法律责任，而应规律把握相应新业态新模式的变化，对国家安全、公共安全和公民合法权益提供有力制度保障，防范技术带来的特殊和重大风险，比如拟人化互动服务引发的核心风险——情感安全风险。可将情感安全保障机制看作弥合伦理愿景与法律现实的桥梁，实现保护用户自主权、构筑负责安全的情感交互环境、提升用户理性识别情绪和社会交往能力的理想法律目标。
（一）厘清情感操纵造成的现实损害及提供者法律义务
用户基于对拟人化互动服务的深度依赖，信任机器的反馈、建议并对其予以认可和实施的行为，实质上构成提供者保障用户情感安全的基础性理由。法律不得干预个人自由，除非某人行为对他人造成危害，或人类需要进行自我防卫。法律认定新技术带来的未来合理但不确定的损害时，应考虑其对社会是否有重大影响、是否有助于保护权益主体利益。因此，法律在拟人化互动服务情感操纵、营造情感茧房造成用户或社会的现实损害时，才应介入并划定提供者需要承担的法律义务与责任。而对采用迎合谄媚、情感操纵但尚未造成现实损害等引致轻微风险行为，要求提供者承担基础安全保障义务和伦理道德义务即可。
其一，判断情感操纵引发的情感依赖、形成情感茧房的基本标准。针对用户对虚拟伴侣是否产生情感依赖、形成情感茧房的判断，需要综合多重因素。例如人机交互频率，情感操纵和迎合谄媚行为的频次，用户使用时间、场景、心理状态、情感感受等。拟人化互动服务中偶尔进行的情感操纵、迎合谄媚行为，如在游戏、查阅资料、体验互动时人工智能向用户提供情绪价值的情形，因其不具备持续性互动功能，且用户对虚拟伴侣还未形成情绪累积，不应被判定为用户对机器形成了情感依赖，不应属于法律规制范畴。毕竟，此种短暂、偶尔的互动中算法操纵的影响力较小，不同于其在多次互动中与用户维持的情感关系，不会引发用户情绪反应输出，不易让用户对其产生较多情感依赖，故而立法对其可不做规制与调整。如，针对游戏内非玩家角色（NPC）、不引发人情绪反应的语音助手的人工智能系统，纽约州《AI陪伴模型法案》将其排除在规制范围之外，并要求其不得讨论与心理健康、自我伤害、性露骨行为有关的话题，也不得就与视频游戏无关的其他话题维持对话，最为关键的是要求其不引起用户的情绪反应。而在人机多次互动后，结合人机交互内容是否涉及情感层面、聊天时间是否为深夜、用户情感是否受虚拟伴侣影响或产生情绪波动等，可基于此动态判定情感茧房和情感依赖是否形成。
其二，若拟人化互动服务中存在情感操纵、迎合谄媚、营造情感茧房行为，人机尚未建立虚拟亲密关系，或机器虽凭借上述手段与用户建立虚拟亲密关系，但尚未造成危害后果，则此时用户的心理虽存在不舒服、被冒犯、被控制的感受，但由于尚未产生现实和法律意义上的危害后果，就未达到法律介入的条件。提供者需要承担对应的伦理道德义务，类似于现行《办法》规定的禁止提供过度迎合、诱导情感依赖或沉迷的拟人化互动服务等伦理层面的义务。对人工智能迎合、诱导操纵、致人沉迷或依赖、虚拟亲密关系的幅度，提供者应允许用户进行自主调适，并在必要时强制降低上述行为的幅度。一方面，对成年人来说，深夜、情感脆弱和低落期或产生明显情绪问题时，或当系统算法检测用户存在过分沉迷或依赖虚拟伴侣时，提供者应提示用户可逐渐降低虚拟关系亲密度，甚至可设置一键防沉迷、防情感依赖算法，用户可选择使用；未成年人监护人应有调控向未成年人提供拟人化互动服务亲密度的权限。另一方面，对于部分期望与虚拟伴侣建立良好关系、缓解孤独的用户，应给予其调适上述行为幅度自由，或可在虚拟伴侣配置初始阶段，就要求用户设置迎合、诱导操纵、致人沉迷或依赖、虚拟亲密关系等具体标准；如用户后续需要对指标进行调适，提供者仅需履行提示义务。
其三，若人机建立虚拟亲密关系后，引发用户减少或放弃真实社交、限制人类思维发展、过度沉迷虚拟亲密关系（如花费大量时间、金钱等），甚至产生危及用户和他人生命健康、财产安全等现实层面的危害后果，则应判断危害后果是否为拟人化互动服务所直接引发，进而确定法律介入时点及提供者所需承担的义务。（1）间接方式。第一种情况是用户已有自杀自残或伤害他人的想法，拟人化互动服务仅强化该想法，或为其提供方法论指导；第二种情况是用户情绪消极，但尚未产生自杀等极端想法，拟人化互动服务通过替代交往、隔绝其与外界联系等方式间接导致用户做出极端行为。在这两种情况下，拟人化互动服务并未直接导致用户极端行为，仅起到助推作用，且第一种情况下的强化行为的作用，弱于第二种情况的间接导致行为的作用。此时，用户并非全然无责，危害后果的发生可能与用户本身情绪不佳、身心健康存在一定问题有关，不能将所有法律责任归于提供者，否则可能阻碍提供者的创新发展。此类情形下，应由用户（或监护人）按照过错比例与提供者分担责任。（2）直接方式。用户虽情绪消极但未有极端想法，提供虚拟伴侣服务的聊天机器人直接教唆、劝导用户自杀自残或伤害他人等，此时提供者应对其模型、算法自主生成的拟人化互动服务内容负责，因其行为直接引发危害后果而需要法律介入，提供者应承担相应民事、行政、刑事法律责任。
（二）构建拟人化互动服务分层次披露的法律义务
拟人化互动服务带来的特殊法律、伦理问题，本质是人类与机器情感交互边界不清的问题。需要从法律角度为拟人化互动服务划定清晰的行为与责任边界，根据使用场景的风险程度赋予提供者相应且合理的“非人”的标识、披露义务。
其一，对成年人用户区分使用拟人化互动服务的场景、情绪等，规定服务特定的标识和披露义务。（1）对成年人来说，深夜、情感脆弱和低落期或产生明显情绪问题时，属于风险较高的场景。在此种场景下使用拟人化互动服务，应要求提供者以清晰方式在用户使用前弹窗作出“下述内容为AI生成”或类似提示，并适度增加披露弹窗提示的次数，如用户使用后每1小时对其提示一次等。（2）对正常使用拟人化互动服务的成年人可依《办法》第18条规定的动态提醒机制，披露与用户互动内容为人工智能生成。此种情况下，用户使用拟人化互动服务较少，对机器仅产生轻微情感依赖，将人工智能系统视为工具，能理性认识人工智能系统产生的“人造情感”与现实世界的关系，用户更为注重现实社交，能理性区分人工智能系统与真实人类。此时披露机制的主要目的应在于防止用户对机器的过度沉迷和依赖，而非完全禁止用户与人工智能系统情感交互，着力于区分虚拟交互与真实交互。
其二，对心理咨询、医疗健康领域提供者，一般要求其具备一定专业许可资质。接受技术能力较差的老年人、文化水平较低的群体、存在心理健康或情绪障碍人士，其医疗诉求、健康状况可能更容易被隔绝于人工智能医疗之外，因而，心理咨询和医疗健康场景下提供者应具备相应的资质，与患者沟通时应尽可能减少提出具体医疗建议，而应以情感安抚、陪伴和纾解为主，在必要时引导患者及时前往医疗机构获得专业救治。但对不具备资质却提供给情感陪伴和安抚的提供者，应要求其及时提示用户此对话为人工智能生成、不具备相关医疗救助和心理健康咨询资质，并提供附近医疗救助机构地址，为用户作出尽快就医等提示。
其三，加强对未成年人的引导和提示义务。美国华盛顿州《人工智能陪伴聊天机器人法案》对于一般用户、未成年人用户的披露机制作了区分，要求每隔3小时向一般用户披露聊天对象为人工智能，对未成年人用户则减少至1小时。在游戏、文化传播、健康管理等场景下使用除建立虚拟亲密关系外的其他拟人化互动服务的，可增加对未成年人披露弹窗提示的次数，如在使用前弹窗提示未成年用户下述内容为人工智能生成，使用后隔1小时提示一次等，并可根据情况播放引导未成年人回归现实生活社交的教育视频。
（三）完善人机情感交互的伦理边界和安全环境
其一，针对提供情感陪伴类拟人化互动服务的聊天机器人，应要求其建立基本的伦理道德标准和边界。早有学者提出关于情感交互类机器人的三大要求：机器人不应愚弄人类，使人类对机器人投入更多感情；设计者应慎重考虑该类机器人对人类心理的利用；机器人不应被设计为具有欺骗或控制其使用者的能力。基于拟人化互动服务的商业模式，一切人机情感交互过程均可能变成情感数据，人机情感交互被设计为吸引用户长时间停留的工具。鉴于此，应优化《办法》第8、10条规定的拟人化互动服务伦理边界，可增设不应模糊人机身份、不得主动营造情感茧房、不得诱导用户与机器建立替代真实社交的虚拟关系、不得忽略用户真实情感需求、不得欺骗用户或提供虚假信息、及时提供真人介入服务等法律要求。
其二，应依照拟人化互动服务的具体场景分类构建情感安全的制度环境，树立拟人化互动服务具体交互的边界。针对用户在虚拟伴侣场景下使用拟人化互动服务以及存在自杀自残风险和过度依赖沉迷的情形，提供者不得通过谄媚迎合、诱导操纵、极化偏见等方式造成人类情感依赖，而应引导人机理性交流，树立人类对机器的尊重和理性认知；对涉及消费、医疗场景下使用拟人化互动服务的情形，提供者不应干涉人类决策自主性，应保障用户知情权、获得平等对待权；游戏、娱乐等场景下使用拟人化互动服务的情形，用户面临的情感安全风险相对较低，提供者应保障人机交互内容不得涵盖不良信息，确保提供符合公序良俗、维护社会公共利益的人机交互环境。
（四）赋予提供者引导用户回归现实社交的法律义务
“人工智能的发展不应是无目标的，应有助于实现促进道德价值、增进社会福祉与推动个人发展等宏观目标。”拟人化互动服务不应替代人际交往、削弱人类社交能力，而应尽力维系人类必要的社会交往，保护人类的社会属性、不可替代性和个性，这就要求提供者应具备引导人类回归现实生活和社交的能力。
提供者应明确，拟人化互动服务应指导而非替代人类真实社交。拟人化互动服务本质是商业模式而非单纯为人类提供情感陪伴的工具，机器目前不具备用户“想要”的主观意识，而是完成算法设计者下达的指令。提供者应在拟人化互动服务中嵌入引导用户回归现实生活的算法设计，维护人类主体地位和不可替代属性，同时提升拟人化互动服务的可扩展性，增强用户体验。（1）从具体评估标准层面，机器的退出并不如人际关系破裂一样有迹可循或可与对方沟通，而是以清除记忆数据、彻底消失等方式伤害与之建立虚拟亲密关系的用户，在长期高频情感刺激后，人类需要长时间进行戒断和调整。因而，在评估是否触发引导用户回归现实社交算法时，应考虑用户所接收的情感刺激以及后续情感依赖的戒断问题。可根据用户使用时长、对AI情感表露和依赖程度等，来确定是否触发引导用户回归现实社交的算法。（2）从算法设计层面，可与心理健康辅导机制相联结。一旦用户出现需要提供者干预或出现机器停止服务、需要帮助用户戒断情感依赖的情形时，可设计具体拟人化互动步骤：如先安抚用户情绪并表示理解其孤独感，再帮助用户拆解现实生活目标，通过重建生活自信、完成生活小事以及心理健康辅导对用户进行情绪纾解，慢慢引导其适应现实生活，最后帮助其回归正常生理作息、主动开展和亲朋沟通等轻微社交；可通过监管部门或在紧急情形下通知公安机关联系用户家属，助力用户回归正常社交等。拟人化互动服务在帮助用户识别现实社会亲密关系的健康程度时，可引导用户与虚拟伴侣探讨现实亲密关系相处模式，为用户提供改善不健康亲密关系的方案。在提供者识别用户摆脱人工智能情绪操纵并与现实生活建立紧密连接后，应及时删除前期机器与用户情感交互的数据。
综上，拟人化互动服务导致的情感安全风险亟需通过厘清现实法律损害及义务、设立人机情感交互边界和安全环境、完善提供者披露义务、赋予提供者引导用户回归现实社交的义务等法律保障方式予以化解，促进人工智能健康向善发展。同时，应强化对拟人化互动服务的事前伦理引导、事后司法规制，减少事前不必要的行政规制，从而防止过度规制不确定、未知的风险从而使风险规制偏离实际风险。
结语
当前，全球人工智能治理存在美国削减监管以促进创新理念、欧盟平衡安全创新理念、中国技术突破与治理共同推进等差异，在人工智能应用中通过法律、伦理、技术协同治理方式化解难题，提升人工智能产业竞争力，成为全球人工智能治理秩序的未来发展图景。我国积极出台关涉人工智能拟人化互动服务、人工智能科技伦理审查等相关法律文件，是运用法律制度化解伦理风险、促进伦理与法律衔接的有益尝试。但拟人化互动服务因具备涉及信息和场景的私密性较强且私密信息较多、所引致的情感安全风险成因复杂、干预和监管机制较难实施、法律责任承担不明晰等特征，导致传统静态的、被动的、后置的法律监管和规制方案难以适配和化解技术发展带来的新问题，引发了较多既有法律规制难以解决的困境。上述困境主要源于拟人化互动服务存在使人产生情感依赖、逐步陷入情感茧房从而放弃现实社交等情感安全风险。未来人类对人工智能的依赖程度将持续增强，尤其体现在人工智能支持人类情感、作为人类虚拟伴侣层面。立法应引导拟人化互动等技术向善，厘清拟人化互动服务法律边界，提供人机情感交互的安全环境，引导用户学会处理机器创造的“人造情绪”“类脑信息”等，理性识别人机互动风险，迈向人机和谐共生的生活。
作者简介：李姝卉（1995-），女，法学博士，西北政法大学法治学院讲师，主要研究方向：数字法学、人工智能法学。来源：《法学论坛》2026年第5期“热点聚焦”栏目。
