摘要：生成式人工智能日益成为青年价值观的重要形塑者。现有研究普遍聚焦技术治理与模型幻觉等问题，较少关注其对青年价值观的影响。从法伦理学的视角出发，生成式人工智能服务提供者基于风险控制能力、技术架构影响力、青年群体脆弱性和智能服务的公共属性，应承担与其技术能力和影响力相匹配的道德义务。该义务是一种由合同义务、法定义务和准信义义务相互交织而成的复合型义务，且高于一般网络服务提供者所承担的义务。其主要内容包含主流价值引领、认知能力保护和信息生态维护三项关键义务，为人工智能时代青年价值观塑造与思想引领提供新的规范基础。
研究背景
《中华人民共和国国民经济和社会发展第十五个五年规划纲要》提出，“完善人工智能领域法律法规、政策制度、应用规范、伦理准则，健全算法备案、透明度管理、安全评估等制度，探索建立人工智能生成物权利归属和开发者经营者使用者权责认定规则”。当前，生成式人工智能日益成为青年认知与价值观形成的重要塑造者。其不只是辅助搜索、写作或娱乐的工具，还通过持续对话、个性化回应和拟人化互动，参与青年价值判断和社会认知的形成过程，产生超出传统意义上信息服务平台的广泛影响。现有研究充分揭示人工智能在广泛应用中的显性与隐性风险，但对生成式人工智能服务提供者（以下简称“服务提供者”）应承担何种道德义务的分析仍显不足。相关研究大多关注模型幻觉、偏见与透明性等议题，将责任诉诸外部约束，既较少聚焦青年价值观的形塑责任，亦未能剖析作为技术主体的服务提供者在青年思想引领与社会心态引导层面的义务。本文即由此入手，从道德义务角度展开研究，重点讨论三个相互递进的问题：在青年价值观形塑中，服务提供者为什么负有义务？负有何种性质的道德义务？具体包括哪些义务？本文认为，服务提供者在形塑青年价值观方面负有特殊道德义务。这种义务兼具合同义务、法定义务和准信义义务的特征，以保护青年形成自主、理性和健全的价值判断能力为条件，为促进青年价值认同与思想引领提供新的理论支撑。
规范基础：何以负有道德义务
风险控制力：避免可预见地伤害他人。服务提供者负有道德义务，一方面源于其对风险源的实际控制。按照安全保障义务论的基本逻辑，凡是创设、维持或经营某种可能损害他人的风险业务，并且较之接受者更有能力识别和控制风险的主体，皆不应仅以“不直接加害”作为责任边界。作为危险源的开启与控制者，服务提供者创建了新的交互性风险空间，与普通用户相比，它能直接控制和防范风险，依据危险控制理论，它负有保护用户免受有害信息侵害的积极义务。在属于不作为责任原始形态的对他人侵权行为之责任领域内，监督者控制潜在危险的义务通常来源于他对危险源的控制力。对生成式人工智能而言，问题的关键不在于其输出是否偶然出错，而在于是否通过产品设计、训练与部署过程，实际掌握风险的形成、放大与缓释。对此，学者杨利华指出：“无论是基于掌握的技术能力、履行义务的经济成本，还是损害发现的可能性，生成式人工智能服务提供者均最适宜作为积极损害发现义务的承担者。”
另一方面，这种道德义务还源于服务提供者对风险的可预见能力。生成式人工智能在面向包括青年在内的广大用户时，其风险并不限于违法等有害信息的直接传播，还包括价值判断的隐性引导、偏见叙事的重复强化、错误信息的权威化呈现，以及在拟人化互动中形成的情感依附和认知依赖。在侵权法框架下，注意义务的设定通常需要考量主体的专业信息管理能力、在系统运行中的预判和干预能力，与其及时制止与降低损害的能力。相较普通公众等一般社会主体，服务提供者拥有较大的专业知识与能力，能够预见可能发生的危险和损害，有能力采取必要的技术措施防止损害的发生或减轻损害。概言之，服务提供者所应承担的这种义务并非源于额外的“高尚要求”，而是基于其风险控制能力、预见能力和降低能力所形成的合理注意义务。
结构性影响力：高于普通主体的特殊责任。服务提供者拥有塑造青年认知与价值的结构性影响力。这种影响力的特殊性在于，它不仅表现为对技术系统的直接控制，更表现为一种嵌入社会结构之中的、系统性的认知塑造能力。具备远超一般商业主体和社交个体的影响力，是服务提供者承担特殊道德义务的重要依据。如果说传统的互联网平台主要通过信息的聚合与分发影响用户的注意力分配，那么生成式人工智能则不仅是被动提供信息，而且能主动生成观点、建构解释、输出建议并模拟情感回应，依靠技术架构的优势，直接介入青年价值判断的形成过程。这种生成而非简单传播的特质，使其影响力具备深度穿透力。
服务提供者的结构性影响力体现在三个层面。其一，生成式人工智能不仅提供内容，而且生成观点、解释、建议与情感回应。当青年用户询问“什么是成功的标准”等问题时，系统输出的并非中立的内容，而是带有特定视角、预设和价值倾向的信息。这种信息以拟人化、对话式的形态呈现，比较容易绕过青年尚未成熟的批判性防线，直接影响其价值观的形成。其二，这种影响不是零散和偶然的，而是规模化和持续性的。少数几家企业所部署的生成式人工智能系统，如今已经成为数亿用户新闻获取、信息检索和创意内容生产的中介，使得这些私营企业成为真相的实际制造者与判断者。有研究认为，人工智能重构了“真相出场机制”，“事实关口”的逐步失效导致“内容关口”面临冲击，一旦作为“最后事实标杆”的新闻业公信力受损，将引发信息系统的失序风险。这意味着，同样的价值预设可以通过统一的模型架构，被系统地传递给广大青年用户，其影响范围远超任何传统的教育者、媒体机构和文化组织。其三，这种影响具有个性化和私密性的特点。生成式人工智能与青年的交互，往往发生在一对一的私密对话空间中，缺乏来自第三方的即时监督与纠偏，会潜移默化地重构青年对真假和善恶的理解方式。
这种结构性影响力从根本上改变了互动双方的对等关系。普通人际交往的影响基本上是双向、平等和受制于社会规范的即时反馈，而人工智能与青年用户的互动则是单向、权威甚至是难以抗拒的。前者是依托算法、数据和交互逻辑的强大商业机构，后者则常常意识不到自己会深受影响。生成式人工智能凭借其明显的技术优势，运用生成引擎优化机制构成对边缘声音的系统性压制，能够对青年用户的价值认知产生深层冲击。有研究发现，“生成式人工智能服务提供者手握海量数据，涵盖用户隐私与各领域关键信息。相关数据若因疏忽泄露或被不当使用，则会大大损害用户权益与社会秩序”。因此，服务提供者所负有的道德义务，绝非普通主体善意交往的一般注意义务，而是对结构性权力与道德责任之对称性的正当平衡，是对权力滥用的合理防范。
青年发展脆弱性：特殊保护的伦理正当性。面对颠覆性人工智能技术，包括青年在内的广大用户，在技术理解、风险识别和抗操纵能力上，相对弱势且易受伤害。人工智能系统的运作机制对于绝大多数用户而言无疑是“黑箱”，对于青年而言更是如此。使用者往往很难分辨人工智能生成的是事实陈述还是价值判断、是客观信息还是算法偏好、是合理建议还是系统偏见。令人忧虑的是，广大青年用户很可能因误将人工智能视为客观中立的知识权威，而放弃独立查证与批判性审视。有研究指出，生成式人工智能在为青年拓展价值认知的同时，通过引发知识革命，重构青年价值观形成的知识基础，并伴生价值认知困顿、主体性消解和价值取向偏离等多重风险。
同时，青年尤其是其中的未成年人，处于人格和价值观形成的关键发展阶段，呈现明显的发展脆弱性特征。从心理发展来看，青年期是个体经历生理、情感、认知快速变化的时期，个体在此阶段开始塑造自我认同、发展复杂认知能力、形成价值观并逐步固化。在该阶段，青年的认知结构尚未完全稳定，情绪调节能力较弱，批判性思维与社会判断力仍在建构，且缺乏对外部反馈的有效过滤，价值认同处于探索与冲突期。这一时期高频率与高强度的外部信息输入，极易内化为个体价值体系的重要组成部分。一项基于160余万条“照片墙”（Instagram）帖子数据的研究发现，青少年对诸如“点赞”等社会反馈的敏感度显著高于成人，其情绪波动与社交反馈的正负变化之间存在更强的关联。如果说社交媒体中的量化反馈机制已经足以显著影响青年的自我评价与情绪状态，那么生成式人工智能所提供的深度语义交互，能够理解、回应甚至放大青年情感需求的对话式应用，则很可能对青年产生更为深层的认知与价值形塑效应。
服务的公共属性：从商业主体到公共责任承担者。生成式人工智能已从纯粹的商业产品与服务，演变为具有更强公共属性的新型信息基础设施，这一特性要求其承担较高层级的公共道德义务。生成式人工智能的公共属性表现在以下方面。首先，从功能角度看，人工智能已经从商业应用的辅助工具演变为知识生产、社会治理乃至公众参与等社会关键领域的基础设施。有学者指出，人工智能驱动的图形界面不再是商业应用的附属品，而已成为教育、医疗、应急和民主运作的重要机制。当一项技术产品深度嵌入社会运行的毛细血管，成为公众获取知识、形成判断、参与公共生活的必备通道时，其提供者便不再仅仅是市场中的普通经营者，而成为承担某种公共职能的特殊主体。其次，从影响范围角度看，生成式人工智能服务的用户规模已达数十亿级别，且覆盖全球各主要文化区域，这意味着服务提供者的技术决策，从模型对齐策略到内容审核标准，正在以不同形式参与塑造全球信息秩序和知识生态。人工智能正在快速应用于社会治理、金融医疗和应急管理等公共领域，有研究发现，“新型人工智能作为基础设施，以其强大的技术基底和数字物质性形塑着媒介生态，搭建技术实践网络，提供数据流动、信息交换以及关系整合的平台”。再次，在信息生产与传播中，人工智能系统的把关功能越来越突出。它所担负的“把关权”，类似于新闻媒体，具有明显的公共属性。服务提供者掌握着信息分发与价值导向的巨大权力，深度参与意识形态与价值观传播。有研究指出，服务提供者及其训练数据背后，是不同国家、地区、文化和阶层的价值观，其输出内容必然保有其本来的价值倾向。
由此来讲，当某一产品或服务具有准公共品的特征时，其提供者便不能仅仅以利润最大化作为唯一的行为准则，而需同时承担保护公民权益、维护公共利益和促进社会公平正义的道德义务。在人工智能领域，这一逻辑已被研究者明确阐发。有研究指出，数字基础设施应被视为一种准公共平台，应当接受与其社会经济意义相称的治理架构。作为一种准公共平台，服务提供者的关键义务不能仅停留于合法经营、追求营利的经济层面，还必须维护公共利益、守护社会核心价值、保障青年健康成长。这种公共属性要求其将技术向善和价值对齐置于商业利益之上，主动承担起引导青年树立正确世界观、人生观和价值观的社会责任，这是数字时代对新型公共主体的必然道德要求。
义务框架：负有怎样的道德义务
道德义务的性质。服务提供者对青年负有的道德义务，既非单纯的合同约定义务，亦非纯粹的法定义务，更不等同于传统的信义义务，而是一种由约定义务、法定义务和准信义义务相互交织而成的复合型义务。该复合型义务在性质上归属于一种较高层级的注意义务，它源于服务提供者兼具技术架构掌控者、内容生态塑造者与青年价值观影响者的三重身份。
该义务在形式上表现为一种基于用户协议的合同约定义务。用户通过注册、登录和点击同意服务条款，取得使用资格；服务提供者则依约开放模型功能与提供计算资源，并在一定范围内确保服务可用性、隐私保护和安全。但这种合同关系并不能完全化约为合同法层面的道德义务。原因在于，生成式人工智能服务的关键风险，并不完全来自合同规范本身，而是来自系统在持续交互中对用户理解、判断和行为选择的影响。由此产生的道德义务，在内容上远超依约提供服务的范畴，亦非用户在订立合同时能够合理理解和正常预见的范围。已有研究发现，“算法的自动化和复杂性使得当事人难以在合同签订时，明确预见算法可能带来的所有后果，特别是在算法具有自我学习和调整功能的情况下，决策结果可能偏离最初的预期目标”，导致权利主体难以获得有效的救济。此外，合同约定义务的履行不仅涉及对相对人合法权益的保障，而且关系人工智能产业的健康发展。因此，将其简单理解为“用户自担风险”的合同关系，会遮蔽双方在技术知识、控制能力和价值影响力上的结构性不平等。
该义务同时具有法定义务的外部特征，但又不能完全等同于法定义务。当前，我国逐步构建以基础性法律为支撑、行政法规和部门规章为补充、专门立法为发展方向的多层次治理体系。人工智能专项规则，更多以技术服务提供者为监管对象，围绕模型、算法及内容生成展开，形成以技术应用为导向的治理逻辑。《生成式人工智能服务管理暂行办法》为服务提供者设定了算法合规、内容安全和备案评估等一系列法定义务，《中华人民共和国民法典》侵权责任编亦为其提供了过错认定的基本框架，当服务提供者违反法定义务，即可认定或推定其承担过错责任。在“广州奥特曼案”中，司法部门要求服务提供者采取关键词过滤、建立投诉举报机制、履行潜在风险提示和显著标识义务。但值得注意的是，现行法律法规通常只设定最低边界，聚焦侵权损害的消极防范，且难以穷尽价值观塑造中细微、长期和情境化的影响，而青年价值观形塑更多地指向“应当何为”的积极道德责任。法律可以禁止生成有害内容，却难以直接命令服务提供者主动设计有利于青年健全人格发展的价值引导机制。换言之，法定义务划定了行为的合规底线，却无法穷尽行为的道德上限，现行成文法难以完全涵盖该义务，亟需进一步完善。
服务提供者所负有的义务还具有准信义义务的特征。信义关系的关键在于一方为另一方利益行事，并负有忠实与勤勉义务。杰克·巴尔金（Jack Balkin）将信义义务引入数字平台治理，提出准信义义务的论点，主张收集、分析和利用用户个人信息的数字平台应当避免滥用其个人信息，并承担不损害终端用户利益的义务。然而，服务提供者与用户之间关系，并不能简单地等同于医生与患者、律师与客户之间的受托关系。这种准信义义务的提法，虽揭示了服务提供者与用户之间信任关系的重要性，却难以完整回应该关系中固有的利益冲突与权力结构失衡。并且，信义义务要求受托人将委托人的利益置于自身利益之上，而服务提供者的商业模式决定其追求商业利润的动力并不在于此，两种利益并非在所有场合都能完全一致。有研究指出，随着用户对人工智能的依赖加深，人与人之间的传统信义关系会趋于弱化，人工智能环境可能进一步拉大信任鸿沟，使传统的信义愈发名实难副。
总体而言，服务提供者对青年用户负有的道德义务应该是一种复合型义务。它不仅应包括合同上的说明和约定义务，还应包括法律上安全、透明和保护个人信息的义务，以及准信义层面的忠实与审慎义务，三者共同凝结为一种高于一般网络服务提供者的注意义务。有研究认为，“生成式人工智能服务提供者承担的注意义务程度，应介乎非专业领域主体普通注意义务的低水平，与专业领域优秀主体高度注意义务的高水平之间，表现为特定行业领域行为主体通常平均水平的注意义务”。这指的是一种人工智能服务领域的善良管理人义务。服务提供者在青年价值观形塑中应承担的，不是消极避免违法的最低义务，而是以人的主体性、发展权和价值自主为中心的积极保护义务，和较高的特殊注意义务。
道德义务的内容。在青年价值观形塑中，服务提供者的道德义务主要包含三项重要内容：主流价值的引领义务、认知能力的保护义务和信息生态的维护义务，三者共同促进青年形成自主、理性和健全的价值观。
主流价值引领义务。这是服务提供者的基础义务。它既不是要求服务提供者进行单向灌输，也不是苛求大模型输出统一答案，而是推动其承担内容价值引导与多元呈现的责任，在设计、训练、对齐和交互过程中坚持基本的道德底线，避免以算法中立掩盖价值偏向。该义务的重点在于将社会主义核心价值观嵌入智能算法设计、训练数据筛选与生成规则设定，确保输出内容符合主流价值导向，而非以用户满意度和商业指标作为根本方向。在数据训练阶段，服务提供者应当对语料中的价值倾向保持警醒，避免有偏见或不良倾向的价值观通过语料渗透模型；在交互过程中，服务提供者应对青年用户的价值困惑提供正向引导，既不回避也不灌输，以道德的方式引导青年形成理性、包容的价值判断力。此外，服务提供者还应向用户阐明模型行为背后可能存在的价值取向，让青年用户在人机交互中保持必要的反思性距离。
认知能力保护义务。该义务是面向青年用户的特殊保护义务。生成式人工智能的危险不仅在于给出错误答案，还在于其可能以便捷、流畅和权威化的内容替代用户自身的思考过程，使青年用户形成认知依赖。已有关于青少年使用生成式人工智能的研究发现，执行功能方面存在更多困难的青少年，更倾向于认为生成式人工智能对完成学业任务有用，且该技术可能对认知脆弱群体产生更大的依赖性吸引。另有研究表明，过度使用生成式人工智能，可能会使批判性思维能力下降，认知卸载在其中发挥中介作用。因此，服务提供者既应当在模型设计中嵌入防沉迷机制，又需要培养质疑精神，鼓励批判性思维，主动引导青年用户对输出内容进行筛选、验证与独立判断，而非将其打造成不容置疑的知识权威。
信息生态维护义务。该义务是服务提供者面向社会公共领域的外部性义务。大模型如果输出虚假、偏见、仇恨和阴谋论等不良信息，不仅会损害青年用户的权益，也会侵蚀整个网络内容生态。有研究认为，服务提供者负有防止危害性、误导性内容生成和传播的义务，凡涉及国家安全、社会秩序或公共道德的有害信息，服务提供者负有一定的主动注意义务。为有效防范化解该风险，服务提供者应当采取措施，避免人工智能成为制造和传播虚假信息、放大社会情绪的工具，在信息生态治理中承担与其技术能力相匹配的公共责任。这具体表现在三个层面：在事前，服务提供者应当对训练数据进行严格的清洗与筛选，从源头降低有害内容生成的概率；在事中，服务提供者应当对输出内容进行实质性合规审查，重点识别暴力、色情和仇恨等高风险内容；在事后，服务提供者应当对已生成的有害内容采取停止生成、阻断传输与及时删除等必要措施，并持续优化模型。
治理反思：是主体错位还是过度限制
道德主体错位问题。服务提供者负有青年价值观形塑的道德义务，并非意味着家庭、学校和青年自身不再是道德主体。青年价值观的形成当然首先发生于家庭、学校和社会交往之中，但在人工智能深度介入知识获取、情感支持和公共讨论的条件下，服务提供者已经成为认知环境与信息生态的实际塑造者。人工智能不是中性的工具，其通过拟人化对话、内容生成和反馈强化等机制，持续介入内容生产与传播。要求服务提供者承担道德义务，并不是让其决定何为正确的价值观，而是要求其承担与其影响力、控制能力和技术能力相匹配的伦理责任。一个主体对他人施加的控制力和影响力越大，其对风险后果承担的责任就应越大。有研究指出，人工智能服务中的“多人之手”问题并不意味着责任消失，而意味着责任在开发者、部署者、使用者与监管者之间被分散，需要重新进行责任分配。此外，强调服务提供者承担道德义务，也不是将青年设定为被动的保护对象。青年虽相较而言易受价值形塑，却仍然是道德主体。真正正当的保护，不是由服务提供者以家长主义的方式替代抑或控制青年做出决定，而是维护其形成自主判断的条件。在价值观的形塑过程中，服务提供者担任的不是价值灌输者和裁判者的角色，而是认知发展中的对话伙伴。
限制技术创新问题。目前，一个较有争议的问题是，如果要求服务提供者承担道德义务，可能会导致对企业营利、技术创新与表达自由的过度限制。这个担忧并非毫无道理。生成式人工智能具有表达、创作和知识融合功能，过于严苛的监管可能会压缩其技术与市场创新空间，也可能致使平台以过度审查替代审慎判断，最终可能导致“一管就死、一放就乱”的结果。因此，服务提供者所负有的道德义务必须受到一定程度的限定。从对象上讲，正当规制的对象不是一般表达，而是操纵性设计与脆弱性利用。人工智能企业不仅完全可以追求合法的营利，也可以通过技术创新提升服务质量，但不能把青年的孤独感、身份焦虑和情感依赖作为其利润增长的资源。从法理上讲，合理适度的义务与技术创新，实质上并不必然引起冲突。欧盟实施的《人工智能法案》采用基于风险的分类治理机制，强调在保障公民的基本权利、健康与安全的同时，支持创新和发展。这意味着，人工智能治理并不必然走向全面禁限，而是可以通过针对性的风险治理实现利益平衡，其中，低风险应用推动创新自由，高风险场景接受严格审查，面向青年心态、陪伴关系和公共安全等相关领域，则适用更高义务标准。
结论与展望
总体而言，服务提供者在青年价值观形塑过程中并非外在的技术中介，而是具有实质影响力的网络信息环境建设者，因此，负有与其技术控制力和社会影响力相匹配的复合型道德义务。青年价值观的形成固然依赖家庭、学校与社会共同体，但生成式人工智能以持续交互、情感陪伴和拟人化表达的方式介入社会认知与价值观形成过程，已经在事实上改变了传统思想引领的场域结构。正因如此，服务提供者的责任不能仅被简单理解为规避违法内容或履行最低限度的合规义务，更应该是一种具有责任厚度的高度注意义务。在该义务关系之中，服务提供者至少应承担价值引领义务、认知能力保护义务和信息生态维护义务，其根本目标不是替代青年做出决定，而是构筑有利于其形成自主、理性和健全价值观念的信息环境。
本文的理论贡献在于，实现了从外部规制视角向内在道德义务视角的转换，在规范层面构建了服务提供者的道德义务框架。该研究超越技术应用的法理讨论，直接指向智能技术社会影响的深层省思。当颠覆性技术系统深度参与社会价值引领与认知塑造时，责任边界的划定就不能停留于传统的事后救济与外部约束，而需将治理环节前移至设计与部署环节，推动人工智能实现价值对齐。展望未来，如何在技术迭代加速与青年价值取向日益多样化的情境下，将柔性的道德义务转化为深层的规范原则与合规指引，以及如何协调监管部门、服务提供者等相关主体之间的责任分担机制，仍需跨学科与实证研究的持续跟进。只有在技术、伦理与制度的动态平衡中，方能确保人工智能真正赋能青年成长。
卢家银，中国人民大学新闻学院教授、博士生导师，新闻与社会发展研究中心研究员、人工智能治理研究院研究员。研究方向为传播法规与政策、互联网治理、人工智能治理，主要论著有《群己权界新论：传播法比较研究》、《互联网平台私法责任承担的影响因素研究》（论文）等。
来源：《学术前沿》杂志2026年第10期（注释从略）
