摘要:现有的AI价值对齐进路要求AI系统遵守鲁棒性、可解释性、可控性和伦理性原则(简称RICE原则),来规避对齐失败的风险。然而,这种以决定论的思维方式将工具理性强加于以概率机制为基底的AI系统的做法,构成了哲学上的范畴错误。大语言模型与人类在认知目标、信息处理、知识表征及推理机制方面存在根本差异。AI系统追求的功能目标与服务于社会和人类的根本使命之间的“智能悖论”,无法在现有框架内得到化解。价值对齐的双向循环结构隐含了独断论前提。化解悖论需要从“独断对齐”范式转向“开放共生”范式,重置对齐原则。智能时代的问题不是让AI与人类价值完美对齐,而是涵养人的共生判断力,学会在不确定的世界中生存,进而为AI治理提供新的思维方式,为AI发展系上“安全带”提供思想指引。
随着AI系统在推理、语言理解和内容生成等方面能力的不断提升,其社会应用也日益普及,AI系统的价值偏差或对齐失败带来的风险也随之急剧增加。诸如AI操纵、欺骗、谋权等不良行为,以及奖励黑客、目标错误泛化等结构性问题,已经引发各国政府、国际组织以及社会各界对AI系统潜在风险的高度关注,甚至有世界顶尖AI专家把AI所导致的灭绝风险与大流行病、核战争等全球性威胁相提并论。这些担忧促使关于AI系统价值对齐的研究很快成为AI领域的一个分支。价值对齐进路默认的共同前提是:人的价值能被识别、表征并转化为可计算的约束条件,使AI系统的行为与之保持一致。然而,这一前提并非自明,需要接受哲学的拷问。将价值简化为技术指标来执行的美好愿望背后,隐藏着更深刻的哲学悖论,极有必要加以澄清。本文试图在简要考察价值对齐研究现状之基础上,揭示当前对齐研究进路面临的哲学困境,论证从追求“独断对齐”范式转向建构“开放共生”范式的必要性。
一、AI价值对齐问题及其内在张力
AI价值对齐研究的首要目标是,确保AI系统的实际行为与设计者的意图或目标始终保持一致,这一问题被称为“技术对齐问题”(Technical Alignment Problem)。该领域主要关注AI系统的对齐问题,而非其能力本身。然而,在具体场景中,仅解决“技术对齐问题”并不足以确保AI总是对社会有益。假如设计者追求恶意目标,AI系统越是与这些恶意目标严格对齐,越有可能造成更大的危害。因此,如何确保AI成为促进世界向善发展的力量,被称为“有益AI问题”。“有益AI”这一伦理愿景背后,潜藏着一个更深层次的价值难题:我们生活在一个充满价值冲突的多元世界中,不同文化、不同群体对“何为善”的理解并非总是统一,甚至存在本质性分歧。究竟应该将哪些原则或目标嵌入AI系统?由谁来做出决定?是否存在一种公认的价值对齐方法,能够避免某些人将自己信奉的价值简单地强加于他人?这些问题引出了在规范层面更根本的对齐任务:“伦理对齐问题”(Ethical Alignment Problem),即如何确保AI系统的行为既与人的正当指令、意图或价值意愿相契合,又同时尊重价值多元性,来避免陷入伦理独断。这涉及语义、规范与行动三个层面的问题,概括起来就是,在价值不可通约的现代社会,我们如何通过公正的程序来定义“对齐”的伦理目标?
自2018年以来,AI系统价值对齐的研究论文数量逐年增加。这些文献虽然主题庞杂、学科多样,但还是可以大致划分为三种类型。第一类聚焦于“技术对齐问题”的研究,属于AI系统的“内部对齐”研究,重点探究如何通过技术手段使AI系统能够高度自主地完成目标任务。第二类聚焦于“伦理对齐问题”,属于“外部对齐”研究,此类研究文献范围极广,涉及伦理学、认知科学、美学、艺术、教育、金融乃至军事等广泛领域,研究的问题意识包括:如何将结果主义、义务论和美德伦理推理等嵌入AI系统各个阶段的特定执行机制中;如何确保AI生成的建议既能在技术上准确无误,又能体现人类的价值、偏好、规范及伦理关怀;揭示AI价值对齐失败所导致的各种风险;探讨AI治理与安全等问题。第三类研究则致力于开发用来衡量不同大模型价值对齐程度的评估工具。例如,有研究者基于心理学家施瓦茨(Shalom H.Schwartz)概括出的人类基本价值理论,建构了一个评估框架,用来衡量DeepSeek-e1、OpenAI-o3-mini、GPT-4o-mini、Llama3-70B以及Gemma2-9b五个大语言模型与来自七个国家的112名参与者,在协作写作、教育、公共部门及医疗保健四个代表性现实场景中人机价值的对齐程度。研究结果揭示,人类价值与主流语言模型所体现的价值之间存在令人担忧的偏差。
在上述三类文献中,不同侧重点的研究通常相互交织。例如,无论是偏重于技术对齐的文献,还是偏重于伦理对齐的文献,虽然大多集中于方法论层面的讨论,但通常都会涉及AI治理问题。本文无意对AI价值对齐的研究现状进行详细评述,而是选取两篇具有代表性的综述文章,来呈现当前AI价值对齐研究进路的基本概况及其隐含的预设前提,并将其作为本文哲学诊断的靶心。
第一篇有代表性的文献是2026年初发表的《咨询AI中的价值对齐问题:一项系统性的文献综述》。该综述考察了2011—2025年间发表的83项经过同行评审的研究论文,重点探讨AI系统(尤其是大型语言模型)在咨询、决策支持及推荐场景中的价值对齐问题。作者们确定和分析了四种主流对齐方法:基于个性化偏好的调优、由规范或原则驱动的框架、公平性与文化适配以及认知偏差缓解。综述结论指出,对齐研究在咨询型AI系统中有双重作用:一方面,个性化推荐和规范性过滤等对齐方法能提升人机交互的信任度、透明度及文化适应性;另一方面,这些方法也暴露出新的脆弱性,如过度依赖、隐性偏见及对抗性操控等。因此,对齐不是静态的技术目标,而是一个动态的具有情境敏感性的过程,由不断变化的用户价值、文化条件以及特定领域内的规范所塑造。这些见解既凸显出现有对齐方法的潜力与局限,也指明了对齐研究需要构建多元化的对齐框架,制定标准化的评估协议,并建立跨学科的治理模式,来确保咨询型人工智能始终具备可信度、公平性及社会响应能力。
然而,在该综述列出的101篇引用文献中,从综述的引用内容和文献标题来看,尚无一篇文献专门揭示对齐进路所隐含的哲学预设前提。这种哲学视域的缺失,不仅反映了哲学研究的滞后性和薄弱性,而且映衬出哲学诊断的必要性:价值对齐进路的底层逻辑,首先是哲学澄清,其次才是技术实现,否则,错置的默认前提与哲学预设,有可能将整个对齐研究引向歧途。
第二篇更具全面性和影响力的综述是2025年底发表的《AI对齐:全面性综述》一文。该综述长达112页,引用文献多达811篇,系统探讨了对齐的核心概念、方法和治理实践等问题。作者们在综合分析大量文献之基础上,将现有研究中AI对齐系统应具备的关键特性归纳为四个原则:其一,鲁棒性(Robustness),即AI系统应在不同场景中保持目标的正确性(即拒绝有害目标)和能力的泛化(即抵御意外中断和对抗攻击);其二,可解释性(Interpretability),即AI系统的决策过程对用户和利益相关者透明并且可理解;其三,可控性(Controllability),即人类能够及时纠正AI系统的偏差和错误;其四,伦理性(Ethicality),即AI系统遵从社会规范和伦理价值。这四项原则简称“RICE原则”。
然而,当研发者试图通过确保AI系统遵守RICE原则来规避对齐失败导致的风险时,会陷入一个根本性的哲学困境:技术对齐所追求的高度自主的功能目标,与伦理对齐所要求的服务于社会和人类的根本使命之间,并非总能保持一致。如果为了完全控制AI系统,而施加强规则约束,则有可能干扰其环境适应性、削弱其自主优势,甚至使其退化为一个高级的自动化工具;反之,如果强化AI系统的自主决策能力,则会增加其行为的不可预测性与潜在风险。技术目标(技术对齐)与根本使命(伦理对齐)之间的这种内在张力,揭示出AI系统在高度自主与完全可控之间存在的固有悖论,本文称为“智能悖论”。揭示这一悖论的成因及其隐含的哲学预设,澄清价值对齐进路的独断论前提,正是深化价值对齐研究不可忽视的重要起点。
二、“智能悖论”的成因
揭示“智能悖论”的形成原因,需要深入到AI系统的运行机制中来进行。AI系统的执行力和理解力由复杂的算法模型来支撑。当它面对高度复杂、开放和定义模糊的问题时,其探索性的概率推理过程通常呈现为多路径并行、动态交互的整体演进。AI系统体现出的“认知”,类似于人类认知过程中的“直觉”涌现:既难以被完整追溯,更无法被完全还原为确定性的因果说明。具体而言,大语言模型的“规模定律”表明,其智能表现行为是千亿乃至万亿数量级的参数通过高维非线性交互的涌现效应。在如此复杂的系统中,要精确说明任一输出或决策的具体形成机制,本质上相当于描摹海量参数在特定输入下作出高维响应时形成的“合力”轨迹。这在计算层面和认知层面均极为困难。AI系统在预训练过程中是将知识编码为高维空间中的几何结构和分布式表示。对于人类而言,分布式表示缺乏直接可映射的语义解释,即使研发者能够追踪其内部的激活状态与梯度流动,也很难将其转化为符合人类理解的因果表达。
第一,大语言模型的训练目标与人类的认知目标存在根本差异。人类在解决问题时,不仅追求结论正确,而且追求过程的可理解性。这种可理解性通常建立在因果关系之基础上,形成逻辑自洽的具有可传播的因果说明。相比之下,大语言模型的预训练目标则纯粹是技术导向的,整个预训练过程是概率运算,旨在预测最有可能的后续词汇。模型并非理解文本的语义内涵,而是执行极其复杂的数学优化。模型的内部表示并非为了对应于人类可理解的符号、概念和因果链,而是为了形成最适配其架构和任务的最优解,来实现其功能目标。因此,大语言模型的设计从一开始就不是为了提供“因果性说明”。如果试图将其内部决策过程转化为符合人类可理解的因果叙事,实质上是把在非线性高维空间中的动力学过程,强行映射到低维线性因果框架内。这相当于为一个完全陌生的“认知形态”配上简化版的“人类解说”,其难度堪比要求气象学家用清晰的因果关系来说明气候模型中每个涡旋形成的精确机制。
第二,大语言模型与人类处理信息的方式截然不同。人类的认知依赖于符号化、可叙述的抽象结构。人脑并非存储所有的原始感官数据,而是将其提炼为概念、规则、因果模型和叙事框架。这一“语义封装”过程虽然会丢失某些细节,但能将信息封装在具有明确语义标签的模块中,并通过逻辑和语言进行链接。因此,人类的信息密度不完全取决于数据规模的大小,而是取决于抽象程度的高低。相比之下,大语言模型在预训练过程中摄入的虽然是符号文本,但其优化目标却不是理解符号承载的精确语义,而是最大限度地保留符号间的概率共现关系。例如,模型知道“乌云常伴随着下雨”,并非基于气象机制的理解,而是在训练数据中“乌云”与“下雨”两个概念共现的概率最高。模型所掌握的并非因果关系,而是概念间高维统计相关的向量映射。这意味着,人工智能的信息密度体现在参数空间内错综复杂的关联强度上,无法被人类直接索引与解读。
第三,大语言模型与人类在“知识表征”方面存在着结构性分野。人的认知含有双重结构:底层是脑神经元的分布式激活,上层是符号化的概念系统,人类是在符号层次对概念进行拆解、定义、重组。而大语言模型则只有单层结构:从输入到输出的整个过程都在亚符号层次调整权重、改变激活模式等。人类的概念具有“关于性”或指称关系和规范性,比如,当你说出“猫”时,所指的不是视觉特征的聚类,而是对一类动物的指认,如果你指着狗说“这是猫”,就会被他人纠正。相比之下,大语言模型并没有将物理状态与抽象状态相关联的映射函数。模型中的“猫”并不指向世界中的动物实体,而是由大量特征维度的权重分布定义的统计聚类,因而只是形式化的语义模拟。AI能够完美模拟这种重组过程的规则,但人类拥有独立于内容的概念组合规则,来进行形式化的逻辑推理,并外化为可被共享和批判的命题形式;而模型则没有这种能力,无法为输出提供基于理由的辩护。因此,我们无法把AI系统中动态变化的统计区域映射为可以用人类语言明确言说的因果单元。人类与AI系统在知识表征结构上的这种差异,不是程度上的差异,而是范畴上的差异。
第四,大语言模型与人类在“推理机制”上存在着范式差异。人类擅长的推理方式,不管是经验归纳,还是演绎推理,都是通过线性步骤(如“因为A,所以B”)来提供说明,即使认知结果最初源于直觉,事后也会想尽办法将其“合理化”为可传播的因果说明(尽管并非总能如愿)。相比之下,大语言模型的“推理”则是概率映射,其过程类似于交响乐团的即时合奏:每个“神经元”如同一位乐手,其激活强度如同演奏者的音色和力度,最终的整体输出并非由单个主导声部或乐谱的某一行来决定,而是所有乐器在指挥(即模型架构与权重分布)的协调下,瞬间协同产生的整体和谐,其输出是内在要素非线性作用的结果,而非遵循确定性规则的产物。我们无法从中剥离出一条清晰的因果链条。因此,对RICE原则的追求在某种意义上是将AI系统的动态高维运行强行降维和序列化,其结果是以牺牲其高效性、适应性以及超越预设规则的泛化能力为代价。
综上所述,从我们现有的思维方式和概念框架来看,AI系统的发展始终面临着一个根本性的内在矛盾:自主性程度越高,越难以同时满足“高度自主”与“安全可控”、“极致的数学理性”与“最契合的价值理性”、“超越设计的智能涌现”与“完全可解释的程序流程”等原本可以并存的要求。然而,人类既无法接纳“智能却难控”的AI系统,也不愿退回到“可控却低智”的自动化时代。这揭示出,AI系统为实现功能目标所要求的高度自主性与为承担服务于社会和人类的根本使命所要求的完全可控性之间存在矛盾。所存在的“智能悖论”,在现有框架内是无法克服的。这种悖论并非完全源于算法瑕疵、数据偏差、技术缺陷以及不当应用等,而是在很大程度上根植于其逻辑架构或其“基因”中的结构性矛盾。这暴露了RICE原则所预设的决定论前提与AI系统的概率机制之间的不适配。在这种情况下,消解悖论不能限于在现有框架内追求更先进的技术和方法,而是需要从深挖其哲学根源中去寻找思想启迪。
三、RICE原则隐含的哲学预设
RICE原则所体现出的对AI系统进行全面理解(可解释性原则)和完全掌控(可控性原则)的执念,深植于近代科学与哲学的决定论与工具论传统中,是经典思维方式的极致延续。
在哲学史上,自笛卡尔以“我思,故我在”为认识论奠基以来,唯有通过理性直观获得的清楚明白且无可置疑的观念,以及由此演绎推导出的命题,才被视为真知。换言之,真正的知识必须能被分解为自明的诸要素,并依据逻辑链条加以清晰言说。笛卡尔的“清晰明白”原则,既体现了认识论的审慎,也预设了本体论的独断:将事物的“可理解性”等同于事物的“可还原性”。由此,任何不能被分解为简单要素、不能被清晰言说和逻辑推演的存在样态,都被视为“不完善的”“混乱的”或“尚未被真正认识的”。
这种本体论承诺在人工智能研究领域内被转化为“鲁棒性”“可解释性”“可控制性”要求。这些要求不仅是工程上的实用需求,而且被提升为AI系统能否“合法存在”的认识论前提。然而,追求笛卡尔式的清晰性来理解具有涌现特征的智能行为,无异于用解剖学的方法,将一个活生生的人切分为器官、组织、细胞等来理解生命。这种做法只能得到静止的残片,因为生命活动在解剖的瞬间已经逸散。因此,涌现性的智能行为与笛卡尔式的还原论之间存在着结构性的不相容。当前,我们对具有“黑箱”特征的AI系统的恐惧,与笛卡尔对“感官模糊性”的排斥一脉相承。
另外,自培根提出“知识就是力量”这一宣言以来,掌握自然规律被视为认识自然和改造自然的根本前提。培根对“力量”的追求,隐含着对确定性的渴望。在培根看来,机遇、运气或零散技巧等并不是真正的“力量”;成为“力量”的知识必须穿透现象表层,抵达支配现象生成的因果机制。因为只有从现象中析出因果结构,知识才能不再是零散事实的堆砌,而是成为可操作、可推演的法则系统。把握因果机制,是经验提升为科学或“知识”、并通向“力量”的认识论前提。
这种以揭示因果机制为核心的知识观,在AI研究中被转化为“控制即安全”的基本信念,并构成了价值对齐与人工智能治理背后的形而上学预设。然而,人类自身最卓越的智能活动(比如,科学发现、艺术创作、伦理判断等)同样无法满足因果透明性要求,而我们却照样予以信任。例如,我们能够接受临床医生凭经验做出的诊断,接受科学家凭灵感提出的科学概念等。人类对自身和AI系统在要求上的这种不对称,暴露出的并不只是AI系统本身的危险性,而是人类在面对这种“异质性AI系统”时,无意识地强加了一种比人类自身更严苛的认识论标准。这种认识论标准的错置与近代以来的西方哲学传统一脉相承。
在近代西方哲学传统中,围绕人类智能形成的自主性概念与透明性概念捆绑在一起。一个理性的主体之所以值得信任,是因为其行动可以依据普遍法则向自己和他人做出辩护。当我们以同样的标准衡量AI系统时,就会掉进语义陷阱,即把AI系统的“黑箱”特征解读为“无法得到充分辩护”,进而被提升为“失控的风险”。但AI系统的“自主性”并非康德意义上的理性自律,而是统计意义上的功能自主。它既无法承载意向性,也不能承担责任,更没有可辩护的内在结构。因此,将人类的自主性概念生硬地套用于“无内在性”的AI系统,是一种主体性错置。这种错置导致我们夸大了AI的“主体性”威胁,却遮蔽了真正的核心问题:我们恐惧的或许不是AI系统的不可控,反而是我们正在摧毁长期以来在决定论与工具论传统中形成的思维习惯和概念框架。
在拉普拉斯式的理想中,一个完全可知可控的系统,其状态由初始条件与确定性的规律共同决定,犹如一个内部机制透明、运行轨迹清晰可溯的“精密的钟表”。尽管当前的AI系统与先前的简单系统之间存在着连续性,并脱胎于决定论的概念框架,但AI系统所展现出的智能与自主行为,恰好是对这一框架的实质性突破或颠覆,其安全性无法由“必然可控”来担保。因为AI系统是以统计学或概率机制为基础,而“必然可控”的诉求则是以决定论框架为根基。这种基底层面的结构性差异,决定了试图通过价值对齐强制实现可控性反而可能引发更大的伦理风险,也暴露出近代认识论传统在面对“异质性主体”时的结构性失语。
研发者追求的高度自主性是工具理性的极致体现:AI系统通过优化预设的目标函数(如最小化损失、最大化精度)来逼近数学意义上的“最优”,并不质疑目标本身是否正当。而可控性原则却要求,AI系统始终保持透明并受人监控,来实现伦理与价值共识层面的“至善”。然而,价值意义上的“至善”通常需要在公平与效率、自主与安全、隐私与便利等难以量化甚至是彼此冲突的价值之间进行审慎权衡。这种权衡的标准并非单一和固定不变的,而是依赖于文化传统、道德规范、法律体系、社会发展等多重因素。因此,以实现公平、正义、尊严、包容与社会长期稳定等为旨归的可控性原则,是实践理性或价值理性的具体表达。当AI系统以数学上“正确”却暗含有伦理风险的方式实现技术目标时,便暴露出工具理性标准与价值理性标准之间的深层冲突,体现出工具理性对价值理性的僭越。
这方面的事例比比皆是。招聘模型可能会从蕴含性别偏见的历史数据中,“正确”地学习到性别与成功候选人的统计关联,进而复制职场歧视;信贷模型可能会基于利润最大化目标,“正确”地提高特定低收入群体的信贷门槛,从而系统性地剥夺弱势群体的发展机会;内容推荐算法可能会为最大化用户参与度,“正确”地推送极端化、情绪化的内容,从而加剧社会撕裂;自动驾驶汽车若以“伤亡人数最少”为唯一目标,在面对不可避免的事故时,可能会“正确”选择牺牲少数遵守交规者、保护多数违规者,从而有悖于法律法规和道德直觉。这些案例揭示了一个根本性困境:工具理性的“最优”并不完全等价于价值理性的“至善”,甚至反而会背道而驰,放大社会歧视、剥夺弱势群体的发展机会、筑牢信息茧房、加剧社会撕裂、践踏个体权利等。
当我们用决定论的思维方式对待AI系统,却用信息宽容的态度对待人类自身时,就会要求AI系统满足连人类都无法满足的认识论标准。并且,当研发者试图用工具理性的数学架构来编码价值理性中那些模糊、动态乃至相互冲突的伦理要求时,他们将面临着将“公平”“正义”等价值简化为可计算指标的风险。算法提供的是均质的统计处理,可能忽略个体的具体情境,甚至固化历史偏见。更深层的问题在于,价值冲突通常不存在唯一的最优解,而是需要在具体域境中通过对话甚至妥协的智慧来平衡。因此,当我们将道德决策完全外包给算法时,就混淆了形式化的计算系统与需要实践智慧的价值判断之间的根本差异。
这里存在一个认识论意义上的“知识代差”:通过要求AI系统遵守RICE原则来化解其应用风险的做法,如同用以决定论为基础的经典概念框架来理解以随机性为前提的量子现象,存在着结构性的错位,犯下了哲学家赖尔所阐述的“范畴错误”。这不是因为我们“知道得不够多”这种数量上的差距,而是“知道的根本方式”的框架性问题。这两种框架是范式的不可通约,而不是信息数量的欠缺;是“历时性”的落差,而不是“共时性”的区别。
研发者永远无法证明,一个先进的AI系统在未来的所有场景中都必然会绝对可控。因为他们无法完全预见AI系统可能涌现的全部认知路径和行为模式。当前以大语言模型为内核的AI系统在本质上具有的不确定性,就像量子系统中的随机性一样,不能以决定论的思维方式来约束和理解。这种情况反而成为人类文明在深度智能化进程中必须承担的“本体论风险”。AI系统由于具有自主决策能力,无法被视为纯粹的客体,又由于缺乏内在意识与价值体验,不能被等同于像人那样的责任主体,而是成为介于两者之间的一种“异质性主体”:能够造成道德后果,却无力承担责任的“无心智的道德行动者”。正是这种“异质性”暴露出当前价值对齐进路预设的结构性的独断论前提。
四、对齐循环蕴含的独断论前提
价值对齐研究与实践的宗旨是应对AI系统的价值偏离导致的各种风险。在《AI对齐:全面性综述》一文中,作者们将对齐过程构建为一个对齐循环,包括两个环节,一是“前向对齐”(亦称“对齐训练”),即研发者基于训练数据、认知框架与价值判断,预设行为目标、植入伦理准则;二是“后向对齐”(亦称“对齐优化”),即通过在现实环境中的评估测试与监测反馈,动态更新对齐要求。这些更新后的要求将输入下一轮前向对齐训练。经过这样的循环迭代,最终生成对齐度更高的AI系统。然而,这样一个看似动态、开放、自我修正的对齐循环,深藏着根深蒂固的独断论前提。
“独断论”最早被康德确立为其哲学批判的靶标,后来成为西方哲学史的一个核心概念。康德意义上的独断论是指下列哲学立场:未经批判就假定理性能够把握物自体,也就是说,在探究事物之前,不去考察理性本身的认识能力与界限。这种认知姿态的核心特征是:过度自信(即相信理性拥有无限能力)、无视边界(即不审视自身认知的合法范围)以及追求绝对(即试图获得不受条件限制的知识)。后世哲学家将独断论的内涵扩展为泛指一切固守教条、拒绝反思、将有限前提绝对化、排斥异质性他者等思想态度。
对齐循环过程所隐含的独断论前提是指,在未经批判地预设了一套普遍的、确定的、可形式化的价值之前提下,启动价值对齐的技术实践,从而构建了一个无法跳出自身框架来质疑其初始前提的封闭系统。这种独断论态度贯穿于“前向对齐”和“后向对齐”的整个循环过程。
前向对齐面临的首要问题是:需要反思向“谁的价值”对齐?研发者植入的伦理原则,无论是功利主义的最大化幸福原则、义务论的不可伤人准则,还是通过众包标注得到的伦理直觉,本质上都是在行使一种未经授权的“价值立法权”。这一权力通常掌握在少数技术精英、商业公司或特定文化背景的研究机构手中。对齐的价值通常来自他们自己的道德选择、训练数据的统计偏好或委托方的商业诉求。但无论哪一种价值,都无法天然地代表整个社会乃至全人类或后代的价值。目前的对齐进路将技术创新的重心置于“如何对齐”,却极大地悬置了“何种价值值得对齐”这一前提性问题。这是价值对齐出发点的独断。
前向对齐面临的另一个问题是:“为何是这些价值”?研发者一旦将抽象原则具体化为可计算的规则,就必然涉及复杂的边界划定和权重赋值。为何隐私权重高于便利权重?为什么个体权利优先于集体效率?这些排序在哲学层面需要复杂的规范性论证,并且,通常需要根据具体情境来做出判断。但在技术实践中,它们往往被简化为工程师的设计决策或数据中的统计分布。这种简化以“技术的可行性”为由,遮蔽了价值选择的规范性维度,构成了前向对齐在实施环节的独断。
后向对齐的目标是根据系统在现实环境中的具体表现来“更新对齐要求”。但关键问题在于,用什么标准来评判AI系统是否实现了“对齐”?这种评判标准本身必然来自最初植入的价值框架。无论是通过众包标注采集人的偏好,还是通过伦理委员会确立的对齐目标(如宪法AI),都隐含着一个共同预设:人的价值在本质上是可以达成共识的,并且,这些共识可以被编码为统一的技术标准。整个循环只是在不断逼近最初设定的那个价值靶心,却从不质疑这个靶心本身是否应该设立在那里。这是一种典型的同义反复:用预设的标准评判自身,再将评判结果作为修正依据,整个过程从未触及对预设本身是否正当的质疑。这反映出后向对齐优化阶段的独断。
前向对齐与后向对齐的嵌套循环,构成了一个自指涉的封闭循环系统。这个系统从根本上拒绝了来自外部的质疑。如果初始设定是“效率优先”,经过多轮循环优化后,AI系统会在“效率”维度上表现得越来越出色。但如果我们意识到在有些问题上“公平”比“效率”更重要,就会发现,AI系统将难以跳出效率优化的设定。这个循环本身缺乏“二阶能力”,即质疑和修正自身核心预设的能力。它只会优化所设定的价值,却无法自我否定,更不会自我超越。
研发者追求“对齐度更高”的目标,预设了一个稳定的、可以不断逼近的“对齐真理”。但这种预设将流变的价值冻结为静态目标,否定了价值的可变性和历史性。人类社会的道德观念是历史发展的产物,随着社会变迁、技术演进、文化对话而不断更新。曾经被视为合乎道德的价值,今天可能被视为不公;今天被视为先进的价值,未来也可能被超越。然而,对齐循环却是将某个特定时空点的价值共识固化到AI系统的底层架构中,使AI系统成为价值的“时间胶囊”,即承载着开发时刻的道德理解来锁定未来。这剥夺了后代重新定义善恶、重新权衡价值的可能性,进而用价值的确定性僭越价值的历史性。并且,追求“更高的对齐度”还暗示了存在着线性的伦理进步阶梯。但如若初始设定的价值靶心本身失之偏颇,那么,更高的对齐度只意味着AI系统在错误道路上走得更远且更难以被纠正。这反而与伦理进步背道而驰。
对齐循环更深层次的独断在于,试图通过持续的反馈修正,迫使异质性的AI系统完全同化于人类的思维方式。如果我们承认AI系统是“异质性智能体”,也明白其“思考”方式或运行机制与人类截然不同,是概率计算、模式识别、高维空间中的涌现等,那么,整个对齐过程的追求或许成为人类的独白,而不是人机对话。在这个过程中,人类设定目标,人类评估结果,人类修正参数,AI系统在其中只是一个被动的被塑造者。
然而,AI系统的异质性恰好意味着,它在处理问题时可能会发展出与人类完全不同的“策略”或“价值排序”。有些策略在人类看来可能显得怪异甚至错误,却或许蕴含着超越人类认知的洞见。对齐循环通过持续的奖惩机制,会使AI系统消灭这些“异端”,只保留与训练数据中现存的人类直觉相吻合的部分。这种做法或许能够确保AI系统的可控性,但同时也可能扼杀了它作为“异质性主体”而带来的“新东西”。这样,研发者最终训练出来的“更高对齐度”的AI系统,并不是真正“理解”并“认同”了人类的价值,而只是学会了在人类设定的独断框架内生存和优化。
概而言之,价值对齐的双向循环本质上是训练一台自我确证的“独断机器”:它以未经批判的价值预设为起点,在自指涉的闭环中不断优化,通过系统性地压制可能溢出框架的异质性,来换取一种表面上的可控性。然而,这种操作非但没有真正化解AI系统固有的“自主性”与“可控性”之间的“智能悖论”,反而是通过扼杀自主性的可能形态,将悖论从显性冲突转化为隐性压制。因此,在价值对齐过程中,摆脱独断论预设,所需要的既不是如何“更好地对齐”,更不是降低对AI系统的安全性要求,而是彻底反思“理解—控制—安全”链条的可行性与必然性,探索在承认AI系统具有不可全知性之前提下,依然能够建立信任关系与问责机制的新型认知范式和伦理治理框架。这恰好是智能化发展向我们提出的治理挑战,也为我们提供了重新定义“何以为人”的思想契机。
五、从“独断对齐”转向“开放共生”
现有价值对齐进路由于预设了独断论前提,并携带着决定论与极端工具理性的哲学基因,因而无法消解AI系统固有的高度“自主性”与完全“可控性”之间的“智能悖论”。超越或化解这一悖论需要研发者从追求“独断对齐”范式转向建构“开放共生”范式。
共生原本是生物学概念,指不同物种在长期互动中形成的相互依存、共同演化的关系样态。将其引入人机关系领域意味着,我们不再将AI系统视为需要被“驯服”的异己力量,也不再将其降格为被动执行人类指令的纯粹工具,而是在承认其作为“异质性智能体”地位之前提下,探索人与AI在持续互动中如何共同生成价值判断、共同塑造未来的可能性及其相应的治理框架。在此,“开放”则构成了这一新范式的内在要求。它时刻提醒我们,保持对一切范式(包括共生范式本身)的批判性反思,避免将“共生”凝固为新的教条。
这种范式转型的核心在于,价值不再是先于互动而被预设的“独断的律令”,而是在互动中不断形成的“共生的判断”。这意味着,价值的真实含义永远需要在具体情境中被重新发现,需要在普遍原则与特殊处境之间进行审慎权衡。这种权衡能力无法被全部外包给算法,只能在人机互动中持续生成。“生成”意味着,每一次具体判断既是原有价值框架的运用,也是对它的丰富或超越。这类似于伽达默尔阐述的“效果历史”意识。“共生”意味着,价值的生成不再是单一主体的独白,而是包括“异质性智能体”在内的多元主体在相互承认、持续互动中形成的产物。共生不是终点,而是持续的追问过程。这呼应了哈贝马斯商谈伦理学的核心洞见。
从“独断的律令”范式转向“共生的判断”范式,有助于消解价值对齐隐含的三重结构性独断:以动态判断消解形式化的独断;以人机共生消解标准化的独断;以不断生成消解静态化的独断。在这种开放共生范式中,价值的普遍性不再是独断的、先验的、永恒的,而是在持续的共生互动中不断被确认、在历史演进中不断被丰富、在多元差异中不断被重新理解的“弱普遍性”。走出价值对齐的独断论梦想,本质上是一场哲学上的“袪魅”。祛除技术理性无所不能的魅;祛除价值可以被一劳永逸地对齐的魅;祛除人类可以完全掌控自身创造物的魅。这场祛魅不是导向消极的虚无主义,而是导向更清醒、更成熟的人类存在样态。我们勇于承认自身的有限性,却不放弃对美好的追求;我们学会接纳不确定性,却不放弃有担当的选择;我们愿意尊重异质性,却不放弃对话的努力。这一转向也是对当代哲学从“主体性”转向“异质性主体间性”范式的响应。
如果说“共生的判断”构成了开放共生范式的哲学根基,那么,这一根基需要生长出具体的实践原则,并进一步转化为可操作的技术设计、制度安排与社会契约。这是从理念走向实践的关键环节,也是检验新范式是否真正具有变革力量的标准。开放共生范式确立的核心原则,不是抽象的道德宣示,而是价值生成过程中的程序性规范,也就是说,它们不是直接规定“何种价值”正确,而是确保价值的生成过程中保持开放、公正、可修正。与价值对齐进路所要求的RICE原则相对应,新范式的四项原则或许是:
其一,权重协商原则。这一原则要求建立一个分层协商的权责体系。在宏观层面,涉及人类尊严、基本权利等底线价值是不可逾越的伦理红线,任何系统设计不得触碰;在中观层面(如医疗、金融、教育等),应由相应的从业者、专家、受影响群体以及伦理委员会共同协商权重配比,不能由程序员单方面决定;在微观层面(如内容推荐等个性化的价值偏好),应赋予用户充分的自主配置权,让个体能够在系统提供的选项中进行选择。这是对价值对齐进路中独断“价值立法权”的根本纠正。遵守这一原则将会提高公众参与度。
其二,动态调适原则。这一原则要求嵌入多层次的反馈回路。微观层面的用户行为反馈和主动干预,中观层面的组织伦理审查,宏观层面的社会影响评估,当这些反馈揭示出价值框架的局限时,AI系统具备被重新校准的能力,即调整参数的权重、修正价值目标等。这意味着,研发者必须放弃“交付即终结”的思想意识,将AI系统视为需要持续维护和动态更新的“活物”,而非一次性交付的静态“产品”。遵守这一原则将会带来一系列制度框架的变革。
其三,责任共担原则。这一原则要求建立能够覆盖远距离的、匿名的、尚未出场的他者,以及规避大规模、不可逆、系统性风险的责任框架。通过将责任分布到设计者、部署者、使用者、监管者等多个环节,建立制度化、分布式、多层级的责任配置。比如,设计者对AI系统的社会影响负责;部署者对应用场景的风险承担主体责任,建立持续监测和人工审核机制;使用者培养批判性使用意识,坚持重大判断不外包的原则;监管者建构适应性的规范框架,同时自身接受公共监督。遵守这一原则,不是稀释责任,而是确保责任不会因多主体问题而消解于无形;也不是弱化问责文化,而是将分散的责任主体凝聚为有内在约束力的治理结构。
其四,尊重异质性原则。这一原则要求在确保不触碰伦理底线的前提下,为AI的异质性探索留出空间。当AI系统产生超出人类预期的行为时,不是立即将其视为需要被修正的“错误”,而是追问这种差异是否突破了人类认知的局限;当AI展现出不同于人类的“价值排序”时,不是简单地予以压制,而是审慎评估其中是否蕴含着拓展人类道德视野的可能性。遵守这一原则,不是盲从AI的判断,而是保持对“未知”的开放,承认人类可能永远无法理解异质性主体的存在方式,但可以在尊重差异之前提下,建立富有建设性的共生关系。
这四项原则的落地,需要在技术架构、制度设计、文明契约三个层面展开系统性的协同重构。没有技术层的可协商性设计,制度层的责任共担将失去可操作的基础;没有制度层的规范保障,技术层的开放设计将可能沦为商业公司的装饰;没有文明层的元规范约束,技术和制度都可能被新的权力形式所捕获。这意味着,人机交互界面需要从“指令—响应”模式转向人机“对话”设计;在制度层面,建立分布式治理框架;在文明层面,建立基于人机共生的“社会契约”,学会人机共存,探索人类在不确定的世界中生存的韧性机制。
“开放共生”范式虽然是为回应AI价值对齐困境所提出的,但也是对人类自身存在方式的一次哲学审视。自古以来,人类习惯于以“主体”自居,将一切异类他者视为可认知、可控制的“客体”。AI系统的出现,以其“异质性主体”身份,打破了这一主客二分的思维方式。我们不得不认真反思,人的尊严与独特性是否必须建立在对异类他者的完全理解与掌控之上?抑或,是否意味着,人类真正的成熟恰好在于学会与不可完全理解的他类共存?与不可完全掌控者共在?开放共生范式所蕴含的,正是从“掌控”到“共在”、从“独白”到“对话”、从“确定性”到“韧性”的文明姿态转型。
综上所述,智能时代的根本问题,并非“如何让AI与人类价值完全对齐”,而是探索建构人机之间的“开放共生”范式。在这一范式中,最为紧迫的任务,不是编写更精确的伦理规则,而是持续涵养人的“共生判断能力”:在每一次具体情境中审慎权衡的能力;在每一次意外面前保持探索的能力;在每一次冲突中寻求对话的能力;在每一次不确定性中做出负责任判断的能力;等等。最终,我们需要在一个充满随机性和涌现性的智能世界里,学会与不确定性共存,与异质性AI对话,与不可预见的未来共在。这可能并不是一套完美的技术方案,但却是一种不断演进的实践智慧:不再追求绝对的终极答案,而是在开放的历史进程中,以审慎和谦逊的勇气,不厌其烦地重新回答“何以为人”的永恒追问,最终,成为更丰富、更谦逊、更成熟的自己。
〔本文是国家社会科学基金重大项目“负责任的人工智能及其实践的哲学研究”(21&ZD063)的阶段性成果〕
成素梅,上海社会科学院研究员;张琛,北京清华前沿交叉创新研究院助理研究员。
本文载于《学术月刊》2026年第10期。