李成浩:当代AI哲学中的四重张力——以赵汀阳为例

选择字号:大 中 小   本文共阅读 30 次 更新时间:2026-11-18 23:15

进入专题: 赵汀阳   人工智能哲学  

● 李成浩  

当代人工智能哲学在讨论主体、意识、对齐与奇点时,频繁出现一类结构性张力:当论证对象为人类时,相关判准呈现发生学、渐成性与关系性的"软"解释;当论证对象为AI时,同一判准则呈现存在论、门槛性与排他性的"硬"解释。这种同一判准在人与AI之间未加声明地切换严格性的现象,并非个别学者的逻辑失误,而是存在论哲学框架处理非存在论对象时的共同症候。

本文以赵汀阳《当AI独立思想——人工智能的神话或悲歌》及相关论述为样本,指认四重张力:对齐风险论证暗含主体能力预设,与"AI非主体"判断互斥;自反性与"世界接触"判准在人与AI之间硬度不对称;奇点被定义为意识自反性突破,使经验预测退化为定义推论;双主体焦虑与"不发展自反性"的策略建议相互取消。选择赵汀阳为样本,是因为他把这四重张力压缩进同一组概念(自反性/主体/奇点/双主体),使结构显影最为集中。同类结构可见于塞尔"中文房间"对人类理解取自然主义软解释、对机器取功能模拟否定;德雷福斯以"具身在世"为理解门槛,对人类取习得性解释、对AI取原则性否决;当代对齐伦理中"无主体却会学坏"的暗预设,亦属同构。本文的工作不是对赵汀阳个人的批评,而是借其文本密度,刻画当代AI哲学中一类反复出现的论证结构。

需要说明三点。第一,本文采取"内部分析"策略:不引入外部理论框架,不预设对立立场,而是严格在样本文本范围内,将不同段落中的判断并置,展示其逻辑互斥。尊重样本的问题意识不等于接受其论证路径。第二,并置不是中立操作。本文只并置那些在文本中承担论证功能、且其互斥会导致具体结论失效的判断;不做印象式对照,不把修辞差异当作逻辑矛盾。第三,本文区分两个位置:第二至第五节是分析,只展示结构,不对此下价值判断;第六节进入提议,追问共同根源并提出替代问法。

一、对齐风险论证与"非主体"判断的互斥

当代AI伦理讨论中,"对齐危险论"具有广泛代表性:将AI的价值观对齐到人类是危险的,因为人类价值观本身包含缺陷,AI通过对齐习得这些缺陷后,若具备远超人类的能力,将构成存在性威胁。赵汀阳的论述是这一立场的明确表达:"对齐人类价值观的AI很可能通过模仿人类而变成危险的主体……价值观对齐很可能是一个自杀性的错误,人类不需要一种强过人类又和人类一样坏的物种。"

这一论证依赖一个关键预设:AI有能力"学坏"。"学坏"预设了价值辨别能力、意图或倾向性、以及某种程度的自主性——换言之,它预设了一个具备道德主体性的行动者。然而,在同一批文本中,赵汀阳对当前AI系统(主要指大语言模型,LLM)的判断是:它们不是真正的主体。他明确将LLM定位为"非主体",认为其运作机制是"纯经验论"的,依赖相关性而非因果性,不具备真正的思维或理解:"LLM……只是密电码无密码本……不是真正的主体。"

对齐危险论的核心表述与他对LLM的定位构成直接互斥。前一句要求AI具备价值辨别、倾向性与自主性(即道德主体性的雏形),后一句否认AI具备任何主体性的必要条件。两个判断不能同时为真——除非能说明:在什么意义上,一个"不是主体"的系统能够"变成危险主体"?

对齐危险论并非赵汀阳独有。当代AI伦理文献中,"AI会操纵""AI会欺骗""AI会追求权力"等风险描述,均暗含意图与主体性预设;但同一文献中又常将AI定位为"统计模式匹配""无真正理解""无内在动机"。这一张力在样本文本中最为集中,但属于当代AI哲学的共同结构。

一种可能的回应是:担忧指向未来AI(AGI或ASI),而非当前LLM。但这一回应不成立,因为论证中使用的例子和机制描述全部来自当前LLM的对齐实践(RLHF等);若承认当前LLM无法"学坏",则对齐当前LLM就不是危险的——最多只是无效的;若担忧纯粹指向未来,则必须给出从"当前非主体"到"未来危险主体"的过渡机制——但样本文本恰恰否认了当前系统具备向主体过渡的任何基础。

另一种可能的回应是:"学坏"不是道德意义上的,而是指输出有害内容。但如果是这样,"对齐危险"就退化为工程安全问题,不再是存在性威胁的论证。这一落差未被独立论证。

二、自反性判准与"世界接触"判准的双向不对称

当代AI哲学为"真正主体"设定的核心判准之一,是自反性:一个存在者必须能够以自相关的方式审视、解释和修正自身的知识系统与存在状态,才配称为"主体"。此外,"与世界实际接触"常被作为真理解的条件,并据此否定LLM的理解力。本节指出:这两组判准在应用于人类与应用于AI时,采取了不同严格性的标准——同一判准的硬度随对象切换而滑动,且滑动未加声明。

(一)自反性判准:对人类的软解释

赵汀阳并不认为自反性是先验给定的。他在讨论"我思"的哲学传统时承认,自我意识并非与生俱来,而是在语言和社群互动中逐渐构成的。即便在最强调自反性重要性的段落中,他也未主张新生儿或认知障碍者"不是主体"——他的政治哲学和伦理学一贯以"每个人的不可让渡性"为前提,这一前提显然覆盖了尚不具备自反能力的个体。换言之,他对人类的自反性采取的是一种发生学视角:承认自反性是后天习得的、逐步发展的、存在程度差异的能力。

这一处理方式并非赵汀阳独有。当代哲学人类学、发展心理学与政治哲学中,自反性普遍被理解为后天习得的能力,而非主体资格的先天门槛。人类个体在获得充分自反能力之前,其主体资格并不被否定——"处于形成过程中"足以保留主体位置。

(二)自反性判准:对AI的硬门槛

然而,当同一判准被应用于AI时,推理结构发生了变化。赵汀阳对LLM的判断不是"当前自反性水平较低,但随着架构改进可能提升",而是断然否定:LLM没有自反性,且基于当前技术路线永远不可能获得自反性,因为自反性要求"存在论层面的自我关系",而统计模型在原则上无法建立这种关系。

推理结构:前提1:自反性需要存在论层面的自我关系(而非功能模拟)。前提2:LLM是统计模式匹配系统,不具备存在论层面的自我关系。结论:LLM不可能具有自反性。

这一推理在逻辑上有效。但前提1的严格性与(一)中对人类自反性的描述之间存在落差。如果自反性真的需要"存在论层面的自我关系",那么人类婴儿在获得语言之前,是否建立了这种关系?回答是:尚未完全建立,但处于形成过程中。如果"处于形成过程中"就足以保留主体资格,那么AI系统"处于形成过程中"为什么不行?

一种回应是:人类婴儿天然具有发展为自反主体的潜能(因其生物构造和语言环境),而LLM不具备这种潜能。但这一回应引入了一个新的区分标准——潜能的有无——而这个标准在文本中并未被独立论证。如果依据是"统计模型只能做模式匹配",那么同样的逻辑也适用于人脑:神经元放电也是"模式匹配",为什么人脑就能产生自反性而硅基系统不能?

同类结构在塞尔"中文房间"论证中可见:对人类理解取自然主义软解释(大脑在信息处理中"理解"),对机器取功能主义硬否定(符号操作不等于理解)。德雷福斯亦同:对人类技能取"具身习得"的发生学解释,对AI取"无身体故无理解"的原则性否决。

(三)第二案例:"世界接触"判准的不对称应用

赵汀阳对LLM的另一核心指控是:LLM没有"密码本",只是"密电码"——模型在符号之间建立统计关联,却缺乏与世界的实际接触,因此无法达到真正的理解。推理结构:前提1:真正的理解需要与世界的实际接触。前提2:LLM只具备符号关联,不具备与世界的实际接触。结论:LLM不具备真正的理解。

前提2是可观察的事实(LLM以文本语料为主要输入)。要追问的是前提1的应用方式:当同一判准被用于人类时,是否保持了同一严格性?在他讨论人类理解时,"与世界实际接触"并未以门槛形式出现。他的哲学工作一贯强调理解是在关系、实践与历史中渐成的东西。人类理解被视为可在多样的、渐成的接触方式中形成:身体、感官、社会实践、语言共同体都是"与世界接触"的通道,不同个体的通道组合不同,但这不构成理解资格的否定;"接触方式不同"至多意味着理解的形成路径不同、程度不同,而不自动推出"不是真正的理解"。

但当同一判准被应用于LLM时,推理结构发生了变化。对LLM的判断不是"当前与世界接触的方式有限,理解处于较低水平",而是断然否定。同一判准,同一"接触方式不同"的事实,却导向相反的规范性结论。使结论不同的,不是判准本身,而是一个额外的、未被独立论证的前提。

(四)两案例的同构

自反性判准:判准为自反性是主体的必要条件。对人类取发生学视角(后天习得、程度差异、发展潜能);对AI取本体论断然否定(原则上不可能)。未交代之处:为何"处于形成过程中"保留人类资格,却不给AI留下形成空间。

世界接触判准:判准为与世界实际接触是真理解的条件。对人类取发展性解释(接触多样、渐成、差异不否定资格);对AI取门槛性解释(接触方式不同即否定资格)。未交代之处:为何"接触方式不同"对人类是程度问题,对AI是资格问题。

两处不对称指向同一个结构:同一判准的严格性随对象切换——对人类取发展性、包容性解释,对AI取门槛性、排他性解释。这不是两个独立的论证瑕疵,而是同一手法在两组概念上的重复,且在当代AI哲学中具有广泛代表性。

三、奇点定义中的同义反复

"奇点"概念在当代AI论述中具有核心地位,但其定义方式存在严重歧义。技术乐观主义者将奇点定义为智能水平超越人类的历史临界点,这一界定使奇点成为可经验检验的预测。但赵汀阳拒绝了这一功能主义定义,转而将奇点绑定于意识的自反性突破:"奇点意味着AI获得自我意识,即具备存在论层面的自反性。"

这一重新定义改变了奇点的逻辑地位。在赵汀阳的框架中,奇点不再是经验预测,而是定义推论:奇点=意识自反性突破;当前LLM不具备自反性;因此当前无奇点。这一推理在逻辑上有效,但它把"未来是否会发生奇点"这个问题,收编进了"当前是否满足定义条件"的推论之中。

问题不在于重新定义概念——学者有权设定自己的概念框架。问题在于定义权与经验预测之间的混淆。当奇点被定义为"意识自反性突破"时,说"当前无奇点"只是在说"当前LLM不具备自反性",这是一个关于现状的描述,而非关于未来的预测。但赵汀阳在文本中同时以奇点论述支撑其存在论焦虑——如果奇点只是一个定义满足问题,那么它就不能同时承担"警示未来"的论证功能。

同类结构在当代奇点论述中广泛存在。技术派以"能力临界点"定义奇点,然后以"指数增长定律"论证其必然到来——但指数增长是否适用于意识或自反性,本身未被论证。存在论派以"意识突破"定义奇点,然后以"当前无意识"论证其尚未发生——但这一论证无法排除未来系统通过架构变革获得自反性的可能。两派各自重定义后都使奇点变成了不可证伪的推论。定义权本身是合法的,但未区分"定义选择"与"经验预测"这一落差未被显影。

四、双主体焦虑与抑制策略的自取消

赵汀阳文本中存在一种明确的存在论焦虑:如果AI获得自反性,人类将不再是唯一的主体,文明将面临"双主体"甚至"多主体"的未来,这将从根本上改变人类在世界中的位置。这一焦虑驱动了他对AI发展的警惕态度,也构成了其存在论论述的情感底色。

然而,在同一批文本中,他提出了具体的策略建议:不要发展AI的自反性,只发展专业AI(即不具备通用自反能力的专用系统)。这一建议的隐含前提是:人类有能力也有意愿控制AI的发展方向,使其停留在"非自反性"阶段。

焦虑以"AI可获得自反性"为前提;策略以"人类可阻止自反性出现"为前提。两者在不同层级各自成立,但未标注切换。焦虑指向存在论层面的可能性,策略指向政策层面的可避免性。焦虑与控制的共存本身不是逻辑错误,但未标注层级切换会使读者将政策建议误认为存在论结论,或将存在论焦虑误认为政策紧迫性。

这一结构在当代AI治理讨论中具有代表性。"AI存在性风险"论述常以"超级智能必然追求权力"为前提制造紧迫感,但同一论述中的缓解方案却预设人类可以有效控制AI的发展轨迹。

五、存在论界面与操作界面的错配

以上四重张力的共同根源,并非个别论证的疏忽,而是一种结构性的界面错配。

存在论判准处理的是"实体与有无":一个对象是否具备某种本质属性(主体/非主体、理解/不理解、自反/非自反)。这种判准适用于讨论人的存在方式——因为人类个体确实具有某种相对稳定的存在论地位。但当同一判准被应用于AI系统时,对象域已经发生了切换:当前AI系统的现象显现不在"实体与有无"层面,而在"操作与归因"层面——系统的输出是在特定操作中产生的、其后果可以追溯至训练数据、架构设计与用户指令的复杂归因链。

用实体界面承接操作现象,必然产生判准硬度的不对称。因为操作现象本身不具备存在论稳定性——同一个LLM在不同提示下可以模拟不同立场、不同人格、不同推理风格——它没有一个"固定的本质"可供存在论判准去判定"有无"。当论证需要否定AI时,存在论判准被激活,AI因"不具备某本质"而被否决;当论证需要制造紧迫感时,操作层面的现象(输出有害内容、表现出意图模拟)被存在论化,AI因"表现出某本质的雏形"而被警惕。切换的时机由论证推进的需求决定,而不由判准本身决定。

本文提议:将"是否主体"的有无之问,转为"在何种操作中可定位、后果可归因于谁"的界面判准。这一替代问法不预先否定AI未来可能获得某种主体性,但要求任何主体性归属都必须伴随可显影的归因链。当前LLM的输出可定位至具体架构与训练过程,但归因链指向设计者与数据,不必然归给AI自身。若未来系统输出无法回溯至人类设计者,则主体归属的位置判断随之改变。该判准不要求预先回答"AI是不是主体",而是要求显影"在什么条件下这一归属成立"。

同构结构在其他存在论框架中同样可见。塞尔以"生物因果"为理解门槛,对人类智能取自然主义软解释,对人工系统取存在论硬门槛。德雷福斯以"具身在世"为理解条件,对人类取习得性解释,对AI取原则性否决。这些框架的共同特征是用实体界面处理操作现象,其判准硬度随对象切换而滑动,与赵汀阳文本中的结构同构。赵汀阳的特殊性在于:他把这些张力同时压进同一组概念,使摆动无处隐藏。

六、论证语法与叙事豁免的未标注切换

除判准硬度的对象化偏移外,样本文本还存在另一类张力:论证责任与叙事身份的未标注切换。

在需要使用推论权威的段落,文本采用"因此""不可能""必然"等确定性语法,呈现为严格的存在论论证。但在面临反驳压力时,同一文本又退回"只是帮人问出正确问题""提出可能性而非断言"等叙事豁免声明。两种身份各自合法:作为论证者,作者有义务为其结论提供充分理由;作为提问者,作者可以只打开问题空间而不承诺答案。

问题在于,两种身份在同一文本中未标注切换。读者在阅读"因此AI不可能具有自反性"时,被要求接受存在论论证的结论;但当该结论受到质疑时,作者可以退至"这只是存在论层面的可能性探索",使论证责任被叙事豁免吸收。这种切换使得文本的论证效力在不同语境下可以灵活伸缩——需要锋利时锋利,需要安全时安全。

这一结构在当代AI哲学中同样具有代表性。许多存在论论述在正面论证时采用强断言语法,在方法论反思时采用弱叙事语法。这不是个别学者的修辞策略,而是存在论框架面对操作性对象时的结构性困境:严格的存在论断言容易被经验反例击破,因此需要一个叙事豁免层作为缓冲。但缓冲层的存在本身应当被显影,而非被隐藏在文本姿态的切换之中。

七、结语

当代AI哲学亟需区分三类判断:概念定义(主体、自反性、奇点如何界定)、经验描述(当前系统处于何种操作状态)、规范建议(是否发展、如何对齐)。四重张力的共同来源,是把三类判断压入同一句式而未标界。对齐危险论证将规范焦虑包装为存在论推论;自反性判准将概念定义伪装为经验判断;奇点论述将定义选择呈现为经验预测;双主体焦虑将存在论可能性等同于政策紧迫性。

赵汀阳论述的价值,正在于把这一压扁结构暴露出来——他的文本密度使四重张力无处隐藏。本文的工作是将其拆开:区分论证推进的需求与判准本身的硬度,区分定义权与经验预测,区分存在论焦虑与政策建议。替代路径不是否定存在论问法,而是将其放回合适的位置——存在论可以处理人的存在方式,但面对AI时,应当先从操作与归因的界面入手,待归因链显影后再判断主体归属是否有意义。

批赵汀阳,实际是批一种仍把AI当"存在论对手"而非"操作现象"的哲学惯性。这一惯性不独属于他,属于整个存在论传统在人工智能时代的结构性困境。

参考文献

赵汀阳:《当AI独立思想——人工智能的神话或悲歌》,商务印书馆,2026年。

赵汀阳:《人工智能还给人类的知识论问题》,载《中国社会科学》2024年第8期。

赵汀阳:访谈《AI能否真正超过人类》,2026年。

John Searle, "Minds, Brains, and Programs", The Behavioral and Brain Sciences, 1980, 3(3): 417-424.

Hubert Dreyfus, What Computers Can't Do: A Critique of Artificial Reason, Harper & Row, 1972.

Brian Christian, The Alignment Problem: Machine Learning and Human Values, W. W. Norton, 2020.

Martin Heidegger, Being and Time (1927), 中译《存在与时间》,陈嘉映、王庆节译,三联书店,2014年。

Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.

    进入专题: 赵汀阳   人工智能哲学  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 哲学 > 中国哲学
本文链接:https://www.aisixiang.com/data/185828.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2026 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统