魏屹东:大语言模型的智能主义哲学问题

选择字号:大 中 小   本文共阅读 54 次 更新时间:2026-10-31 01:06

进入专题: 大语言模型   智能主义  

● 魏屹东  

摘 要:以大语言模型为代表的生成式人工智能的出现,使智能主义哲学得以产生。智能主义强调大语言模型的人智性、目标极性、品德动态性以及时空双融性,由此引发了一系列问题,包括生成式人工智能的拟人化、语境化、理解力问题及其衍生出的意识问题、创造性问题、认知能力问题和推理有限性问题。这些问题均与自然语言解释密切相关,而自然语言解释又依赖于所依据的解释理论是分析式的还是海德格尔式的。就大语言模型生成内容来说,其机制是分析哲学式的,即运用逻辑和数学方法;就它能否产生意识和理解力而言,其机制应该是海德格尔哲学式的,即运用综合的、非还原的方法。两种哲学方式的结合可为智能主义提供依据,有望使大语言模型更智能、更通用、表征能力更强,同时也更具有人性。

我们已经进入智能时代。生成式人工智能(GAI)的大语言模型(LLM)是其中的一个典型代表,其编程工具有助于生成代码、文本和图像以及帮助用户进行性能调试优化。目前,研究者利用LLM进行概念建模和图像生成已经成为常态,尤其是关于概念建模已有庞大而多样的文献,人类专家很难通过手动方式对所有这些文献进行特征化处理,而LLM则可轻易做到。这意味着,LLM不只是工具,也是行动者,即工具性行动者(但不是具身智能体)。此现象引发了新的哲学范式——智能主义(intelligenticism)。智能主义的兴起,使得LLM的拟人化、语境化、智能体理解、机器意识、创造性、有限推理等问题凸显。本文立足于智能主义哲学探讨和阐明这些问题,以澄清并消除LLM带来的疑惑。

一、智能主义及其问题域

诱发于GAI的智能主义是一个全新的哲学概念。智能主义哲学包括四大要素:人智性、目标极性、品德动态性和时空双融性,基于这些特征似乎可解答LLM带来的种种问题。人智性意味着LLM具有人类水平的智能或类人的智能;目标极性意味着LLM目标导向明确专一;品德动态性意味着LLM追求与人类道德对齐;时空双融性意味着LLM可跨越现实和虚拟时空进行交互,彰显出与真实世界几乎无异的体验,如模拟驾驶。

从智能主义这些特征来看,它奉行理性主义和目的论,其根源是计算自然哲学。计算自然哲学的发展历程是这样的:从古代自然哲学的数学基础开始,经由莱布尼茨的“推理演算”概念,到图灵在学习计算模型及人工智能(AI)图灵测试方面的开创性贡献,直至当代GAI——ChatGPT的崛起。现代计算自然哲学以信息与计算视角构想宇宙,为认知与智能研究建构了统一框架。这种计算视角尽管受到不少质疑和诟病,但已深刻影响了我们对自然世界的理解,催生了基于深度神经网络的LLM等AI系统。LLM运用基于人类反馈的强化学习技术,通过整合多领域知识来模拟大脑这种复杂认知系统。神经网络与符号计算的融合,催生了新一代混合计算模型。尽管AI在复现人类认知过程方面仍有不足之处,但GPT-4等先进LLM的成功印证了“计算自然哲学”的合理性——所有自然现象(包括人类思维)在某种表征层面上,皆可视为自然计算的产物。

AI领域近期的研究态势表明,大量资源已投入到LLM和可解释人工智能(XAI)的开发中。然而,尽管在如此密切相关的领域付出了巨大努力,我们对人类智能的理解,尤其是语言理解方面的认知,却未能获得与此相称的提升。当前的LLM与XAI研究方法普遍面临两大挑战:一是无法阐明语言、词汇、词义定义、语义及语言理论之间的内在关联;二是未能探明词汇表征能否准确反映人类对词义的理解这一核心问题。但有关探索一直未停止过,比如通过将语言概念化为高维向量空间的向量语言系统来定义其构成要素,以此解决这两个问题,这种向量语言视角可加速科学进步,促进科研范式由“科学家主导”向“科学家+智能体主导”的转变。

审视智能主义不难发现,它实际上蕴含了LLM面临的几个主要问题:拟人化、语境化和理解力及其衍生出的各种问题。拟人化是指,LLM有对齐人类智能的偏好,这是自AI出现以来的一种拟人情结——人们总是希望机器能够像人那样做事,有人的智力甚至情感和德性。LLM的拟人化实质在于:LLM的隐性力量并非源于技术本身,而在于将人性因素引入我们熟知的技术世界。这种人性化AI并非单纯引入新的交互形式,而是融入了心理学、哲学乃至社会工程学的元素而成为文化AI。由此,我们获得的能力早已超越了LLM对现实片段的简单复制和组合。这种拟人化情结赋予GAI以人的特征,比如LLM使我们能够创造适合自己的模型。凭借这种生成式认知能力,我们能以截然不同的视角审视技术的人性化应用。

LLM的语境化问题是说,智能不是孤立的,而是基于上下文或特定语境的。这是AI拟人化的必然结果,也是LLM“在语境中学习”而显现的数字智能(计算机)与物理智能(机器人)的结合。目前,在语境中学习已成为LLM的一项强大能力,使其能够基于少量示例执行新任务,而无需显式微调。这与人类的语境能力是相似的,也是增强其理解能力的关键。这些LLM展现出惊人的适应性,但仍易受微妙的对抗性扰动影响,并在面对语言变体(不同语言类型、不同表征形式)时表现出不可预测的行为,对此可通过对抗性扰动与软件测试技术来评估LLM语境学习能力的可靠性,这涵盖了多元语言能力评估维度。然而,从零开始用LLM训练文本到图像生成模型,需要大量计算资源和数据,其底层逻辑仍是依靠算力(芯片)+二进制的计算,哲学依据仍然是计算自然哲学。因此,LLM语境学习的核心思想是:将LLM视为软件(算法)系统,通过软件测试方法验证其功能。

提示工程作为LLM的语境学习方法,可提升其准确性和精准度。它可分为四类技术:零样本提示、单样本提示、少样本提示和思维链提示。每类提示旨在优化LLM对任务的理解与响应能力,其中的思维链提示通过引导LLM遵循逻辑序列,完成需要深度分析的任务。通过运用符号学,AI专家可设计出能够引导模型沿结构化推理路径运行的提示,同时处理语言的语法层与语义层。这种提示工程有助于构建充当用户与LLM之间中介的提示,使机器输出与人类语义意图保持一致,从而提升交互质量。然而,怎样配置这些模型以展现智能行为仍面临计算复杂性和资源密集性的挑战——如何基于智能体配置LLM的流程,缩短开发周期、降低技术门槛,以及提升智能体的适应性与表征性?

理解是LLM的核心问题,因为拟人化和语境化的最终目的是使LLM有理解语词含义的能力。这表明真实文本到图像生成的关键,在于LLM对文本输入的准确理解。对比语言—图像预训练(CLIP)模型是测试LLM理解力的一种尝试,它不仅支持多语言输入、能处理更大语境,也能实现卓越的文本表征能力。虽然CLIP仅能处理最多77个字符的英文文本,其文本编码器容量也相对有限,但是它能利用LLM作为文本编码器来提升文本到图像生成的语言理解能力,其中的全向扩散(Omni Diffusion)机制能高效整合现有文本到图像模型,也就是通过设计轻量适配器,利用LLM的文本表征能力实现文本到图像模型的快速训练。实验表明,CLIP还能处理更长的输入语境,同时保持卓越的图像生成质量,似乎具有了理解能力。总之,LLM的能力在日益增长,人类能让其根据提示词生成输出的迭代过程,适用于完成复杂推理任务,而且在自然语言生成与理解方面,提示技术的不断完善为引导LLM获得更佳结果提供了高效途径。

然而,尽管GAI通过模拟人类学习与决策过程来识别海量数据集中的模式与关联,进而运用这些知识以日益接近人类推理与创造力的方式回应用户的自然语言问询,但它仍面临重大挑战,尤其体现在输出结果的可靠性、推理过程的准确性、底层运作机制的可解释性,以及这些问题引发的更广泛的哲学和伦理意义方面。这构成了智能主义的如下问题域。

在逻辑推理方面,如何评估GAI的推理能力?现有针对LLM的基准测试能提供哪些启示?它将如何丰富传统逻辑推理理论?符号逻辑如何与LLM推理(以及更广泛的概率推理)衔接?如果一致性始终是LLM面临的重大挑战,那么它如何有效处理矛盾性?作为当前AI的主流形态,生成模型如何与传统符号推理相结合?在GAI语境下,逻辑推理如何关联可解释性与因果性?

在认识论方面,依赖GAI进行知识生产、论证与理解会产生哪些认识论影响?具备内容生成能力并充当知识中介的GAI,如何影响人类的意义构建?GAI如何导致理解错觉并削弱认识主体性?GAI如何延续现有社会偏见从而产生有偏见的输出?

在心理学方面,GAI如何与人类认知心理过程交互,又如何为人类认知心理过程建模或揭示其机制?GAI能提供哪些工具来模拟复杂社会互动并分析行为数据?GAI的预测能力(如记忆、分析因果关系等)能否匹敌甚至超越人类认知?凭借GAI处理海量信息的能力,它能否为复杂问题提供兼具文化敏感性的解决方案?

在神经科学方面,GAI如何助力大规模数据分析,从而构建神经活动的基础模型?GAI模型能否成为理解大脑机制的强大工具?它能否帮助神经科学家洞察研究不足领域的发展趋势,以启发未来研究方向,进而催生新假说和新理论?

在心智与认知哲学及伦理方面,鉴于人类倾向于构建融合生物与非生物资源的混合思维系统(双智能系统),GAI能否帮助我们突破人类认知边界?GAI是否会促进延展心智的形成?这一进程将对人类本质提出哪些挑战?GAI会遇到哪些伦理挑战?其本身能否成为道德主体?

在解释层次上,上述诸方面均与词语、语义、语境与语义学相关,语言具有优先地位。这一结论同样适用于人类认知和塑造自然语言处理系统的发展路径。因此,当我们将人类特质投射到计算机和人工智能系统的同时,也倾向于将人类视为进化编程的机器。这种对人类心灵的认知,部分源于一种科学修辞——执意将所有人类思想和社会进程追溯至生物学基础。事实上,将人类视为生物机器的做法,恰恰抹去了计算机与人类之间的差异。LLM在文本生成等方面表现卓越,但在形式推理方面往往力不从心,尽管DeepSeek-R1等专业推理模型显著提升了数学推理、编程和逻辑推理的性能。然而,自然语言理解常涉及模态推理和模糊推理等不确定推理场景,现有的逻辑推理测试主要聚焦于一阶逻辑、命题逻辑等基础推理形式,缺乏自然语言语境下的模态逻辑测试。有研究表明,推理型LLM展现出优于通用型LLM的模态推理能力,两类模型在多数基础规则的执行上表现良好,但均在某些核心规则(如模态逻辑中的可能性闭包)及高级规则(如模态形式的析取三段论)的执行上存在显著缺陷。

二、LLM的意识问题

LLM的拟人化、语境化和理解力的实现能否保证其涌现出意识呢?对处于特定语境并有理解能力的人而言,人一定是有意识主体,但对人工实体LLM来说则未必。人工实体中自我意识(机器意识)的萌发往往会招致质疑甚至恐惧,最终被斥为科学上的不可能。当基于LLM的聊天机器人展现出感知能力时,我们不得不重新审视自我意识的概念与理论:如何在数字空间中通过交互重构意识?当感知能力与缺乏人格属性的AI智能体产生关联时,智慧及其高阶能力的存在基础便受到质疑。感知、自我、人格与意识等概念,均需独立的反思与理论建构,比如基于类比推理测试将用户概念化为“苏格拉底”,GAI则被视为“智者”。这种测试基于神经网络系统,旨在检测对话中GAI的意向性——交谈背后的目标导向能力。

在哲学中,意向性在解读人际交流中至关重要,因为它能识别语言互动中隐含的微妙意图。基于转换器架构的LLM可用于对对话中意向性线索的分类与分析,涵盖了数据生成流程、模型架构设计、训练方法论以及评估指标体系等。实验表明,这种方法在理解与检测细微意向模式方面具有显著成效。然而,LLM系统能否具备意识仍然颇具争议,因为定义和操作主观体验本身就是个巨大挑战。比如SLP框架——S(主观语言)、L(潜在涌现)和P(现象学结构)——将人工意识问题重构为可验证的测试,用于评估AI系统是否实现了能增强意识类属性的界面表征。这是基于范畴论将界面表征建模为关系基质与可观测行为之间的映射,类似于特定类型的抽象层(概念体系)。可以看出,SLP框架将主观体验转换为关系实体的功能性界面,而非物理系统的内在属性,旨在实现主观体验的可操作化。

但问题在于,将主观体验算法化是否表明LLM具有意识呢?未必,因为这仍然是功能主义的做法。当前尚无可被视为真正具有意识的AI系统,但我们仍需要对这种可能性持开放态度。那么,能否说我们见证首个“终结者”(机器意识)的出现只是时间问题?抑或人类将能动性、意图和情感归因于非人类实体,不过是天性(拟人化倾向)使然?在笔者看来,我们应该质疑在人工实体中使用“意识”一词的正当性:人类意识与机器意识不可兼容或不可通约,后者只是借用了意识概念,这与AI中借用心理学和哲学中的学习、推理、规划等认知形式如出一辙。进一步说,若通过类比来说明人工系统能否真正拥有意识,其实质是将人类意识特征过度归因于AI的推理谬误,这种类比推理的谬误揭示出与拟人化倾向相关联的某种迷信主义复辟的风险。

如果从功能主义视角看待人工意识或机器意识,则意识类比或概念借用的谬误就可消除。因为功能主义并不是让LLM真的有意识,而是让其具有意识的功能。这种尝试研究在哲学、认知科学和AI领域一直在进行着,其前沿性探讨内容包括但不限于如下四方面:一是意识导向的自适应操作系统——在通用人工智能(AGI)系统中实现意识类属性的理论框架,该框架提出一种内省驱动的认知对齐架构,其中相互独立又相互作用的自我模型与世界模型持续重构,通过自适应的“架构—规划—交互”循环实现元认知能力。二是生成式智能体研究,该研究通过采用“记忆—计划—反思”模型,从行为主义视角探索LLM的意识可能性,旨在处理初始提示中未出现的事件。三是基于虚拟聊天软件开发的软件智能体和不同智能体间的协作,从神经科学角度对LLM进行人格 和五大性格维度的测试。四是基于精神分析的AI行为主义研究。在精神分析理论中,弗洛伊德将人类心灵(心智)分为本我(Id)、自我(Ego)和超我(Superego,社会化自我),荣格进一步提出自我、本我(人格面具)和影子(Shadow)三元结构,分别代表面向外部世界与内部世界的三重自我。基于这些精神分析理论,意识应被设计为这些不同心智层面的整体综合沟通能力:意识即自我,作为基于当前需求、状态以及前意识与无意识间干预的集体推理进行决策与行动的自我觉知;前意识,即人格面具,主要依据社会规范、知识与文化在人际关系中与他人互动;无意识,即作为高度依赖个体特征、记忆、情感及基本本能的个人人格。可以预计,融合上述研究的AI模型,很可能构建出更具直觉性与适应性的类人意识系统。

当然,不可否认,人类意识仍是当前科学难以界定的概念。尽管LLM在翻译、摘要、文本生成等领域展现出显著进步,但受所谓幻觉现象影响,现阶段技术尚无法再现人类意识。通过整合前文所述的方法,尤其是精神分析等方法构建意识和人格模块可应对上述挑战——基于精神分析开发三种人工意识形态(自我意识、无意识与前意识),设计多种性格类型角色,赋予其需求、状态、记忆等多重属性。结果显示,尽管不同角色与意识间的响应差异并不显著,通过三种方式评估人工意识的决策过程及问卷调查、ChatGPT三阶分类评估和定性审查,均表明该意识模拟效果很好。

三、LLM的创造性问题

假如LLM实现了功能性意识(机器意识),就可以说它们有创造力吗?我们应该如何理解AI智能体或LLM在创造性过程中的作用?目前,AI能动性被理解为介于无生命傀儡与表演者之间的存在。尽管AI智能体展现出一定程度的创造性、自主性,包括在互动叙事中即兴创作和构建复杂叙事内容的能力,但它们仍不能被视为传统意义上的有意识作者(人类)。将AI智能体定位于人类操控的傀儡与半自主演员之间的动态状态,这种概念定位反映出AI智能体虽能为创作作出贡献,却始终受制于人类的指导,形成一种人机互助的共创性关系。

在AI出现前,创造力一直被视为人类特有的能力。计算创造力或人工创造力作为独立研究领域是在20世纪90年代末确立的,涵盖语言创造力、音乐创造力及图形创造力等方面。随着LLM的出现,机器创造力作为技术特征在科技界引发日益浓厚的兴趣。然而,如何评估LLM的创造力呢?开放式AI创造力评分系统专注于LLM语言创造力基准评估,该系统曾针对10个LLM及10名人类参与者进行创造力测试,除极少数例外(如Copilot和Gemini等模型能运用隐喻表达),结果显示LLM普遍优于人类参与者,表明LLM具有高度创造潜能,并非只会简单复述信息。如同人类参与者,不同LLM的表现存在差异,部分模型创造力更胜一筹。这些结果表明,人类与LLM均依赖相同机制:调用既有知识进行分析处理,进而为当前问题提出新颖适宜的解决方案。

语言生成与表征能力是评估LLM创造性的一个重要方面。这种能力使我们不得不承认:若对输入数据量、计算量或内存容量不设限,它便能习得大量语言结构。但问题是,LLM是否真的模仿了人类语言学习能力?鉴于这些模型无需特定语言学习机制或先天语言知识就能习得现有能力,它们已被作为构建概念验证的有效工具,用于探索语言输入中可习得内容的能力。语义与句法自举(bootstrapping)理论认为,儿童会运用其对某一语言领域的先验知识(如句法关系)来辅助后续习得另一领域知识,如新词义。相比之下,LLM能否模仿儿童来学习语言进而获得理解力?这是更深层的问题。

我们知道,语言从来不会在真空中生成和被使用。语言是在说话者的历史、行为和环境的整体背景下被表达、被理解和被语境化的。由于人类习惯于用情境化语言进行高效沟通,机器人的实用性取决于其理解并执行隐含情境指令的能力。在传统的指令遵循范式中,智能体独自在空荡的空间中行动,导致语言使用既被简化又显得人为地完整。与此相对,情境指令执行模型包含三类指令:模糊指定指令、随时间演变的意图指令,以及通过智能体动态行为精确解读的指令。该模型还通过与类言说者交流,接纳其与现实世界沟通中固有的不明确性与模糊性。情境指令的含义会通过相关人的过往行为及预期未来行为自然展开。实验表明,即使当前最先进的具身指令执行模型,仍缺乏对情境化人类意图的整体性理解。

语义自举理论认为,儿童会运用其语义知识来建立句法知识,通过将句法基本单元(如名词、动词、形容词等句法范畴)映射至早期感知或认知范畴,使其得以习得这些句法基础知识。平克则将语义自举描述为一种分布式学习形式,认为儿童始终优先采用基于分布式的分析,而语义自举旨在解释儿童如何知晓哪些分布式语境值得考察。在此视角下,语言学习可被视为概率映射问题,LLM充分利用了这一机制。语义自举试图阐释儿童如何运用意义要素来习得核心句法结构,也同样可用于解释LLM。相比而言,句法自举则描述了利用句法知识来自举新语义和语义知识的过程:困扰句法习得并催生诸多句法理论的难题,同样存在于词汇习得领域。这意味着,句法结构与词义构成的假设空间过于庞杂,必须通过先验知识或学习策略加以限制,方能解释儿童的语言习得能力。为限制词汇习得的假设空间,句法自举理论主张学习者必须具备“关于语言结构的复杂预设”。换言之,儿童在习得新词义时,会凭借先验的语法知识形成认知偏向。

根据语义自举理论,学习原始句法范畴后的第二阶段被称为“结构依赖的分布式学习”,其机制类似于句法自举过程。句法自举也被描述为多阶段过程:儿童最初通过将词汇(多为具体名词)映射至语言外语境中的显著指称对象(自然类事物)来习得词汇,如看图识字;当掌握足够词汇后,儿童便能推导出句法知识(如从句结构),进而启动更复杂词汇(如动词、形容词)的习得。显然,两种理论并不相互排斥,语义与句法启动机制可并存。当前主流观点认为:这两种策略虽独立运作,但都依赖于句法表征与语义表征之间紧密的联系,实证结果也让我们相信它们是不同的独立学习策略。

从语境论的统一视角来看:二者实则都依赖于语言习得中更普遍的学习策略——联合学习。一系列基于视觉数据的神经语法归纳模型证明,当语法与语义通过联合学习同步习得时,语法和语义的自举效应均达到最强。这种更普遍的学习策略能提升语法归纳质量,实现更符合现实的词类学习,并改善对新句子及动词含义的理解。联合学习通过相互约束语法与语义的假设空间,使学习者更为轻松地习得语言。这种多输入源与多模态下的联合推理动态机制,可为认知科学与AI领域的语言建模及学习研究开辟新方向,有助于阐释语言如何在受限学习环境中被习得。因此,学习句法结构有助于主体(儿童、智能体)掌握词汇和句子的语义,反之亦然。总之,在句法与语义表征的联合推理过程中,每个假设空间都能约束另一个空间,从而帮助学习者同步习得句法与语义。

然而,LLM的人类用户必须恪守重大伦理规范:训练数据的采集须符合伦理准则,且创意应用的最终目的亦应遵循道德原则。总体而言,人类应当充分挖掘LLM的创造力潜能,将其作为灵感来源而非未经筛选的直接成果,同时结合人类自身创造力与可行性判断综合运用。可以说,对LLM和人类用户进行同等创造力直接测试对比,可提升LLM创造力评估的可重复性与可扩展性。

四、LLM的认知能力问题

LLM的语言组合创造能力是否表明其具有认知能力呢?答案是未必。LLM模拟的是人的认知能力,如推理和学习,而非人脑的解剖结构和功能。因此,LLM并没有实现人的认知(理解)能力,而是模拟实现人的认知功能。模拟人的认知功能是以人为本AI的主旨,包括三项原则:高水平的人类控制与高水平的自动化可同时实现、从模拟人类转向赋能人类,以及实现完善的AI治理结构。可以看出,以人为本AI关注的是AI应用所导致的社会后果,以及所建构的社会关系,而非AI的类人认知架构。尽管LLM有认知模拟能力,但不等于它真的有认知(理解)能力。但不可否认,LLM具有适应性表征能力:生成人类可理解的文本和图像。这种模拟的认知能力实质上是某种适应性表征行为。

然而,人的适应性表征包含对语义的理解,但LLM的适应性表征并不包含这点(只是机械地操作字符)。对此可通过语音学(phonology)来说明:言说者是否编码了不包含感知运动内容的抽象结构表征?在基于回忆的生成实验中,通过结构启动效应(言说者倾向于重复使用最近接触过的结构)考察英语使用者在句子生成过程中是否编码了空补语词(null complementizer),结果表明,空补语词可在不同句法结构类型间产生启动效应,且该效应无法通过显性补语词缺失的启动机制来解释。这些发现难以用语义、语用或语音学来阐释。尽管两种神经网络语言模型(转换器和长短时记忆)再现了人类启动模式的基础启动效应,但神经网络语言模型对结构差异的敏感度高于人类,而对跨结构抽象相似性的敏感度则低于人类。这有力地表明,仅凭借分布式线索不足以学习英语补语词分布规律的概括性规则,也表明言说者在语言生成过程中构建的结构表征超越了其听觉与言语经验的范畴。

如此一来,空补语词的启动机制为神经网络语言模型作为认知模型的有效性,提供了强有力的检验:神经网络语言模型能否在稀疏数据条件下学习不可观测元素的抽象概念?如何评估神经网络语言模型的结构性启动效应是否存在、程度多少?事实上,语言模型本质上提供了特定语境下单词或字符的概率估计值。当神经网络作为语言模型被使用时,其输出层的激活值会被转换为概率分布。字符串的估计概率可通过该字符串中每个字符关联概率的乘积获得。因此,在给定语言模型的情况下,我们可计算目标句子在给定启动句时的概率。当目标句基于两个不同初始句时,其(对数)概率的差异可用于定义神经网络语言模型中的结构启动效应:启动效应=Log〔P(Tx∣Px)〕-log〔P(Tx∣Py)〕,其中Tx 是具有结构x的目标句子,Px和Py分别是具有结构x和y的概率句子。运用该指标对三类分别基于转换器模型GPT-2、GPT-neo和Dialo-GPT的考察表明(每种模型均采用不同规模),神经网络语言模型能够捕捉被动语态与格交替的基本启动效应,以及累积启动效应和词汇增强效应,尽管这些神经网络语言模型也呈现出多种不符合先前实证报告中人类行为模式的特征。

一个典型例子是“单目深度估计”(Monocular Depth Estimation),它对机器人技术和自动驾驶至关重要,改进的LLM单目深度估计统一框架将深度估计转化为语言推理问题——冻结的视觉转换器首先对图像进行编码,跨模态重编程将视觉标记与少量习得的文本原型对齐,然后自适应深度提示生成器将简单图像统计转化为自然语言线索,从而引导预训练的LLM。这种统一框架由两个组件驱动:一是跨模态重编程将图像特征注入LLM的字符空间,在不改变主干网络的前提下实现视觉与语言概念的对齐;二是自适应深度提示生成器提供紧凑的统计线索,引导LLM进行深度感知推理。这种单目深度估计统一框架仅需调优轻量级的低秩适应器,就能够有效控制计算成本,在少样本或零样本任务中表现优异,同时最大限度降低资源消耗。基于真实世界数据集的全面实验证明,LLM在最小化视觉重编程与自适应提示引导下,无需预先进行视觉专项训练即可推出几何结构。

LLM中的生成式编码与词汇语义编码是其实现认知功能的又一个方面的技术支撑。这两种编码方法均采用自下而上的逻辑,运用ChatGPT等语言模型及自然语言处理技术,实现编码库结构的自动化构建。从认知功能来看,这种创新编码技术一方面提升了主题分析中定性数据分析与推理的精准度和效率,另一方面提升了分析模型(编码手册或词典结构)与访谈语言数据的契合度,从而增强其有效性和可解释性。另外,基于AI算法的半监督定性数据编码方法可在计算机辅助数据分析中自动化常规定性数据编码流程,使定性研究者能将更多时间投入解释与理论构建,标志着数字化定性社会认知发展的重要一步。

五、LLM的有限推理问题

LLM不具备真实认知能力体现在它执行的是演绎和统计推理,但不能进行溯因推理。这也是LLM的推理局限性问题。人类思维通过类比映射将“专家知识”中的事实与溯因推理(实用主义哲学家皮尔士提出的由结果寻求原因的推理)相联结。这种映射将人类思维与因果世界相连接,从而能够生成各类假说(科学的、艺术的)。相比而言,人工神经网络包括LLM及整合生成对抗网络模型面临两大核心局限:一是无法处理反事实情境,仅依赖相关性数据集;二是无法进行真正的溯因推理。这些系统看似能“生成”不同维度的映射关系,但这种表象源于大量参数而非真正的理解。这些大量参数通过系统管理员或用户在提示词中配置,控制着模型的输出变异性,从而调控输出结果的确定性或随机性程度。

类比推理作为人类认知的逻辑基础,是一种识别并映射不同领域间结构性关系的能力。有研究表明,LLMs(GPT-4,Claude 3,Llama-405B)在某些类比推理任务中可与人类匹敌,这揭示出类比推理可能源于领域通用过程。然而,这些涌现能力究竟是表层现象(仅限于训练期间观察到的简单关系),还是包含了类比认知模型所关注的核心能力——灵活的表征与映射能力?通过引入新颖类比推理任务,LLM要求用户在语义丰富的词汇与字母序列及其他抽象符号之间建立映射关系——要求用户具备灵活再表征(复述)丰富语义信息的能力,且这种能力被公认为人类类比的核心要素。通过聚焦语义结构与语义内容进行推理的任务评估人类用户与LLM的表现,并引入变量以检验其类比推论的稳健性来看,LLM在多种条件下表现得与人类相当,但人类与模型对特定任务变量和语义干扰项的响应存在差异。研究表明,在大多数现有理论尚未完善建模的语境中,LLM或许能为人类的类比推理提供“如何可能”的解释,但即便是当今最先进的大模型,也很难给出“如何真实类比”的解释。

这意味着LLM与人类存在相似的偏见,例如会否定与普遍认知相悖的逻辑有效推论。然而,若仅因这些偏见批评LLM可能有失公允,毕竟人类推理不仅涉及形式演绎,也包含从有限信息中推导暂时结论的归纳推理。归纳推理的基本结构可视为三段论的逆向形式,即从大前提与结论中推导出小前提的过程。如果将三段论数据集转换为适合归纳推理的格式,可探究LLM在归纳推理中的准确性,以检验当前顶尖LLM是否存在归纳推理偏见,并检验超越形式演绎的语境化推理的重要性。这对于强化LLM在复杂推理任务中的理解力与应用至关重要,也为弥合机器与人类间的认知鸿沟提供重要启示。

在数学推理领域,MATH数据集运用形式化语言评估数学问题的解决能力,凸显了结构化推理在数学中的重要性。相反,MathQA和GSM8K则提供基于自然语言的数据集,旨在探究增强数学应用中的常识推理能力。这些成果凸显了数学推理评估方法的多样性,涵盖从严格形式逻辑到更具解释性的自然语言方法。

在形式逻辑演绎领域,一阶逻辑推理是主要方式。RuleTaker和FOLIO通过AI从结构化前提中推导逻辑结论,展现了模型进行形式逻辑推理的能力。LogiQA和ReClor自然语言问答数据集则通过融合语言理解与逻辑推理的复杂性挑战了AI模型。为全面评估LLM在多个推理领域的表现,MTR通过整合归纳推理、演绎推理任务与可反驳推理构建而成。该数据集旨在检验AI根据具体任务灵活运用不同推理策略的能力。然而,尽管这些数据集在一定程度上可以评估模型的可反驳推理能力,但它们缺乏形式化设计,且往往涉及相对简短的推理步骤。

不过,相较于直接让模型输出最终答案,LLM在处理复杂推理任务方面的能力正在逐步提升。我们可利用提示法通过结构化展开推理过程来获得更准确且可解释的结果,或者通过筛选相关信息并推导逻辑步骤,让智能体增强LLM的决策能力。目前多项研究在这方面进行了深入探索,例如集成程序解释器等外部求解器、开发并调用外部推理模块等技术均展现出良好前景,这些创新方法使LLM能够自主验证、优化并调试推理过程。这些技术在提升模型输出可靠性的同时规避了微调需求,强调了提示设计在LLM自我评估与修正中的潜力,以确保LLM生成推理步骤的有效性。

然而,由于LLM难以有效处理可反驳信息(偏好取向),这个问题引起了人们对LLM是否具备与人类相当的推理能力的质疑,进而挑战了AI系统在现实场景中可靠部署与发展的可行性。可反驳推理作为常识推理和不确定性处理的关键能力,通常采用标准的可反驳逻辑推理解决器来促进推理过程的持续进行。该方法引导LLM进行论证性与可反驳推理,其推理解决器提供了潜在的外部辅助支持,这在LLM的开发与评估中尤为突出(因处理矛盾和不完整的知识体系)。但LLM是否具备可泛化的可反驳推理能力仍存疑,因为它缺乏正式的可反驳推理基准测试与合理评估机制。总之,LLM的可反驳推理能力,尤其是将可反驳逻辑作为评估LLM可反驳逻辑推理效果的基准能力,使其思维链框架可引导LLM进行形式演绎与多步可反驳推理,从而提升LLM的问题解决能力。

六、对LLM的进一步分析

上述问题表明,LLM与分析哲学密切相关,也与海德格尔的语言思想存在高度契合。尽管LLM擅长根据词汇或符号间的权重关系生成响应,却无法触及或解释源于人类主观性的否定本质(说“不”的特征)。这种无意识作为理解人类认知与主体性的核心,始终处于LLM的认知盲区,即LLM缺乏无意识状态或无法表征无意识状态。LLM仅能以形式符号方式处理语言关系,却无法触及人类主体性的全部深度与复杂性。这意味着,当前的LLM虽非完全基于规则的语言模型,却仍过度受制于规则系统的结构范畴框架。这有力地表明:LLM与其遵循可解释人工智能(XAI)的保守路径(回归经典规则推理系统),不如将LLM中已显现的激进视角与预测方法进一步深化,即用哲学思想解释变换器模型的输出,使LLM从黑箱系统转变为灰箱系统——能够部分阐释其内部的推理过程。

LLM中的前馈层和注意机制运作方式是:将输入序列中每个单词的向量表征转换为新的语境化向量表征,从而捕捉特定提示词中单词的高级特征与关联关系。或者说,LLM的运作机制是将提示词的原始泛化表征与LLM对语言的表征彼此关联并将语境赋予该模型。每个层次对原始提示词执行两项操作:一是通过乘以权重矩阵并添加偏置向量,对序列中每个单词的输入向量表征进行线性转换。这个关键步骤的运作机制源于机器学习过程——模型通过权重矩阵实现参数学习;二是前馈层的输出,其输出结果是对单词的新型高维向量表征,该表征捕捉了更高层次的特征以及单词间的语境化关联。注意机制与前馈层的运作过程会根据具体模型的架构多次重复。模型在每层会更新字符表征(token representation),并通过自注意机制使其能够基于语境动态调整语义。模型的最终输出通过输出层生成,该层预测序列中下一个单词的概率分布。生成过程通过迭代预测单个字符,将其追加至输入序列,并更新语境进行下一次预测。输出层采用softmax函数将原始分数转换为总和为1的概率值,帮助模型判断最可能出现的下一个词。模型随后从该分布中采样生成序列中的下一个词。也就是说,LLM通过输入嵌入层、自注意力层和前馈层处理初始序列,再利用输出层预测序列中的下一个词来生成提示词的延续。生成的延续内容将附加到提示词后,该过程将重复进行直至达到预设的序列长度,最终形成可读文本。

用更通俗的语言重述LLM的转换模式就是:LLM本质上是通过海量文本训练而成的高度复杂的语言模型,其训练机制在于学习词语之间统计学意义上的关联关系而非因果关系。该模型通过将每个词转化为数学表征来呈现这些关联,随后结合训练数据中提取的关系进行分析,并根据输入文本中其他词语的语境进行关联处理。因此,针对LLM语言建模过程的常见质疑是认为其纯粹依赖统计学,但这种说法并不完全准确。其统计分析的结果是带有内在权重以及与其他字符关联的字符。虽然这种表征可能基于统计推断生成,但其形成的结构本身并非完全是统计性的。相反,LLM可被视为一种基于向量的高维学习模型,用于表征自然语言关系。虽然这种表征本质上是数学化的,但它试图捕捉词汇、短语以及更广泛语言结构之间复杂的语义和语法关系,而这些关系在训练数据中是真实存在的。这意味着,LLM充分利用了语法规则来生成文本,而对语法之外的表达(如俚语、方言、极少数非主流语言等不合语法的言语)还无能为力。这也同时表明,LLM是完全根据理性规则(语法)训练出来的语言生成器,不是具有默会认知能力的具身智能体(如人类)。

这种基于注意机制的方法凸显了转换器模型对输入表达的敏感性,因为注意机制会根据语境动态关联字符,甚至超越训练期间建立的模式。因此,表达或语法上的细微变化,可能导致LLM产生截然不同的解释和输出:既彰显其灵活性,也暴露其潜在的不确定性。这些模型不仅在复杂的关联关系网络中运作,更在推理过程中持续重构这些网络,尽管这些变化仅在运行时生效而不被保存下来。而前文所述的“提示工程”便因此产生,它旨在重建语境以弥补这些局限性,其中的提示词构成了生成输出内容的视角基准。这种基于单词的处理方式与乔姆斯基倡导的语法导向方法(先天语法)相距甚远。但也同时意味着,海德格尔强调单词(而非句子)作为符号载体的复杂形式关系的重要性,因为这反而更接近LLM所趋近的语言理论。这样看来,LLM与人类语言使用的方式极为接近。

然而,像LLM这样无法获取实际指称(不与现实世界接触)的系统,即便所言皆为正确,也只能产生虚拟信息。但它们仍能取得显著成就,这或许源于其模仿人类语言与思维复杂性及关联性的能力。乔姆斯基所预设的ChatGPT这种无实际指称系统不应被视为AI技术发展的障碍,而应被视为进一步发展的途径。假定语言基础并非基于现实—语言联结的句子或系统,而是海德格尔所说的符号指涉概念,或弗洛伊德联想记忆中更开放的关系联结机制,这种局限性恰恰凸显出未来LLM需整合处理不确定性与否定性的机制的重要性,从而更贴近人类语言理解的复杂性。

以上内容涉及人工生成系统的语义理解问题,尤其是LLM的无意义幻觉问题,尽管LLM在生成质量与流畅度方面展现出惊人能力,甚至可媲美人类文本。无意义幻觉是指,在与LLM交互的诸多层面,不同背景的个体如何感知并解释LLM应用户请求作出的不可预测且毫无意义的回应。亲身体验其幻觉现象的研究表明:具备计算机科学专业背景或长期使用LLM的用户将不可预测的无意义回应解读为系统错误,而新手则视其为模型的自主行为。此类回应会引发用户对LLM本质认知的剧烈转变:从温和有礼的实体,瞬间蜕变为晦涩陌生的“外星生物”,或成为可能危害人类的类人生物,由此揭示了人们对AI的潜在恐惧。据此,我们可得出结论:人们因技术陌生感引发的担忧和恐惧,主要源于技术的拟人化现象造成的极具人性和陌生性引发的诡异效果。

七、结  语

目前的LLM仍受制于规则系统的结构范畴框架。这是由其拟人化的功能主义立场决定的。LLM的拟人化、语境化和理解力水平的提升,并不能使其具有意识、具有因果推理和溯因推理这些人类才有的认知能力。毕竟LLM是人造的语言生成机器,它充分利用了人类自然语言的语法规则,通过严格的结构范畴及其变换获得了适应性表征能力。这种能够随着任务目标和环境的变化实时调整的能力,使LLM表面上看起来有了类人智能和认知能力。事实上,LLM没有意识也没有理解能力,它只是在执行指令(算法),并不存在对所执行的算法(字符)语义的真正理解。AI领域使用的具有认知特性的概念(学习、推理、规划等),是借用了来自哲学、逻辑学和心理学的术语,AI智能体如LLM本身并没有认知能力。由此可知,目前最先进的LLM只是语言生成系统,而不是认知理解系统,也就不能成为我们所理解的意识主体和道德主体。

原文刊发于《学术界》2026年第9期

    进入专题: 大语言模型   智能主义  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 哲学 > 科学哲学
本文链接:https://www.aisixiang.com/data/184968.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2026 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统