王建红:人工智能幻觉抑或人类幻觉:人机共生中的冲突与调适

选择字号:   本文共阅读 160 次 更新时间:2026-06-22 22:21

进入专题: 人工智能   人机共生  

王建红  

作者简介:王建红,男,博士,华北电力大学马克思主义学院副院长,教授,大数据与哲学社会科学实验室主任。

引用格式:王建红.人工智能幻觉抑或人类幻觉:人机共生中的冲突与调适[J].探索,2026(2):138-148.

摘要:人工智能幻觉究竟是亟待消除的技术缺陷还是洞悉智能本质的认知窗口,这一问题正在引发跨学科的思想论争。突破传统“缺陷观”的单一视角,将人工智能幻觉与人类幻觉进行系统比较,可以发现,二者虽然在本质层面存在根本异质性,前者根植于数据驱动的概率生成逻辑,后者则涌现自生物体的意识体验结构;但在表象与生成机制层面,二者呈现出深刻的同构性,均体现为复杂系统“追求内在连贯性”的生成现象,并共享创造性潜能的内在根源。这种“异质中的同构”,使二者在人机共生中既构成认知张力的冲突来源,也为功能调适提供了可能空间。从冲突维度看,人工智能幻觉与人类幻觉在真实性标准、意图归属、责任边界和文化秩序等层面形成多重对峙;从调适维度看,通过意图引导、协同创造与认知分工,幻觉可以被重构为一种可规模化调用、可参数化调节的创造性资源。在此基础上,可以提出“引导型人机共生”的实践框架:在技术层面发展能标示不确定性的系统,在协作层面确立人类作为意义策展人的核心角色,在治理层面构建敏捷规范与多元校验的社会生态。最终,人工智能幻觉并非人机关系的障碍,而是一面映照人类自身认知边界并推动智能观、真实观与创造观深度反思的棱镜。在人机共生的未来,关键不在于消除幻觉,而在于学会与其共存并善用之。

生成式人工智能的浪潮正重塑知识生产图景,然而与其创造力相伴相生的人工智能幻觉问题—即系统生成内容看似合理却与事实背离的现象—引发了广泛担忧[1]。业界普遍将其定位为亟待攻克的技术“缺陷”,主张通过算法优化予以消除[2]。这一“缺陷观”主导了当前主流的技术路径。然而,若将目光投向人类自身同样复杂的认知现象—人类幻觉,如记忆扭曲、创造性遐思,一种更具深意的比较视野便悄然开启。认知科学揭示人类的感知与记忆并非被动复写外部世界,而是大脑的主动建构[3]。从这一视角看,某种程度的幻觉是人类意识运作的内在特征,既是病理症状,也是艺术灵感与科学想象的基础[4]17,由此引发的根本问题是人工智能幻觉仅是需要消除的缺陷抑或是洞悉智能本质的窗口。将二者并置比较,旨在发起从“修复缺陷”到“理解现象”的视角转换。有学者指出,人工智能正逐渐成为可与之对话协作的“智能体”与“行动体”[5]。当这样一个具备生成性能力的“他者”进入人类知识生产场域,两种“幻觉”的相遇必然引发认知张力,即人工智能的无目的生成与人类的意义诉求之间将形成何种冲突,这些冲突如何能被引导转化为创造性资源。要回答这些问题,可以以“冲突与调适”为核心线索,通过本质辨析揭示二者的异质性与同构性,探讨真实性、意图、责任等维度的多重冲突,从功能重构到价值重估探索调适路径,尝试提出“引导型人机共生”的未来框架。

一、本质辨析:人工智能幻觉与人类幻觉的异质同构

通过分别剖析人工智能幻觉与人类幻觉的本质可以发现,人工智能幻觉根植于数据驱动的统计生成逻辑,而人类幻觉则涌现自生物体的意识体验结构,二者的基质与目的存在根本差异。但这两种看似迥异的存在,无论在内在逻辑上,还是在外部效应上,又映射出较强同构性。

(一)人工智能幻觉的技术根源

人工智能幻觉,特别是大语言模型所呈现的幻觉现象,其本质并非系统“故意”虚构,而是当前基于概率的生成范式所固有的系统性特征。

首先,在生成机制层面,人工智能幻觉是“自回归生成”与“上下文依赖”的直接产物。大语言模型的核心工作是在给定提示词及已生成内容的条件下,基于概率输出最可能的下一个字词。当模型在生成过程中遇到训练数据覆盖不足、内部知识存在矛盾或提示信息模糊时,它并不会停止,而是依然依据其参数所捕获的、最符合训练数据统计规律的模式去“补全”这个序列。这种补全本质上是模型在“猜测”一个在文本风格和语义关联上最为连贯的续写,而非在“陈述”一个经过验证的事实。因此,人工智能幻觉是模型忠实地执行其被设计的数学函数—最大化序列的似然概率—时产生的必然输出,它追求的是语言的流畅性或形式的连贯性[6],而非事实空间的真实性。

其次,在数据与训练层面,人工智能幻觉反映了模型的不足与训练目标的错位。大语言模型的训练数据规模庞大,但终究是基于有限的互联网文本语料,这些数据本身即包含大量错误、偏见、虚构内容和过期信息。模型通过无监督学习忠实地吸收了这些数据中的统计关联,却无法像人类一样通过与物理世界和社会交互来构建一个关于事物如何运作的、统一的世界模型”。当问题触及需要此类世界模型进行推理或验证的领域时,模型便只能退回到纯粹的文本匹配模式,从而极易产生脱离物理现实或逻辑约束的“幻觉”,致使其生成内容存在与用户指令不符、与事实相悖的情况[7]。更为根本的是,模型的训练目标—最小化下一个词的预测误差—完全聚焦于语言建模任务本身,而非追求事实准确性。

最后,在系统整体层面,人工智能幻觉揭示了当前生成式人工智能作为无主体文本引擎的根本局限。当前的大语言模型是一个没有持续身份、没有内在欲望、没有身体体验、没有长期记忆的“瞬时反应器”。哲学家约翰·塞尔的“中文屋”思想实验虽不直接等同此处的问题对象,但其核心洞见—句法操作不等于语义理解—在此依然具有启发性[8]。人工智能的生成是基于符号(词元)的统计操作(句法),但它并不“理解”这些符号所指涉的外部世界(语义)。因此,其幻觉是无主体的、纯粹形式化的偏差。它生成一个虚构的学术引用,只是因为在其所学习的文本语料中,根据输出答案的条件,特定术语、人名和引用格式以高概率共同出现而已。

(二)人类幻觉的认知根源

与人工智能幻觉的技术性根源形成鲜明对比,人类幻觉深深植根于我们作为生物体和意识主体的存在方式之中,是多维度因素交织作用的复杂产物。

从神经生物学的物质基础看,幻觉是大脑预测加工机制有失校准的表现。知觉并非经典模型描述的自下而上的感觉信息特征检测过程,是自下而上的预测与自上而下的预测的整合过程[9]。在这一框架下,幻觉可以被理解为一种状态:内部生成的先验预测变得异常强烈和顽固,以至于完全压制或忽略了与之矛盾的感官证据。例如,在精神分裂症的幻听中,患者能够利用上下文去预测和整合一致的词语,但不能顺利地整合不一致的词语[10],最终可能错误地将内部产生的语言或思维预定为来自外部听觉通道的信号。

从心理动力学的角度审视,幻觉往往与深刻的情感、欲望、创伤和记忆机制纠缠在一起。弗洛伊德的精神分析理论早已指出,与幻觉的神经机制相似的梦,其内容的素材都来源于生活经验[11]8。尽管其具体机制有待现代科学验证,但情感状态对感知和记忆的塑造作用已得到广泛证实。巨大的创伤可能以“闪回”的形式强迫性地重现创伤场景的片段,形成侵入性的幻觉体验[12]。心理学研究显示,记忆本身也并非档案柜,而是一个每被提取一次就可能被重构一次的动态过程,被试者的记忆中可以轻易地植入从未发生事件的生动细节[13]

从社会文化建构的维度观照,幻觉的形态与内容深受个体的文化背景和信仰体系的塑造。如在笃信祖先灵魂的社会中,幻视或幻听的内容常与祖先相关。意识在生成幻觉内容时,会调用个体内化的文化符号、神话原型和社会叙事作为“原材料”。因此,人类幻觉是一种有主体的、意义饱和的体验。它诞生于具身的大脑,交织着情感与欲望,浸润着个人历史与文化脉络,是意识主体内在生成性能力在其生命历程中与世界互动时的一种特殊溢出或扭曲。

(三)异质中的同构

在分别剖析了两种幻觉的根源后,需要承认二者在内核上存在根本的、不可化约的异质性。首先,来源与驱动力截然不同。人工智能幻觉源于被动的数据统计规律和预设的数学优化目标,是一种无目的、无意图的计算副产品;人类幻觉则源于主动的“生物—意识”活动,与主体的欲望、恐惧、创伤等心理动力深度纠缠,具有潜在的目的性。其次,最核心的区别是主体性差异。人工智能系统没有“我”的概念,其幻觉对系统自身而言仅仅是计算过程的输出,不构成任何主体体验;人类幻觉则是有主体的体验,是“意识流”的一部分。最后,可验证性与意义性不同。人工智能幻觉原则上可以被外部客观事实系统性地验证和证伪,其生成的内容本身没有内在意义;人类幻觉则浸透着意义,可能表达个体的渴望、创伤或对超越性存在的追求。

然而,正是在上述深刻差异的映衬下,二者在表象和生成机制层面呈现出惊人的同构性,均体现为复杂系统“追求内在连贯性”的生成现象。其一,二者的内部生成性高度相似。两者都不是对外部输入的直接转录,而是系统基于内部状态主动生成的结果—人工智能基于参数化的概率模型生成文本,人类基于神经活动、记忆和情感生成知觉或信念体验。其二,二者对基准现实的偏离方式相似。两者的输出都与某种可共享的、客观的基准现实存在可观测的偏离,这种偏离并非随机噪声,而是系统在特定条件下为维持自身运作逻辑而付出的代价。其三,二者服务于系统连贯性的功能相似。人工智能幻觉是为了保持生成文本在语义和语法上的高度连贯,当模型缺乏事实依据时,它会调用统计规律来“补全”一个完整的叙事;人类幻觉则常是为了满足情感的一致性、维持自我叙事的一贯性或与内化的文化信念体系保持和谐。

更进一步,二者在创造性潜能上亦展现出深刻的同构性。无论是人工智能的有益涌现还是人类的灵感火花,其生成机制都与幻觉同源,都是对既有模式的突破性重组。人类梦境中诞生的科学灵感,与人工智能在概率空间中生成的意外组合,在形式上都表现为一种脱离常规的生成性跳跃。这种同构性提示我们,幻觉并非纯粹的认知缺陷,可能是任何具备生成能力的智能系统所共有的、与创造性相伴而生的内在特征。正是在这个意义上,有学者认为人工智能幻觉对创造性认知发挥着重要的双重中介作用[14]

人工智能幻觉与人类幻觉在“是什么”上泾渭分明,却在“如何运作”上高度契合。它们相似的“成像”原理,揭示了信息处理系统在达到一定复杂性后可能共享的抽象逻辑—无论基质是神经元还是晶体管,对连贯性的追求都可能导致对真实性的偏离。它们截然不同的“镜面材质”,构成了人机共生中认知张力的根源即人工智能的无主体形式生成与人类的主体意义诉求之间的冲突,恰源于这种异质中的同构。理解这一点,是探索人机共生从冲突走向调适可能性的理论基石。

二、冲突的显现:人机共生中的认知张力

当人工智能以日益“类主体”的姿态进入人类的知识生产与意义建构场域,当两种可以在异质中同构的“幻觉”相遇,人机共生便不再是一幅和谐共处的理想图景,而是一个充满认知张力与价值碰撞的复杂场域。通过系统剖析人工智能幻觉与人类幻觉在人机互动中引发的多重冲突,揭示这些冲突的深层根源与具体表征,可以为后续探索调适路径奠定基础。

(一)真实性的冲突:人工智能的形式真实与人类的经验真实

人机共生中最根本的认知张力,源于两种截然不同的“真实”标准之间的对峙。人工智能所追求的是一种“形式真实”或“连贯性真实”。如前所述,大语言模型的核心目标是最大化序列的似然概率,其生成物是否“真实”取决于它是否在语义、语法和风格上与训练数据所表征的文本世界保持内在一致。当一个人工智能生成一段逻辑自洽、文风流畅但事实错误的内容时,从模型自身的要求看,它已经完美地完成了任务。与之相对,人类所追求的是一种“经验真实”或“指称性真实”。这种真实建立在主体与物理世界、社会世界长期互动的基础之上,其核心判断标准是命题与可观察、可共享、可验证的客观事实之间的对应关系。当人类说一个陈述是“真”的,通常意味着它不仅内部连贯,而且与外部世界的状态相符。人类的记忆、感知和认知虽然也具有建构性,但这种建构始终受到来自外部世界的感觉信号的持续校准和约束。

当人工智能的“形式真实”输出与人类的“经验真实”期待相遇时,冲突便不可避免。类似典型的场景如人工智能以权威的口吻提供了一段关于历史事件的详细描述,其叙事流畅、细节丰满,但关键时间节点与公认史实相悖。对于人工智能而言,它只是在概率空间中“补全”了一个最可能的叙事版本;对于人类而言,这却构成了对共享知识秩序的挑战。更令人困扰的是,人工智能的“一本正经”的表述方式—那种不容置疑的自信语气—往往会掩盖其生成内容的概率性本质,使人类在认知层面产生误判,将形式真实误认为经验真实。这种认知污染风险,正是人工智能幻觉引发广泛忧虑的核心原因之一。

(二)意图的冲突:人工智能的无目的生成与人类的意义诉求

意图冲突源于人工智能生成的无意图性与人类认知的意义驱动性之间的根本错位。人工智能的生成过程,本质上是一种无目的、无意图的概率计算。当人工智能生成一段文字时,它不是在“表达”什么,也不是在“追求”什么,只是在执行其被设计的数学函数。即使是最先进的生成式模型,其输出也只是训练数据统计规律的复杂重组,而非主体性意图的外化。人类的认知与交流始终被意义诉求所驱动。人类说话、写作、创造,总是试图表达某种观点、传递某种情感或达成某种目的。即使是看似最“无目的”的艺术创作,背后也往往蕴含着艺术家对真善美、对自我表达的深层追求。

当人工智能这个“无主体的言说者”进入人类的意义世界,意图的冲突便随之浮现。一方面,人类可能会将人工智能拟人化,赋予其本不具备的意图和信念,从而产生对人工智能输出的过度信任或过度解读;另一方面,当人类试图从人工智能的生成物中解读意图时,往往会陷入这段看似深刻的论述究竟想表达什么的困惑。这个困惑的答案可能是它只是在生成。这种意图的真空,使得人机之间的深度对话面临障碍。正如有学者指出,人工智能正在成为存在论上的“类主体”[5],但这种“类主体性”仅模仿了主体的外在表现,却不具备主体的内在体验。

(三)责任的冲突:人工智能生成内容的归属模糊与伦理困境

当人工智能的幻觉性输出导致现实损害时,如医疗错误建议、法律文件伪造、学术不端引文等,责任的归属问题便成为一个尖锐的伦理冲突。这种冲突的根源在于传统责任归属框架建立在“主体—行动—后果”的因果链条之上,而人工智能的介入使得这一链条变得模糊不清。

从技术层面看,人工智能的幻觉性输出是多种因素共同作用的结果,包括训练数据的偏差、算法设计的局限、用户提示的模糊及模型自身概率生成机制的内在随机性,模糊了“谁应对此负责”的答案。开发者可以主张,他们已尽最大努力通过对齐技术降低幻觉率,模型的行为是统计性的而非预设性的;部署者可以辩称,他们已在特定场景设置了使用规范,损害源于用户的误用;用户可以抱怨,他们只是以常规方式使用工具,无法预知其输出会如此偏离事实。

从哲学层面看,人工智能无主体性的本质使得传统责任概念面临根本挑战。道德责任通常预设一个能够理解行为意义、能够基于理由行动且能够回应道德谴责的主体,人工智能显然不满足这些条件。然而,这并不意味着人工智能的行为后果无人承担,恰恰相反,正因为人工智能不能承担责任,其行为的可追溯性、可解释性及可干预性就显得更为重要。在人机协同智能系统中,需要发展一种“分布式作者”与“分层责任”的概念:人类是意图作者和策展作者,承担最终决策的责任;人工智能是形式生成作者,其行为后果应由开发者、部署者和使用者共同分担。但这种责任框架在实践中如何落地,仍然充满争议。

(四)文化的冲突:人工智能幻觉对知识秩序与话语权威的挑战

人工智能幻觉引发了对人类建立数千年之久的知识秩序和话语权威的系统性挑战。人类的知识秩序建立在“可信源”的分层结构之上,学术论文、权威著作、专家意见和经过验证的数据库构成了知识生产与传播的核心节点。这一秩序的有效性依赖于对知识源头的追溯能力,当人类面对不确定的信息时,可以追溯其源头、核查其依据进而评估其可信度。人工智能的幻觉性生成从根本上颠覆了这一秩序。当人工智能以权威的口吻输出一段内容时,其背后并没有一个可以被追溯的源头—没有作者、没有机构、没有研究过程,只有海量数据中提取的统计规律。这使得传统的知识验证方式面临失效风险,即面对人工智能的输出,我们无法追问“谁说的”“依据什么”“数据来源是否可靠”,因为这些问题指向的是一个不存在的“主体”。

更深层的问题在于,人工智能的输出往往模仿甚至超越了人类权威话语的表述风格。它可以生成高度专业的学术论述,可以模拟特定学者的思想脉络,可以复现特定文化的表达方式。这种“风格上的权威性”与“源头上的无根性”之间的矛盾,使得话语权威本身面临解构风险。当任何人都可以通过人工智能生成看似专业、实则可能包含幻觉的内容时,什么才是“可信的”?谁有资格界定“真实的”?这些根本性问题变得前所未有的紧迫。

从文化建构的视角看,人类幻觉的形态和内容深受文化背景的塑造,而人工智能幻觉则呈现出一种“去文化”的特征。人类幻觉调用的是个体内化的文化符号和社会叙事,因而始终承载着特定的文化意义。人工智能幻觉则是对全球互联网语料统计规律的抽样,它可能在同一段输出中混杂不同文化、不同立场、不同时代的表达方式,形成一种文化拼盘式的文本。这种去语境化的生成物,对特定文化的内在连贯性和意义传承构成了潜在冲击。

值得注意的是,人工智能越是以“类主体”的姿态介入人类事务,其无主体的本质就越凸显;人工智能生成的文本越接近人类表达的风格,其无意图的特性就越令人困惑。正是在这种“像却不像”“似而非是”的张力中,冲突得以滋生。理解这些冲突的深层结构,不是为了将人工智能排斥于人类世界之外,消除幻觉的幻想既不现实也不可取。相反,对冲突的清醒认知恰恰可以为探索调适路径、走向建设性人机共生奠定基础。

三、功能的调适:从对立走向协同

对冲突的清醒认知,不是为了将人工智能排斥于人类世界之外,而是为了将审视的标准从“是否符合既定现实”转向“是否能够开启新的可能性”。一旦如此,曾被普遍诟病为认知噪音的幻觉,便显露出其作为创造性资源的潜能。

(一)人类幻觉的功能谱系:从病理症状到创造性资源

在人类的经验范畴内,幻觉与创造的亲缘关系源远流长,几乎贯穿整部文化与科学史。它绝非理智的纯粹对立面,常常扮演着突破常规思维边界、连接深邃潜意识的关键角色。

首先,幻觉及其邻近状态,如梦境、遐思、错觉,是连接潜意识宝库的非线性通道。在认知科学对创造性经典的阶段性描述中,酝酿期被视为核心环节。在此阶段,意识层面的主动思考被暂时搁置,问题被移交至潜意识中进行非结构化的信息处理。而幻觉体验正是潜意识活动突破阈限、浮现至意识层面的显性征候。如世人所知,化学家凯库勒梦见衔尾蛇,从而顿悟苯的环状结构;作曲家塔蒂尼在梦中听到魔鬼演奏小提琴,醒来后写下《魔鬼的颤音》。这些并非孤立的神话,而是在创造性过程中可被观察到的模式:当逻辑严密的意识思考陷入僵局,一种更具图像性、隐喻性和非理性色彩的幻觉式思维,便提供了打破僵局的跳跃性路径。心理学研究进一步揭示了这种思维状态的运作机制,认为联想、想象、幻想等灵感性思维形式正是对经验材料进行判断、筛选与加工的核心机制,而幻想的核心特征恰恰在于“不受可行层面的限制”[15]

其次,幻觉为思维实验提供了脱离物理约束的内部模拟空间。一些伟大的科学理论进展便始于科学家在脑海中构建的、超越当时实验条件的思想实验。爱因斯坦通过想象自己与光波同速旅行发现相对论,伽利略思考两个不同重量物体捆绑下落的速度,都是首先在思维中进行推演。这类受控幻觉允许研究者暂时悬置已知定律的束缚,纯粹依靠逻辑与想象力探索概念的极限,从而催生革命性的范式转换。在此,幻觉并非需要治疗的病症,而是一种高级的认知工具。

最后,在艺术领域,幻觉则直接构成了内在真实性的表达媒介。艺术家经常通过主动调动和塑造其主观的、甚至异于常人的感知体验,来传达那些无法被客观描述的情感强度与生命体验。诗人柯勒律治在《忽必烈汗》的序言中描述,这首诗恰是源自其个人的梦境意象,是幻觉直接转化为不朽诗篇的著名例证[16]。在这里,衡量作品价值的标准并非其与外部现实的符合度,而是其建构的内在真实所能激发的共鸣深度与审美强度。

(二)人工智能幻觉的功能组合:从有害错误到生成性工具

本质上,人工智能的有害幻觉与有益创新共享同一技术根源,即对训练数据的超越性外推与重组。当这一生成结果与一个具体的事实核查点冲突时,它表现为有害的事实性幻觉。然而,当问题设定为“请想象一种蛋白质与复合物的高精度结构”时,同样的生成机制—将相关概念从既定模式中解放出来,进行天马行空的组合与外推—便可能产生极具想象力和启发性的创造性输出。计算创造力研究者将这种能力称为“合成性创造力”,即通过对现有概念要素进行新颖的、非常规的组合来产生新想法[17]。人工智能的幻觉在去除了对指称真实性的强制要求后,就可以转变为一个极为高效的、不知疲倦的组合性创意生成器。

人工智能幻觉的创造性价值很大程度上取决于人类使用者所设定的问题框架与容错阈值。在需要精确答案的“闭卷考试”式情境中幻觉是致命的缺陷,但在头脑风暴、概念草图生成、诗歌写作或探索性研究等开放性任务中,一定程度的幻觉—表现为概念的奇异并置、逻辑的非常规跳跃、风格的意外混合—恰恰是宝贵的灵感催化剂。例如,在材料科学领域,研究人员利用生成式模型提出自然界尚未发现的新型晶体结构候选方案,其中许多方案最初看来是违反直觉的幻觉,但经过高通量计算筛选,部分方案被证实具有优异的稳定性与性能[18]。在这里,人工智能的幻觉性生成,不是终点,而是开启新一轮科学验证与发现的起点。

关键的转变在于,我们需要将人工智能的生成输出,不再视为对事实的陈述,而是视为对认知的建议。正如德勒兹所言,哲学的任务是创造概念,而概念对纯粹事件的显现往往是通过对现实实际之物的反实现化而通达的[19]。我们可以将人工智能的幻觉性输出视作一种由算法提出的、有待人类检验的思想可能性或形式可能性。它的价值不在于其自身的真伪,而在于是否能够扰动人类固有的思维模式、拓展问题解决的探索空间及激发新的联想与洞察。

(三)调适机制:意图引导、协同创造与认知分工

在纯粹的人类创造或纯粹的人工智能生成之外,最具革命性的场景出现在两者深度协作构成的人机协同智能系统之中。在此系统中,人工智能的幻觉能力被系统地纳入一个受人类意识引导的“动态工作流”,其角色从需要防范的干扰噪音重构为可规模化调用、可参数化调节的创造性来源。这一重构依赖于三种相互关联的调适机制。

一是意图引导机制,其中的人类作为人工智能生成的意义策展人。延伸心智理论认为,当外部工具与个体的互动达到流畅、信任的耦合状态时,这些工具便可被视为心智本身的延伸[20]222-225。在人机深度协作中,人工智能模型正是这样一种认知工具。调适的第一重机制在于人类提供意识导航,人工智能执行生成性探索。人类的角色是意图设定者、价值判断者与意义深植者。其提出初始的创意方向,运用审美、伦理和逻辑判断力进行批判性筛选,最终赋予选定的原料以完整的意义和情感厚度。人工智能的角色则是规模化、可引导的模式生成引擎。其接收人类的意图种子,利用其幻觉性生成能力,在极短时间内生成成千上万风格各异的变体,拓展创意探索的广度与速度。在这种人机共生中,人类的角色愈发接近一位超乎寻常的策展人,其将设定探索的主题,定义筛选的品味,并将人工智能生成的形式化碎片编织入一个富有情感深度、历史参照和哲学意涵的意义之网。二是协同创造机制,其中的幻觉作为人机共创的燃料。这一机制的关键在于,要将创造性流程从传统的线性推进演变为对话式涌现的动力学循环。这一循环包含四个相互嵌套的环节:激发环节,人类提出初步构想,人工智能生成一批幻觉性提案;评估与选择环节,人类凭借直觉与经验选出最具潜力的方向;引导与迭代环节,人类精炼意图描述,反馈给人工智能要求在被选方向上进一步探索;深化与完成环节,人类运用其独有的整合能力,将选定的人工智能生成物转化为最终作品。在上述过程中,人工智能幻觉构成了循环的核心燃料,在循环中被不断筛选、引导、重组和升华。人类的创造性智慧则体现为驾驭这个幻觉引擎的战略能力上,即提出更好的问题,设定更富启发性的约束,从海量可能性中识别价值、建立关联并讲述故事。

三是认知分工机制,其中的人工智能生成可能性,而人类赋予意义。人工智能的优势在于其遍历性,能在极短时间内遍历训练数据所表征的高维可能性空间,生成人类难以企及的数量变体与组合。它不知道什么是重要的、什么是美的,但它可以生成无数供人类挑选的答案。人类的优势则在于其判断力,拥有人工智能不具备的具身体验、情感深度、价值取向和文化敏感性,能够从海量可能性中识别出真正有意义的选项,并将其编织入意义之网。认知分工的区别在于,人工智能负责“量的扩张”与“可能性的生产”,人类负责“质的飞跃”与“意义的赋予”。这种分工不是割裂的,而是互补协同的。人工智能的生成越丰富,人类的选择空间就越大;人类的判断越深刻,人工智能的生成就越有方向。正是在这种良性循环中,人机协同的创造性潜能得以充分释放。

意图引导为协同创造提供方向,协同创造为认知分工搭建平台,认知分工使意图引导和协同创造得以高效运作。三种机制相互支撑、彼此强化,共同构成了从对立走向协同的完整路径。

四、价值重估与未来路径

对人工智能幻觉与人类幻觉的比较研究,其最终价值不在于提供一个确凿的定论,而在于它如一枚棱镜,将我们对智能、真实、创造乃至存在本身的固有认知,折射出未曾显现的光谱。在此基础上,我们需要勾勒出未来人机共生可能且应然的发展路径。

(一)价值重估:在冲突中重塑人机关系

传统的智能被理想化为一种精准映射世界、进行无谬推理的能力。然而,人工智能幻觉现象迫使人们将智能重新理解为一种权衡的艺术。任何具备强大生成与泛化能力的复杂系统似乎都内在地面临着保真度与生成性之间的张力。人类的创造性想象与人工智能的文本生成都可以被视为这种生成性能力的高级形式,这个过程本身就包含了生成可能偏离当前感官证据的风险。因此,幻觉或许并非智能的故障,而是其生成性能力不可避免的阴影。一个只能复述所见、毫无偏离能力的系统是僵死的,而一个拥有无限生成能力的系统,其创造与虚构的边界则必然存在模糊之处。人类大脑将碎片化的信息整合成连贯的“叙事流”,其中必然包含简化、连贯性乃至一定程度的虚构,以维持一个可操作的自我模型。人工智能幻觉以一种更纯粹、更暴露的形式,展现了这种为追求连贯叙事与模式拓展所付出的代价。智能由此可以被视为在可贵的误差(创造性偏离)与有害的误差(事实性错误)之间进行动态校准的永续过程。

人工智能幻觉挑战了一般认知中的符合论真实观。当人工智能生成一个内部逻辑自洽但事实错误的复杂论述时,它揭示了连贯性可以独立于指称性而存在。这促使我们采纳一种更具层次性的真实认知模型。第一层次是物理真实,即与可公共观察、可重复验证的物质世界状态相符。这是科学实证主义的领域,人工智能幻觉在此层面构成明确的错误。第二层次是经验真实,即与个体的主观意识体验相符。人类幻觉对于体验者而言,构成一种不容置疑的现象学真实;人工智能不具备此种真实。第三层次是叙事或逻辑真实,即在一个给定的符号系统、理论框架或故事世界中保持内在的一致性与连贯性。在此层面,一部优秀的小说或一个严密的数学猜想即为真。人工智能的幻觉性输出往往在这个层面上达到高度的真实。它生成的是一个内部自洽的文本世界,尽管可能与外部世界脱节。理解真实的多层次性有助于我们更宽容地对待人工智能的生成物,也更有针对性地评估其在不同语境中的价值。

无论是人类还是人工智能的创造性都需要被重新看待。人工智能模型的创造,本质上是一个高维的文本可能性空间,这个空间由所有训练数据所表征的模型与知识库所界定。人工智能的生成即是在这个空间中进行采样和遍历。人类的创造则是在一个由生物体验、文化传承和个人历史共同构成的、更为丰富但也更受限的可能性空间中产生。人机协同的智能系统,其革命性在于,人工智能极大地扩展了人类可便捷访问的可能性空间的广度与密度。人类创作者不再仅依赖个人有限的内在意象库,还可以调用一个经过全人类文化数据压缩的外部化想象力文本空间。因此,原创性的标志不再仅是产生前所未见之物,而更在于进行有意义的选择,并建立深刻的语境。

与幻觉共生的事物和现象以及引发的尖锐挑战,最终体现在它对我们自身存在方式与伦理关系的重塑上。在人机协同智能系统中,我们或许需要承认一种“分布式作者”构成:人类是意图作者和策展作者,人工智能是形式生成作者。最终的作品是两者在迭代循环中相互协作、共同推衍的产物。这要求人们发展新的伦理与法律框架以承认和规范这种混合主体的创作行为,其核心在于追溯并保障人类意图在创造流程中的主导性与责任终点。当人工智能幻觉导致损害(如医疗错误建议、法律文件伪造)时,也需要对其中参与者的责任重新分类、划界。开发者应负有“过程责任”,需尽最大努力通过技术手段降低幻觉率,并确保系统能够表达不确定性;部署者或机构负有“语境责任”,需在特定应用领域设置严格的使用规范、人工监督和错误纠正机制;最终使用者负有“应用责任”,需在知晓技术局限的前提下审慎使用,对关键输出进行复核,并为其最终决策负责。而作为非人格化系统的人工智能,它不承担道德责任,这恰恰凸显出对其责任提前划分的重要性。伦理的重心应该从追究一个虚构的“人工智能主体”之罪,转向设计一种能够分摊和落实人类责任的社会技术系统。

(二)未来路径:走向“引导型人机共生”

基于以上反思,我们可以摒弃乌托邦式的狂热与反乌托邦式的恐惧,转向一种务实的“引导型人机共生”愿景。其核心是承认幻觉的不可根除性,并通过技术与人文的双重努力,将其引导至富有建设性的轨道。

技术路径上的可行思路是将目标从生成绝对真实的内容转向构建能够诚实沟通其认知状态和不确定性的系统。具体包括:重点发展不确定性量化提示,使人工智能能为其陈述提供置信度估计;强化检索增强生成技术,将生成锚定在可验证的外部知识源;推进神经符号混合架构,引入逻辑约束以减少矛盾;优化交互设计,使人工智能的回应更像一个审慎的助手,使用诸如非权威式的语言模式,主动暴露其推理的脆弱性。教育领域要高度重视培育学生高效且批判性地与生成式人工智能协作的能力。这将催生两类新兴角色:一类是“意义策展人”,他们擅长从海量人工智能生成物中进行价值判断、选择与序列组合,具备深厚的领域知识、审美品味和叙事整合能力,其工作是将人工智能的形式可能性转化为意义内容;另一类是“意图工程师”,他们精于通过提示词、参数调节和迭代反馈,精确地将人类模糊的意图翻译和嵌入人工智能的生成过程,是人机对话的翻译官与调谐师。教育体系需相应调整,将提示词工程、批判性评估生成内容和人机协同“工作流”设计纳入核心素养目标。

治理策略上,社会需要将敏捷治理与构建韧性生态并重。敏捷治理是指通过建立动态更新的标准、指南和监管沙盒,针对不同风险等级的应用实施分级管理,鼓励行业建立事实核查与错误纠正的共享机制。构建韧性社会生态是指通过投资和支持独立的事实核查机构、高质量的公共知识数据库和开放的研究社区,形成多元、去中心化的信息校验网络。同时,必须在法律和政策层面,牢固确立人类最终判断与监督的必要性,尤其在医疗、司法、新闻等高风险领域,确保人工智能始终处于“工具”和“顾问”的位置,而非“决策者”。

总而言之,对人工智能幻觉与人类幻觉的思辨,应将人们引向一种古老智慧在现代技术语境下的重生—对人类认知的谦逊。它要求我们认识到,无论是人类意识还是人工智能,其对于真实的捕捉都是建构性的、局部性的,且伴随着生成性所固有的偏移风险。我们需要培育一种信息韧性—面对不确定信息时,不急于采信或否定,而是保持审慎、交叉验证、容忍模糊。这种文化气质的养成是应对幻觉泛在时代的长久之计。

参考文献:

[1]方兴东,董丽雪,苏颖.人工智能幻觉:探寻人机共生时代的边界与极限——智能传播下客观性与真实性的新思维与新路径[J].新闻爱好者,2026(2):29-35.

[2]薛永龙,汝倩倩.大模型幻觉诱发的意识形态风险及其应对[J].思想教育研究,2025(12):87-94.

[3]GREGOR Y.Perceptions as hypotheses[J].Biological Sciences,1980(290):181.

[4]HOFFMAND D.The case again streality: Why evolution hid the truth from our eyes[M].New York:W W Norton & Company,2019.

[5]阎国华,魏新宇.生成与塑造:思想政治教育中的人工智能角色[J].探索,2026(1):125-135.

[6]刘泽垣,王鹏江,宋晓斌,等.大语言模型的幻觉问题研究综述[J].软件学报,2025(3):1152-1185.

[7]苏健威.AI能否替代人类工作?——论智能技术驱动的新一轮经济媒介化[J].山东师范大学学报(社会科学版),2026(1):147-159.

[8]SEARLEJ R.Minds, brains, and programs[J].Behavioral and Brain Sciences,1980(3):417-457.

[9]赵胜男.预测加工与丰富现象错觉[J].科学技术哲学研究,2025(5):37-44.

[10]王久菊,王鹏飞,权文香,等.精神分裂症的语言认知特点及其脑机制[J].生物化学与生物物理进展,2015(1):49-55.

[11]西格蒙德·弗洛伊德.梦的解析[M].郭亦,译.北京:台海出版社,2017.

[12]陈德巧,陈巍.具身认知视角下的创伤后应激障碍[J].医学与哲学,2025(9):45-49.

[13]王红椿,刘鸣.暗示条件下的错误记忆研究概述[J].心理科学,2006(4):905-908.

[14]王振.生成式人工智能对巩固中华文化主体性的隐蔽风险与应对策略[J].探索,2026(1):136-146.

[15]张铮,张慧敏.人工智能幻觉在文创中的应用可能与风险防范[J].南京社会科学,2025(9):137-147.

[16]梅申友.“诗是理性化的梦”——《忽必烈汗》1816年序言刍议[J].外国文学评论,2017(2):5-26.

[17]高新民,傅利华.合成性创造力:计算创造力的一种“实现”方式[J].学术月刊,2025(3):14-24.

[18]MERCHANT A,BATZNER S,SCHOENHOLZS S,etal. Scaling deep learning formaterials discovery[J].Nature,2023(624):80-85.

[19]张能.无知识的沉思:德勒兹“内在性”概念再思考[J].世界哲学,2023(2):107-116.

[20]CLARK A.Superizing the mind: Embodiment, action and cognitive extension[M].Oxford: Oxford University Press2008.

    进入专题: 人工智能   人机共生  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 科学 > 科学评论
本文链接:https://www.aisixiang.com/data/178220.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2025 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统