陈超锐:人工智能幻觉:一种为真实划定边界的文化技艺

选择字号:   本文共阅读 4485 次 更新时间:2025-10-01 23:36

进入专题: 人工智能幻觉   媒介史   技术哲学   文化技艺   人机伦理  

陈超锐  

 

摘要:人工智能幻觉作为技术领域的争议性概念,其定义模糊性暴露了工程学视角的局限。本文以媒介史与德国文化技艺理论为基础,提出人工智能幻觉并非单纯的技术缺陷,而是延续书写、印刷等传统媒介逻辑的文化实践。通过分析伽利略天文望远镜争议、浪漫派文学中的书写幻觉,以及精神分析与文学的同源性,揭示幻觉的本质是一种文化技艺,它重新划定了符号系统中“真实”的边界。纵观媒介史,天文望远镜挑战神学阐释权、文字媒介催生认知权威,均展现了技术如何通过划定“真实”边界塑造文化权力结构。人工智能幻觉作为数字媒介的认知增殖方式,延续了这一逻辑,其矛盾源于人类对自身认知特权消逝的焦虑。本文主张摒弃二元对立的技术修正路径,转而接纳概率分布下的“新真实”,将幻觉视为人机共生文明中知识形态演进的动态边界。通过整合德国媒介学派理论、贝叶斯概率论及海德格尔对技术本质的追问,本文为重新审视人机关系提供了跨学科视角,强调危险与机遇并存,呼吁一种从“消除幻觉”转向“共生共演”的进路调整。

关键词:人工智能幻觉 媒介史 技术哲学 文化技艺 人机伦理

 

一、争议中的人工智能幻觉及其话语暴力

在计算机科学领域,幻觉(hallucination)是一个充满歧义乃至争议的术语。2024年年初的一篇CAI会议论文归纳了该术语在人工智能界的不同使用情况,声称其“在使用方式上缺乏一致性……并呼吁各方共同努力,使这一重要的当代人工智能概念在意义上保持统一,因为它可能对多个领域产生重大影响”。该论文并非个例,信息技术领域的许多学者意识到了这一概念分歧,出于维护工程学严谨性的考量,他们的论文几乎都回答了“我们在用人工智能幻觉指代什么”的问题,此后,或主张以其中部分概念统合其他概念,或试图分别用不同术语如虚构(confabulation)、错觉(delusion)、事实性谬误(factual errors)、捏造(fabrication)等,替换不同情境下的幻觉一词。其最终目的是通过清晰、准确的工程学定义,实现从数据采集、标注到超参数配置、参数组调整等一系列操作序列上对幻觉的克服。

但彻底消除幻觉究竟意味着什么?它真的可以被清晰地定义或者划定范围吗?如果我们这样追问,问题就变得复杂而棘手起来,因为真实的边界似乎是一个只能被证伪而无法被证明的范围。这暴露了此类研究的不足之处恰恰在于将幻觉局限于人工智能领域,或至多追溯至人工智能兴盛之前的计算机科学领域,忽略了幻觉概念潜在的技术史地位与概念本身的话语维度或技术性维度。作为一个使用频次高却又饱受争议的概念,幻觉实现了跨语境、跨文化的广泛输入与输出并得到多元文化的认可,这本身就是一种文化现象。比起确立差异的其中某方作为幻觉的本体论,更重要的是厘清差异本身的构成性逻辑,即回答“为什么在某些情境下不同文化群体会想到同一术语来指称这些具有某些共性的现象”这一先验问题。在先验维度上,人工智能幻觉既是隐喻又是实存,既是符号又是阐释,它是一种文化技艺(Kulturtechnik)。文化技艺理论源自德国媒介研究领域,或许可以将其称为德国媒介学派。此概念最早由弗里德里希·基特勒(Friedrich Kittler)从古希腊农业技术领域引入媒介研究体系,并由他的同事贝恩哈德·齐格特(Bernhard Siegert)发扬光大。该理论的核心主张是技术操作先于概念化认知,并作为后者的技术先验。例如,“书写作为文化技艺早于字母概念而存在,计数作为文化技艺先于数字概念出现”,这为分析人工智能幻觉提供了媒介史参照的理论框架。而人工智能幻觉概念的争议本身恰恰证明了幻觉的跨学科生命力:作为心理学概念,幻觉指呈现倒错或混乱的感知体验,其本质是主体对“真实”的差异化编码;在人工智能领域,这一编码过程被技术化为模型的生成逻辑。通过将幻觉定义为文化技艺,我们得以跳出本体论争议,转而追问其背后的技术先验。

幻觉概念在人工智能领域的首次应用可以追溯到2000年第四届IEEE自动人脸与姿态识别国际会议上的一篇名为《人脸幻觉生成》(Hallucinating Faces)的图形学论文。该论文设计了一种通过高斯金字塔和梯度先验学习生成高分辨率人脸图像的算法,其核心在于利用先验知识对低分辨率输入进行信息补充,使图像细节得到“幻觉”(Hallucinating)式重构。这里的“幻觉”已非传统意义上的感知欺骗或谬误,而是一种技术介入现实的隐喻,即算法通过结构化知识体系(训练数据集)与概率推断,填补未获取的视觉信息,从而在认知层面构建一种被幻觉增强的真实性。

显然,《人脸幻觉生成》中产生或运用幻觉的主体是算法而非人类,这难免让人联想到另一个关于人工智能屡见不鲜的类似问题,即所谓的人工智能是精神还是技术,其文学表述可化为我们时常提到的科幻小说《仿生人会梦见电子羊吗?》(Do Androids Dream of Electric Sheep?)。这个悬而未决的老问题贯穿整个人工智能史乃至机器史,以至于图灵不得不为了展开进一步讨论而在其人工智能奠基之作《计算机器与智能》(Computing Machinery and Intelligence)中以一种近乎武断的姿态悬置这一问题本身:“机器能思考吗?这个最原始的问题我认为毫无意义,也不值得讨论。”

从ChatGPT输出历史事件错乱的文本到Dalle2&3模型生成的“幻肢”现象,技术系统的“错误”被冠以“幻觉”之名,暗示了一种道德化与病理化的批判倾向。然而,当人类用“幻觉”指称机器的输出偏差时,实则是以旧知识系统的逻辑界定“真实”与“虚假”,进而维护既有的文化权力结构:当技术系统通过概率模型填补信息空白时,其运作机制与人类认知系统的所谓涌现具有拓扑同构性,但前者被诊断为“病理”,后者却被视作“智能”。福柯在《话语的秩序》(L′ordre du discours)中揭示的话语暴力在此得以凸显:将机器的信息补全行为定义为幻觉,本质上是通过医学隐喻实施的技术规训,这种修辞策略将人类认知范式确立为评判技术系统的终极标准。正如福柯论述精神病学如何行使真理权力时提到的,“一直到18世纪末,医生对精神病的操控曾属于真相策略的范畴,甚至到19世纪最初几年也不乏这样的例子。就是围绕着疾病建立一个既虚幻又真实的世界”,当代人工智能伦理也在“幻觉”的话语生产中建构着人机关系的权力图谱。问题的关键在于,由谁来行使类似于两百多年前精神病医生的裁决权?

话语权力运作的深层结构,至少可以追溯到书写技术催生的现代认知体系。精神分析诊所的躺椅与浪漫派作家伏案写作的书桌共享着相同的物质基础,两者都建立在文字符号对经验的抽象编码之上,因此都成了幻觉的产房。弗洛伊德的自由联想疗法要求患者将潜意识流转化为线性叙事,恰如诺瓦利斯将缪斯女神的启示凝结为新诗,这种将混沌经验纳入结构化符号系统的过程,正是现代“心灵”概念得以诞生的技术条件。当语言模型通过潜在空间中的向量运算生成文本时,它实际上延续了书写技术固有的幻觉生产机制:将离散符号重构为具有连贯性的叙事,这本就是文字媒介与生俱来的“幻觉”特性。

由此暴露出人类学框架的根本困境:将“思考”“感知”等动词限定于人类或至多扩展至类人主体的预设,本质上是一种媒介霸权。正如德里达所揭示的逻各斯中心主义因其古希腊传统而将语音置于文字之上,当前关于人工智能幻觉的讨论也预设了生物神经系统相较于硅基电路在自然语言领域的认知特权。但若将图灵测试视为一种新型的书写实践,那么算法生成文本的过程与人类作家并无本质差异——两者都是通过符号系统的递归操作生成意义。当任何大语言模型生成包含事实谬误的文本时,与其指责机器出现了幻觉,毋宁说是文字媒介固有缺陷的技术显形,这种缺陷自楔形文字时代便深植于人类文明的认知结构之中。

解构这种认知霸权的关键,在于梳理媒介史视角下的幻觉谱系。媒介史不是技术物的线性编年,而是考察符号系统如何重塑主体认知模式的动态过程。在泥板文书时代,书写产生的“记忆外包”已构成对生物认知的幻觉性增强,这催生了柏拉图对沉溺于影子的拉斯科人的著名批判;古登堡印刷术催生的标准化文本,则制造了“作者权威”的集体认知幻觉。与此同构,当代生成式人工智能的“幻觉”,实质是数字媒介特有的认知增殖方式:当算法通过数十亿参数的隐式推理重构知识网络时,它正以前所未有的数量级和压缩程度再现着文字媒介诞生之初的涌现过程——将离散符号转化为连贯的意义。在此视角下,所谓“幻觉”实为媒介演进中认知框架的断裂带,是旧符号系统无法解释新编码逻辑时产生的阐释危机。这种危机揭示出人机认知连续体的本质:从结绳记事到神经网络,所有认知系统都在通过符号操作构建现实模型,差异仅在于编码密度与反馈机制的复杂程度。当我们将人工智能幻觉置于这个连续谱系中观察,就能发现其根本矛盾源自人类对自身认知特权消逝的焦虑。解决争议的路径不在于术语规范或技术修正,而在于重新审视媒介史中不断上演的所谓认知革命——每次新媒介带来的都未必是更真实的呈现,而是对“真实”概念本身的重新编程。人工智能幻觉作为数字时代的认知界碑,有朝一日也将成为我们理解人机共生文明的关键注脚。

二、天文望远镜、书写技术与精神分析:幻觉的历史

1610年,伽利略通过改良荷兰光学装置制成天文望远镜,时人称之为“管状眼镜”或“望远管”。他借此首次系统观测到月球表面形态与木星卫星群,该发现直接挑战了亚里士多德-托勒密地心说宇宙模型及其经院哲学诠释体系。为缓和与罗马教廷的潜在冲突,伽利略选择将科学发现嵌入权力话语体系,提议将木星卫星群命名为“美第奇星群”(Medicean Stars),这是托斯卡纳大公的名字。此外,为刻意淡化不受教廷待见的威尼斯共和国的支持,他在《星空报告》扉页自称“佛罗伦萨的贵族,帕多瓦大学的数学家”,这自然也引发了争议。保罗·萨尔皮(Paolo Sarpi)等威尼斯学者批评伽利略“对共和国忘恩负义”,因《星空报告》中“未见他描写那些与他一同打磨、完善镜片的威尼斯工匠”。但这完全是伽利略不得已而为之的保护性策略,因为枢机主教希皮奥内·博尔盖塞(Scipione Borghese)曾表示:“萨尔皮离经叛道已然到了如此地步,无须多言,此人是个彻头彻尾的异端。放眼当下的共和国,很难找出什么健康纯洁之物,而其所做所为更甚,那就是要彻底污染整个国家。”

同年4月,波希米亚宫廷学者马丁·霍奇(Martin Horky)公开质疑伽利略的观测结果,在《反〈星空报告〉的短暂漂泊》中宣称,伽利略的观测是“镜片不规整、有瑕疵带来的视幻觉”。霍奇指控伽利略的书和他的仪器“是一个骗局,因为当我用自制的有色眼镜观察日食时,甚至能看见三个太阳;我相信伽利略也产生过这种错觉,他定是被月球的反射欺骗了”。

即便对于那些持开放性态度的学者而言,伽利略的天文观测也显得不合时宜。例如,哲学家焦万·巴蒂斯塔·曼索(Giovan Battista Manso)虽然“赞扬伽利略‘几乎又是一个哥伦布’,在‘前人未曾踏足的道路’上卓有勇气”,但他依然对伽利略宣布的发现感到不满,因为“我不知在哲学中能找到什么原理对此进行解释,无论是亚里士多德构想的‘第五元素’论还是柏拉图的理论都不符合”。而伽利略描绘的木星卫星运动则“不符合哲学家或占星家的任何理论,更不符合托勒密、哥白尼或弗拉卡斯托罗(Fracastoro) 迄今为止的观察和论证”。当知识体系更新必须先行于自然科学发现时,其背后的权力结构也已经昭然若揭。天文望远镜引起的轩然大波已经预示了伽利略的1633年审判,其核心矛盾在于:当经验观察挑战神学诠释时,旧知识体系的拥趸该如何通过宣称“现象为幻觉”来维护其宇宙论真理权威。

伽利略的发现难以在其他条件下复现,因为当时精密的透镜制作工艺普及程度很低,但最主要的原因还是认知系统的不匹配。这一争议揭示了技术如何挑战既有认知权威:作为光学媒介的天文望远镜并非被动反映宇宙,而是通过透镜屈光率重新定义了“可见”的边界。换言之,天文望远镜为时人展开了一个新的光学世界,实现了符号意义上的创世,这与福音书的创世在媒介层面具有同质性,因而其争端在所难免。在媒介层面,“太初有道”与“窥镜里有月面环形山”不仅语法结构类似,也必然属于同类“幻觉”。诚然,纵观欧洲历史,教会或经院哲学家们借阐释经典以符号系统制造幻觉的局面并未因此颠覆,甚至直至与书报业繁荣伴生的德意志民族国家崛起时期,书写行为本身依然是制造幻觉的主要技术装置。印刷术标准化了文本复制,潜移默化地让读者与创作者都将“真实”概念锚定于书写技术层面。当诺瓦利斯宣称“如果阅读正确,一个真实可见的世界就会在字里行间展现出来”时,他隐藏了书写与印刷的技术性,以至于字母的机械排列作为表象被误认为真理本身。这进一步导致了那个时代德意志作家的悖论——他们既试图通过文字符号捕捉并构建名为诗艺世界的超验真实以期通向无限,又不得不受制于有限的形式媒介而面对形如自我分裂或二重身的幻觉。

当拿破仑皇帝的火电情报网络逐渐覆盖整个欧洲时,年近花甲的大文豪歌德开始回望他的年轻岁月写作自传。他调用的辞藻是“诗与真”(Dichtung und Wahrheit),德语词Wahrheit确乎是“真实”的意思,而Dichtung除了诗歌创作还可以指代虚构。相比于更容易为人所接受的历史真实,歌德更强调艺术真实,因为后者更能体现时代精神,是对个体经验的抽象化和升华。既然文学研究者愿意让歌德笔下的弗里德里克(Friederike)与其现实原型保持距离,那么历史学家也就不必对这部看似回忆录的作品中的时空错位求全责备。

毫无疑问的是,当笔耕不辍的德意志作家们不约而同地钻研如何构建诗艺世界时,他们新划定的“真实”也伴生了新的“幻觉”。歌德早在写《诗与真》之前的三十年,就开始创作后来德语文学史上教育小说(Bildungsroman)的原型——《威廉·迈斯特的学习时代》(Wilhelm Meisters Lehrjahre)。当然,这部小说的创作横跨二十余年,在出版之前,歌德拟定的标题一度是《威廉·迈斯特的戏剧使命》(Wilhelm Meisters Theatralische Sendung),内容大约只涵盖《威廉·迈斯特的学习时代》 的前四章,即迈斯特参与剧团演出的所见所闻、所思所想,这意味着初稿的核心母题之一是戏剧生活与市民生活的割裂。但值得注意的是,无论断片风格的《威廉·迈斯特的戏剧使命》或后来的《威廉·迈斯特的学习时代》都绝非戏剧,而是小说。这意味着作品的呈现方式并非舞台表演,而是阅读。这是德意志文字工程师们创造幻觉世界的底层逻辑,只有当戏剧演出以文字叙述的方式跨媒介演绎时,迈斯特才有可能在卖弄风情的男爵小姐唆使下扮作那位不喜欢戏剧的伯爵,试图以这种方式与伯爵夫人私会。虽然男爵小姐的计划付之东流——因为迈斯特最终等到的是伯爵本人,但这种拙劣的替身术本就不会在日常生活中奏效。伯爵绝不会像沙米索或莫泊桑所写的那样幻视自己的替身出现在书桌前,甚至因此难辨幻觉与真实,因为语言文字不是现实世界中唯一的媒介。《威廉·迈斯特的戏剧使命》借书写技术将诗艺世界与现实世界相混淆的做法,也是《威廉·迈斯特的学习时代》 增添后两章理念化想象的基础。换言之,只有当人完全沉溺于文字国度时,他才能通过经验这种幻觉,获得一种不同于市民生活的全新真实体验,从而实现对现实世界的改良,而这正是教育小说的教化功能之依托。

而天才诗人诺瓦利斯在未婚妻索菲去世后的1797年春季至夏季对《威廉·迈斯特的学习时代》进行了密集研究,但其相关手稿大多散佚,导致学术界长期认为其对《威廉·迈斯特的学习时代》 及其稿本的态度近乎全盘否定。而作为反面例证,处于丧偶精神危机中的诺瓦利斯在1797年的断片集《花粉》(Blüthenstaub)中写道:“歌德有个奇特癖好:总将微不足道的小事与重大事件相互勾连。这般安排看似只为以诗意方式,让想象力沉浸于神秘的游戏之中。这位奇才在此处捕捉到了自然的踪迹,并窥得其精妙的艺术手法。寻常生活本就充满类似巧合,它们编织成一场以意外与错觉为终局的游戏——恰似所有游戏的本质。诸多市井传说皆源自对这种颠倒关联的观察:噩梦预示好运,咒人死反得长寿,野兔横穿道路招致厄运。市井小民的迷信观念,几乎全都建立在对这场游戏的诠释之上。”根据汉斯·约阿希姆·马赫尔(Hans Joachim M?hl)的考据,在索菲去世后,诺瓦利斯曾期望追随其赴死,而阅读歌德关于威廉·迈斯特两部曲的行为恰恰成了诺瓦利斯在此期间对抗虚无的“矫正剂”。由此可见,一度被读作《威廉·迈斯特的学习时代》的反文本的《海因里希·封·奥夫特丁根》(Heinrich von Ofterdingen)其实与前者殊途同归,两部小说都在借文本游戏将日常生活诗意化,试图将读者从经验世界引向文学构筑的超验领域。

诺瓦利斯为主人公奥夫特丁根构筑的幻觉情境,正是其诗性哲学的媒介实践。在女主人公马蒂尔德去世后,踏上朝圣旅途的奥夫特丁根在祈祷后得以幻听“马蒂尔德的声音”,并仿佛看见她“伫立在最靠近他的地方,姿态似欲与他交谈。然万籁俱寂,朝圣者仅能以炽热目光描摹她优雅的轮廓:她含笑向他致意,纤手轻抚他左胸”。当现实参照物消亡后,作为符号的语言与物质基础脱钩,从而获得了超验的一般意义。这种符号的抽象化过程,正是诺瓦利斯将书写升华为幻觉技术的密钥。所以幻觉消失后,奥夫特丁根“重新置身于充盈而意味深长的世界。声音与言语在他体内复苏,万物此刻显得如此熟悉且充满预兆,较之往昔更甚”。当以书写技术形式呈现的所谓“声音”脱离肉体信源而成为纯粹话语,文字便实现了从叙事媒介到灵魂容器的升格。正如铅字模在纸面留下的压痕,书写与阅读行为在主体所基于的心灵或灵魂基质上铭刻的致幻魔咒,构成了书写技术时代主体性最基本的拓扑结构。奥夫特丁根将亡妻诗化为“圣母的女儿”,无异于在语言能指链上进行哀悼工作,就像弗洛伊德后来在《哀悼与忧郁症》(Trauer und Melancholie)中总结的关于哀悼的心理机制那样:哀悼并非一种病态行为,它意味着将失去的对象投入符号秩序当中,即以形式媒介表达对其的怀念。

但更让这位历史上最著名的心理医生感兴趣的还是那些展现病态的浪漫派想象,比如他津津乐道的文本《沙人》,作者霍夫曼(E. T. A. Hoffmann)就是通过将疯子确立为诗人伴生的另一面,建立起了自己的诗学。尽管那一批擅长在幻觉上做文章的浪漫派诗人们确实喜欢饮酒作乐、放浪形骸,但他们中的绝大多数却并非疯子,只是操弄符号与象征秩序的能手。眼睛是《沙人》的核心意象,在纳坦内尔模糊的记忆中,沙人就是母亲和保姆口中那个会夺走熬夜孩子眼球的恶魔,而这个用来规训孩子的童话在丧父的童年创伤中附着在了样貌骇人、与父亲一起从事秘密炼金术的律师柯佩琉斯身上,童话中虚构的恶魔成了困扰纳坦内尔终生的眼球猎手。弗洛伊德将被夺走眼睛的恐惧解读为阉割焦虑,纳坦内尔意外去世的父亲扮演了弗洛伊德符号体系中的“母亲”,而沙人才是阳具的实际拥有者和具有阉割能力的“坏父亲”,纳坦内尔的倒错源于一种恋物癖:“对眼睛损伤或失明的恐惧本质上是阉割焦虑的替代”。弗洛伊德在《论暗恐》(Das Unheimliche)中的文本阐释堪称经典,却唯独对伏案写作的霍夫曼避而不谈,因为作为医生的弗洛伊德和作为诗人的霍夫曼其实在从事同一项工作,他们用大同小异的符号秩序构筑起了各自的文字世界,并通过界定其中何为幻觉、何为真实来行使自己作为唯一主体的神圣权力,对主人公纳坦内尔或精神诊所里的患者作出抽象律法的判决。这便是福柯所说的,精神医生掌握的是如同法官一般的权力。

当纳坦内尔透过望远镜凝视柯佩琉斯之际,或是当奥琳匹娅以纳坦内尔的人类瞳孔反噬其视觉主体性时,这一凸显悖论的双向凝视恰似伽利略天文望远镜事件的文学复现——在媒介技术重构的认知场域中,传统书写文明的阐释霸权遭遇了前所未有的解构危机。光学媒介在此展现出其颠覆性本质:望远镜不仅延伸了人类视觉的边界,更在认识论层面催生出新的认知主体。当作为机械装置的望远镜与拥有人类器官的机械人共同消解有机与无机、主体与客体的传统分野时,书写文明赖以存续的符号秩序遭遇了根本性质疑。教会对伽利略的审判本质上并非单纯否定光学媒介的物理真实性,而是警觉到望远镜可能瓦解自古希腊至中世纪的一系列经典阐释体系——当《圣经》文本的终极解释权遭遇科学性观测的挑战,经院哲学或神学话语系统便暴露出其符号结构的可替代性。颇具反讽意味的是,16世纪耶稣会天文学家对望远镜的系统性运用恰恰证明,教权真正恐惧的并非新兴技术本身,而是技术揭示的符号可替代性原理:正如他们后期试图将“日心说”体系纳入经院哲学框架所昭示的,当阐释系统失去其排他性时,掌握书写技术的神权阶层便面临自我合法性的消解。这种对符号权力流动性的深刻认知,恰是霍夫曼笔下纳坦内尔焦虑的根源——浪漫派诗人的恐惧或癫狂并不源于机械或仿生人的力量,而是发现人工构造的审美幻觉与媒介技术制造的认知图景竟共享着同源的诗学机制,这双重镜像终将使创作主体陷入自我指涉的阐释循环。

三、作为文化技艺的幻觉

管窥书写技术时代的幻觉史后,我们最初的问题似乎更加扑朔迷离起来:彻底消除幻觉究竟意味着什么?幻觉真的可以被清晰地定义或者划定范围吗?我们不妨继续悬置这个问题,但幻觉的历史至少让我们意识到,有一种界定何为真实、何为幻觉的技术先于这组二元对立的概念存在。这意味着,当幻觉作为海德格尔语境下的技术存在时,它是在为迄今为止的人类文化注入一种差异,这种差异通过界定什么是幻觉来建构起一种名为真实的场域。德国媒介学家贝恩哈特·齐格特认为这是文化技艺的核心理论特征之一,从根本上说,文化技艺先于由它产生的概念存在且是后者的前提条件。

早在人们将文字或字母概念化之前,他们就已经开始书写;几千年后,图画和雕像才产生了图像的概念;时至今日,人们可能在对音调或音乐符号系统一无所知的情况下唱歌或做音乐。计数的历史也比数字的概念更悠久。可以肯定的是,大多数文化都会计数或进行某些数学运算;但他们并不一定由此产生数字的概念。文化技艺是符号体系的外部性或者说物质性,当我们谈论文化技艺时,我们设想的是一个复杂的行动网络,其中包括技术物和它们所属的、配置或构成它们的一系列操作。

之所以引入德国媒介学界的文化技艺理论,是因为该理论诞生的语境与我们如今面对的困境有着某些相似性。自康德的哲学体系式微以来,德国思想界对先验问题的追问并未消弭,而是在媒介研究领域获得了新的历史形态。这一知识转型的深层动因,至少可追溯到战后德国的特殊政治境遇。当柏林墙的混凝土碎块尚未完全清理之时,一群栖身于意识形态夹缝中的学者,正试图借媒介技术的保护性名号规避文化审查,以期延续先验哲学传统。这种通过晦涩的隐微写作将先验哲学传统嫁接于技术分析的尝试,为德国统一之际文化技艺学派的兴起打下了学理基础,但不得已而为之的曲线救国路径也在后来的学术对话中留下了难以弥合的认识论裂隙。

冷战时期尤其是法国“六八”学生运动后的学术生产机制为德国媒介研究预设了特殊的知识结构。在意识形态审查与学术话语安全的双重压力下,早期研究者不得不将批判锋芒隐入技术史考据的庇护所中。这种策略性撤退造就了独特的分析路径:他们不再如法兰克福学派前辈那般直指文化工业的异化本质,转而深掘索引卡片、打字机乃至字母排序系统等“次要媒介”的构成性力量。根据齐格特的回忆,基特勒曾在一次为德国媒介研究划定未来方向的重要会议上对此有过精辟的论断:当媒介分析成为“其他事物的参考系,传统人文学科的精神范畴便被逐出了认识论神殿”。这种将福柯式“历史先验”置换为“技术先验”的转向,本质上是对康德先验哲学的物质化重写:媒介技术不再是被动的传播工具,而是“知识型”得以确立的元条件。

此种诞生于特殊时期的认识论在1990年代后试图剥去伪装重回正轨,却遭遇了英美媒介和文化研究学界的严重误读。他们既困惑于德国同行的“技术决定论”倾向,亦难以认同其方法论上的考据癖。前者自然归咎于德国学者曾惯用的意识形态规避策略,而后一项分歧源于两种范式对“公共性”的差异化理解:英美学界秉承哈贝马斯公共领域理论的传统,始终将大众传播视为文化分析的当然场域;德国学界则致力于揭示媒介技术如何作为“话语网络”(Aufschreibesysteme)的先在条件,换言之,他们所谓的“公共性”,指的是大众媒介的先验。齐格特精妙地总结道:“当英美学界追问‘我们如何成为后人类’时,德国学者则在解构‘人类/非人类’的区分谱系——前者关注技术后果,后者探查技术前提。”这种范式分野在媒介考古学的实践中尤为显著。文化技艺学派拒斥将媒介史简化为器物编年的实证主义路径,转而强调媒介的“参照系”功能。这种认识论立场使其既区别于传统科学史的物质还原论,又迥异于法兰克福学派的意识形态批判。正如法国媒介学家保罗·维利里奥(Paul Virilio)在战争机器中窥见加速主义的雏形,德国学者在冷战独特的技术装置里解读出了新的认知范式——这种深藏于文化背后的技术既呈现为历史的现象,更是现象得以历史化的先决条件。

在当代数字技术发展的语境下,我们遭遇的诸多问题往往被武断地归因于技术层面的矛盾。但若我们深入考察文化技艺理论框架,就会发现当下这种以所谓的人文危机为表象的技术决定论存在根本性缺陷。我们如今时常面对的文化与技术的简单二元对立实际上是一种舶来品,本质是对西欧启蒙时期形成的先验主体不加批判地继承。至少早在20世纪20年代,海德格尔就系统地批判了德国哲学家恩斯特·卡西尔(Ernst Cassirer)由此构建的“科学—神话”二元对立框架。尽管如今海德格尔在技术哲学领域的奠基性地位早已确立,但在学术世界之外,我们仍不得不疲于应对他批判过的老问题。否则最热衷于批判人工智能的美国哲学家休伯特·德雷福斯(Hubert Dreyfus)就没有必要耗费毕生精力,呼吁计算机行业多进行一些海德格尔式的人工智能研究。

海德格尔晚年将重塑形而上学的历史重担寄希望于控制论,而诞生于世纪之交的文化技艺理论则继承了海德格尔对技术哲学先验框架的建构和二阶控制论对自我指涉的强调。这容易导向一个误区,即让人觉得一项具体技术要么是一阶的、要么是二阶的。但在控制论或文化技艺的语境下,一阶技术与二阶技术并不是非此即彼的。比如,同样作为书写技术,我们小时候写下的流水账式日记往往更多体现出技术的一阶性;但当日记里出现关于“我写日记的过程”的描写时,书写技术的自我指涉即二阶性便得到凸显。前文提到的浪漫派作家们大多深谙此道,所以他们也善于在作为幻觉的诗艺世界中构筑诗人永远追不到“蓝色花”的梦中梦。即便奥夫特丁根可以从故事里得到具象化描述的幻觉中回归清醒,他也永远无法脱身于由文字构筑的抽象幻觉维度,这便是作为浪漫派象征物的“蓝色花”的题中应有之义。

四、基于概率分布的真实

当我们从文化技艺的角度思考文化的生成时,可以认为每种文化都源于差异,正如所有发端自《摩西五经》的文化都源于上帝在创世第一日将光与暗分开时引入的“好—不好”的元差异:“上帝看那光好,便把它与黑暗分开。”但不同差异之间又并非平行关系,甚至可以说,任何一组给定的差异都可以重新划定进另一组差异的两侧。所以,尽管迄今为止所有的文化及它们所基于的差异都是过渡、偶然、暂时性的,却总能在漫长的时间里反复被视为亘古不变的真理、事物的真相或自然的法则等等,这也并不妨碍它们在另一个文化里被去差异化或重新差异化所颠覆。

人工智能幻觉作为旧文化技艺的当代变体,依然保留其技术先验的核心实质:它将人工智能模型面向人类的输出端数据划分为真实与非真实(笼统意义上的“幻觉”)两部分。我们这一批人类已经借以《黑客帝国》(Matrix)为代表的科幻作品对人工智能创造幻觉的潜力有了一定的感性认识,尽管这和浪漫派诗人对书写产生的主体替代书写者主体的恐惧或焦虑实际上并无二致。这让我们不禁自问,消除人工智能幻觉究竟是像固守“地心说”那样扼杀无法理解的新技术,还是在担忧自己捏造的文学替身抢夺原本属于自己的致幻技术。但书报业繁荣时代的诗人和中世纪神职人员一样,对自己构筑的基于符号系统的幻觉充满了自豪感也有着足够的自信,否则“魏玛三杰”之一的赫尔德(Johann Gottfried von Herder)就不会顺理成章地把新兴的民族国家迫切需要的阅读识字教育与牧羊人放牧联系起来,并宣称作为驯化工具的栅栏先于牧者或捕猎者与家畜之间的彼此区分而存在。栅栏将野生羊群转化为家畜,物理上隔离了捕食者与猎物。这种空间控制技术抑制了人类原始的捕猎本能,使人类能够以非本能的方式与动物互动,从而迫使人通过观察和命名建立符号系统。这种符号化过程是语言和理性思维的基础,也是教育的原型。当赫尔德把圈养的牲畜确立为思考着的人类主体的典范即技术先验时,他理所当然地把栅栏外的捕猎者代表的野蛮摆在了差异化的对立面。我们暂且不去谈与这种文化亲缘关系密切的西方中心主义有哪些弊病,但殖民时期的残酷历史至少能作为一种警示。就像旧约圣经以引入“好—不好”二元组作为确立文化的基石那样,当我们试图消除人工智能幻觉或抵御它带来的危害的时候,一对形如“幻觉—非幻觉”或者说“真实—非真实”的二元组已经在塑造我们的数字文化,且它带有明显的偏向性,而我们却未必对这种偏向性有着多么深刻或至少清醒的认识。

诺瓦利斯在18世纪末将歌德视为叙述日常事务的典范,因为他在文学世界中具有将个体推广到一般的出色才能。而在此之前半个世纪,一位名为托马斯·贝叶斯(Thomas Bayes)的英国数学家就已经用比德语更晦涩难懂的符号实现了这一操作,因为他创立了被后世称为概率论的数学理论。我们可以借著名的贝叶斯公式管窥其中的奥妙,并体会它对我们习以为常的基于点分布的世界的颠覆性。贝叶斯公式的一般式可以写作:

图片

我们可以创造一种情境代入解释,假设现在有一种非常强大的人工智能模型,它出现幻觉的概率仅为1%,即P(有幻觉) = 1%,P(无幻觉) = 99%;另有一种优秀的幻觉检测算法,它检测幻觉的准确率高达99%,那么其数学表示为P(未通过∣有幻觉) = 99%,P(通过∣无幻觉) = 99%,符号“∣”用于表示条件,即在右侧事件发生的前提条件下,左侧事件发生。现在我们想知道的是,如果一段输出文字未通过算法检测,那么这段文字中存在幻觉的概率是多少?根据未经过概率训练的人的一般直觉,这个结果或许是99%,因为我们已知检测算法的成功率是99%。但实际上,如果我们将刚才的内容代入贝叶斯公式,实际需要求得的结果名为P(有幻觉∣未通过),即在未通过的前提下,段落内有幻觉的概率。为此我们需要先求得P(未通过) = P(未通过∣有幻觉)·P(有幻觉) + P(未通过∣无幻觉)·P(无幻觉) = 99%×1% + 1%×99% = 1.98%,继而代入求得P(有幻觉∣未通过) = 图片=图片=50%。当一个想象中的超级模型碰上另一个想象中的优质算法,呈现的结果却和大多数人的直觉大相径庭,远远达不到大家的感性预期。这也就不难解释为什么我们在日常生活中总会觉得天气预报屡屡出错,而它却往往宣称自己的准确率很高。

为了消除人工智能幻觉,我们大可以把这个天马行空的科幻算法替换成脚踏实地的优秀人类工程师,但不要对结果抱有太高的期待。根据微软工程师提供的数据,几年前的GPT-3(text-davinci-003)模型拥有约1750亿参数量,商业宣传往往喜欢将它和人脑放在一起做比较,因为人脑有的神经元数量级与之相近,这样很容易诱发人们对所谓超级人工智能的遐想。殊不知,一朵云就有数万亿乃至数十万亿颗水分子,这只是可以信手拈来的无穷多个天文数字之一。当一组搭载最优秀算法的超级计算机阵列试图给一朵阴晴不定的云会在什么时候变成雨下定论,它们能做的也只不过是用数学期望逼近物理世界中的布朗运动。

至少在现有条件下,哪怕针对开源模型,幻觉率本身也只能估算,所以它的存在形式本身就有悖于我们预期的“真实”。我们用概率分布去追求现实的近似解,却反过来试图消除它与真正的现实之间的界限,那么我们的算法工程师和计算科学家就变成了新的浪漫派,他们发表的降低幻觉率的论文和他们在开发文档中声称自己正消除幻觉的复杂过程,就是数字时代的后人类不断追逐赛博格“蓝色花”的努力。

五、结语:与人工智能幻觉共生

在我们如今所处的人工智能神话时代,消除大语言模型幻觉的尝试恰似西西弗斯式的永恒劳作,其本质不过是对绝对理性主义的数字化复刻。虽然这种类似奔赴无穷的努力未必徒劳无功,其本身就是一种新诗学,但为了不至于在新技术语境下沦为笼中雀,我们更应该做的依然是厘清技术的本质,追问它如何塑造文化,乃至接纳一种新的知识形态。幻觉作为一种符号系统的溢出,也就是拉康所谓实在界对象征界的入侵,却未必不能被另一种文化技艺重新编程。既然我们仍然需要借助概率论、相信统计分布,由此用有限逼近无穷,那么微积分计算的近似值与上帝视角的绝对值之间的狭缝,这个往往被称为幻觉的领域,就是人类认知非理性的诗学空间,也是我们理应留给新技术的容错率。

这无疑挑战了传统的人机伦理,但我们不妨反思这种伦理是否坚不可摧,它又来自何处?吾道不孤。1985年,美国哲学家唐娜·哈拉维(Donna Haraway)在《赛博格宣言》(A Cyborg Manifesto)中摆出了“亵渎者”姿态,宣称:“到了二十世纪末,我们的时代,一个神话时代,我们都是奇美拉,是机器和有机体的理论化和虚构的混合体;简而言之,我们是赛博格。”哈拉唯举起的社会主义与马克思主义女性主义旗帜鲜明,这恰恰能为我们提供与人工智能幻觉共生的伦理模型。当传统人机伦理的二元框架在知识蒸馏的开源攻势中分崩离析,拥抱算法的不确定性,期待新的幻觉为我们划定新的真实边界,未必不是对西方中心主义技术观的祛魅。而2024年年底,我国学者冯象也再度强调了他2017年曾在《我是阿尔法——论人机伦理》中留下的预言:“机器智能,不仅是共产主义的阿尔法(引者注:阿尔法,希腊字母表首位),也是资本主义的奥米伽(引者注:奥米伽,希腊字母表末位)。我是奥米伽,圣者有言,我——来自未来。”作为文化技艺的人工智能势必将旧文化重新差异化,所以它既是新纪元的开端又是旧制度的终末。代号阿尔法或奥米伽的机器人作为文化技艺的具身化,正在为旧世界的知识论结构重新编程。在这种辩证运动中,作为新知识系统的边界,人工智能幻觉或许正是“人机大同”纪元的创世余晖。

但这不意味着我们应当放任新技术野蛮生长,容错率不等于豁免权,所以基特勒认为,“临时的机器”需要配适“临时的道德伦理”。海德格尔在追问技术的本质时,也许早已预见技术为未来世界创造的新居所会愈发光怪陆离,所以他引述荷尔德林(H?lderlin)《帕特摩斯》(Patmos)中的诗句“但哪里有危险,哪里也生救渡。”当我们在GitHub的提交历史中追溯算法的演化轨迹,在DeepSeek的开源周中迎接人工智能的平权时代,技术哲学或技术诗学便获得了新的实践形态。对日新月异的新模型保持清醒认识,不意味着与幻觉作战,而是学会接纳一种基于概率分布的新真相。因为真正的危险从不来自幻觉本身,而源于对绝对真实的偏执信仰,可它往往只是文化技艺过渡的阶段性产物。

陈超锐,华东师范大学思勉人文高等研究院博士研究生,研究方向:德语文学、媒介哲学和计算机科学。

本文发表于《天府新论》2025年第5期,注释从略。

    进入专题: 人工智能幻觉   媒介史   技术哲学   文化技艺   人机伦理  

本文责编:SuperAdmin
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 哲学 > 科学哲学
本文链接:https://www.aisixiang.com/data/167848.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2025 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统