用DeepSeek生成一份调研报告初稿，用豆包润色工作邮件，用通义听悟整理会议纪要……生成式人工智能正嵌入日常办公的每一个环节。它凭借出色的语言组织能力、迅捷的应答反馈，以及看似科学的辅助决策，赢得了众多用户的青睐。然而，当人们越来越习惯于将“像那么回事”的回答直接采纳为“就是那么回事”的依据时，一个潜在的问题会被忽略，即AI会“一本正经”地胡说八道。
与一般程序性错误不同，AI幻觉往往并非“无法作答”，而是“答得很像，却未必是真的”。它以语言流畅、逻辑完整乃至颇具权威感的方式生成错误内容，这更容易误导使用者。尤为重要的是，当此类内容借助平台传播扩散后，其影响不再是一次信息失真，更可能危及公众判断与社会信任。2026年4月，工业和信息化部等十部门联合印发《人工智能科技伦理审查与服务办法（试行）》（以下简称《办法》），明确提出强化风险监测预警、检测评估、认证、咨询等服务供给。AI幻觉的应对已不再是单纯的技术修补问题，而需置于更宏大的治理框架之中。
技术释放效率 虚假自洽成真
技术越善于表达，人的判断越不能缺席。AI幻觉之所以成为治理难题，是因为风险在生成、分发与使用的连续过程中被逐级放大并加固。生成式人工智能的生产逻辑是根据上下文组织语言，本质是基于词句间的概率关联，而非经过事实核验的人类认知过程。当面对信息不足或超出训练数据范围的情形时，生成式人工智能不仅不会轻易中止输出，还会沿既有语境将缺失信息“补齐”。问题在于，补齐的内容往往不是明显失真的胡乱拼接，而是掺杂真实信息的顺畅表述——人物、时间、出处之间形成表面自洽，读上去如同经过系统整理与事实核查过的结论。更值得警惕的是，随着模型能力提升，推理步骤拉长、说明内容增多，答案的完整感与权威感也随之增强。在此情景下，错误内容被包装得更为严密，识别难度因此进一步加大。
当AI幻觉进入传播环节后，误答经过摘录、转发、改写，迅速脱离原始语境，接入更广的内容流通链条。平台依赖点击、停留、互动数据判断内容价值，那些表述明确、带有“知识口吻”的内容更易获得关注。失真内容往往装扮得比需要核查的事实材料更像现成答案，因而更易被快速消费和扩散。经过多轮复述，原始错误细节被不断抹平，留下更简化也更像共识的说法。纠错所面对的，已是经过传播机制加固的失真版本。
智能向善而行 责任贯穿始终
正因为AI幻觉难以完全消除，治理就不能仅围绕生成式人工智能本身，还应将目光扩展至应用链条、平台机制与使用环境。韧性治理，是在承认技术不确定性的前提下，使系统具备承压、缓冲与修复的能力，其重在偏差出现后能被及时发现、止于局部而避免冲击持续外溢。《办法》的出台，意味着我国人工智能伦理治理从原则倡导向制度化、全链条的关键跨越。以此为依托，AI幻觉的韧性治理可从以下三个层面推进。
在制度层面，以分层定风险，以精准配资源。不同场景风险迥异，治理不宜“一刀切”。用于医疗、法律、金融、公共服务等领域的人工智能，容错空间小，审核、备案、追责应更为严格；用于一般信息检索、日常办公与创意辅助的人工智能，则可采取相对简化的程序。《办法》构建的“预防、服务、监管”三位一体体系，既将监管资源集中于高风险领域，又避免过度规制而抑制技术活力。值得关注的是，已有机构迈出了探索步伐。百度健康发布“满天星公益计划”，针对大模型输出医学内容时的幻觉问题，设计“AIGC+真人审阅”审核流程，将医学幻觉拦截在传播之前。阶跃星辰推出的“深度核查”产品，则通过专门识别AI幻觉的技术，为行业提供了可信的AI实践路径。
在技术层面，以核验筑防线，以反馈促闭环。治理不能单纯寄望于模型自我修正，需在应用流程中增设必要核验环节。例如，在高风险场景中引入检索增强生成、知识库比对、人工抽查等措施，形成“生成—核验—反馈”闭环，将错误拦截于关键决策之前。对平台而言，亦需对高传播性内容建立更稳健的审核与纠偏机制，防止失真内容借助算法快速扩散。事实上，AI的“另一面”也在悄然释放温暖。近期，大连一名19岁青年因情感纠葛萌生轻生念头，在豆包上搜索相关信息。平台瞬间捕捉到危险信号，第一时间启动暖心干预机制，全程温柔劝导、耐心安抚，引导其拨打报警电话。随后公安、村委会等多方力量火速集结，成功挽救了年轻的生命。AI既会“一本正经”地胡说八道误导人，也会在生死攸关之际温柔地拉人一把。因此，技术本身无所谓善恶，关键在于我们如何设计、治理和使用。
在使用层面，以素养促判断，以共责筑韧性。AI工具越普及，人越需要有清醒的判断能力。现实中，不少误用源于对流畅表达的过度信赖，将“表述像”等同于“表述对”。AI素养提升的重点不在于教会人们如何使用工具，而在于如何识别其局限、如何进行交叉核验、如何判断哪些场景不能直接采信机器输出。归根结底，培养AI素养就是培养使用者在采信之前主动溯源依据、比对来源、界定边界。每一次对可疑输出的质疑、每一次交叉核验后的反馈，都在为生成式人工智能积累校正的数据资本。将人的判断、人的主观能动性置于关键环节，技术应用才不至于演变为责任空转。韧性治理的最终落脚点，在于激活每一个使用者的判断意识，让技术回归工具本位，让人的价值理性始终在场。
AI幻觉治理归根结底是对信任的维护。社会对人工智能的期待，不仅在于能否生成内容，更在于是否可靠、出问题后能否纠正、风险出现后能否追溯。若治理仅强调“减少错误”，则难以回应公众对安全与可信的关切。每一次未被纠正的AI幻觉，都是对信任机制的微小侵蚀，当这种侵蚀日积月累，最终动摇的将是整个数字信息生态。韧性治理的深层逻辑在于，信任依靠“出错了能看见、能追究、能修复”的能力来积累。同时也要清醒地认识到，韧性治理的目的并非让怀疑成为人机交互的常态。合理质疑是必要的，但若每一次AI输出都审慎检视，信任便终将无法真正建立，过度怀疑反而会让技术应用的效率优势荡然无存。因此，韧性治理的高阶目标在于在“轻信”与“多疑”之间找到平衡点，既不让流畅的表达遮蔽事实的核查，也不让持续的质疑消解技术的价值。AI幻觉治理所重塑的不仅是人对机器的信任，更是人与人之间经由可靠信息中介而建立的间接信任。AI技术仍将持续发展，尽早建立稳健的治理框架，使模型有边界、平台有责任、使用者有判断、制度有回应，方能在技术演进中守住信任底线。
（本文系国家社科基金重点项目“共同体视域下互联网传播与社会认同空间互构研究”（24AXW008）阶段性成果）
（作者系西安外国语大学新闻与传播学院文化数智化出海研究中心研究员）
