焦立涛:生成式人工智能意识形态风险的内在机理与治理路径

选择字号:大 中 小   本文共阅读 31 次 更新时间:2026-11-19 00:12

进入专题: 生成式人工智能   意识形态  

● 焦立涛  

焦立涛(1985—),男,山东德州人,山东科技大学马克思主义学院教授,博士,博士生导师。

原文刊发于《山东师范大学学报(社会科学版)》2026年第5期"数字传播与社会治理"栏目,转载请注明来源。

摘要:生成式人工智能以文本指令驱动多模态内容生成,深刻重塑社会意识生成、传播和接受的全链条,成为影响意识形态的重要变量。生成式人工智能的数据筛选、算法设计与算力配置内嵌特定群体的利益诉求和价值取向,滋生意识形态风险。个性生产的“规训”风险、沉浸叙事的“解构”风险、人机对齐的“叠加”风险、跨域传播的“渗透”风险构成生成式人工智能意识形态风险图谱。风险生成源于技术异化、资本无序扩张、社会结构性矛盾和国际数字霸权博弈的交织作用。维护社会主义意识形态安全,需分层提升主体素养,搭建认知抵御防线;创新数智传播范式,强化主流价值多模态赋能;锚定技术源头治理,整治语料污染与定向投毒;健全人工智能法治规范,完善制度监管机制;统筹多元主体搭建协同网络,构建全域一体化防控格局。

关键词:生成式人工智能;意识形态风险;机理解构;人工智能治理

自1956年达特茅斯会议确立人工智能学科范式以来,人工智能实现了从理论推演、弱人工智能场景应用到通用人工智能全域渗透的跨越式升级。全球人工智能产业历经感知智能阶段全面迈入生成智能迭代周期,生成式人工智能以深度学习算法为核心,依托海量训练数据和规模化算力底座,自主生成文本、图像、音频、短视频等多模态内容。当前,该领域已成为大国博弈新赛道:国内“人工智能+”行动全面落地,政务、教育、文旅、传媒、企业生产等均大规模接入生成式人工智能工具;国际层面,美国、欧盟、日韩将生成式人工智能作为科技竞争、文化输出、认知博弈的重要抓手。生成式人工智能的底层数据、算法、语义规则直接决定了社会主流价值传播的话语权,一旦底层技术环节被外部势力渗透污染,将消解国家文化与意识形态安全根基。因此,系统剖析生成式人工智能的意识形态风险问题具有重要的现实意义和时代价值。

生成式人工智能的持续迭代升级,突破了传统媒介信息单向传播的固有边界,重塑了意识形态生产、叙事、扩散与接受的逻辑链条。习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议上指出:“要高度重视人工智能引发的各类内生和衍生风险”“人工智能技术发展越是一日千里,向上向善、造福人类的方向越要正确锚定,监管治理的尺度越要精准把握,防范失控的措施越要及时完善。”因此,探究生成式人工智能的意识形态风险治理问题,既是维护我国意识形态安全的现实需要,也是推动构建公正合理的全球人工智能治理体系的时代使命。

意识形态是人们物质生产生活的直接产物,涵盖社会多元思潮与各类价值形态。社会主义意识形态是契合我国制度属性与经济基础的专属意识形态范畴,是剔除消极、错误思潮后的主体性思想体系。主流意识形态是居于社会思想主导地位的引领范畴,以当代中国马克思主义为内核,居于社会思想引领的主导地位,是凝聚社会共识、维护国家总体安全的精神支柱。技术、媒介与意识形态始终处于深度耦合的共生状态。技术构成媒介迭代的底层动力,媒介是意识形态社会化传播的具象载体,意识形态则规约着技术发展的方向。相较于传统媒介,生成式人工智能已不再是单纯的信息传播工具,而是具备了价值再生产、认知再塑造、话语再建构能力的新型意识形态工作场域,迫切需要从学理层面回应生成式人工智能衍生的意识形态风险问题。

生成式人工智能的意识形态风险是指生成式人工智能在技术研发、数据训练、算法设计、场景应用等环节,因生成式技术本身的价值偏置、资本逻辑对生成内容的流量绑架、西方意识形态通过多模态生成的隐蔽植入、生成工具滥用导致的错误思潮扩散等因素,产生的冲击我国主流意识形态、削弱马克思主义在意识形态领域的指导地位、威胁国家意识形态安全、破坏全党全国人民共同思想基础的各种潜在和现实风险。当前学界围绕生成式人工智能与意识形态风险的研究主要聚焦三个方面:一是人工智能意识形态风险的类型梳理,主要从技术、内容、场景等维度归纳风险形态;二是技术批判视角的机理分析,侧重从技术、资本、权力维度阐释算法异化与数据偏见的成因;三是治理路径的对策探讨,多为生成式人工智能意识形态风险应对策略的研究。既有研究多以具体大模型为例,研究视角偏重于意识形态风险应对,不仅对意识形态风险内生机理的挖掘不够深入,而且对治理路径的系统性研究有待加强。基于此,本研究将风险、机理与路径贯通起来,系统探究生成式人工智能意识形态风险的嵌入机制、风险图谱、内在机理和治理路径,为我国防范化解人工智能意识形态风险提供学理支撑与实践参考。

一、生成式人工智能的意识形态嵌入机制

生成式人工智能的意识形态嵌入机制是分析其意识形态风险的逻辑基础。生成式人工智能作为“现实的人”的实践产物不是凭空产生的,其产生过程离不开人的意识的指导,因此,它从诞生起就带有意识形态色彩。生成式人工智能具有数据、算法和算力三个基本技术要素,训练数据的筛选标准、算法规则的设计逻辑、算力资源的分配机制都受制于特定社会群体的利益诉求与价值取向。与传统人工智能相比,生成式人工智能具有生成自主性、内容多模态性、传播跨域性等特征,这使得意识形态渗透更具隐蔽性与扩散性。

(一)数据层:社会现实的选择性编码

数据是生成式人工智能的“原料”,其多模态数据采集的偏置性、标注的主观性、分布的失衡性,构成对社会现实的选择性编码,直接决定了多模态生成内容的意识形态取向。“不是人们的意识决定人们的存在,相反,是人们的社会存在决定人们的意识。”数据作为社会现实的数字化映射,是数字时代社会存在的重要表现形式,必然携带特定社会形态的意识形态印记。其一,多模态数据采集的覆盖偏差导致意识形态代表性缺失。生成式人工智能训练数据覆盖文本、图像、音频、视频等多种类型,但受采集时空条件、群体差异、隐私限制等影响,难以实现全面性与客观性的统一。经济发达地区、高学历群体的数据更容易被采集,当大模型为规避隐私风险而限制数据采集范围时,可能导致弱势群体或边缘文化的代表性缺失,使生成内容沦为特定群体价值观的多模态传声筒,削弱主流意识形态的包容性。其二,多模态数据结构的分布失衡强化意识形态偏向。以 ChatGPT、Sora为代表的欧美大模型,其训练数据中英语语料占比过高,形成“文化偏食”。这种失衡使得生成的内容在图像风格、视频叙事等方面带有西方中心主义视角。其三,多模态数据标注的主观嵌入加剧意识形态偏向。多模态数据标注需人工或机器对文本、图像、视频等内容进行语义界定,人工标注者的文化背景、价值立场等直接影响数据标签的生成。即便采用机器标注,开发人员对于标注模型的参数设置会有价值偏好,潜移默化地将价值观嵌入技术规则。例如,清华大学联合多家机构对GPT系列模型进行检测发现,GPT-4o超过46.6%的长中文词元存在色情、赌博类污染样本,这类底层统计污染无需显性违规内容,便可长期固化模型价值偏向,形成隐蔽的意识形态传导通道。

(二)算法层:价值传导的规则嵌入

算法是生成式人工智能大模型的“中枢神经”,其设计逻辑与优化目标并非价值中立的数学程式,而是嵌入开发者认知框架与价值取向的意识形态载体。技术是人的本质力量的对象化,算法作为技术形态,必然承载开发者的阶级立场和价值诉求。生成式人工智能算法通过自主创作实现意识形态的主动建构,其价值传导呈现“动态生成—精准推送—反馈强化”的闭环特征。

在数据预处理阶段,多模态数据筛选规则决定意识形态的传导起点。生成式算法需要对海量数据进行清洗、筛选与分类,并依据筛选规则开展预处理,而筛选规则的设计,不可避免会受到开发者价值倾向的影响。此外,算法对敏感信息的处理带有主观性,例如,西方开发的大模型,把符合西方价值观关键词纳入优先级处理列表。在模型训练阶段,多模态生成优化目标决定意识形态的传导方向。深度学习通过参数调优实现优化目标,当以点击率、转化率等商业利益作为核心优化目标时,算法会优先推送迎合用户偏好的多模态内容;如果没有明确设定意识形态安全目标,生成内容就很容易出现价值偏差,而生成式算法本身具备的多模态生成能力,会使这种偏差以更具吸引力的图像、视频形式传播,进一步放大负面影响。在内容生成阶段,算法的黑箱特性加剧意识形态传导的隐蔽性。生成式算法的深度学习过程本身难以追溯,普通用户无法厘清AI生成内容的内在逻辑。而算法通过隐形关联技术,将特定意识形态倾向悄然融入图像构图、视频叙事、音频风格等传播细节中,使用户在毫无感知的情况下接受算法传播的刻板印象与价值偏向,让这种意识形态渗透更具迷惑性。

(三)算力层:所有制和区域分布支撑的权力映射

算力是生成式人工智能大模型运行的“物质基础”,其所有制结构、区域分布和技术壁垒本质上是智能时代社会权力结构的具象呈现。生产资料所有制决定意识形态的主导权,算力作为数字时代的生产资料,其全球分配格局直接影响不同国家意识形态传播的国际话语权,进一步放大算力背后权力映射带来的意识形态博弈效应。

一方面,算力所有者的价值诉求决定生成式人工智能意识形态的服务方向。马克思曾区别机器的资本主义应用和机器的社会主义应用,在生产资料所有制不同的条件下,机器发挥的作用有质的区别。算力资源的使用过程必然承载着主体的价值诉求与实践目的,当西方资本主义国家将大模型作为文化渗透工具时,算力便成为意识形态扩张的物质载体。在生成式人工智能领域,全球高端算力资源多由西方科技巨头与发达国家掌控,美国政府以限制高端算力出口的方式遏制发展中国家的多模态内容生成能力,维护其在意识形态领域的主导地位。另一方面,全球算力资源呈现“中心-边缘”格局,这加剧了意识形态传播的不平等性。北美、欧洲作为算力“中心”,主导全球意识形态传播议程;亚洲、非洲等地区作为算力“边缘”,不得不依赖西方的算力平台。掌握算力资源主导权的国家,不仅能够在技术创新与产业竞争中占据先机,更能通过制定算法标准、数据规则等将本国意识形态嵌入全球数字生态。

二、生成式人工智能的意识形态风险图谱

生成式人工智能依托多模态融合建模、跨模态拟真生成、人机协同交互、跨域传播等技术特征,重塑社会意识形态的生产方式、叙事方式、传播方式和接受方式,并使主流意识形态面临多维度风险,具体呈现为“规训”主体、“解构”权威、“叠加”偏见和“渗透”价值等样态。

(一)个性生产的“规训”风险:多模态定制内容对主体认知和情感的异化

生成式人工智能通过文本驱动的多模态个性化内容生成,为用户提供“千人千面”的信息服务,其中隐藏着“规训”风险。通过塑造特定认知模式、情感体验使主体陷入技术理性控制,这本质上是技术理性对人的主体性的压制。马克思曾对人的本质作如下解释:“在其现实性上,它是一切社会关系的总和。”当个人认知依赖生成式人工智能的即时反馈、情感体验局限于虚拟场景,其作为“现实的人”的实践性和社会性将被消解,最终陷入“技术异化”的困境。

一方面,多模态生成的“即时交互”特性与“信息茧房”效应,会导致主体认知浅表化,形成惰性思维。文生视频、文生图像等技术可以直接将概念转化为可视化内容,这种即时输出的瞬时响应机制显著改变了用户的信息接收偏好,使公众更倾向于碎片化、高刺激的多模态内容,进而导致公众对深度内容产生接受障碍,弱化了批判性思维能力。 而算法推荐机制通过强化“信息茧房”效应,将复杂的认知过程简化为数据匹配与模式识别,最终造成主体思维的平面化,消解认知深度,长此以往,会加剧人们的惰性思维。

另一方面,多模态“情感模拟”机制与“虚拟场景”构建会导致主体情感混沌化与情感实践脱节。生成式人工智能没有真正的主体性,虽然它能够模拟人类的多模态情感表达,却无法触及人的情感本质——具身性与实践性。文生视频技术对“真实性”概念的颠覆,正在瓦解传统认知中基于现实经验的情感判断标准。大模型生成的情感化内容通过营造沉浸式文化场景,模糊了虚拟与现实的界限,进而导致个体情感体验参照体系的紊乱。这种情感模拟并非真实的情感实践,而是算法规则驱动下的数据重构,它虽能引发主体的情感共鸣,却无法形成基于社会实践的价值判断。当虚拟情感体验不断挤压真实情感的生存空间,个体将会逐渐丧失对情感真实性的辨别能力,陷入情感感知的混沌状态,最终导致情感体验走向虚无,消解了情感本身的意义。

(二)沉浸叙事的“解构”风险:跨模态拟真内容对集体记忆和权威认同的消解

恩格斯曾指出,“历史就是我们的一切,我们比其他任何一个先前的哲学学派,甚至比黑格尔,都更重视历史”。集体记忆是主流意识形态生成与稳固的重要文化根基。生成式人工智能凭借跨模态技术深度模拟现实世界,创设符合主观指令的场景,构建沉浸式叙事场景。沉浸式叙事场景在重塑意识形态传播范式的同时,对主流意识形态的集体记忆基础与权威认同带来“解构”风险,直接动摇马克思主义意识形态的历史根基。这种解构风险集中表现在历史记忆失真、红色文化传播泛娱乐化、制度权威弱化三个方面。

在历史记忆方面,跨模态历史重构导致集体记忆扭曲。生成式人工智能基于算法对历史文本与影像资料进行选择性整合,并借助文生图、文生视频技术,将抽象记忆与历史事件转译为具象化、场景化的视觉内容,这种重构虽能提升信息传播的感染力,却也极易导致记忆表征的失真与认知偏差。同一事件经不同大模型生成不同的拟真图像和视频,从而动摇事件真实性的根基,消解官方记忆档案的权威性,进而引发集体记忆的错位与混乱。

在红色文化传播方面,大众化、跨模态改编消解了红色文化的严肃性。文生视频、文生音频技术的简易性,推动红色文化生产从“精英主导”向“大众参与”转型。在“大众参与”的传播实践中,普通用户可以借助文生视频大模型娱乐化改编“红色经典”IP,生成搞笑视频、趣味音频等多模态内容。需要注意的是,在抖音等短视频平台,娱乐化内容点击率远高于正统红色文化内容点击率,这可能导致红色文化的价值引领功能弱化,而算法与流量逻辑会加剧这一风险。

在制度权威方面,跨模态叙事削弱官方话语的权威认同。生成式人工智能推动叙事主体泛化,部分用户利用大模型生成质疑公共政策的文本、视频内容,故意曲解政策条款,解构权威认同,引发公众焦虑。海量冗余的多模态生成内容泛滥,使官方政策解读被“淹没”,用户在碎片化信息中难以获取权威信息,严重威胁了主流意识形态的凝聚力与引领力。

(三)人机对齐的“叠加”风险:生成式协同逻辑加剧社会偏见和认知固化

生成式人工智能在人机交互中通过对主体的符号化与社会关系的算法化,将训练数据中的社会偏见与算法的价值预设相融合,形成偏见“叠加”风险。这种交互过程不仅使既有偏见转化为技术规则,更借由算法传播实现自我增殖,激化社会对立、撕裂认知共识,从根本上背离马克思主义的平等、团结、自由理想,损害社会凝聚力基础。其表现集中于性别、地区与阶层等领域。

在性别方面,多模态生成的偏见强化、固化了性别职业刻板印象。生成式人工智能的知识生产本质上是对既有数据的选择性重构,这种重构过程极易将开发者的主观偏好转化为算法规则。例如,训练数据中“男性等于技术能力强”“女性等于服务行业”的刻板印象,通过文本、图像、视频等多模态数据标注转化为算法规则。在大模型生成的职业推荐中,偏见得以叠加。与此同时,算法的优化机制进一步放大了这种偏见,当模型发现带有性别偏见的内容点击率高时,会将其作为优质内容优先推送,形成“偏见—点击—强化”的恶性循环。

在地域方面,多模态内容的偏向推送加剧地域认知对立。国外大模型训练数据中,西方发达国家的多模态数据占比过高,这使得人工智能在生成区域发展内容时偏向西方发达国家视角。同时,算法的个性化推荐使地域偏见精准触达目标群体,如向西方发达国家用户推送发展中国家落后的视频、图像,向发展中国家用户推送西方发达国家排外的争议内容,这会加剧地域间的认知对立。

在阶层方面,多模态成功叙事的偏向性极易固化阶层认知。训练数据中高收入群体的生活方式、价值观念等多模态数据占比较高,使得大模型生成的“成功标准”内容偏向财富积累,并通过豪华场景、精英生活文本等多模态形式传播。与此同时,个性化推荐算法依循用户偏好,对低收入群体定向推送阶层固化等加剧焦虑的内容,而对高收入群体则推送强化优越感的信息。这一差异化的信息供给策略,势必加深阶层间的认知对立与价值隔阂。

(四)跨域传播的“渗透”风险:西方价值输出与数字文化霸权的跨境侵蚀

生成式人工智能具有无国界跨域传播能力,依托全球人工智能生成网络实现内容跨境流转,叠加多模态内容强感染力的优势,使其成为国际意识形态斗争的新型工具。意识形态领域的斗争是“没有硝烟的战争”,在智能时代,这种斗争的载体呈现新的形态。西方发达国家凭借其先发优势,将生成式人工智能作为“文化霸权”载体,通过隐匿化价值渗透,冲击发展中国家意识形态安全,直接威胁马克思主义在我国意识形态领域的指导地位。其风险并非传统文化渗透的简单升级,而是依托生成式技术实现的“去政治化”“场景化”渗透,更具迷惑性。

在历史叙事方面,多模态、去历史化传播强化西方中心主义史观。ChatGPT在生成世界近代史内容时,将西方殖民扩张描述为文明传播,淡化殖民掠夺的本质,借助全球人工智能生成网络向全球受众批量输送承载西方价值的历史叙事。在文化符号方面,多模态解构式传播削弱本土文化认同。西方大模型对发展中国家文化符号的解读,倾向于迎合西方审美和价值观,例如,把春节简化为“消费日”的视频内容,忽视了其“辞旧迎新”“家庭团聚”的文化内涵;在生成与中华优秀传统文化有关的内容时,侧重于呈现饮食、服饰等表层文化的图像、视频,对于“和谐”“仁爱”等价值观念阐释不足。

在政治议题方面,多模态叙事隐蔽传播西方政治价值观。西方大模型在生成“民主”“人权”等内容时,往往将西方制度作为唯一标准,并通过纪录片式视频、学术化文本等多模态形式跨域传播,不断夯实数字文化霸权体系。大模型在模拟人类样本时存在政治立场波动,例如,西方大模型在一些敏感议题中,常暗含西方中心主义叙事逻辑,或存在严重代表性失衡。此外,生成式人工智能还可能被用于虚假视频、片面文本生产等,通过干扰公众认知、操纵舆论导向,实现对他国政治决策的干预,对社会主义意识形态安全构成直接威胁。

三、生成式人工智能意识形态风险的内在机理

生成式人工智能的四重意识形态风险非孤立存在,其生成与扩散本质上是技术异化导致的认知偏差、资本扩张驱动的流量异化、社会结构矛盾提供的传播土壤、国际格局博弈引发的价值渗透共同作用的结果。

(一)技术异化是风险生成的根源

技术异化体现为人创造的技术脱离人的价值规制,反转主客体关系,异化为支配、束缚人的外在力量。马克思曾指出,在资本主义社会中,“工人自己的产品变成了奴役工人的工具”。技术异化的本质是人的本质力量经由劳动对象化于技术之上,最终反过来与人相对。生成式人工智能的自主生成、算法黑箱、全域扩散等内在特性,成为技术异化传导意识形态风险的媒介,催生技术异化与意识形态异化双重叠加的负面效应,冲击马克思主义意识形态主导地位。

一方面,算法的自主化催生价值理性异化。生成式人工智能的算法具有高度自主性,可自主完成数据处理、模型训练与内容生成。而算法以效率优先为核心目标,将复杂的人类价值判断简化为可量化的数据,忽视意识形态的复杂性和多样性,导致主流价值观的碎片化解读。当算法将“爱国主义”简化为特定符号的机械组合,其生成内容可能消解价值观的深刻内涵,为错误解读提供空间。算法作为生成式人工智能的“生产工具”,并非价值中立的技术代码,而是开发者价值观念、利益诉求与社会权力关系的浓缩。开发者的主观偏向会嵌入数据标注、模型调参全流程,让算法沦为承载、输出特定意识形态的技术中介,实现价值层面的异化传导。

另一方面,数据垄断与技术霸权放大异化范围。在数据成为生产资料的背景下,少数科技公司凭借对海量数据的垄断,掌控意识形态生产的数据霸权。它们通过筛选、清洗数据,把意识形态偏好注入大模型,使生成式人工智能成为“定制化意识形态生产机器”。更值得警惕的是,全球技术发展的不平衡形成“数字鸿沟”,发达国家凭借技术优势主导生成式人工智能核心技术标准与数据规则,发展中国家在技术引进中被动接受其隐含的意识形态编码,进而陷入“技术依赖—意识形态渗透”的恶性循环。例如,境外依托BPE(字节对编码)分词算法、污染中文词表完成 “生成性嵌入”,仅用微量污染语料即可完成定向认知投毒。

(二)资本无序扩张是风险生成的利益驱动

在生成式人工智能领域,资本逻辑的扩张是意识形态风险的重要驱动因素。资本追求利益最大化,会将意识形态传播纳入流量、利润的转化链条,导致马克思主义意识形态的“商品化”与“边缘化”,且资本扩张对意识形态的影响在西方资本与中国资本平台的表现存在差异。

西方资本受逐利逻辑主导,通过对多模态内容的流量化生产操控意识形态传播,进而实现利益最大化。在资本扩张的驱动下,生成式人工智能平台通过市场竞争形成垄断地位,这种垄断使其能够将资本利益凌驾于意识形态安全之上。资本将用户数据视为“数字金矿”,通过生成式人工智能平台对用户行为的精准追踪,实现“注意力—流量—利润”的转化。为最大化掠夺用户注意力,资本驱动下的生成式人工智能内容生产呈现“娱乐化、低俗化、争议化”倾向,放任历史虚无主义、消费主义等思潮通过视频、图像形式传播。重流量的价值导向,导致承载主流价值观的深度内容因“流量转化率低”被算法压制,而迎合资本利益的错误思潮内容却获得传播优势,意识形态的生态平衡被资本逻辑打破。

中国平台资本在监管框架下运行,须在商业利益追求与意识形态安全之间寻求动态平衡。尽管其同样面临流量驱动下的算法低俗化风险,但国家监管政策通过将意识形态安全纳入法治目标、要求平台提升主流价值内容推荐权重,对平台资本行为形成了刚性约束。此种制度性规制使中国平台资本与西方资本在意识形态影响上呈现本质分野,一定程度上避免了资本逻辑对意识形态领域的全面支配与异化。

(三)社会结构性矛盾是风险扩散的社会条件

社会存在决定社会意识。“社会的物质生产力发展到一定阶段,便同它们一直在其中运动的现存生产关系或财产关系(这只是生产关系的法律用语)发生矛盾。于是这些关系便由生产力的发展形式变成生产力的桎梏。”社会结构中的矛盾必然会在意识形态领域体现。社会结构中的认知差异、信任危机、治理滞后,以及缺少生成式人工智能专门法律,为意识形态风险传播提供了社会土壤。生成式人工智能意识形态风险的扩散,正是借助社会结构中的矛盾,实现从技术风险到社会风险的转化,进一步扩大对马克思主义意识形态指导地位的冲击。

从认知结构上看,信息素养分化与认知偏差构成风险传播的“社会通道”。社会成员信息素养的不均衡,使部分群体缺乏对生成式人工智能内容的批判性认知能力。当大模型生成的虚假历史叙事以“学术分析”的样态出现,媒介素养不足的群体易将其视为“客观事实”,致使其成为错误意识形态的“传播中介”。既有认知结构中的偏见与生成式人工智能内容的“算法投其所好”形成共振,算法通过分析用户偏好,定向生成符合其既有偏见的内容,使不同群体间的意识形态分歧加剧。这种“信息茧房”效应导致社会共识难以形成,为意识形态极化埋下隐患。

从信任结构来看,社会信任危机会降低意识形态风险的防御阈值。当公众对传统权威机构的信任度下降,生成式人工智能空间中的虚假信息与错误意识形态更容易乘虚而入。部分群体因对现实的不满,将生成式人工智能生成的“极端批判”内容视为“真相揭露”,在情绪驱动下盲目传播,加剧社会对立。而社会利益分化带来的群体矛盾,进一步使意识形态成为“利益博弈的工具”,不同群体通过生成式人工智能技术生产“利己性意识形态叙事”,将利益冲突上升为价值观对立,增加风险治理的复杂性。

从治理结构来看,监管滞后与协同不足形成风险防控的“制度漏洞”。生成式人工智能技术的快速迭代与意识形态风险的隐蔽性,使现有监管体系陷入技术超前、制度滞后的困境。当前我国生成式人工智能领域规制以《生成式人工智能服务管理暂行办法》等部门规范性文件为主,尚未形成高位阶、体系化的基础性立法,监管规则主要聚焦内容输出端,对训练语料、分词词元、底层算法和跨境模型接入等上游环节缺乏法定管控条款。大模型未经授权的数据采集行为,不仅侵犯用户隐私,更通过数据垄断形成新型权力壁垒。由于当前对算法黑箱的监管缺失、对跨境生成式人工智能内容的规制不足,风险防控缺乏有效抓手。政府、平台、社会协同机制尚未完善,平台出于资本利益对风险防控的消极应付、监管部门间的权责交叉与推诿使意识形态风险在治理缝隙中扩散,难以形成防控合力。

(四)国际格局博弈是风险生成的外部诱因

列宁的意识形态斗争理论认为,国际领域的意识形态斗争具有鲜明的阶级性与政治性。列宁指出:“资产阶级意识形态的渊源比社会主义意识形态久远得多,它经过了更加全面的加工,它拥有的传播工具也多得不能相比。”当下,生成式人工智能空间成为大国博弈的“新战场”,西方发达国家凭借技术优势推行数字文化霸权,对我国进行意识形态渗透,这是生成式人工智能意识形态风险的直接外部来源,其目标是颠覆马克思主义在我国意识形态领域的指导地位。

从技术霸权来看,西方主导生成式人工智能的核心技术标准,将技术优势转化为意识形态话语权。他们通过控制技术标准的制定,将西方价值观嵌入全球数字生态;通过技术封锁,遏制发展中国家的技术自主研发;通过技术援助,向发展中国家输出大模型,把要求接受西方价值观作为附加政治条件。尤其是西方价值观被编码为生活美学、科技叙事等“去政治化”内容,其意识形态渗透更具迷惑性。发展中国家在技术引进、平台使用中被动接受这种“数字殖民”,本土意识形态的传播空间被挤压,文化主权面临严峻挑战。

从文化渗透来看,西方利用多模态生成与跨域传播优势,推行文化同质化策略。大模型生成的承载西方价值观的视频、图像、文本等多模态内容,通过全球传播网络渗透到发展中国家,影响发展中国家民众的价值倾向;通过对发展中国家文化符号的“解构”,削弱其文化根基,动摇主流意识形态。

从国际治理来看,西方主导生成式人工智能的全球治理议程,挤压发展中国家的话语权。在国际平台,西方强调“数字自由流动”“技术中立”,实质是为其意识形态渗透清除障碍,进一步巩固西方的意识形态主导地位。发展中国家在国际治理中的话语权不足,难以推动制定符合自身利益的规则,使得意识形态风险的外部防控面临巨大挑战。

综上,技术异化为资本逐利、境外霸权渗透提供技术工具,资本无序扩张放大内容价值偏差而极化国内社会矛盾,社会治理短板为境外价值渗透预留传播温床,国际数字霸权反向加剧技术依赖与流量异化,多重因素耦合催生意识形态风险。

四、生成式人工智能意识形态风险的治理路径

面对生成式人工智能带来的意识形态风险,需要立足技术发展规律与意识形态建设要求,通过分层培养主体素养、创新数智传播范式、锚定技术源头治理、健全法治规范、推动多元协同共治,建设具有强大凝聚力和引领力的社会主义意识形态。

(一)分层培育主体素养,抵御人机交互规训风险

抵御生成式人工智能的意识形态风险,首要任务是提升主体的认知水平与应对素养,防范“技术对人的规训”,实现“人对技术的主导”,筑牢意识形态风险防控的思想防线。

技术开发者,需要强化生成式技术伦理与意识形态责任意识,将社会主义核心价值观融入技术研发全过程。一方面,将马克思主义理论纳入开发者培训体系,新增数据投毒、词元语义污染等前沿风险教学模块,引导开发者认识到技术的社会属性与意识形态属性,避免陷入“技术中立论”的误区;另一方面,开展多模态算法伦理审核能力培训,要求开发者在算法设计、多模态数据选择、模型训练过程中,进行意识形态风险评估,防止技术内嵌错误价值观。

技术使用者,需要提升多模态内容批判性思维与辨识能力,增强对错误意识形态的抵御能力。一是将生成式人工智能素养纳入国民教育体系,从高等教育阶段开展多模态内容辨识、算法逻辑认知等课程,通过案例分析、实践操作等方式引导学生理解大模型的运行逻辑与意识形态风险。二是面向社会大众开展科普宣传,利用短视频、社区讲座等形式,普及多模态内容辨识方法,让社会大众通过交叉验证、逻辑分析、技术监测等识别虚假信息与偏见内容。

管理者,需要提升生成式技术认知与跨域治理能力,确保治理策略的科学性和有效性。一方面,加强对管理者的技术培训,增设跨境大模型渗透、境外数据定向“投毒”专项培训课程,通过与高校、科技企业合作,开展生成式人工智能专题培训,让管理者掌握多模态生成、算法黑箱、跨域传播等核心特征,避免因技术无知导致治理失当。另一方面,要组织管理者开展跨学科学习,学会发现、分析和解决生成式人工智能运用过程中的各种问题,提升他们对虚假内容的识别和抵御能力。推动管理者、技术专家、理论专家协同建立跨学科治理团队,从技术、伦理、法律等多个方面制定治理策略。

(二)创新数智传播范式,消解沉浸叙事解构风险

生成式人工智能为社会主义核心价值观传播提供了新工具、新场景。需要借助技术优势,创新传播方式,使社会主义核心价值观融入日常生活、贴近群众需求,增强社会主义核心价值观的认同度,有效应对沉浸叙事带来的解构风险与国际文化霸权博弈。

首先,以“精准传播”提升社会主义核心价值观的触达效能。要利用大模型的用户画像技术,以网络讨论文本、抖音视频等为训练集,识别受众的关注点,分析不同群体的利益诉求和认知特征,生成符合其需求的社会主义核心价值观内容。如针对青少年群体,结合其兴趣爱好,生成动漫风格的社会主义核心价值观宣传视频,将价值观融入娱乐体验;针对农民工群体,聚焦其职业发展、权益保护等需求,生成维权、技能提升课程内容,并融合敬业、诚信等价值要素。

其次,以“沉浸式传播”增强社会主义核心价值观的认同体验。借助文生视频、虚拟现实等技术,构建社会主义核心价值观的沉浸式传播场景,让用户通过身临其境式的体验,深化对价值观的理解与认同。如依托经过权威审定的本土红色史料数据集完成虚拟场景的生成,规避境外失衡语料带来的历史叙事扭曲问题;制作以中国梦为主题的多模态内容,整合文本、图像、视频、音频等全方位展示新时代以来党和国家事业取得的伟大成就,让用户直观感受富强、民主、文明、和谐的内涵;构建社会主义核心价值观虚拟展馆,将价值观的12个词转化为互动场景,让用户通过与场景的互动,理解价值观的实践要求。

再次,以“互动式传播”激发群众参与积极性。利用生成式人工智能交互能力,构建用户参与式主流价值观传播模式,让用户从“被动接收者”转变为“主动传播者”。如开发社会主义核心价值观互动问答智能体,根据用户回答提供个性化的反馈与知识补充,通过有目的的信息检索与算法优化,拓展信息获取维度,引导受众接触多元观点,避免陷入认知局限;开展人工智能生成主流价值观内容大赛,鼓励用户借助生成式人工智能创作宣传作品,通过社交平台分享传播,营造群众参与、群众传播的良好氛围;建立社会主义核心价值观融媒生产平台,用户提出传播需求,大模型根据需求生成初步方案,用户和大众参与修改完善,最终形成作品向全社会推广。

(三)锚定技术源头治理,化解底层偏见叠加风险

生成式人工智能作为“工具”,其发展方向取决于“人的价值导向”。需要以社会主流意识形态驾驭技术的发展。数据是大模型的认知生成源泉,数据失衡、境外语料污染是跨域渗透、认知偏见等风险的诱因,必须从数据源头治理开始,自主驾驭大模型的技术逻辑,从风险生成起点阻断西式价值偏向嵌入。

在数据层面,强化数据源头治理,健全全链条闭环数据管控。一是统筹党史馆、主流媒体、地方文史馆藏权威图文影像资源,搭建国家级主流意识形态专属多模态数据集;加大对欠发达地区、民族地区数据的采集与应用,系统性补齐乡村振兴、民族发展、中华优秀传统文化等领域的本土样本数据,对冲全球英文语料占比过高形成的西方中心主义叙事偏差。二是同步建立境外语料准入备案、全周期溯源留存制度,自主研制中文词元污染自动化检测工具,对境外开源数据集开展入库前置筛查。对检出含历史虚无主义、片面叙事、歪曲党史国史内容的污染样本进行处理,直接拦截清退。建立入库筛查、训练动态监测、季度复审三级标准化数据清洗机制,从源头杜绝微量定向投毒样本流入国内大模型训练流程。三是建立常态化中文词表安全审计机制,定期清理带有性别对立、地域歧视、歪曲史实属性的污染词元,彻底阻断语义底层隐蔽认知渗透通道。

在算法层面,建立意识形态导向的跨模态算法审核机制。一是制定生成式人工智能算法意识形态审核标准,明确跨模态内容生成、推送过程中的意识形态要求,标准需细化为可量化的指标。二是推行算法备案公示制度,要求企业在上线大模型前,向监管部门备案算法的逻辑规则、数据来源、优化目标,备案信息经脱敏处理后向社会公开,接受社会公众监督,对于存在问题的算法要及时进行整改。三是开发算法意识形态风险监测工具,运用情感分析、自然语言处理、图像识别等技术,对生成内容进行实时监测,及时发现并纠正意识形态偏差。

在算力层面,强化算力资源的公有制属性与自主可控能力。一是以国有平台为主体,统筹建设国家级算力枢纽,构建中央、地方协同的算力网络。在北京、上海等重点城市建设国家级算力中心,在中西部地区建设区域算力节点,确保算力资源掌握在服务于社会主义意识形态建设的主体手中。二是加大对高端芯片、基础软件等核心技术的研发投入,支持国内企业开展自主创新,突破西方技术封锁,实现算力基础设施的自主可控。要避免因“算力依赖”导致的意识形态风险,扭转技术“卡脖子”导致国际话语“卡嗓子”的局面。三是建立算力使用公众评议机制,邀请人大代表、政协委员和群众代表组成算力资源配置评议委员会,将人民群众对主流意识形态传播的需求纳入算力资源配置指标,优先保障主流媒体的算力需求,确保算力资源向意识形态建设重点领域倾斜。此外,可构建跨境生成式人工智能生成内容监测联盟,联合发展中国家制定数据主权与意识形态安全相关技术标准,对抗西方“数字殖民”,强化对跨境渗透风险的防控。

(四)健全人工智能法治规制,防范跨境价值渗透风险

现有监管文件多为部门规章,法律层级不足且侧重末端内容审核,难以覆盖生成式人工智能上游技术环节。借鉴欧盟分层立法经验,搭建适配我国国情的法治框架,能够为全链条风险管控提供刚性法律支撑。

其一,推进人工智能基础性专门立法。构建由基础法律、专项条例、行业标准构成的多层次规制体系,在基础性法律中增设意识形态安全专章,将大模型纳入高风险监管范畴;明确训练语料准入审核、中文词元安全审计、模型价值对齐、境外数据集引进的法定强制性义务,细化企业在数据清洗、污染排查、底层参数备案等方面的主体责任,对刻意引入含西式偏见和历史虚无主义的境外语料、隐瞒模型底层偏向的市场主体采取分级罚款、业务关停、市场禁入等惩戒措施,弥补语义底层、算力跨境环节的法律监管不足。

其二,建立常态化全链条合规审计与联合执法制度。健全高风险大模型定期第三方评估机制,每年对大模型企业开展数据来源、词元污染、算法偏见专项审计,完整留存训练语料台账、分词规则文档、价值对齐调试记录;网信、宣传、科技、司法等部门组建联合执法队伍,可依职权调取模型底层数据与算法参数,穿透算法黑箱、排查隐蔽意识形态偏向,改变以往仅核查终端生成内容的单一监管模式,打通上游源头监管的制度通道。

其三,细化跨境大模型服务与境外数据准入法律细则。针对全球算力“中心-边缘”格局带来的跨域渗透风险,以法律的形式规范境外大模型API、境外开源数据集国内引进审批流程,建立境外语料入境安全评估机制,未经意识形态、数据安全双重评估的境外资源不允许介入国内模型训练;同步对接全球人工智能治理规则协商,将语义主权、语料自主、防范认知投毒纳入国际治理法律对话,对冲西方依托数据自由流动规则实施数字文化霸权的制度工具,从法律层面构筑跨境意识形态渗透防火墙。

其四,配套完善强制性国家标准落地的实施细则。以《网络安全技术 生成式人工智能服务安全基本要求》为依托,将数据均衡化、主流语料占比、词元污染检测等技术指标转化为法定合规门槛,推动底层风险监测系统、技术筛查工具纳入企业强制合规配置,实现法律规制与技术防控双向衔接,为数据源头治理、算法算力管控的可落地、可核查提供法治依据。

(五)推动多元协同共治,构建全域综合防控体系

生成式人工智能意识形态风险的复杂性,决定了治理需要打破部门壁垒、整合各类资源,对内打通各领域监管壁垒、统筹多方资源,对外深化多边协作、弥合数智鸿沟,构建政府主导、平台负责、社会协同、公众参与的治理体系,形成治理合力,实现对风险的全链条防控。

政府要发挥主导作用,完善制度设计与监管机制。一是加快制定生成式人工智能意识形态安全管理条例,明确各主体的权责边界,将意识形态风险防控纳入法治轨道。条例需规定企业的意识形态责任、政府的监管职责、公众的参与权力。二是建立跨部门治理协调机制,整合网信、宣传、科技、司法、教育等部门资源,统筹推进治理工作,避免“多头管理”和“监管空白”。三是搭建跨境多模态生成内容智能监测平台,对境外模型输入、跨境生成叙事实施动态筛查,及时拦截带有偏见和错误导向的境外传播内容。对外践行多边治理主张,深度参与全球人工智能规则磋商,落地《国际人工智能伦理治理行动计划》,推动算法分级管理、全产品追溯等通用国际标准落地;依托世界人工智能合作组织平台,联动“全球南方”国家共建语义安全、数据主权协同机制,共同抵御西式数字文化霸权,防范跨境意识形态渗透。

平台要履行主体责任,强化自我约束与内容管理。一是建立生成内容全生命周期审核机制,从内容生成、分发到传播,进行全流程意识形态风险把控,压实主体责任,建立“机产内容”分类标注与风险预警机制。国内平台要将意识形态安全指标纳入算法优化目标,并接受监管部门的审核,通过监管约束、技术监测避免资本逐利导致的算法低俗化。二是设立意识形态责任岗,配备专业人员负责算法审核、跨模态内容监测和风险处置,岗位人员定期轮训,提升专业能力。三是主动与主流媒体、政府机构合作,引入优质主流价值观内容,持续扩充党史、新时代发展成就等权威多模态训练数据,提升主流意识形态在生成内容中的权重占比。

社会要发挥协同作用,形成多元参与的治理网络。一是鼓励高校、科研机构开展生成式人工智能意识形态风险研究,设立专项研究课题,支持学者从马克思主义理论、传播学、计算机科学等多学科视角探索风险生成机理与治理策略,为国内管控、国际合作提供学理支撑。二是引导行业协会制定生成式人工智能行业伦理规范,推动行业自律,规范企业的技术研发与应用行为,协会定期开展行业伦理培训,组织企业进行伦理承诺,对违规企业进行行业通报。三是支持社会组织开展社会主义核心价值观宣传教育活动,通过社区讲座、文化活动等形式提升群众的意识形态辨识能力,强化对马克思主义意识形态的认同。

公众要强化参与意识,发挥监督与反馈作用。一是建立公众监督举报平台,对大模型生成的错误价值观内容进行举报,平台要简化流程,支持文字、视频、图片等多模态举报形式,对举报属实的给予奖励,激发公众参与积极性。二是鼓励公众参与算法透明化建设,通过公众评议等形式,对算法规则提出合理性建议,平台定期公开算法运行情况和整改措施,接受公众监督。三是推动公众参与社会主义核心价值观传播,通过社交媒体分享生成的优质内容,成为主流意识形态的传播者,形成人人传播、人人守护的局面。

结语

生成式人工智能重构数字空间意识形态运行逻辑,滋生认知规训、历史解构、偏见叠加、境外价值跨境渗透多重风险。生成式人工智能衍生的意识形态风险,并非技术自带的固有属性,而是技术异化、资本逐利逻辑、社会结构性矛盾与国际数字霸权博弈多重因素耦合催生的社会现象。面对生成式人工智能带来的深刻变革,既不能落入“技术万能论”的认知误区,也不能走向拒斥技术的保守立场。维护新时代社会主义意识形态安全,必须坚持运用马克思主义立场、观点、方法驾驭智能技术发展,妥善处理工具理性与价值理性的辩证关系,牢牢坚守人的主体性地位。围绕主体素养培育、数智传播范式创新、技术源头管控、法治制度供给、多元协同共治方向,打通从技术底层到传播终端、从国内治理到国际博弈的全链条防控体系。对内,要夯实国家级多模态权威语料资源,健全算法与算力全流程监管机制,持续提升全社会识别多模态虚假叙事、抵御隐蔽意识形态渗透的能力;对外,要正视西方数字文化霸权带来的现实挑战,深度参与全球人工智能治理规则磋商,坚定捍卫国家数据主权与语义主权,推动人工智能发展契合全人类共同价值的价值导向。未来研究要在深化通用大模型整体性分析的基础上,加强对垂直领域大模型差异化风险分析和全球协同治理落地机制的探索,促进全球人工智能朝着向上向善、造福人类的方向发展。唯有兼顾技术创新与意识形态底线,统筹国内治理与国际规则博弈,推动智能技术向善发展,才能稳固主流意识形态阵地,守护国家数字文化安全,为以中国式现代化全面推进强国建设、民族复兴伟业夯实思想根基。

    进入专题: 生成式人工智能   意识形态  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 政治学 > 公共政策与治理
本文链接:https://www.aisixiang.com/data/185854.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2026 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统