韩娜 邹初妤:智能认知对抗:理论演化、对抗机制与安全风险

选择字号:   本文共阅读 50 次 更新时间:2026-06-01 09:38

进入专题: 智能体   认知对抗   国际博弈   安全风险  

韩娜   邹初妤  

内容提要:人工智能催生了新的认知对抗模式,正在重构国际安全秩序并影响认知域安全。从演进维度看,智能认知对抗历经了“智能辅助”的人类主导对抗、“智能赋能决策”的人机协同对抗再到当前“人工智能自主行动”的智能体对抗,已经从单纯的军事作战力量转变成大国竞争的重要战略领域。智能认知对抗在主体、机理和规则方面,呈现由人类主导向算法决策迁移、由线性传播向认知生态系统演化、由信息控制向认知主权侵蚀转变的特征。随着智能体在认知对抗国际实践中的广泛应用,智能体驱动的认知对抗逐渐形成“批判—探索—决策—行动”的循环机制,主要表现为:人工智能通过信息环境动态评估,完成认知叙事网络构建,进而优化竞争战略决策,开展动态认知干预并形成全域智能化的认知对抗工作流。智能体驱动的认知对抗模式正不断引发政治安全的操控风险、社会安全的极化风险、技术安全的失控风险以及文化安全的侵蚀风险。面对上述多维度安全威胁,国家应以系统性视角统筹战略布局,应对安全风险。

标题注释:本文系国家社会科学基金重大项目“数字时代国家安全风险综合体的治理机制研究”(项目编号:24&ZD122)的阶段性成果,并得到中国人民公安大学双一流学科建设项目“大国博弈背景下智能体驱动的认知对抗机制及其风险研究”(项目编号:2025yjsky002)的资助。

关键词:智能体/ 认知对抗/ 国际博弈/ 安全风险/

作者简介:韩娜,中国人民公安大学网络空间国际治理研究基地执行主任,中国人民公安大学国家安全学院教授、博士生导师(北京 100038);邹初妤,中国人民公安大学网络空间国际治理研究基地助理研究员、国家安全学院博士研究生(北京 100038),贵州警察学院助教(贵阳 550005)。

原文出处:《国际安全研究》(京)2025年第6期 第48-69页

 

随着智能化浪潮的来袭,自主决策型人工智能技术——智能体(AI Agent)正无声嵌入国际博弈场域。1986年,马文·明斯基(Marvin Minsky)在《心智社会》一书中首次提出智能体概念,认为智能体是由大量相互作用的单一智能体构成的复杂系统,每个智能体都执行特定的任务,并通过协作完成复杂的认知活动。①随着OpenAI于2021年推出多模态智能体模型,智能体技术被广泛应用于各领域。2023年,北约发布的《缓解和应对认知战》系列报告首次明确提及自主系统和人工智能在认知战中的应用,②2024年,美国联邦调查局(FBI)披露俄罗斯运用Meliorator智能体自主生成账户发布虚假信息参与俄乌冲突,③标志着拥有自主决策功能的智能体开始进入大国博弈场域,并成为大国地缘竞争的重要战略载体。随着大国博弈的愈演愈烈,社会、经济、科技等安全要素不断汇入各安全领域并扩张国家安全议题网络,认知对抗逐渐成为这一网络中的重要安全节点。

2017年,美国国防情报局提出“第五代战争”,强调在战争中通过技术手段直接干预认知过程。④随后,认知对抗开始以心理战、信息战、舆论战等方式不断涌现于国际安全场域,直到2020年北约提出“认知域为第六域”,同时将认知战定义为:“认知战是与其他权力工具同步进行的活动,通过影响、保护或破坏个人和群体的认知来影响态度和行为,从而获得对对手的优势。”⑤但上述定义都将认知对抗置于军事作战领域,强调其“战”的属性,以及国家为主体的战争形态。事实上从认知本体视角来看,“对抗”一词更突出双方博弈的主体属性和互动属性,认知对抗应当是一项从以武器性能为核心的要素对抗,发展为跨域联动的结构对抗,最终演变为物理、信息、网络、认知空间深度融合的“体系对抗”。在此框架下,认知对抗既是一种双方对抗的过程,又是体系对抗的高级形态,其核心目标从摧毁敌方物理存在转向瓦解其决策意志。⑥

当前,认知对抗的研究主要聚焦于国际竞争视野下的认知战略定位、大国博弈实践中的认知作战效能以及国家安全范畴的认知影响路径三个层次。在国际视野下,主要侧重探究认知对抗如何成为国家安全优先议题。一方面,聚焦美国、俄罗斯等国家的认知政策文本,探析大国认知战略的体系演进;另一方面,针对北约认知战略联盟的新动态进行跟踪分析。⑦在大国博弈的实践中,如何提升认知对抗的作战效能成为重点关注的问题:一是探究生成式人工智能、社交机器人和深度伪造等新兴智能技术在认知作战中的技术驱动机制;⑧二是从国际舆论环境、战略叙事手段与认知理论框架等视角对认知战的致效机理展开具体分析。⑨在国家安全范畴下,主要探讨认知对抗在具体领域的安全影响,如文化安全、经济安全等,以及解构认知对抗的风险形成与安全逻辑。⑩由此可见,目前对于认知对抗的研究均为对当前的认知对抗态势展开的横向平铺式梳理,缺乏对认知对抗本体的垂直连贯式的体系化探究。同时,随着新兴智能技术发展,正不断催生出新的认知对抗形态,而当前的研究还未将智能体技术融入认知对抗体系中,滞后于现实实践。因此,对智能认知对抗进行全面、系统、科学的梳理十分必要。

一、智能认知对抗的内涵

在国家安全领域,目前学界围绕认知域的研究主要着眼于认知战实践、认知安全战略及认知安全影响层面,在已有研究中可发现学者们多用“认知战”概念,也有部分学者采用“认知域”“认知博弈”以及“认知对抗”。本文立足国际博弈,讨论智能体如何在体系对抗中实现政治目标的全过程。突出对抗主体性、对抗动态性及对抗范畴的“认知对抗”概念更具代表性,是影响认知域安全的核心形态。原因在于,从认知安全研究的发展脉络来看,现有官方与学术界普遍使用的“认知战”概念多源于国家安全与军事战略语境,如美国国防情报局提出的“第五代战争”或北约倡导的“赢得心智之战”,均强调国家行为体主导的信息操控与心理战逻辑。然而,随着具有自主性、适应性与交互性的智能体广泛嵌入舆论场域、传播系统与社会认知结构,传统以国家对国家、组织对组织为单位的“战争”概念已难以覆盖当前复杂的、去中心化的认知冲突实际。

同时,“对抗”一词源自系统科学与博弈论,(11)强调多个行为体围绕认知、资源或战略目标所展开的持续交互与博弈过程,较之“战争”所隐含的敌我二元对立与武装动员逻辑,更能涵括当下认知博弈实践中智能体之间、自主系统与人类群体之间、群体与群体之间的复杂互动关系。将“认知对抗”作为概念,既继承了传统认知战的理论基础,又突破其边界,聚焦技术与行为体互动所生成的认知动态,更贴近当前技术语境下的认知斗争现实。

(一)智能认知对抗的历史演进

1.人类主导:智能辅助过程的认知对抗博弈

互联网技术的突破性发展推动认知对抗智能化进步。以Web 2.0技术架构为标志,社交媒体的指数级扩散重构了信息传播拓扑结构,用户生成内容(UGC)的传播,使认知对抗突破单向宣传范式,转向动态博弈的“算法舆论战”。智能技术主要作为增强信息生成、传播和定向干预的工具,其核心在于提升认知攻击的规模与精准度。这一转型本质上是传播权力从机构垄断向算法赋权的范式转换,其核心特征体现为“数据—算法—权力”的三元耦合。在该阶段主要由人类主导完成,如2016年美国大选中特朗普团队推行“阿拉莫计划”,运用代码收集数据在社交媒体上精准投送政治广告,(12)以及在中美贸易战中,社交机器人作为智能水军大规模扩散虚假信息。(13)这一过程体现了人工智能作为认知对抗工具的应用,它通过对海量数据的分析,辅助政治宣传和舆论操控,提升了对抗效果。然而,尽管人工智能在数据分析与传播操控中发挥了重要作用,但其本质上仍依赖于人类设计的规则和框架,行为受限于预设的任务和目标,主要负责执行任务而非独立决策。因此,传统人工智能在认知对抗中的作用更偏向于执行层面,并未涉及智能体的自我学习和动态适应。

2.人机协同:智能赋能决策的认知对抗升级

人工智能技术已深度介入认知对抗领域,并在情境感知层面重塑博弈格局。依托类脑计算的联结主义智能技术驱动的神经网络学习,如增强型态势感知技术、人机交互技术以及高级对抗推演等,正全面与人类决策形成深度协作,逐步嵌入到认知对抗过程。在此背景下,2023年北约《缓解和应对认知战》报告提出“房屋模型”。(14)该模型融合经典的“观察—判断—决策—行动”(OODA)作战决策循环,将态势感知确立为认知对抗的保障前提,这标志着技术角色完成了根本性转变:智能技术已不再局限于信息传递的基础技术层,而是嵌入到战略研判和决策环节,成为认知域战略博弈中塑造态势与支持决策的赋能要素。同时该报告还将自适应控制指挥技术(C2)界定为典型的认知技术,其核心在于将人工智能确立为具备代理能力的认知主体。在此架构下,人工智能可自主生成舆论攻击方案,系统经由强化学习持续优化后续建议,形成“人机协同”效应,在此过程中人类只需校准。整体而言,人工智能虽可嵌入任务流程、辅助执行,但尚未具备独立博弈与持续感知反馈的闭环能力。正是在这一临界点上,智能体的出现才真正引发了认知对抗范式的跃迁突破。

3.智能主导:人工智能自主行动的认知对抗跃迁

当前人工智能依托高阶自动化计算,在行为主义范式中取得突破性进展。人工智能系统通过数据表征实现知识获取,并借助训练迭代自主构建知识体系,这不仅赋予了系统自主决策功能,更催生了高阶人工智能形态——智能体。智能体(Artificial Intelligence Agent,简称AI Agent)是指通过感知环境状态并采取自主行动以实现预设目标的智能系统。其核心特征在于具备复杂任务处理能力,技术内核体现为三大核心能力:一是基于深度表征学习的自然语言理解能力;二是依托符号逻辑系统的推理能力;三是通过强化学习框架实现的动态规划能力。(15)这些高级认知功能的协同作用,使智能体在复杂对抗环境中展现出前所未有的任务处理能力。结合目前的应用实践来看,智能体已嵌入国际认知对抗战场,以2023年被曝光的以色列AIMS软件包为例,其内置代理可批量伪造账号、创建网站、生成内容,并跨X、LinkedIn和Facebook等社交媒体平台自动投放,形成智能工作流程,完成人物抹黑、邮箱钓鱼、选举干预等任务。(16)在这一过程中,人类主要负责设立目标、提供资源及监督结果,其余任务都由智能集群代理执行。通过强化学习、深度学习,智能体能够自主进行实时态势感知、调整反馈行动策略。在此阶段,智能体已经从工具跃升为具备“感知—决策—学习—行动”完整链条的认知对抗主体,并可与其他代理协同,构成动态演化的对抗生态。

(二)智能认知对抗的内涵

认知对抗作为认知域作战的核心形态,本质上构成国际安全博弈的战略载体,主要指双方运用信息操纵手段开展系列信息影响行动以实现政治目标。其包括三个层面:战术层面的认知攻防对抗过程、体系层面的要素互动结构、战略层面的国际博弈定位。这种三维结构为人工智能介入认知对抗提供了方法论指引,从技术本体论转向认知对抗,是一种全面升级。同时,智能技术的三要素融合已突破传统工具属性,演化为认知对抗的范式重构者。在作战维度,生成式人工智能与神经技术的结合,使信息影响行动升级为认知神经层面的精准干预;在体系维度,智能算法驱动要素重构,构建起“数据—模型—决策”的自主循环系统;在战略维度,算力网络与认知场景耦合,进一步推动了国际博弈从物理域向认知域的迁移。

总体来说,智能认知对抗是以人工智能技术为核心驱动力的新型认知博弈形态,是认知对抗的高阶智能形态。博弈双方凭借智能优势对受众客体、信息内容、传播路径及目标环境开展的算法操纵,其本质特征体现为技术要素(算据—算法—算力)与认知要素(主体—客体—场域)的深度融合,博弈双方通过不断武器化人工智能工具,运用智能技术推动影响认知生成的各要素间的互动。这种以人工智能为战略工具的认知争夺过程,标志着国家安全博弈向“算法主导—认知控制”的范式跃迁。

第一,算据主导的智能作战过程。作为信息的元形态存在,算据通过数据本体论重构实现认知要素的范式跃迁:原始信息经非结构化数据处理转化为可计算的认知要素,再经由深度学习模型完成信息的生成与态势感知。这种技术赋能形成双重战略效应。其一,隐蔽性升级,通过生成式人工智能构建的认知迷雾生成机制,可对对方的数据来源、生成过程以及数据载体直接开展数据操纵。其二,路径重构,在数据采集层(传感器网络)、处理层(联邦学习框架)和应用层(认知战平台)可构建全谱系数据操纵体系。各国基于此范式推进的认知战能力建设,本质上是争夺数据主权框架下的认知权博弈。俄罗斯将信息空间视为独立作战域,明确要求通过数据操控影响敌方认知。(17)2023年,北约在《缓解和应对认知战》中也强调将存储、计算和分析嵌入靠近信息源的代理和对象中,进一步将数据挖掘列为认知干预的基础步骤,要求实施者必须“理解目标群体的文化、世界观与需求”,并建立“多源数据融合机制”。(18)上述举措均表明在认知对抗中,算据是当前开展认知对抗的重要基础,不断成为大国认知战略的核心要素。

第二,算法连结的智能协同体系。认知对抗不是单一手段的集合,而是能够对目标产生影响的各要素互动的博弈体系。在俄乌冲突和巴以冲突中,算法是认知对抗的智能灵魂。战争中,算法驱动的社交机器人集群构建虚假意见网络,生成式人工智能技术使认知素材进行病毒式传播,并基于用户画像的精准推送系统,构建认知茧房。这种技术赋能使算法成为新型制域权核心,算法驱动的认知重塑成为智能时代标配。2022年3月28日,乌克兰国家安全局通报,自俄罗斯实施特别军事行动以来,乌方已经发现并关闭五个社交机器人农场。(19)据国际新闻监测机构Media Monitor统计,在2022年2月24日至3月1日期间,高达85%的英语媒体头条直接以“普京的入侵”为标题,而提及北约东扩的报道则不足3%,(20)这些信息扩散的背后都有算法的支撑。同时,已有报道披露商业公司向乌克兰提供了特定的算法技术,用于分析和融合各类数据,以增强战场态势感知和识别目标。(21)俄乌双方由此在认知第二战场不断展开智能认知对抗,争先运用智能技术争夺国际认知主导权。

第三,算力引领的智能对抗战略。算力是数据中心的服务器通过对数据处理后实现结果输出的一种能力,(22)其本质体现为技术本体论与基础设施本体论结合。从技术维度来看,主要聚焦于量子计算、神经形态芯片等新型算力技术的突破。从基础设施维度来看,则强调数据中心集群、算力网络等战略支撑体系的构建。智能认知对抗高度依赖算力,其本质更是一场算力对抗赛,当前国际竞争已呈现“算力战略博弈”新态势。在基础设施领域,2025年,美国将通过“星际之门”计划实施5000亿美元算力基建投资,构建10个数据中心。(23)1月,美国推出《人工智能扩散出口管制框架》,用于控制此前未受管制的人工智能模型权重。(24)美国在算力领域不仅加大人工智能基础设施建设,更加紧了精准遏制中国人工智能发展的步伐。在认知领域,2019年美国在《国防部数字现代化战略》中提出构建“战术—战略网络信息环境”,依靠分布式算力设施支持战场边缘计算,(25)旨在提升算力能力服务于未来的智能化信息作战战略。2020年3月,北约盟军转型司令部推出“作战2040;北约在未来将如何竞争”认知战项目,(26)提出构建神经数据采集与分析平台,开发虚拟现实(VR)模拟系统,研发量子计算、生物计算、脑机接口等。2023年,美国在《国防部网络战略》中提出开发自然语言处理、神经科学等算力技术,以服务认知干预。算力规模与质量不仅决定认知对抗的技术效能,更构成国家战略威慑的“新边疆”。

(三)智能认知对抗的新特征

1.主体重构:由人类主导向算法决策迁移

认知对抗作为一种战略体系涵盖国家、政党、媒体、军队等多元主体,在传统认知对抗中人类掌控智能技术工具,参与认知决策,拥有高度的认知自主权。而智能体的介入改变了传统认知对抗的主体构成、主体意向性以及主体自主性,并在这一过程中逐步实现了从工具特性到自治主体的价值升级。智能体介入不仅在表层重新配置了行动者网络,更在深层动摇了主体意向性与主体自主性的根基,推动认知对抗从“人控机辅”迈向“机主人辅”的转变。同时,认知对抗的主体意向性发生根本性转移,从以人类意识为驱动的价值判断,转向以算法为载体的计算行动,意向性的演化路径由人类的“意识—反思—决策”让位于机器的“数据—模型—输出”。算法系统获得准主体地位,人类不再作为主要决策者而是算法决策的确认者。故在智能体驱动的认知对抗模式中,智能技术的主体价值深度嵌入“认知”,不仅仅是作为工具传输“认知”,而是在逐步替代人类意识完成认知对抗全过程。

2.机理升级:由线性传播向认知生态系统演化

传统认知对抗遵循线性博弈逻辑:从情报收集、策略制定、信息投送到效果评估,每个环节均依赖人类决策。而智能体驱动的智能认知对抗则打破了这一模式,构建了一个以多智能体协同为核心的传播生态。信息传输不再是简单的单向投送,而是通过智能体间的互动、反馈与实时调整,形成多源协同与非线性演化的复杂链条。在这一生态系统中,智能体具备跨平台、多模态的信息投送能力,可在X、YouTube和Telegram等国际媒体上实时发布多语言版本的主题信息,并通过算法优化和受众个体画像引导,设置多个传播节点以此构成跨域联动的传播网络,从而实现对目标群体情绪和认知的高效渗透。此外,借助强化学习与优化算法,智能体系统能够根据环境反馈自动调整传播路径和干预策略,实时选择最佳话语节点和传播方式,使信息更贴近操纵目的,达到预期干预效果。智能体集群还能快速动员大规模资源,通过联动调度系统,数百甚至数千个执行智能体可同时参与信息复制与分发,形成覆盖广泛、层次丰富的认知场域。总体而言,智能体驱动的认知传播机制已从传统的线性投送演进为一个动态、自主、协同进化的认知生态系统。

3.规则颠覆:由信息控制向认知主权侵蚀转变

传统舆论战强调控制信息传播,而认知对抗强调控制传播效果,(27)由此认知对抗将大国博弈延伸至人类的认知空间,开辟了认知领域的权力角逐。(28)从认知对抗的表征来看,认知主权的核心为知识生产过程、推理演绎方式和决策制定方法的主导权。在智能体驱动下,认知对抗呈现出自主演化的运行体系,其中以算法内嵌开展的感知、叙事、决策、行动都在重构分析问题的框架、观念产生的模式以及环境评估的标准,其是在为特定目标受众计算出影响路径,更是在重塑人类的认知模式。从国际博弈来看,一国通过构建智能体驱动的认知对抗体系实施防御和进攻。在这一过程中,受影响的目标国民将接收来自敌对国设定好的人工智能推理逻辑与价值排序,即国民的认知行为将由外部力量所影响和控制,由此各国势必在认知域中捍卫己方的认知主权。而在由大脑为主要载体的认知场域中,传统的信息管控、武器约束等规则已失灵,面对如此真空的领域,认知主权成为在认知对抗中胜利的标志以及终极目标。因此,从战略视角研究智能认知对抗,是维护新时期国家主权和国家安全的紧迫任务。

二、智能体驱动的认知对抗机制

智能体作为目前人工智能技术的前沿,是智能认知对抗的超前形态,即由智能主体自主承担认知对抗的大部分任务,通过数据化结构性内容、算法分解语义、流程式执行形成自有的认知对抗逻辑,因此,智能体驱动的认知对抗具备智能的高度自治性与认知对抗的体系化特征。区别于人类主导的认知对抗,智能体构建的认知拟态环境,可对目标受众的认知域开展长期的全面控制,能够完成人工难以企及的全面、全时、全域的认知宰制。(29)目前,该前沿技术已被美国、俄罗斯以及乌克兰等多国运用于实战中。以美国为例,在认知安全战略迈向智能化的进程中,美国官方联合Palantir、Scale AI、Anduril等国际著名技术公司及智库不断推进系列人工智能项目,以支撑其在国际博弈中的认知优势,逐步从自动化程序到全自主决策的智能体,如Scale AI公司的Donovan平台、美国国防部的“心智理论”项目等,它们能够结合深度学习与博弈论实现对认知战场的仿真模拟与推演。(30)

已有学者从“观察—判断—决策—行动”(OODA)循环理论阐释认知操控的执行机制,(31)但是传统的“观察—判断—决策—行动”循环聚焦物理战场的线性决策效率,却难以应对智能认知对抗中非线性、高动态的信息博弈与群体心理干预需求。结合加拿大国防部研究人员提出的“批判—探索—比较—调整”(CECA)模型中的批判与探索环节,(32)本文提出“批判—探索—决策—行动”(CEPA)循环模型(参见图1),深度融合管理学复杂系统决策理论与传播学信息操控机制,依托生成式人工智能、多模态感知与群体行为建模等智能技术,构建面向智能认知对抗的动态干预框架。CEPA模型通过“批判性环境解构—主动信息探索—动态策略生成—闭环反馈执行”四阶段循环,突破传统单向决策逻辑,实现认知干预的精准化、实时化与协同化。其创新性在于:一方面,借力管理学中的Cynefin复杂环境分类方法,动态适配认知战场景的复杂性;另一方面,整合传播学议程设置与网络传播理论,梳理智能体在认知对抗中的智能化路径。

(一)态势诊断(Critique)——信息环境动态评估

在智能技术赋能的认知对抗体系中,智能体通过多模态数据融合技术构建分布式感知网络,依托自然语言处理、情感计算和社会网络分析等算法,实现对信息生态的实时全景态势感知。以此筛选认知对抗的切口,可精准锁定单个重点或多个认知锚点,为后续的认知叙事与行动奠定认知基调。区别于传统的认知对抗,智能体在态势感知阶段即可完成评估工作,对当下的信息态势进行动态评估,并根据简单、复杂、繁杂、混乱的级别采取不同的信息探索模式,进而分解任务。总体来看,在该阶段,智能认知对抗主要通过对多模态认知情报、认知传播链路、群体情绪认知共振开展智能分析,实现认知对抗。

1 智能体驱动的CEPA认知对抗机制

资料来源:作者自制。

其一,依托多模态信息的交叉,识别、分析与研判认知对抗相关信息。在认知对抗的底层逻辑中,信息文本已从“传递事实”的工具异化为“重构认知”的武器,尤其是在生成式人工智能与深度伪造技术结合的智能体集群加持下,虚假信息泛滥盛行,政治话语操纵风险再度加剧。(33)在具体技术上,智能体集群可通过解构文本的叙事框架与符号系统,揭示敌对势力如何将政治意图嵌入语言结构。作为智能认知对抗的基础环节,对海量信息文本进行结构化分析是关键手段。该分析主要依托社交媒体平台的文本信息,通过数据爬取、语义分析与自动检索等智能技术集群,一方面,在发起进攻时可识别当前的舆论热点和潜在社会矛盾,以此为后续的认知叙事提供认知操纵突破口;另一方面,智能体也可通过对敌方信息的监测,分析研判其认知进攻态势,以此开展针对性的认知反制,形成攻防交织的智能认知对抗博弈。如通过信息核查,可揭示政治意图通过叙事框架操纵、文化符号劫持、语境剥离攻击等方式嵌入认知语言结构的过程。例如,西方媒体在报道发展中国家时,高频使用“威权扩张”“债务陷阱”等预设价值判断的词汇,通过反复强化形成认知定势。智能分析可识别此类隐喻的规模化使用,揭示其将复杂地缘问题简化为二元对立的话术策略。同时在面对通过裁剪、拼接原始文本制造虚假语境时,智能体可对比多语言、多平台文本版本,还原信息篡改痕迹。

其二,以传播链路追踪为核心,构建认知对抗的节点控制与叙事扩散策略。通过对信息发布主体、平台及技术等认知传播链路的跟踪,可实现对目标受众的定向识别与信息精准传播。通过对信息来源的智能追踪,一方面,可识别出信息传播重要节点(如高影响力账号、跨圈层转发者),实现节点定向干预,为后期的认知叙事扩散提供模拟训练模板,如通过人工智能生成高仿社交媒体傀儡账号,在关键传播节点发布经情绪共振算法优化的误导性信息,实现信息扩散主干道的战术劫持;另一方面,可通过收集节点数据和路径算法优化,定位连接不同圈层的意见领袖型传播者,这些意见领袖包括在特定网络社区中具有较高影响力的个人账号或虚拟节点,智能体可向这些节点注入经过语义伪装的虚假信息,使信息在各圈层内按照传播规律定向扩散,从而实现对目标群体的精确认知干预。

(二)议程塑造(Explore)——认知叙事战略构建

凭借智能体技术的自主性,探索环节主要针对态势感知环节收集到的信息特征开展认知叙事网络构建,该过程主要包括主题选取与信息传播,通过重构“什么值得关注”“如何理解现实”的集体认知框架,将目标群体的思维轨迹导向预设的意识形态轨道,由此塑造认知议程。

第一,通过多模态接口实现认知主题的挖掘与自主生成。智能认知对抗作为一个庞大的算法演化体系,由语言大模型、深度学习、卷积神经网络等技术后台支撑。在传统认知操纵中,主要由人类给定操纵主题,人工智能扮演着主题信息的扩散者角色。智能体具备的深度学习与语义分析功能已经可以实现对文本语义的理解,在智能体驱动的认知对抗中,可直接调用智能体的专家模型实现多模态主题接口的激活,完成主题探索任务。该过程主要包括两重路径:主题挖掘与主题自建。一是在态势感知过程中对已有的热点议题展开信息分析,从中提取出具有操纵潜力的认知议题,以作为主题备选;二是通过对海量的信息进行主题演化,根据幕后认知对抗发起者提出的政治目标寻找具有强关联的边缘信息,围绕该类信息自主生成主题。

第二,以生成式人工智能建构契合政治目标的叙事内容并实现对群体认知的操纵。智能体依托生成式人工智能的技术优势,将海量数据转化为具有高度倾向性的信息内容,这些信息通过算法驱动,基于目标群体的历史行为数据,精准匹配目标人群的认知特征、价值偏好和情感需求。2023年3月,OpenAI发布的GPT-4模型网络,匹配了16个专家模型,具备1.8万亿个参数的自然语言深度学习模型,(34)无须人类参与即可自主生成信息。该类智能体在认知对抗中可通过文化适配与情感驱动实现对社会现实的符号化重塑,以此建构符合政治目标的虚假信息。一方面,文化适配主要指基于目标群体的历史记忆与符号系统,生成符合本土认知习惯的叙事内容。例如,以色列方面认为,在巴以冲突中,哈马斯广泛传播有关“假旗”行动的虚假信息,运用深度伪造技术绘构以色列的“种族灭绝”行为,试图煽动反犹太人情绪。(35)另一方面,情感驱动主要指利用情绪计算模型,将政治诉求转化为可共情的故事形态。该路径主要利用情感计算技术解析目标群体的心理脆弱点,例如在俄乌冲突中,西方媒体通过集中使用“战争”“危机”“威胁”“入侵”等词汇,构建了冲突不可避免的舆论氛围。(36)2022年2月,美西方媒体单日涉俄乌报道量激增至600篇,其中“制裁”“北溪”等词高频出现,强化了俄罗斯的“侵略者”形象。(37)其中大量利用弱势群体如妇女儿童等作为“新闻”素材,试图在虚假信息中植入愤怒情绪因子,激发国际受众的情绪极化,引发国际社会的道德谴责。(38)

(三)决策优化(Plan)——认知传播战略规划

智能体通过对历史数据的训练学习可模拟人类神经网络展开智能分析,并通过与环境的不断交互形成反馈学习闭环,该特性具体表现为当人类给出目标后,智能体可以根据环境评估与探索自行拆分任务。由此,智能体可在认知对抗中完成认知传播战略规划,针对生成的认知主题叙事与认知主题性质,结合对网络场域的态势评估构建多个传播网络路径,通过模拟推演选取最佳的认知传播战略。

第一,以节点伪装与路径连接为核心机制的智能认知传播网络。认知对抗的传播网络构建,本质是对社会关系资本的算法化重组。在节点培育层面,主要通过塑造虚拟意见领袖强化认知影响,智能体可通过学习人类的社交媒体行为生产社交机器人,伪装成类人主体,成为认知传播的关键节点。如叙利亚战争时期,拥有12.5万粉丝的x账户“@sahouraxo”持续报道叙利亚战争,实则为伪装成黎巴嫩独立地缘政治评论员的社交机器人。(39)同时,智能体可以实时监测网络环境生成新节点,根据政治关联度、内容质量、用户黏性指标选择性连接。在路径连接层面,节点间可通过智能体连接智能体及智能体连接人类用户两种路径形成传播网络,同时可通过多模态叙事,将认知叙事分解为短视频、游戏模因、情绪燃点等多模态,优化路径连接。如在俄乌冲突中,电子游戏《武装突袭3》的视频片段就被智能技术嫁接于俄罗斯特别军事行动的虚假视频中,游戏与现实界限被刻意模糊。(40)此外,俄罗斯被证实运用Meta的广告系统开展影子行动(Doppelganger),该操作通过运用智能体创建仿冒的新闻网站,如伪装成《华盛顿邮报》和福克斯新闻网,发布反乌亲俄的虚假报道。(41)

第二,依托动态评估与反馈循环的多主体认知对抗博弈推演机制。在社会科学仿真维度中,智能体可通过构建虚拟社会实验场域,对预设的认知传播方案进行多情境推演实验。这种推演机制依托动态评估模型,通过观察不同群体对认知策略的接受度、传播链的裂变路径及其社会心理效应,系统性地辨识策略实施可能引发的蝴蝶效应。在策略优选过程中,系统将社会反馈机制纳入循环论证体系,通过意识形态互动效应分析、群体认知惯性强弱对比、文化心理阻抗评估等多维指标体系,最终遴选出既能契合目标群体深层文化逻辑,又具备社会动员实效性的最优认知策略。早在2021年就有学者提出智能体兵棋演化系统,(42)通过智能体的分布式学习框架对已有认知传播战略开展博弈演化。假设美国欲在关税战上对华开展认知对抗,其可在虚拟战场中模拟三种认知攻击方案:方案A侧重国家安全叙事,倡导保护本国国民利益;方案B主打归因中国,建构“中国不公平贸易”虚假指控;方案C聚焦中国威胁论,构建美国“受害”的集体记忆。其可根据传播学理论模型,创建仿真网络舆论环境,设置意见领袖、网民圈层、个体受众等多层级的智能体角色,为三种方案生成的文本信息赋予情感计算,在虚拟网络中开展对抗推演,进而得出认知转化率最高的决策方案。

(四)干预实施(Act)——智能协同战略执行

通过前期的信息环境评估、认知叙事网络构建、认知传播战略规划确定最终的认知决策后,智能体将根据上述环节部署行动。该过程主要通过多智能体集群形成智能协同合作模式,具体包括部署智能体与反馈学习两个环节。

第一,多智能体分工协作下的认知对抗全链路演化矩阵。在部署智能体层面,主要需要感知型智能体负责实时捕获目标区域的信息环境波动,同时由人工智能生成内容叙事引擎、多语种翻译模型支撑的生成型智能批量生产适配不同群体的对抗性内容,而后交由投放型智能,如模拟人类行为的社交机器人账户,通过复杂网络中的认知节点实施精准渗透,由此完成认知对抗的全过程。上述智能体在执行任务时可通过训练模型自主学习知识完成任务,如2024年7月,美国联邦调查局(FBI)官网发布报告,披露俄罗斯运用Meliorator智能体通过自主账户运营,完成社交媒体上虚假信息的投送。该报告称,根据美国、加拿大和荷兰政府机构的联合公告,今日俄罗斯电视台2022年以来显著地利用了Meliorator软件来创建逼真的社交媒体人物。这款软件作为一种先进的机器人农场生成与管理工具,被用于在社交媒体平台上散布关于多个国际事务的虚假信息,包括美国、波兰、德国、荷兰、西班牙、乌克兰和以色列等国的相关议题。(43)在俄乌冲突中被披露的“Portal Kombat”系统则是以人工智能自主驱动为主的智能网络系统。据美国阳光计划调查披露,该系统操控着数百个新闻网站用以传播亲俄虚假信息,通过数字自动化向数字领域注入大量重复内容,集合读取俄罗斯媒体信息,翻译成各国语言,模拟欧洲、北美洲和亚洲合法本地新闻门户的内容等一体化功能,将亲俄信息分发至各国。(44)

第二,通过多级反馈学习与智能体交互实现认知干预优化的韧性环路。在反馈学习层面,主要指各环节的智能体通过与其他智能体的交互,以及认知环境的实时反馈优化学习,并根据当前的任务目标动态调整认知干预行动。智能体具备多级接口,学习反馈存在于任一环节,在批判、探索、决策的各环节中可直达反馈学习系统,以此增强认知韧性。根据认知操纵发起者的需求,也可将现有方案直接投入反馈系统,从反馈系统倒推至决策、探索、批判,以此检验与优化当前方案的执行任务。这种战略自适应特征在美国的CounterCloud系统中已被证实,美国目前采用的CounterCloud系统就是典型的智能体驱动的认知对抗机器。2023年4月到5月,CounterCloud被用来积极反击针对美国的推文和帖子。每当俄罗斯和中国的新闻媒体发布内容时,CounterCloud会完成从信息识别到信息生成的自主反击,不断在目标推文下快速驳斥文章观点。(45)这种自主性随着案例的积累将不断丰富智能体的记忆模块,引导认知对抗在强化学习中走向更成熟及更高阶的智能形态。

三、智能认知对抗的安全风险

智能体在认知对抗中的效能并非普适生效,其作用效果受到很多现实条件的约束和影响,比如高度依赖于特定认知场域的复杂度、目标群体的心理韧性、平台算法架构对传播路径的可控性,以及组织对智能决策结果的适应性与信任机制等。正如乌尔里希·贝克(Ulrich Beck)所言,当代社会越来越多地面临“由技术进步本身所产生的不可预测后果”,即所谓的“制造性风险”(manufactured risks)。(46)结构性风险理论指出,风险并非仅源于外部冲击或局部失控,更根本的威胁在于系统内部结构的重构与耦合关系的演变。(47)智能体作为具备交互性、适应性与策略推演能力的技术系统,其在认知对抗中的部署在提升对抗效能的同时,也在结构层面引发新一轮风险堆积与传导机制的重构。

结合智能体的技术机制来看,智能体驱动的认知对抗风险具有以下三个显著特征:一是演化性,即风险不是一次性爆发,而是随着智能体的学习过程逐步积累并加剧,其结果往往滞后于原因的形成;二是隐蔽性,由于认知干预依赖个性化内容推送与语义模仿伪装,相关风险往往隐藏于用户日常行为或舆论反馈机制之中,难以被即时识别;三是内生性,智能体作为行动的执行单元具有相对的目标选择能力与路径生成能力,使得部分风险来源于系统自主演化的策略偏移,而非人为错误或操控失效。我们必须在风险认知框架中重新界定智能体驱动下智能认知对抗的具体安全风险,尤其关注其在政治操控、社会极化、技术滥用与文化侵蚀等方面形成的系统性与深层次危害。

(一)政治安全的操控风险

在传统认知战中,操控往往以外部信息灌输、心理战、虚假新闻等方式展开,依赖操作者与受控者之间明确的攻防边界。而在智能体主导的智能认知对抗中,认知干预通过智能推荐系统、虚拟助手、内容生成工具等嵌入用户日常数字生活系统中,呈现出“系统内嵌型操控”特征,形成从数据采集到认知塑造的“平台—算法—用户”闭环系统。个体被动接受之余,亦成为认知操控的信息回馈源,从而不断强化操控效果,削弱认知自主性。这一“嵌入式”演变正在重构以价值安全、制度安全、权力安全为主的政治安全系统。(48)智能体凭借对政策文本、公众言论与政治议程的持续分析与建模能力,可对政治行为进行定向引导与结构性干预。例如,利用算法构造虚假共识、制造政策信任危机、操纵投票意图等,可能对国家决策系统的合法性基础形成侵蚀。俄乌冲突期间,乌克兰总统泽连斯基的“投降视频”就是虚假信息的典型案例。政府机构发布的官方信息和政策言论,若被恶意篡改或误导,也可被用于反向操控公众认知,削弱领导者的公众支持。(49)在此情形下,政治空间的开放性与自主性受到技术框架深度影响,国家政治稳定性被系统性动摇。

(二)社会安全的极化风险

智能体具备多主体协同与任务自治能力,能够在网络空间组织跨平台、跨语言、跨文化的认知扰动行为,形成非中心化、涌现式的认知对抗网络。此类干预常常以争议性热点议题为切入点,引发情绪极化与社会分裂,进而诱导线下抗议、聚集性事件甚至群体性暴力。这种涌现式干预不同于以往线性传播的认知战,已形成非中心起势到动态扩展再到平台协同的新型认知干预模式。不同于传统人工智能在传播链条中的“工具性角色”,智能体具备情境驱动能力,能够自主感知社会热点、划分舆论子群体,并根据每类目标受众的行为特征、情绪状态与语言习惯动态调整内容推送策略,(50)从而不断强化特定“虚假社会共识”的生成。相比传统人工智能认知战的单点分发和有限干预能力,这种系统化生成—适配—驱动机制更具隐蔽性与迷惑性,削弱了个体对真伪判断的感知边界,放大了社会结构中的认知撕裂效应。

(三)技术安全的失控风险

与以往以算法为工具、由人类主导的认知战形式不同,当前智能体驱动的认知对抗正在生成一种更具自我驱动性与系统隐蔽性的安全风险,引发多维度的技术安全失控问题。一方面,智能体不再仅仅依赖人类指令执行任务,而是在复杂环境中基于历史数据、自我学习与多元交互生成判断,这种自主能力打破了传统算法的可控逻辑,使得其决策机制日益封闭化与黑箱化;另一方面,由于智能体的推理机制多基于深度神经网络等不可解释模型,攻击路径往往不透明、不可预测,这使得传统的内容审核、信息溯源与行为识别手段难以有效应对。(51)一旦攻击策略嵌入多智能体协同结构,攻击链条将呈现出高度分布式、强隐蔽性的特征,极易规避现有的算法审查机制。此外,智能体被嵌入匿名网络空间,其行动路径与行为意图难以追溯,形成国际认知对抗中典型的难以归责的技术难题。

(四)文化安全的侵蚀风险

智能体具备对语言、价值与符号的建构能力,使其在长期操作中对本国社会的文化认同构成系统性冲击。通过内容生成、舆情操控与流行叙事的重塑,外部势力可借助智能体逐步改写民众对国家、历史与制度的认知结构。在语言生成模型支持下,这种侵蚀并非通过直接灌输完成,而是经由隐蔽渗透与长期引导达成,如伪原创、语义操控与语境适配等方式不断迭代训练,瓦解国家主导的叙事逻辑与语言体系。同时,长期的语言操控还可能改变社会语义生态,侵蚀国家文化认同与社会凝聚力,潜移默化地重构社会主流价值坐标,削弱国家意识形态主导力与文化自主性,构成对国家文化安全的深层冲击。

四、智能认知对抗的风险应对

技术变革是引发国际权力流动的重要因素,(52)技术发展逐步赋能国家经济、军事优势,但同时又打破国家间权力的平衡,深刻影响国际权力的分配格局。(53)智能体驱动的智能认知对抗正逐步进入国际安全领域,成为认知战场的前沿手段,未来将深刻影响国际安全局势。因此面对智能体驱动的认知对抗所引发的政治、社会、技术与文化多维度安全风险,国家必须以系统性视角统筹战略部署、法律规范与技术创新,构建全面、动态且可持续的认知安全治理体系以应对新兴认知安全风险。

(一)战略层面:构建整体性认知安全战略与韧性框架

鉴于智能体认知对抗在政治领域可能引发的国家安全威胁,如话语主权流失与政治决策被操控,必须将智能体认知对抗纳入国家安全总体战略范畴。制定涵盖政治干预防范、社会稳定维护、文化认同保护的专项战略,强化跨部门、跨领域的协同机制。特别是针对社会稳定性风险,通过提升社会治理韧性和公众认知防御能力,遏制虚假认知生态带来的系统性撕裂。推动构建多元主体参与的认知安全治理网络,确保政治权力不被智能体操纵,维护国家文化安全和社会和谐。以总体国家安全观为指导,构建认知安全“预警—响应—干预”三位一体的战略能力体系,整合安全部门、网信部门、平台企业、学术机构等多元主体,形成联动治理格局。此外,还应以社会韧性建设为目标,推动信息素养、媒介教育与公共理性共建,强化民众对认知操控的识别力与抵抗力。在文化安全层面,应推进国家叙事体系建设,打造具有技术支撑和情感动员力的文化传播模式,提升国家在全球认知空间中的话语塑造能力。

(二)法律层面:完善智能体认知对抗相关法规与责任机制

当前认知对抗的技术形态和传播方式呈现出高度复杂性与隐蔽性,传统法律规范体系在界定责任、约束行为方面存在滞后性。对此,应从立法与执法两个维度入手,构建面向认知安全的新型法律制度框架。一方面,在人工智能基本法方面,中国已通过《国家安全法》《网络安全法》《数据安全法》等开展监管。在人工智能专项管理与治理政策方面,也相继制定了《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》等。今后需要体系化推进人工智能法律制度建设,涵盖智能体操控、虚假认知生成、跨境认知渗透等新型风险形态。另一方面,应加强平台与开发者的法律责任界定,设立认知风险影响评估制度,要求在智能体部署前进行风险等级划分与监管报备。此外,应推动“算法透明权”“数据可追责权”等数字时代的新型权利入法,在文化领域设立认知生成责任制度,对语言模型、合成语义系统中涉及虚假叙事、文化歪曲的传播行为进行责任倒查与平台连带追责。同时,构建跨国法律协同网络,推动认知干预行为的国际法定性认定与联合反制,实现跨境认知攻击与信息战行为的全球治理初步共识。提升个体在认知风险环境下的法律保护能力,并强化对外传播中涉及技术叙事操控的国际法反制机制。

(三)技术层面:推动安全可控的智能体技术研发与防护能力建设

智能体作为人工智能的前沿技术,已成为重要的安全要素并接轨于众多安全领域,在带来新的安全风险的同时,也推动了安全治理的发展。对于智能体驱动的认知对抗而言,技术层面是智能体认知对抗治理的根本所在。技术是智能体认知对抗的内核,其风险的本质在于系统性技术能力的不对称扩张,智能体不仅能感知并学习社会情绪与语义偏好,还可在无须人类干预的条件下实施认知攻击或构造虚假叙事链条,形成多轮互动中的算法主导模式。因此,需从源头提升认知类人工智能系统的可解释性、可信性与自主可控性。一是在智能体研发初期嵌入“认知安全评估”机制,确保模型训练语料、生成机制与反馈路径符合国家意识形态与安全标准;二是强化技术审查与行为监测能力,设立国家级“认知人工智能模拟机制”,通过对抗实验模拟对潜在风险行为进行识别与封堵;三是鼓励发展本土语义系统与文化模型,构建国家级认知语言模型平台,实现认知空间的自主可控。同时,推动关键平台的数据闭环治理和操控识别系统建设,形成针对智能体伪装、拟态、情绪操纵的技术对抗体系,打破外部操控路径,筑牢认知防火墙。

结语

面对智能化浪潮的冲击,认知对抗已经迎来了新的智能认知对抗形态,成为国际安全的重要领域,智能体技术的广泛应用使得认知对抗更加无形、精准及高效,给国内的政治安全、意识形态安全、信息安全与网络安全等众多领域带来连锁反应,也在大国竞争中深刻影响着国际安全秩序。然而需要指出的是,智能体驱动的认知对抗,这一范式变迁的边界条件并非由技术参数单维决定,而是取决于三重情境约束的系统耦合。第一,部署条件——算力、数据质量与实时反馈,这些要素共同界定了智能体的技术力。第二,组织约束——军政部门、私营平台与外包团队之间协同,组织层面的战略和执行,是智能认知对抗能否有效开展的组织力。第三,社会文化约束——每个地区都有独特的宗教—族群叙事、集体历史记忆等,任何与本土象征体系相冲突的算法输出都可能引发合法性反噬,群体免疫反应一旦被激活,也将导致信息源信誉受损,因此,文化适配性和精准性直接影响智能认知对抗的效果。智能体能否持续放大认知优势,取决于它能否在以上情境中保持对不确定性的算法驯化。这预示着认知域竞争将超越单纯的技术决定论,转而演变为各行为体在多元情境约束下的动态边界协商过程。

人工智能赋能的认知对抗已突破传统国际关系理论的解释边界,其本质是技术权力对人类认知主权的系统性重构。当深度伪造技术能够篡改集体记忆的存储介质,当脑机接口可能劫持决策神经回路的信号传导,当算法推荐持续固化认知茧房的拓扑结构,人类文明正面临“认知殖民”的历史性危机。在此背景下,既有治理框架的机械式修补(如个案化事实核查、碎片化技术监管)已无法应对当前的认知战威胁。目前的研究多聚焦于认知对抗实践发生后的启示探讨,缺少从前沿技术视角先发一步梳理认知对抗的可能性发展。在大国竞争背景下,智能认知对抗技术的“双重用途”特性要求我们必须将技术伦理嵌入安全研究的核心议程。因此,未来我们既要关注认知对抗中的智能技术运用,又要关注国家安全边界从物理—网络前移至“认知前沿”过程中,智能认知对抗的反噬安全风险和技术伦理,智能体的无约束运用,会在国际范围内形成“技术突袭—规则滞后—秩序碎化”的连锁反应,带来国际秩序的混乱。中国需要在技术应用、战略规划、国际规范层面设置国际议程,弥补现有“技术决定论”,为构建负责任的人工智能治理全球规范提供理论支撑。

作者感谢《国际安全研究》匿名评审专家的审稿意见,文责自负。

注释:

①马文·明斯基:《心智社会:从细胞到人工智能,人类思维的优雅解读》,任楠译,机械工业出版社2016年版,第16页。

②NATO Science and Technology Organization,"Mitigating and Responding to Cognitive Warfare," March 16,2023,https://gffggcd9568e9706f4d61sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/publications/STO%20Technical%20Reports/STO-TR-HFMET-356/$$TR-HFM-ET-356-ALL.pdf.

③"State-Sponsored Russian Media Leverages Meliorator Software for Foreign Malign Influence Activity," Federal Bureau of Investigation(FBI),July 9,2024,https://gffggac00dc3e2d774e44sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/CSA/2024/240709.pdf.

④"CIA Director:We Are Preparing to Fight the Last War," U.S.Department of Defense,August 14,2017,https://gffggf337b6e893a74df7sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/show-reporter/dodiis/2017/08/14/dia-director-we-are-preparing-to-fight-the-last-war/.

⑤NATO Allied Command Transformation,"Warfare 2040:Cognitive Domain Integration," May 18,2020,https://gffggd37059065bbd4743sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/wp-content/uploads/2023/06/NWCC-Glossy-18-MAY.pdf.

⑥王守都:《认知战的内涵、特征及其启示——以俄乌冲突为例》,《南大亚太评论》2023年第1期,第144页。

⑦刘文龙、曹飞翠:《美国维护认知安全的行动布局、内在逻辑与制约因素》,《国际论坛》2025年第1期;于优娟、崔屹鸣:《俄罗斯认知战:理论基础、结构特点及实践影响》,《情报杂志》2024年第10期;韩志宇、韩娜、朱睿琳:《北约智库对认知战的理解与应用:一项系统性评价研究》,《智库理论与实践》2025年第2期。

⑧曾庆鸣、毛维准:《认知武器化与人工智能认知战——一项机器学习与行为实验研究》,《国际安全研究》2024年第5期;马立明、陈青:《算法认知战中的社交机器人运作机制、挑战与应对》,《新闻爱好者》2025年第3期;苗争鸣:《认知博弈:俄乌冲突中深度伪造技术的应用》,《中国信息安全》2022年第6期。

⑨徐明华、李虹:《认知宰制的三重解码:国际舆论“武器化”的致效机理研究》,《现代传播(中国传媒大学学报)》2024年第8期;谢耘耕、张伶聪:《认知战中战略叙事的作用机制、致效手段及现实图景》,《新媒体与社会》2024年第4期;韩娜、韩志宇:《数字时代的认知操纵:理论框架与作用机制》,《新媒体与社会》2024年第4期。

⑩周程:《认知域延展中的安全问题及其应对策略》,《人民论坛》2023年第11期;丁剑:《文化安全:风险的现实与现实的风险——基于北约国家“认知战”新动态的前沿考察》,《长沙理工大学学报(社会科学版)》2024年第4期;汤景泰:《西方国家对华经济认知战的传播机理与应对之道》,《人民论坛》2024年第14期;韩娜、董小宇:《数字时代的认知域安全:理论解构、风险生成及治理路径》,《国际安全研究》2024年第3期;严展宇、刘文龙:《认知域国际竞争:问题缘起、行动维度与安全逻辑》,《东北亚论坛》2024年第4期。

(11)John von Neumann and Oskar Morgenstern,Theory of Games and Economic Behavior,Princeton; Princeton University Press,1944,pp.26-30.

(12)《被算法“操控”的美国大选》,新浪网,2020年10月15日,https://gffgg7f6bf2ad8638451csbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/tech/2020-10-15/doc-iiznezxr6101287.shtml。

(13)张洪忠、赵蓓、石韦颖:《社交机器人在Twitter参与中美贸易谈判议题的行为分析》,《新闻界》2020年第2期。

(14)NATO Science and Technology Organization,"Mitigating and Responding to Cognitive Warfare," March 16,2025,https://gffggcd9568e9706f4d61sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/publications/STO%20Technical%20Reports/STO-TR-HFMET-356/$$TR-HFM-ET-356-ALL.pdf.

(15)Stuart J.Russell and Peter Norvig,Artificial Intelligence:A Modern Approach,London:Pearson,2010,p.89.

(16)"Revealed:The Hacking and Disinformation Team Meddling in Elections," The Guardian,April 22,2025,https://gffgg11e18469c7a04ba7sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/world/2023/feb/15/revealed-disinformation-team-jorge-claim-meddling-elections-tal-hanan.

(17)Jolanta Darczewska,"Russia's Armed Forces on the Information War Front,Strategic Documents," Centre for Eastern Studies,June 27,2016,https://gffgg2a0d0df808c143d0sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/en/publikacje/osw-studies/2016-06-27/russias-armed-forces-information-war-front-strategic-documents.

(18)NATO Science and Technology Organization,"Mitigating and Responding to Cognitive Warfare," March 16,2023,https://gffggcd9568e9706f4d61sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/publications/STO%20Technica1%20Reports/STO-TR-HFMET-356/$$TR-HFM-ET-356-ALL.pdf.

(19)Security Service ofUkraine,"SSU Exposes Five Bot Farms Spreading Panic among Ukrainians," March 28,2022,https://gffggbeb2ef0df6a1409fsbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/novyny/z-pochatku-viiny-sbu-likviduvala-5-vorozhykh-botoferm-potuzhnistiu-ponad-100-tys-feikovykh-akauntiv.

(20)《西方是怎样拉起一道“舆论铁幕”的》,观察者网,2025年2月24日,https://gffgg86a7a970622c4e86sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/XueKaiHuan/2025_02_24_766099.shtml。

(21)《大数据技术在俄乌冲突中的应用》,新华网,2024年10月16日,https://gffgga93b60c585e34cd1sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/milpro/20241016/cd68c2a7869b44eab17c029f0de2df70/c.html。

(22)2022中国算力大会:《中国算力白皮书(2022年)》,2022年7月31日,https://gffggf38a4652e8124e40sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/h-nd-5554.html。

(23)"Trump Announces AI Infrastructure Investment Backed by Oracle,OpenAI and Softbank," CNBC,January 21,2025,https://gffgg2b4c25964d004adfsbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/2025/01/21/trump-ai-openai-oracle-softbank.html?msockid=130e4868aaec698f0e315d55ab8268f2.

(24)Bureau of Industry and Security,"Biden-Harris Administration Announces Regulatory Framework for the Responsible Diffusion of Advanced Artificial Intelligence Technology," January 13,2025,https://gffgg7d0180c50bc546ecsbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/press-release/biden-harris-administration-announces-regulatory-framework-responsible-diffusion-advanced-artificial.

(25)U.S.Department of Defense,DOD Digital Modernization Strategy,July 12,2019,p.29,https://gffgg1c760aefbd0245a9sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/2019/jul/12/2002156622/-1/-l/l/dod-digital-modernization-strategy-2019.pdf.

(26)NATO's Innovation Hub,"NATO in 2040:An Information Odyssey," July 1,2020,https://nicolematej ic.com/nato-in-2040-an-information-odyssey/.

(27)喻国明、郭婧一:《从“舆论战”到“认知战”:认知争夺的理论定义与实践范式》,《传媒观察》2022年第8期。

(28)新华社研究院:《思想殖民——美国认知战的手段、根源及国际危害》,新华网,2025年9月7日,https://gffgga93b60c585e34cd1sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/world/20250907/e8bfe4558e15435988acbd9310436da3/c.html。

(29)徐明华、李虹:《认知宰制的三重解码:国际舆论“武器化”的致效机理研究》,《现代传播》2024年第8期,第65页。

(30)"Theory of Mind," December 9,2024,https://gffgg12da49bc3b0048bfsbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/workspace/contract/opp/39bdacdd858e460f972a2a976db6dc62/view.

(31)韩娜、董小宇:《数字时代的认知域安全:理论解构、风险生成及治理路径》,《国际安全研究》2024年第3期,第66页。

(32)David John Bryant,Critique,Explore,Compare,and Adapt(CECA):A New Model for Command Decision Making Defence,Toronto:R & D,2003,pp.49-56.

(33)李春南、王山:《生成式人工智能时代的语言安全:系统性风险与治理路径》,《国际安全研究》2024年第5期,第150页。

(34)OpenAI,"GTP-3 Powers the Next Generation of Apps," https://gffgg5c8d174710c9406asbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/index/gpt-4/.

(35)"A Flood of Hate:How Hamas Fueled the Adversarial Information Ecosystem on Social Media," World Jewish Congress,October 24,2023,https://gffgg2b93030b0fbb4a31sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/en/news/at-unesco-headquarters-global-antisemitism-officials-grapple-with-online-hate-speech.

(36)任华:《话语操控与场景传播:乌克兰危机中美国主流媒体对俄舆论战》,《俄罗斯东欧中亚研究》2023年第3期,第71-73页。

(37)"Putin Could Attack Ukraine on February 16,Biden Told Allies," Politico,February 10,2022,https://gffggdfca497fd3cd4bf0sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/newsletters/national-security-daily/2022/02/11/putin-could-attack-ukraine-on-feb-16-biden-told-allies-00008344.

(38)储召锋、朱鹏锦:《俄乌冲突中的认知域对抗:手段、影响与启示》,《俄罗斯东欧中亚研究》2024年第3期,第103页。

(39)Brain Whitaker,"Syria Propaganda and the Mysterious ‘Sarah Abdallah’:A Hizbullah Connection?" July 1,2019,https://gffggf3a35308ce8445f5sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/syria-propaganda-and-the-mysterious-sarah-abdallah-a-hizbullah-connection-bd6308975f6e.

(40)Andy Chalk,"Bohemia Interactive Wants People to Please Stop Using Arma 3 to Create Fake War Footage," November 29,2022,https://gffgg402176cb5027464bsbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/bohemia-interactive-wants-people-to-please-stop-using-arma-3-to-create-fake-war-footage/.

(41)Lea Frühwirth et al.,"Fool Me Once:Russian Influence Operation Doppelganger Continues on X and Facebook," Alliance 4 Europe,September 6,2024,https://gffgg2a6911355d314c2dsbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/wp-content/uploads/2024/09/CDN-Report-%E2%80%93-Fool-Me-Once_-Russian-Influence-Operation-Doppelganger-Continues-on-X-and-Facebook-%E2%80%93-September-2024.pdf.

(42)贺筱媛、郭圣明、吴琳等:《面向智能化兵棋的认知行为建模方法研究》,《系统仿真学报》2021年第9期,第2039页。

(43)"State-Sponsored Russian Media Leverages Meliorator Software for Foreign Malign Influence Activity," Federal Bureau of Investigation(FBI),July 9,2024,https://gffggac00dc3e2d774e44sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/CSA/2024/240709.pdf.

(44)"Portal Kombat:A Structured and Coordinated Pro-Russian Propaganda Network," SGDSN,February 12,2024,https://gffgg27bc930362594032sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/files/files/20240212NP_SGDSN_VIGINUM_PORTALKOMBAT-NETWORK_ENG_VF.pdf.

(45)"CounterCloud-AI Powered Disinformation Experiment," Insights,October 29,2023,https://gffgge478c1c9290f495asbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/2023/10/29/countercloud-ai-powered-disinformation-experiment/.

(46)Ulrich Beck,Risk Society:Towards a New Modernity,London:SAGE Publications,1992,p.45.

(47)John Mearsheimer,The Tragedy of Great Power Politics,New York:W.W.Norton,2001,p.89.

(48)封帅、薛世锟:《人工智能与政治安全形态演变:一项系统研究的尝试》,《国际安全研究》2025年第1期,第68页。

(49)"Deepfake Presidents Used in Russia-Ukraine War," BBC News,March 18,2022,https://gffggc20ef995760b49f0sbvx90oxf66996xwwfgzb.hbpu.wttczd-86544418598.com/news/technology-60780142.

(50)Michael J.Wooldridge and Nicholas R.Jennings,"Agent Theories,Architectures,and Languages; A Survey," ECAI Workshop on Agent Theories,Architectures,and Languages,1994,pp.1-32.

(51)Zachary C.Lipton,"The Mythos of ModelInterpretability," Communications of the ACM,Vol.61,No.12,2018,pp.36-43.

(52)约瑟夫·奈:《硬权力与软权力》,门洪华译,北京大学出版社2005年版,第34页。

(53)冯宋彻:《科技革命与世界格局》,北京广播学院出版社2003年版,第133页。

    进入专题: 智能体   认知对抗   国际博弈   安全风险  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 国际关系 > 国际关系理论
本文链接:https://www.aisixiang.com/data/176765.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2025 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统