人工智能风险，不是一般性的技术安全问题，也不是简单的事故或质量安全隐患，其衍生于网络安全，但又超越网络安全。人工智能全面提升竞争与对抗的组织效率，改变竞争与对抗的资源需求结构，深远影响原有的战略平衡。

一、应高度重视人工智能技术带来的安全风险

人工智能发展必然经历新技术的风险伴生与加速过程。在网络信息领域，新技术发展必然伴生着对旧风险的加速“改造”、对新风险的创造，以及自身成为风险侵害对象的过程。

人工智能不可避免地带来网络攻击活动的变革，其对攻击杀伤链全过程都有强赋能作用，包括不限于：提升整理信息情报和挖掘攻击入口的效率、增强攻击编排和自动化能力、提升针对入口发起攻击的能力、增强恶意代码的开发效率甚至自动化编写恶意代码、改善免杀构造和突防能力、增强构建高针对性的社会工程话术以欺骗网管人员及用户的能力、增强漏洞和脆弱性发现能力、增强对安全机制的规避能力以及增加全过程攻击统筹能力等。

人工智能不可避免地带来一系列新的风险形态。其中不仅包括因其代替人类承载判断决策职能后，可能产生的失误所带来的影响远超传统自动化系统失误的综合后果，更有人工智能被潜在威胁行为体主动运用、持续创新过程中产生的威胁形态。超低成本的深度伪造，已经在认知干扰、网络犯罪中被广泛利用。未来更需要直面和应对脑机接口等技术广泛应用后带来的心智侵害等潜在风险。

人工智能不可避免地成为攻击目标，作为一系列复杂的数据采集、预处理、模型训练、评估优化、部署应用的复杂的甚至是黑箱的工作过程，其全生命周期中必然面对数据投毒、隐私窃取、模型攻击、恶意利用等风险行为。人工智能服务需要依赖算力平台基础设施来支撑其运行，承载主体不可避免地成为了攻击者新的攻击目标。人工智能大模型技术的训练和推理，依赖海量的硬件资源、数据资产和复杂的应用环境，这一方面使大模型平台成为新的信息资产汇聚地，另一方面，大模型基础设施和应用入口也成为用户和节点的新暴露面，面临着日益严峻的风险挑战。

攻击活动是穷尽威胁行为体资源与能力的复合行为，风险趋势最终也必然合流与纠缠在一起，形成叠加加速与演进。例如，以人工智能赋能的网络攻击活动，入侵高度智能化的关键系统，以智能体的方式持久化并不断进化，造成持续而又难以觉察的影响，并最终导致关键系统崩溃，严重影响国家安全和社会安全。

与此同时，人工智能驱动对抗模式重塑。从信息化到数字化转型伴生的风险，是系统侧风险逐步在业务侧和数据侧的放大过程。而从数字化到智能化伴生的风险，则是风险层次从数据侧和业务侧进一步上移到心智侧和治理侧的过程。也使网络攻击活动在对人机运行体系的攻击中，可以更多地将攻击点施加于更接近人一侧，从而绕过布设于机器侧依托特征工程和知识工程体系的传统防线。

对抗与战争似乎与人类社会发展形影相伴，对抗形式贯通着物理空间、网络空间和认知空间。对抗的模式，从原始部落间的（物理）搏斗与（心智）嘶吼，演化到今天复杂的行为体之间的竞争、博弈、对抗乃至战争的形式。对抗范式包括基于物质和能量的物理对抗、基于介质和数据的信息对抗、基于系统和环境的运行对抗、基于信息和影响的认知对抗。随着现代网络成为现代社会组织能力和军事体系运用的“筋脉”，成为连接物理社会和认知心智的最大界面，网络空间不可避免地成为常态化对抗领域。人工智能作为人类智慧在网络空间的延展，其不仅全面改变物理空间中的能力运用效率，也使认知对抗逐渐成为诸多对抗范式中的主导范式。

二、正确看待人工智能发展与安全风险的辩证关系

不发展是最大的不安全。只有立足于快速发展，才能形成安全与发展的新的平衡。从信息化到数字化再到智能化，这是不可逆的历史趋势。因担心风险而阻滞发展，不仅不会带来安全，反而会因为发展缓慢形成更大的战略安全被动。在外部竞争和威胁始终存在的背景下，安全风险不只来自我们对自身技术发展的安全规划，更来自与主要压力方之间，在有效创造、掌握运用技术上的加速度比拼。因此，应立足让发展的增益远大于风险的影响，以快于竞争对手的发展加速度和优于竞争对手的安全与治理能力，渐进构建发展中的安全防线。

人工智能的发展将带来网络安全的巨大增益。每一种新技术带来风险的同时，也会成为应对风险的重要手段。例如，互联网带来了安全威胁的快速流动，但也为安全能力的分发、安全运营的快速闭环构造了基础条件。云计算带来了体系性的攻击，增加了导致整体崩溃的可能性，但云应用也为重构强治理支撑的统一安全防护带来契机。人工智能技术同样正在深度改变网络安全的防御能力和运行机制。在网络安全的工作体系中，从威胁捕获、分析，到支撑威胁分析的特征工程与知识工程体系，均可借助人工智能技术实现加速发展。在实际防御场景里，鉴于当前用户资产规模庞大、信息系统应用繁杂且接入泛在，在如此复杂的资产运维体系中保障安全，涉及海量数据的分析、研判，以及相应的响应与决策，对网络管理者的专业水平要求很高。引入人工智能技术后，有望全面提升网络安全从保障目标对象体系到产品赋能产业体系的防护效果与水平，提高防护智能化程度，有效降低对网络安全工作者的经验依赖。以安天的反病毒引擎共性技术研发为例，安天“澜砥”大模型已经能以数兆大小的体积，达成与传统数百兆大小的规则库（数千万条规则）几乎一致的检测效果，并有极强的抗衰减能力。这说明了新技术发展兼具威胁加速器和缓冲器的双重属性。但新技术的安全增益不是自然产生的，而是需要主动塑造和创新应用的。

三、以高度自觉把握人工智能安全与发展的历史主动

人工智能的自我“觉醒”甚至“越狱”，并非不需要防范的安全风险。人工智能的发展会不会成为因人类好奇心而从潘多拉盒子放出的魔鬼，带来一种集体恐惧感？事实上，人类对新事物的好奇心和恐惧感，是人的本能之一，前者驱动探索与进步，后者驱动安全与治理。

西方舆论场一直在塑造“天网觉醒”式样的未来。仿佛人类的敌人并不是推动网络空间军事化的霸权国家机器和利益集团，而是先天具有工具属性的技术。技术本身是中性的，人工智能作为革命性的新技术，不可避免地与国家主权、安全、发展利益问题紧密结合在一起，从来也不应是一个脱离国家、民族与阶级的普适化安全命题。

技术风险的核心从来不在新技术本身，而在于技术为谁所有、为谁所用，以及如何做好技术自身的安全应用。关键在于技术掌握在热爱和平与正义的国家手中，还是掌握在热衷于战争与霸权的国家手中？是更好地运用于社会治理、服务于人民生活，还是为侵害他方、获取私利？

霸权国家幻想依托算力限制、脱钩断链、数据资源封锁等多种方式，对我国构造人工智能的“小院高墙”壁垒，我们更需要加速人工智能的发展，并推动面向全球数字治理的人工智能“平权”运动。

在霸权国家全面加速人工智能的军事和情报运用过程中（包括微软、谷歌等信息复合体企业，快速向信息军工复合体的转化），中国的网络安全工作者和产业主体更应破除原有的唯市场化的思维定式，以高度历史自觉主动融入国家安全大局，助力构建人工智能时代国家战略网络空间安全产业体系，筑牢国家网络安全屏障。