【摘要】科技进步带来的技术异化可能引发特定领域的潜在风险。以深度伪造技术为例，其异化导致了新技术治理的刑事应对乏力，这一问题源于缺乏法益侵害危险的衡量标准。因此，应当以危险的现实化说为法益区分的前提，以潜在的法益侵害危险为预防性衡量基准，并基于潜在风险等级的技术治理保护思路，对技术异化的相关类型进行分类，以此构建不同技术的分级保护模式，推动实现一体化的刑法保护。在刑事治罪层面，应区分恶意深度伪造技术的不法类型，从国家安全法益、社会秩序法益、公民个人合法权益三个层次，对法益侵害程度进行危险衡量。在刑事治理层面，应围绕标识责任义务原则和公民知情同意的核心要素，构建以前置义务分级保护体系为主要内容的刑法保护体系。
【关键字】深度伪造；技术异化；刑法保护；分级治理；法益侵害
一、问题的提出
生成式人工智能、深度合成、区块链等新技术的快速发展，引领着新一轮的产业革命和时代进步，也潜移默化地改变了人们的生活方式和社会关系的联结形态。与此同时，新手段、新场域、新样态的社会失范行为逐渐增多，产生了包括深度伪造技术滥用、人脸识别技术滥用等新问题，给人们的网络生活带来了不确定性和不安定感，甚至在特定技术领域引发了潜在风险的危惧感。在面对新技术的发展态势时，要把握“发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则”，“确保人工智能安全、可靠、可控” 。技术的发展伴随着突破性的创新，不论是工具主义还是目的主义的立场，都给人类带来了社会福祉和生活变革,而异化现象体现了“技术的负向价值”，是“技术的非正义性在技术本质维度上的重要体现” 。这种负向价值，基于深刻的社会历史渊源和人性基础，可能会带来消极影响或者伤害。因此，有学者指出，“异化”并非纯粹的人为事件，技术本身就有异化的根据。从这一逻辑起点出发，人们对技术异化与技术中立就可能存在理解上的分歧。无论技术异化的来源是否存在差异、异化的表现是否来自被用于歧途的技术本身，无法忽视的一点是，技术异化给法律治理带来了新的困境。
以深度伪造技术为例，其通过对抗性神经网络（Dueling Neural Networks），相互“对抗”确认系统认定的“真实性”结果后，输出模拟真实的图像或声音。当其被运用于伪造合成政要选举、传播色情视频、诈骗洗钱等行为时，将产生犯罪风险。从刑法角度来看，“深度合成”和“伪造”的技术导致了多种法益被侵害的风险，且造成的法益侵害后果具有复合性和不可逆性， 亟须刑法领域的关注。技术机制塑造了新型人机共生关系，深度伪造等技术的负向应用使法益侵害的量级呈指数级扩大，而行为主体对危害后果的认知往往滞后于技术异化的实际进程，造成违法性认识判断的难点。一方面，在对一些技术行为进行不法判断时，同一深度伪造行为可能同时触犯《治安管理处罚法》、《民法典》和《刑法》。再如，2019年国家互联网信息办公室等部门发布的《网络音视频信息服务管理规定》，第10 —13条规定了利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播相关行为的规范，主要针对非真实音视频信息相关活动的违法性判断。尽管该规定在第11条强调对非真实音视频信息的出现应“以显著方式予以标识”，但对新技术的场景应用并未细化，再加上与之对应的配套规制措施并不完善，造成了可操作性缺失的现实困境。另一方面，基于强用户粘性的新型人机关系，数字平台实际为各项数字技术的具体应用场景提供了载体，这进一步加剧了刑法责任主体与类型衔接适用的治理困境。深度伪造技术异化带来的新技术治理的刑事应对乏力问题，需要进一步分析法益侵害危险的衡量标准。究竟何种危险才属于刑法评价的范畴，实际是法益侵害性的认定前提，在实践中可能产生分歧。而对危险的判断困难也受到技术类型和主体认知的限制。深度伪造技术带来的刑事风险可能涉及针对公民人格权的侮辱罪、诽谤罪，更可能涉及以信息为对象的信息网络犯罪相关罪名。我国个人信息的识别体系受到包括前置法和刑法在内的多部部门法规定的影响，《网络安全法》目前采用识别说观点，其第76条第5款认为个人信息应当以信息对应特定人的方式认定，其他法律法规则多以“识别+关联”方式认定个人信息。而在深度伪造技术的应用场景中，信息的真实性差异对刑法中个人信息识别的双轨制认定带来了冲击。如何认定新技术时代的识别体系，成为新的风险问题。尽管技术本身的研发成本较高，但技术应用却通常门槛较低，基于网络空间的累积式传播效应，受害者面临社会评价被损害的危险。这种不匹配的风险治理结果不仅造成当前传播环境下真实音视频的信任度降低，也带来了破坏网络秩序、难以对相应网络犯罪环境进行治理的技术负效应。此外，新技术发展与犯罪化的关系一直是刑法关注的重要问题，而侵害法益的变化势必影响刑法治理中评价意义的考量。
二、技术异化的刑法分级保护之前提
在新技术快速发展和社会多种风险聚集的双重背景下，“行为的潜在危险以及危险个体通过以前从来没有出现过的侵害行为造成损害的风险也在增加”。刑法的应对愈发趋向于以社会安全保护为目标，但其根本目的还在于对公民法益的保护。基于预防刑法观视角，对于刑法应对技术异化行为的分级保护，有必要首先讨论保护的前提，其次论述刑法介入异化技术之必要性与可行性，最后考量“危险”要素在技术异化侵害行为刑法评价中的定位。
其一，刑法介入异化技术具有必要性。技术异化的直接原因，来自人的需求和动机的多元性，而这种多元性直接体现了不同时空中行为的差异性。剖析行为差异，有必要对包括深度伪造技术在内的数字技术进行分级治理，这也是刑法安全价值的体现，是当前对日益提高的社会风险和维护社会安全秩序目的的一种回应。但应当注意危险边界问题，防止法益作为刑法违法性判断的实际依据被瓦解。在传统意义上，安全价值对应的是风险社会中对危险的一种抗衡或抵御。犯罪是偏离常规社会动态并直接侵害法益的行为，而伴随技术的不断发展和智能化升级，技术异化带来的风险具有不易识别性和不确定性，人们很难通过感官察觉其危害，这些潜在危害难以被表层理解，很容易超出一般人的普遍认知。数字技术带来生成式人工智能等应用智能体的发展，而在某种特定场合或特定目的下，技术异化带来的智能体实际上给当事人带来了不同影响程度的危险。而这类伪造行为本身具有潜在现实化危险，具备刑法介入的必然性。例如，在利用深度伪造技术伪造军人诈骗案中，受害人梁某在刷短视频时被婚恋弹窗广告吸引，通过平台推荐与“姚某”匹配并受其诱惑进行大额转账投资。经侦查，“姚某”的军人身份是完全伪造的，其面部、声音均是通过伪造技术替换真实军人影像、合成语音生成。此案中，上游诈骗人员全部采取AI技术进行换脸，并通过下游转移赃款，完成犯罪行为。犯罪分子以此方式不仅使受害人误入“眼见不一定为实”的陷阱，也造成了其财产损失。
承继上文，AI技术是诈骗罪的新型手段，因此有必要对技术异化的相关类型进行分类分级化处理。刑法应对的标准实则是对潜在法益侵害的危险进行衡量。对于数字技术的分级治理标准，应按照法益的潜在风险、法益侵害的程度，还是按照技术的应用场景、滥用程度进行划分，有多种选择。潜在的法益侵害所凸显的“潜在”含义，在于技术异化所导致的违法犯罪行为具有侵害的可能或危险，它与当前的技术风险具有紧密关联。事实上，这种法益侵害的考量，是基于数字技术行为的需罚性，判断其是否超出了正常的容忍范围，也就是对是否具有危险现实化的考虑。例如，在某学生利用AI软件制作不雅照案件中，该生未经他人同意，利用免费网络AI软件将多名女性的社交照片制作成超700张不雅照。这一案件经网络发酵公开后，引起网民的诸多讨论。尽管基本案情简单，使用AI软件的技术门槛较低，但引发了如何进行道德教育、如何承担法律后果等多方面讨论。有观点认为，深度伪造生成的不雅照片并非受害者本人，造成的后果和影响相对较小，因而可以通过当事人道歉、受害者发声等方式降低对事件和当事人的社会负面评价。但是，上述观点不具有合理性。作为证据而言，深度伪造产生的图片无法被认定为真实证据，甚至可能涉及伪证罪。但仅就本案而言，合成处理受害人的真实社交照片，造成了对当事人的实际伤害。如果当事人难以容忍且对其社会评价产生了难以恢复的降低，显然达到了法益侵害的实质结果。
其二，刑法介入异化技术具有可行性。在当前技术高速发展的风险时代，社会失范行为增多，针对数字技术领域的立法也层出不穷，根据不同数字技术的风险等级和应用场景，提出针对数字技术的分级保护具有可行性。当前，已有法律法规采取措施：如《数据安全法》第21条规定应建立数据分类分级保护制度，对数据实行分类分级保护；《个人信息保护法》第51条规定对个人信息实行分类管理，第6条强调采取对个人权益影响最小的方式处理个人信息；《生成式人工智能服务管理暂行办法》第二章专章设置“技术发展与治理”，第16条提出针对生成式人工智能技术特点及其应用，制定相应的分类分级监管规则或者指引。
一方面，可以对不同数字技术的场景应用进行细分，并根据风险等级和技术影响展开界定。如在针对特定人的“复仇式色情报复”行为中，利用深度伪造技术的行为不仅以“眼见为实”的假象误导他人，更是对当事人的侮辱、诽谤，并经由网络场域的累积式传播，造成了严重的法益侵害后果。
另一方面，并非所有数字技术导致的不法信息传播行为均需刑法处置，既要注意数字技术的分级管理与评判，也要契合比例原则，这涉及处理分级保护的合法性边界问题。此外，从部门法的差异化和差序化治理角度而言，对数字技术进行分级处理，对同一数字技术产生的作品进行分级检测和分级推荐，也是推动解决前置违法性判断与入刑评判的衔接处理问题。
三、技术异化的刑法分级保护之基准
技术异化的刑法评价应以法益侵害的实际危险为基准，而非以技术本身的风险属性为标准。如果从刑法理论的“纯正”“完全”二词解释与分类来看，“纯正”一词在刑法中的使用多指向真正（纯正/完全）不作为犯和不真正（纯正/完全）不作为犯。在数字技术的分级保护类型中，使用并区分“完全”“不完全”中立技术的意义，在于对数字技术的潜在法益侵害进行衡量后，以不同层级对待具备中立价值意义的数字技术和具备价值判断的不完全中立技术，从而进行法律规制及刑法的预防性与合理性介入。
（一）潜在法益危害性作为分级基准之证立
法律与技术的关系一直是理论界关注的问题，并在不同法治领域均有体现。有学者总结，关于技术中立的含义包含功能中立、责任中立和价值中立三种；在价值层面，是人类通过技术手段，达到美好生活和效益追求的目标。此处论述技术中立与否的相关内容，旨在提出确立以潜在的法益危害性构建刑法分级保护基准，尤其是技术异化后的刑法保护问题。当前司法实践中，对技术中立责任豁免的认定，主要包括以下几种观点：（1）技术或技术提供者能证明物品或技术存在一项合法用途，不意味着该物品或技术可主张免责；（2）技术或技术产品是否属于中立，不影响对特定技术或技术软件具有违法犯罪用途的认定。由此可见，完全由工具主导时技术视角评价中所具有的中立价值意义，在司法实践中难以完全适配法律领域的评价和对具体案例的分析。
危险的来源与技术所带来的风险密不可分，具体来说，是技术负面效应在法律治理中的针对性体现，造成技术性风险的日益扩散。有学者提出，二元化犯罪模式旨在从技术层面解决刑法过度介入公民自由领域所引发的限度问题。该模式通过行政处罚等前置手段与刑法相配合，以合作方式处理冲突，从而恢复被破坏的法益。这种方式能在一定法律范围内、以及在特定类罪名中控制社会风险，但需关注技术领域的快速变迁和不同技术之间的危险差异等特性。尤其是不同技术受网络时代传播方式和信息更迭的影响，其负面效应之间的差异会进一步加剧。在司法实践中，对新技术运用的处罚明显呈现出扩大化倾向，是否上升为刑事风险问题关系着行政违法与刑事不法的衔接思路。以较早的2016年“快播案”为例，王某提出的“技术无罪”观点至今仍在被讨论，该案引发了公众对数字技术带来的“技术中立原则”问题的关注，而相关“技术中立行为”的论述，能否成为有效抗辩事由、是否存在入罪的边界问题仍引发热议。事实上，单一的技术治理手段或单一的法律治理手段，均难以解决当下技术异化带来的具体侵害行为的法律评价复杂性问题。由此，通过对法律进行实质解释进而辅以技术治理的表层手段，或许是解决问题的合理尝试。
刑法的实质违法性来自对法益的侵害或威胁，而实质违法性的结果既包含对法益的现实侵害，也包括可能的侵害危险。根据因果关系相关理论，刑法处罚实际侵害法益或法益具有侵害危险的行为，法所不容许的危险实际是对法益侵害性的认定。由此展开，危险的时间判断和具化衡量是可以被用来划分因果关系与侵害法益程度的关键因素。危险的现实化说可以成为应对技术异化问题时因果关系判断和思路的有力学说。从归责角度出发，当行为人所创设的法所不容许的危险成为现实化结果时，那么这个结果将归责于该行为。因此，其更侧重考虑危险性大小，“具有事前判断加事后判断、事实判断加规范判断于一体” 的特征。
以危险是否现实化为分类标准，可以将技术异化领域的法益危险类型分为潜在法益危害性和现实法益危害性两种。现实法益危害性除实害结果之外，还包括危险的现实化。而潜在法益危害性，主要是针对技术分级中的危险尚未现实化的预防风险。潜在法益危害性强调对危险的风险等级的判断，由此可以对刑法的介入时间和保护时间作出调整。以深度伪造技术为例，区分不同场景下的潜在法益危害性差异，更具有刑法分级保护的可能性和必要性：（1）在娱乐场景中，该技术所体现的法益危险性程度较低，公民可预见的潜在风险也较低。比如，深度伪造技术被授权运用于作品创作、相片视频修复时，带来的娱乐效果明显占据主导地位，在这种场景中法益被侵害或威胁的危险很低，不需要过度关注。（2）在涉性犯罪场景中，深度伪造技术的运用往往会对当事人造成较大的名誉损坏，潜在法益危害性的危险标准明显提高。例如，利用深度伪造技术将公民照片与淫秽影像视频进行合成，并通过软件平台进行传播，这类“AI换脸”行为，实际上是对公民个人“数字身份”的支配，导致公民丧失了虚拟世界的数字主体性。受害人长期处于恐惧和不安状态、社会负面评价的损失难以恢复，是深度伪造技术带来的法益侵害后果，属于刑法中的危险。（3）在诈骗等财产犯罪场景中，该技术作为犯罪工具对公民辨别能力提出了更高要求，真假视频使得公民极易被这类操纵性信息误导，增大识别犯罪风险难度，事实上提升了财产减损的风险，具有较高的潜在法益危害性。有学者进一步提出，以深度伪造技术做出的诈骗信息，相较于普通诈骗信息，具有更高的造成财产减损的危险程度。
参考相关做法，欧盟《人工智能法案》中“基于风险”的人工智能治理框架，对各系统进行评估后将其划分为最小风险、有限风险、高风险和不可接受风险四个等级。国内也有学者通过多种方式构建技术在法律治理层面的分类标准。本文结合技术在不同场景下的运用、所造成的风险情况及可能产生的法益类型化判断，以潜在法益危害性作为技术异化的刑法分级保护预防性衡量基准，其外观直接指向数字技术的危害可能性或潜在风险等级，由此提出三种分级类型：（1）完全中立技术，是指从刑法保护的立场来看，其潜在风险和社会危害性较小，对社会秩序、公民权利的危险程度较低，人类对于技术本身或技术所应用的人工智能体、智能平台等具有较大的法律可控性。比如，数据库、区块链等，技术对形成尚未现实化的危险的预防等级都比较低。在此论述完全中立技术，旨在对技术分级保护有较完整的概念范围，且更多地基于鼓励技术创新，慎重考虑违法性和入罪问题。（2）其他不完全中立技术，指工具意义上的技术中立，刑法参与度较低，主要考虑前置法的规范，只有对法益造成实质侵害时才考虑刑法介入。其他不完全中立技术表明不是所有技术都要规制，刑法规制并非首选，那些实质侵害法益的技术才要规制，且应主要考虑前置法的规范。比如，人脸识别技术、生成式人工智能技术、自动驾驶技术等的应用，不具备高度不完全中立性，需依据特定行为人的行为活动进行规范解释和价值判断。（3）高度不完全中立技术，可以将其定位为危害性较大，或者说该类技术绝大多数情况下潜在风险和潜在危险等级较高。这类技术往往容易引发法所不容忍的风险，其潜在法益危害性较大，对于这种技术所引发的行为虽未有现实化危险但可作出相应的风险预防。比如，深度伪造技术、基于偏见数据的人工智能算法技术等。对高度不完全中立技术的分级，需要进行预防性治理，包括刑法的预防性参与。
（二）不同技术分级保护模式的构建
依据潜在法益危害性基准，可进一步探讨对不同技术分级应采取何种治理模式。
对完全中立技术而言，采取事后惩罚治理模式较为妥当，可避免刑法的过度介入，因为完全中立技术行为一般不主动或自发具有犯罪风险。需要说明的是，此处“风险”并非指向所有造成后果的现实风险，如自动驾驶算法技术失控带来的人员伤亡风险，这一风险不是被用于犯罪的风险，相关“电车难题”的刑法问题主要考虑事故发生后多方主体的刑事责任承担。这里所指“风险”为被直接用于违法犯罪的风险。如基于大数据算法技术的非敏感信息的数据挖掘、深度学习行为，强调推动对技术的创新性发展和创造性应用。2015年，最高人民检察院印发的《人民检察院制作使用电子卷宗工作规定（试行）》第2条，规定了电子卷宗是具有特定格式的电子文档和相关电子数据，数据库技术就是其应用的媒介技术之一。而作为去中心化的分布式数据库技术，区块链技术的出现让信任系统在很大范围内的输出成为可能，适用于智能合约、数字身份、元宇宙等多个领域，潜在的法益风险较小，不能直接对其后果进行判断。对于该类技术行为引发的诸如侵权等违法行为，应以相关信息保护法、民法、行政法的规制为主，刑法应当保持足够的谦抑性。再如，区块链技术的发展，能够在多个领域通过技术的迭代推动行业进步。区块链鉴真技术、存证技术等，在司法实务中有效提高了工作效率，同时也在证据的取证、固定等方面做出了贡献。面对不同的数字技术发展带来的风险危惧，“刑法是否配备了妥当的解释工具来说明其积极介入姿态的合理性”，是当下不断增设新罪后急需解决的现实问题。因此，将技术本身道德化或犯罪化，会模糊真正的责任主体并阻碍技术创新，也无助于解决真正的现实问题。针对完全中立技术的治理思路，应以柔性治理、行业治理、前置法治理为主，处理好刑法介入的时机和限度，强调“预防为主、惩罚为辅”的治理模式，避免预防性立法的过度扩张。
对其他不完全中立技术的分级治理模式，应强调前置法的预防性治理和刑法的合理有限介入。预防刑法观主张动用刑法作为防范社会风险的手段，其主要内容是顺应风险社会的治理目标，基于数字技术的分级化，以刑法对潜在的危险或抽象的法益侵害行为予以展开合理性介入。这也是顺应数字技术的迭代发展和社会风险潜在累积的需要。而且，从结果导向来看，这类技术运用往往考虑其工具价值，该类技术溯源技术原理本身，往往也并无中立与否的判断必要，只是在运用场景上既具有合理用途，也适用于违法犯罪活动，具有技术的双重风险。例如，在田某等开设赌场案中，被告人田某等人投入资金和技术通过某公司开发游戏APP供他人组织赌博，该公司技术员崔某、刘某等人提出技术中立豁免的上诉请求，最终被驳回。因为崔某、刘某等人明知开发的游戏APP是用于他人组织赌博，且作为案涉公司高管明知网络上赌博行为的传播与公司营收增长之间的因果关系，仍放任其开发的网络游戏被继续用于组织赌博，相关技术人员也因此获利。尽管该类开发技术本身是没有犯罪风险的，且具有“实质性非侵权用途”的合法用途，比如用于其他合法场景的技术开发，但因开发应用并非单纯的提供某种物品或者技术，而是借此错误使用、放任传播、非法获利，符合开设赌场罪的构成要件。
对高度不完全中立技术，可以构建预防主义视角下的刑法事前分级治理模式。无论是积极性预防刑法观还是消极性预防刑法观的理论立场，本质都是为了维护社会秩序的安定性，保障公民的权利不受现实和潜在的法益侵害。一方面，数字化生产和数字化生活催生了新兴权利的两个面向。针对社会生活有关方面数字化所带来的后续问题积极进行刑法上的观察，上述刑法上的积极观察并不限于传统的计算机和网络犯罪领域（刑法作为整体生活领域数字化的积极规制）。另一方面，在技术发展的意义上，刑法自身通过技术发展而得到革新（刑法作为数字化的消极对象）。数字技术的不同发展阶段和不同发展历程、应用场景、潜在风险，也表明数字技术的治理具有差异化需求。以深度伪造技术为例，应当认识到深度伪造技术与真实性之间的关联度问题也是“标识责任义务”的体现，应对高度不完全中立技术本身作技术管控和显著性标识提示。2022年11月，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（下文简称《深度合成管理规定》）于2023年1月起施行，其中，第16条和第17条是对“标识”这一概念的相关规定。2025年3月，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（下文简称《内容标识办法》），于2025年9月1日起施行。该办法进一步细化了显式标识和隐式标识，规范了生成合成内容传播活动，并明确了各方主体的标识责任义务。深度伪造技术应用中所需呈现的标识义务，是对生成内容进行提示性说明，表明区别于真实性的音视频、图像合成表达，强调的是伪造产生的真实性关联度问题。该项义务是对技术异化后刑法认知风险的回应，既要保障公民对网络平台信息的知情权，以此对抗深度伪造技术带来的欺骗风险，又要缓解社会公众对“眼见不一定为实”问题的信任失衡现状。由此，对于高度不完全中立技术的分级治理，必须关注各方主体对危险源的义务履行状态，以此找到安全失序的解决途径。针对深度伪造技术带来的行为，有必要对其进行事前规制，进而从源头上治理被滥用的技术风险。
从刑法角度来看，深度伪造技术的异化增加了公民个人信息、社会秩序、网络空间安全、国家安全等诸多法益被侵害的风险，且相关法益侵害往往具有复合性与不可逆性。将该项技术列为高度不完全中立技术，最明显的原因在于其潜在法益侵害的危险性较高，且侵害内容具有复合化和多层次的特征。这种技术风险所带来的社会危害性，往往会触发不当利用，造成法益侵害并加剧侵害的程度。如果对其侵害的实际法益和潜在法益进行类型化划分，再结合上文所述标识责任义务的内容，可以明显看出，深度伪造技术滥用行为源自对公民信息数据“未经许可”的使用。这种“未经许可”的使用，既包含不当使用情形，也包含故意使用情形。据此，可以认为，深度伪造技术导致的犯罪违法类型，是一种未经许可的行政违法型法定犯，这种对公民合法权利与社会管理秩序的侵害和破坏，势必受到刑法及相关前置法的关注。如2025年7月，最高人民法院、最高人民检察院、公安部联合发布的《关于办理帮助信息网络犯罪活动等刑事案件有关问题的意见》第9条规定，利用“深度合成”等人工智能技术实施犯罪的行为，属于实施帮助信息网络犯罪活动等犯罪的从重情节。在利用深度伪造技术换脸等场景下进行诈骗活动之外，当前还出现了伪造的场景、身份、环境等新样态。从司法层面来说，应对该类技术给予更多的关注，适当时候可以适用抽象危险犯理论，对未造成实际危害但具有明显潜在危险的行为进行入罪边界的考量。数字技术的分级治理模式之提出，是在预防刑法观下，对数字技术的风险进行精准化治理，不再采取相对粗放的治理手段，以此来因应技术快速发展带来的挑战，这也体现了刑法治理是社会治理的重要组成部分。从治理模式角度来说，要进行从治罪到治理的思维转化，以一体化分级治理思路完成对技术的预防性治理。深度伪造技术带来的负面案例层出不穷，负面影响较大，与此同时，大模型技术的发展使其使用门槛进一步降低，对其进行分级治理是一种较为合理且妥当的方式。
总体来看，作为工具的数字技术，其使用目的受到服务开发者、提供者、使用者等多方主体因素的影响，以潜在法益侵害的危险程度区分技术异化的多种类型，进而找到适合的事前与事后保护模式，对涉嫌犯罪的刑事不法认定和全流程一体化法律治理均具有正向意义。与此同时，应当看到，三种模式的分类不能仅凭技术本身进行类型划分，对技术进行定罪化处理则更为不妥，因此不同模式之间的衔接与转化问题自然也可能存在。例如，对于划分为完全中立技术的类型，也并不意味着其就此选择了“是否中立”命题中的完全正向中立性，倘若相关数字技术被用于特定犯罪（如诈骗罪、洗钱罪等），行为的入罪风险显而易见增大了。而高度不完全中立技术的预防治理则需关注技术所带来的事前风险问题，采取数字技术的分级治理模式，能够相对有效避免法律的滞后性和过度犯罪化的风险。
四、深度伪造技术异化的刑法应对展开
深度伪造技术作为高度不完全中立技术，其异化行为产生了违法犯罪活动。而对于受到技术异化影响的公民合法权益、社会管理秩序、网络空间秩序等，应采取事前与事后相结合的保护模式，推动实现一体化治罪、治理统筹衔接。
（一）对技术异化危险的容忍限度
以刑法分级治理为核心的技术分级，其实质在于对深度伪造技术行为进行刑事不法的类型化认定，重点考察其危险来源及法益侵害程度。深度伪造技术刑事不法的启动缘由为当事人受到不安威胁，尤其是对技术本身和技术应用带来的客观危险所具有的危险意识。就刑法法益上的危惧感而言，其危险主要是通过严密的科学认定进行判定分析的，但仍主要来源于一般人对客观危险的恐慌和不安，以此针对行为的危险进行不同犯罪类型的区分判断。这种对于技术所带来的不安危险性来自以下方面的考量：
其一，是因为技术应用本身对公民权利带来了一定的威胁。比如，深度伪造技术所运用的图像、音频、视频等信息，可能会对公民的隐私权、信息权带来挑战。前文提及的某学生利用AI软件制作不雅照案件中，行为人未经当事人同意将受害者公开发表在社交平台的图像信息进行处理，显然违反了《个人信息保护法》第27条所要求的在合理范围内处理他人已经合法公开的个人信息。因为这种对已公开信息的“AI换脸”再处理，没有取得当事人的同意许可，造成了对当事人个人权益的重大影响，比如社会评价的减损、公民个人尊严的漠视、隐私的侵犯。
其二，在于深度伪造技术的特定场景应用不符合人的尊严保护。追溯侵犯公民合法权益的不安根源可以发现，人们对于深度伪造技术的滥用和诟病，往往在于这类技术应用可能造成对隐私权的侵犯，以及给公民带来对有关性犯罪传播负效应带来的恐慌。依据《深度合成管理规定》第23条，深度合成应用场景包括篇章、文本、音频、人脸、图像、数字人物等。通过深度伪造技术所制作、合成的音视频等内容，具有伪造的逼真特征，这些涉性伪造信息的大量传播，需要刑法的规制。尽管伪造合成的内容不属于真实信息，但是这些信息传播引起的法益侵害，对受害人造成了社会价值判断的负面评价。深度伪造技术所制作、传播的当事人相关内容，实际在客观层面影响了受害人基于社会舆论价值判断后的个人评价，间接贬损了其人格尊严。
刑法的宽容性表明，“每个人必须对来自他人的伤害有某种程度的忍受”，如果对所有伤害行为都予以刑事处罚，反而限制了他人的自由。在技术发展带来生活便利、娱乐泛化、社会智能化服务能力提升的同时，技术风险也使得公民不得不容忍某些法益侵害的情形。在违法性的判断上，既要考虑容忍边界，也要考虑不法的评价标准问题。而这种容忍边界应当是清晰明确的，以防止预防的过度扩张。针对深度伪造技术涉刑事不法的认定，与其他犯罪行为一样，都应当达到“量的要求”，这里的不法要求也包括了基于技术潜在法益的抽象危险犯的危险判断。
以恶意使用为目的的深度伪造技术应用中，对公民权利、社会秩序、国家安全的违法程度判断，是刑法关注的重点，对这类以恶意目的行使的技术行为容忍度较低，因为其侵犯了多种法益。以“拍摄并合成私密视频案”为例，甲与乙发生性关系，过程中乙未经甲同意拍摄二人私密视频。但事后乙发现视频中甲的脸庞拍摄不清晰，因此乙利用深度伪造技术，将甲的头像合成到拍摄的私密视频中，使公众可清晰辨别甲。此外，乙还通过技术手段将甲头像合成于某不知名裸男身体，并将此视频发布到社交平台传播。该案中的乙构成我国台湾地区“刑法”第319条之四的意图散布以电脑合成制作他人不实性影像罪。该罪所述不实性影像，就是利用深度伪造等技术制作的关于他人的相关音视频内容，这与该罪前几款内容的保护法益存在不同。乙通过合成技术制作视频，是不为甲所容忍的行为，视频虽并非真实的隐私视频，却实际造成了受害者社会评价、数字身份关联下真实人格的贬损，使公众误认为其可能从事色情行业。有学者认为该罪的修订具有必要性，因为其无法完全被侵犯名誉权相关罪名所概括，若以妨害名誉相关罪名处罚，“不足以彰显此等行为对被害人社会形象与难堪恐惧感受之侵害” 。伴随着技术门槛的愈发降低，相关涉及私密音视频的深度伪造案件频发，这类案件的不法容忍限度是不为公众所接受的。这种公之于众、供人阅览的传播，超过了公民对于使用或传播相关内容的合理预期，无法满足个人对信息使用的期望，增加了公众的社会交往成本。
（二）治罪：危险衡量下的不法类型
以深度伪造技术为例，以潜在法益侵害的危险程度判断行为的不法程度，源自不法行为本身侵害了法益，且可能涉及多个法益的侵害判断进而涉及多项犯罪构成要件。实质危害原则表明，只有行为危害他人利益且具有规范意义上的不法性时，刑法才能介入干预，而法益的判断源自与社会生活产生连接的现实性。有关技术分级中刑事不法的认定，在深度伪造技术内部，需要对其法益侵害程度进行分析和判断。刑事不法中的违法程度实际是对法益侵害程度的讨论，不仅包含侵犯何种法益所导致的违法程度不同，还包括法益侵犯程度所导致的违法程度不同。深度伪造技术异化导致的刑事犯罪问题，可以被笼统归入网络犯罪领域或数字犯罪领域进行讨论。依据《深度合成管理规定》第6条关于深度合成服务的禁止性规定，不得利用深度合成服务的行为可以区分为危害国家安全和利益、损害国家形象，侵害社会公共利益、扰乱经济和社会秩序，侵犯他人合法权益三类。“针对不同法益损害结果采用差异化的数字犯罪治理策略” ，也是深度伪造技术领域犯罪的分级思路。从国家安全法益、社会管理秩序法益、公民个人合法权益三个角度形成对法益侵害程度的危险衡量，对不同法益进行分层以解决冲突问题，进而构建不同的刑法保护体系。
首先，利用深度伪造技术行为可能构成侵害国家安全法益的犯罪。尤其是通过伪造信息，造成了对国家安全法益的实质威胁。在政治领域，深度伪造技术通过多种方式生成视频，其视频可能危害国家安全，潜在风险和危害性较大。2018年4月，导演乔丹?皮尔发布了一段深度伪造视频，视频中美国总统奥巴马发表了惊人言论，但这些言论并非奥巴马所言，而是来自该导演的深度伪造。此后，又出现了关于英国首相鲍里斯?约翰逊的深度伪造视频。这类利用深度伪造技术制作的视频生成内容，导致虚假信息的传播，且极大降低了公民对社会的信任，造成对国家安全法益的侵害。此外，涉嫌危害国家安全法益的行为还关涉深度伪造技术在军事领域的风险，例如利用相关技术进行间谍活动等。
其次，利用深度伪造技术行为可能构成侵害社会管理秩序法益的犯罪。在当前，深度伪造技术异化的常见适用罪名，来自《刑法》第363条制作、传播淫秽物品牟利罪，第364条传播淫秽物品罪、组织播放淫秽音像制品罪。利用深度伪造技术制作虚假淫秽视频，或者在网络空间传播相关视频，实际上是对社会管理秩序尤其是网络空间秩序的一种侵犯。例如，在“AI去衣”传播淫秽物品案中，白某通过发布“AI去衣”广告，在社交软件收受他人非法提供的具有人脸信息的不特定女性照片，再通过深度伪造技术将照片批量制作成6000余张“去衣”裸体图片贩卖牟利，同时也通过出售“AI去衣”软件及使用教程牟利。该案中，白某的行为侵犯了社会普遍认知的性道德秩序，保护性道德秩序是刑法维护集体法益的一种体现。该案中，“AI去衣”软件本身是一种“恶”技术，其运用可以被认定为对真实人物的侮辱行为，至少在这一层面可以考虑白某构成侮辱罪的预备犯、传播淫秽物品罪的预备犯。同时，利用深度伪造技术实施的前置行为，即非法收受他人提供的具备人脸信息的照片，也是对公民个人信息权益的一种侵犯，因为其用于技术学习的信息数据属于公民的个人信息，白某对其进行了非法获取，破坏了信息管理秩序。当然，还包括利用深度伪造技术，进行编造谣言、扰乱社会秩序等违法犯罪活动。
最后，利用深度伪造技术行为可能构成侵犯公民个人合法权益的犯罪。最常见的场景为对公民名誉权、个人尊严、隐私等的侵犯，实质是对公民基于数字身份所产生的社会评价的污名化侵犯和尊严贬损。在对“伪造”行为进行界定时，依据《最高人民法院、最高人民检察院关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》（下文简称《网络诽谤解释》）第1条有关“捏造事实诽谤他人”的情形划分，利用深度伪造技术将他人真实的音视频、图像等信息篡改为毁损他人名誉的事实，并在网络上散布传播，符合《刑法》第246条第1款的认定。从更严重的情形来看，因深度伪造技术形成的传播人工智能生成物的行为，借助网络空间的累积传播产生网络暴力，导致受害者不堪重负而自杀死亡。该类行为侵害了侮辱、诽谤罪的保护法益。在《网络诽谤解释》第2条规定的情形中，包含了由此造成的自杀等严重后果。由此进行判断，这类行为实际上是对公民名誉权、隐私权的一种侵犯。有学者提出，此时行为与实际法益受损结果之间存在一种无法为既有的具体甚至抽象危险所囊括，却又具有高度盖然性因果的未必的危险，二者之间具有高度关联性，由此显示出前沿技术领域刑法活性化的特征。但技术更新和相关罪名的更新，并不意味着法益本身的彻底变化，而是要根据具体情形进行解释。再者，如果以包括深度伪造技术在内的异化技术作为工具，对公民“造黄谣”，可能构成侮辱罪。除了对公民名誉权的侵犯，利用深度伪造技术行为也可能构成对公民财产法益的侵害。例如，以AI换脸技术破解人脸识别方式，盗刷他人医保个人账户资金，其技术原理实际是运用于“伪造”“篡改”，因此也影响对诈骗罪是否需要处分意识的争议。深度伪造技术在该案中是作为新的数字技术工具和手段而出现的，是技术运用的“恶意”之体现。
当然，就高度不完全中立技术的深度伪造技术而言，对其法益侵害程度的危险性判断，也要符合比例原则。进一步来说，通过生成式人工智能等模型生成的内容准确性仍然是有限的，就其引发的损害结果，对技术本身进行归责显然不符合当前智能化发展水平。而对使用技术的人而言，侵害法益的利益衡量是要在侵害法益与保护利益之间找到最符合相称性标准的解释路径。
（三）治理：前置义务分级保护体系
构建技术异化后的刑法分级保护体系，不仅包含保护模式的转型，也需要依据法规范判断行为的刑事不法。技术的发展脉络表明，仅通过技术治理手段较难稳妥处理法律领域的新问题，还需法律治理起主导和推动作用。
从域外刑事治理体系来看，美国有关深度伪造技术异化的刑事治理，主要采取州法治理的方式，且针对具体领域构建治理体系。美国刑事领域主要关注深度伪造的色情产物，同时也关注政治选举等领域，可将此种治理模式称为典型领域治理模式。在国家安全或社会安全领域，美国得克萨斯州相关方案将“深度伪造视频”定义为“以欺骗为目的而制作的视频，该视频似乎描述了一个真实的人所做的在现实中并未发生的动作”， 以此禁止制作和传播伤害或影响选举的深度伪造视频。在色情传播治理领域，2019年美国加利福尼亚州《AB 602号法案》（Assembly Bill 602）规定在未经本人同意的情况下，禁止制作或传播利用数字技术制作的、含有性露骨内容的图像或视频。《犯罪：欺骗性记录》（Crimes: Deceptive Recordings）的草案文本试图将未经同意制作并传播、展示或交换涉及性行为的“深度伪造”内容定为刑事犯罪。2019年，弗吉尼亚州颁布了《深度伪造责任法案》（Deepfakes Accountability Act），该法案规定传播未经同意的“伪造”的露骨图片和视频属于犯罪，并处以刑罚。比较我国正在构建的AI治理标识义务模式，相关内容尤其是强标识体系值得借鉴。如：利用深度伪造技术生成内容的使用者必须在作品中添加水印，并以书面或音频形式明确披露作品，说明其作品中包含修改过的音视频元素；且技术开发者或提供者也应当在其产品被用于生成深度伪造内容之时，确保使用平台或软件具备相应的提示功能，以明确告知用户合成用途。欧洲国家则主要通过对网络数据、个人信息、平台责任的规范，治理深度伪造技术异化带来的技术风险和法益侵害。与数据治理、个人信息保护相类似，欧洲国家多强调对公民人格尊严的保护。有学者将异化使用称为深度伪造的技术黑暗面，以此论证该项技术带来的危害性和负面影响。德国存在成立多种侵犯名誉犯罪的可能：当传播的深度伪造图像中存在对当事人或第三方的侮辱性评价时，构成《德国刑法典》第185条侮辱罪；若通过该深度伪造图像向他人宣称或传播足以使对方产生轻蔑态度或在公众舆论中贬损其人格的事实，则构成《德国刑法典》第186条恶意诽谤罪；此外，根据《德国刑法典》第187条，当行为人故意传播深度伪造技术合成的虚假信息，涉及他人身份或事实时，需要考虑信息是否足以引发公众质疑或贬损其声誉。无论是分散式立法模式、典型领域治理模式，还是未来可能增设新罪的处理模式，实际上都离不开对技术行为本质的法律评价。深度伪造技术异化的刑事治理模式，可以当前刑法罪名的法益解释为核心，逐步更新和完善深度合成系列流程的规定、办法，并对网络平台的义务进行进一步细化和明确，进而构建以前置义务分级保护体系为主要内容的刑法分级保护体系。
1.义务导向下的严格且必要治理
参照实际恶意的危险程度对技术异化行为进行分级治理，对高度不完全中立技术实行必要管制，从而使平台承担严格且必要的前置义务，具有合理性。在刑事治理体系构建过程中，基于恶意的评判模式，深度伪造技术具有较强的治理针对性。美国学者丹尼尔?希特朗（Danielle Keats Citron）在《网络空间中的仇恨犯罪》（Hate Crimes in Cyberspace）一书中指出，网络环境的特性加剧了仇恨犯罪的问题，网络骚扰和跟踪作为具有个性化特征的“仇恨”，是仇恨犯罪升级为数字仇恨犯罪的典型表现。而深度伪造可能就是仇恨3.0的代名词。公民的照片、声音、视频、身份特征倘若在未经同意的情形下被数字化，可能造成对其名誉、隐私、尊严、情感等的特殊伤害。我国数字仇恨类犯罪的特点是高度依赖数字平台与数字技术，因此，对技术异化行为的分级治理，必须考虑到对技术使用的实际恶意危险程度，以此判断其生成内容的危险后果是否值得刑法处罚。
从前置义务的具体治理内容来看，应围绕标识责任义务原则和公民知情同意的核心要素构建一体化刑事分级保护治理体系。标识责任义务是我国深度合成内容的核心内容，一方面，要求网络服务提供者、深度合成技术提供者、深度合成技术支持者应当履行管理责任、承担信息安全义务。依据《深度合成管理规定》第8条，服务提供者在制定平台规则、平台公约、服务协议方面承担义务，且该类义务必须以显著方式提示支持者和使用者。那么针对平台发布的相关作品，可以进行分级检测和分级推荐，尤其是对涉及侵害法益的生成内容，需采取强标识、显式标识手段予以提示说明。另一方面，公民的知情同意，则是对技术进行分级治理的例外。比如，2023年7月，国家互联网信息办公室等发布《生成式人工智能服务管理暂行办法》，其中第2条第2款规定，国家对利用生成式人工智能服务从事新闻出版、影视制作、人艺创作等活动另有规定的，从其规定。
关于负向使用的场景而言，在“平台判定用户内容AI生成首案”中，用户在网络平台发布有关人工智能生成合成的内容时，未使用平台提供的合成内容标识工具，由此引发网络平台自动化决策，进而导致对该内容的判定产生纠纷。北京互联网法院最终判决，被告恢复违规处理内容、删除禁言处理记录。这实际上涉及《内容标识办法》有关显式标识和隐式标识的规定，涉及技术服务提供者、使用者的各方责任问题。针对正向使用的场景而言，利用深度伪造技术进行的电影制作、“古董会说话”等创作场景，实际上是深度合成技术的领域拓展。《深度合成管理规定》《内容标识办法》等部门规章、规范性文件，使用“合成”一词而非“伪造”，也在一定程度上说明了“合成”更具技术中性的色彩。从语义而言，“伪造”具有贬义等负面评价色彩。而这些深度合成领域的场景运用，主要考虑相关主体是否知情、是否获得了当事人同意，尤其是有关未成年人音视频、图像等信息的技术化处理，必须取得授权同意。
2.场域潜在风险管控的预防机制
从分级保护的治理手段和措施来看，对涉及深度伪造技术的生成内容，要加强技术治理手段的投入和运用，构建潜在风险预防机制。
深度伪造技术滥用带来的高度风险是具有系统性的场域风险，其“根本问题在于它会损害信息生态系统本身”。互联网时代的信息过载状态带来了公民获取信息的多样化，但不同主体所掌握的技术和信息不同，实际造成了信息传播的不对等。如果说深度伪造技术输出的信息内容造成了公民对真实世界的误解，那么技术所导致的信息差距和认知偏见将加剧公民对信息世界的不安和危惧感，尤其是这种负面效应造成的拟态场域环境，实际上带来了对网络空间生态良好秩序的危害。
从深度伪造技术的治理角度展开，不同技术标准在治罪逻辑、治理义务上的衔接和思路存在不同。对数字技术相关问题的治理，采取分级保护模式确有必要，完全中立技术和不完全中立技术治理思路有其合理性实践路径。深度伪造技术作为高度不完全中立技术，既带来了现实法益实质化侵害，也可能产生未来潜在的法益侵害风险。对于这种可能造成泛化的安全风险，基于风险预防主义视角来看，构建潜在风险预防机制有利于减少新兴技术对社会发展造成的负面冲击，这也是应对技术风险的一种防御机制。在治理和打击利用深度伪造技术犯罪活动中，也要强化技术手段的治理作用，发挥以算法和代码规制为代表的自动化技术治理嵌入社会治理的优势，阻断、斩断相关信息的传播路径。同时，利用不断升级的技术鉴定手段，提升对深度伪造生成物、合成物的鉴定识别能力。
五、结 语
风物长宜放眼量，社会进步离不开技术创新发展，社会治理需要我们不断找寻技术的善治之道，这也是良法善治的体现。它既要求规范引导技术创新开发，遏制技术应用的恶意，使其更好地服务人类发展福祉，也是社会治理应对技术化发展的重要议题，以此维护公民的法益保护，推动社会形成与人为善、与技术为善的价值观。尽管本文探讨的是技术异化的治理问题，尤其是刑法分级保护思路，但其并非立法本身的工作，本质是对数字技术治理理念和方法论层面的现实分歧所做的回应和探索，或者说是以深度伪造技术为视角，探讨数字技术犯罪之应对。
因此，传统刑法理念对技术异化现象带来的数字技术犯罪仍有其应对和协调能力。首先，遵循刑法罪刑法定原则的基本原理。刑法面对新技术发展产生的数字技术犯罪，往往是发挥事后法的作用，具有滞后性和一定的手段失灵性，但这并不意味着对行为的违法性和有责性判断可以突破刑法的基本原则。刑法治理手段和治理途径的现实困境，表明需要关注当前存在的漏洞问题，但必须遵循罪刑法定原则，恪守法益保护的法律前提。其次，构建数字技术合理的分级标准和治理体系。网络信息技术的进步，使得社会个体高度互联、人际关系深度重塑，社会变化加剧。这一背景也促使传统刑法理念对网络时代新技术问题进行重要思路的调整，以此推动实现治理体系从单一滞后的治理转向系统化、精准化治理，有利于数字技术向善发展以及和谐有序社会秩序构建。再次，因应数字技术刑事政策的预防性转向。社会风险的频发导致刑法重视社会安全保护，关注日益提高的社会风险并维护社会安全秩序使得积极预防性刑法观具有现实必要性。因此，传统刑法理念对于数字技术犯罪的应对，也在治理思路方面做了一定转型和适应。最后，符合数字技术犯罪的刑法解释学框架。部分学者为了技术治理，有违传统解释学的内容，是不妥当的。传统刑法理念在应对数字技术犯罪时，也需符合数字技术犯罪的刑法解释学框架，或者说在当前刑法解释框架中就能解决这一问题。
【作者简介】
阮晨欣，中国政法大学副编审，法学博士。
