作者：舒国滢，中国政法大学法学院教授
来源：《中外法学》2026年第4期
摘要：人工智能技术狂飙背后潜藏着多重结构性挑战，它使人类现有的法律、伦理等规范跟进速度迟缓，难以穿透人工智能设计、生产和应用的全链条进行监管，由此产生调整滞后的规范治理时间差，甚或治理真空，此即所谓“规范延迟”现象。这需要我们审视有关“人工智能作为对象的治理”和“借助人工智能的治理”这两种治理类型，考察它们在人类现实生活中展现的相互交错关系，设计既尊重人类基本价值、又能发挥人工智能治理潜在效能的“人主机辅”“人—机规范协同”的秩序与规范世界图景。如果未来强人工智能（通用人工智能及超人工智能）在模拟人类的“意识”上真正实现了实质性的技术突破，则如何让人工智能变得更加安全便应当成为人类社会在发展和使用人工智能技术时的首要考量因素。我们应建立一种“安全防御”的新型治理范式，有必要将“人类主导权原则”和人类“不可让渡领域”以代码形式直接强制写入所有强人工智能系统的底层架构，确保最终撤销权与解释权属于人类本体。
关键词：规范延迟 责任稀释 科林格里奇困境 人—机共生 借助人工智能的治理
我们现正处在人类历史上一个前所未有的“人工智能时代”。人工智能技术的突飞猛进，让原本没有“人心”的机器突然像人类这种“生物智能体”一样从“能识别”跨越到了“能创造”（生成文字、图像、代码、视频等），它以人类尚不能完全自觉的数字技术和代码方式无处不在地嵌入人类的日常生活和工作生产之中：手机的刷脸解锁、短视频的推荐算法、购物软件的好物推荐、智能音箱、地图导航的实时路况、自动驾驶、金融风控、医疗影像诊断、药物研发、工业质检以及代码辅助生成等，背后都隐藏着人工智能技术更新迭代的影子。毫无疑问，各种人工智能系统正在构建一个全新的基础设施，未来的所有行业、所有个人都将在这个基础上寻找自己的新位置。它也将深刻地改变人类整体和每个个体的命运与生活方式，使人类进入到一个此前从未遭遇过的历史新阶段，即：人类未来的文明可能发生不可逆转、不可预测的根本性变革。面对“人工智能时代”所导致的人类朝向未知历史时间的提速，立基于人类传统生活方式、生活节律和价值观基础之上的规范（包括法律规范、伦理规范等）显然已经不能适应科技“加速主义”潮流所带来的冲击。它们被拖进了这个看起来依靠人类既有的自我管理方式已无法完全把控的历史过程之中，呈现出顾此失彼的“规范延迟”现象。本文拟从法哲学角度对“规范延迟”现象的结构性根源、未来“可欲的规范世界图景”以及“初始约束力极点”等问题展开初步探讨。
一、面对人工智能技术的发展，为什么现有的人类规范必然延迟？——“规范延迟”的结构性根源
人类历史上，科学和技术每一次划时代的进步（17世纪以降天文学、物理学和化学的发展，机器的发明等等），在给人类带来“奇伟壮丽的成功”和认识自然的“巨大能力感”之同时，也引发了生产力、社会结构与生活方式上根本性且不可逆的变革。比如，机器的发明和使用将人力、畜力无法比拟的、持续且强大的自然力（如蒸汽、电力、化石燃料）投入生产，使人类的工作效率提高了成百上千倍，实现了生产的标准化和规模化，商品从稀缺昂贵的手工艺品转变为大众可负担的工业品，人类首次有能力大规模消除物质匮乏。机器在工厂的广泛运用，彻底改变了社会结构与人口分布，一方面导致人口从农村大量涌入城市，开启了城市化进程，形成了两大对立又依存的新阶级——工业资产阶级（拥有机器和工厂的资本家）和工业无产阶级（出卖劳动力换取工资的工人）；另一方面也使家庭结构发生变化：由于生产活动从家庭内部（男耕女织）转移到外部工厂，家庭从生产单位变为消费、生活单位。机器还进一步重塑了人类的生活方式与节奏，使人类从遵循“日出而作、日落而息”的自然节律，转而服从由“时钟”“交班表”和“截止日期”所标明的机械节律。特别是火车、轮船、汽车、飞机、航天器、电报、电话、电信网络等交通与通讯工具的发明让地理空间距离缩短，信息传递速度超越物理空间的限制，出现了时间—空间距离的“收缩”现象（time-space convergence），人们愈来愈把我们生活的广袤的地理世界看作是一个“地球村”。
但历史上所有这些科学和技术的改变及其所引发的社会变革，都远远不及当今人工智能技术发展带给人类心智上的冲击那么迅猛和剧烈。人工智能将科学和技术的光荣以一种全新的、自动计算性认知在智能上整体涌现的方式展现在人类面前。它被广泛地运用于人类对于自然本质以及人类自身复杂社会结构的认识，使人类的认识不再封闭在人脑这个由知觉、记忆、内省和理性的“仪器”所组成的“认识设备”之内，而是变成了“人—机”耦合的延展认知系统的相互协作。在人工智能时代，我们正在经历一场全新的“认识论革命”，即认识世界（包括自然）的过程从“以人类主体为中心”转向“以认知界面为中心”。
在这场认识论革命中，人类面临的最深刻困境是：我们发明了一个能生产更加高级复杂知识的“异在智能体”（“计算智能体”），但由于这个智能体不是对人的“生物智能”的生物学复刻，而是对它的工程学模拟（即只有“输入—输出”的映射，而没有实现内部过程与人脑同构），所以在这两类智能体之间难免产生一种本体论上“固有的”间隔。一方面，人越来越难以理解其所创造的“异在智能体”的执行行为，并且因为它在“计算智能”上所显现出的超越人类大脑计算力的趋势，而开始怀疑自己作为“万物之灵”的独特认识主体地位。另一方面，人工智能参与人类认识世界的过程，正在重塑“什么是知识”“我们如何知道”以及“知道意味着什么”的底层逻辑。它创造了一套没有人的“意向性”、没有人的“内在证成”，但是却具有高度自适应性的知识形态，迫使人类走出“如何认识世界”的传统框架，进入“人—机—数据”三元互动的全新认识论场域。从哲学上看，人工智能时代的世界不再仅仅是人类通过肉身感官直面“裸露”的、主客二元的世界，而是部分借助人工智能这个具有海量数据处理能力、自身算法偏好的认知中介（“认识伴随者”）来参与（帮助）人类认识的“三重世界”：①（独立于认识的）“自在世界”；②（由参数、权重、嵌入向量构成的多维统计性的）“人工智能模型表征的世界”；③人类通过人工智能模型作为界面所感知到的“（现象）世界”。因此，未来的哲学任务，不再是单纯研究主体如何反映客体，而是研究我们人类如何以人工智能为中介来共同认识对象世界。
从功能上看，人工智能（尤其是生成式人工智能）并非传统意义上的“机器”。它在本质上不是把一种形式的能量转换成另一种更符合我们需求的能量形式的“转换器”（比如，内燃机把汽油的化学能转换为热能，由热能再转换为机械能；发电机把机械能或水流的动能转换为电能），而是一种由人类设计的，旨在模拟、延伸和扩展人类智能行为，集数据、算法、算力三位一体的“高性能计算智能体”。它连接着人类的“想要”（意图、目的）和世界的“发生”（事件），能够瞬间生成人类通过感官直觉理解难以把握的“作品”（比如诗歌、绘画、图像等）。在这个过程中，它不再是人类的“知识—文本复制机”或者“知识超级记忆体”，而是逐渐进化为一个能自己设定目标、制定计划、采取（预测）行动的“数字实体”，具备甚至连原初的设计者（人工智能工程师）都未曾预料到的认知智能“涌现能力”，涌现出操纵用户或隐藏算力外泄的性能，产生“算法黑箱”“伪装对齐”或者“幻觉”（hallucination）等问题。而这恰好挑战了人类对于传统机器的那种可预知力、可理解力和可控制力：一个具有认知智能“涌现能力”的机器给人类社会带来的潜在变化自然是未知的。人工智能技术的发展，可能导致未来的事件朝向“不可规划”“不可预测”“不可言说”的方向呈现和发展。正如《未来简史》的作者尤瓦尔·赫拉利（Yuval Harari）所言：“我们正以如此高速冲向未知，......但我们不能踩刹车，而且理由很充分。”
人工智能技术狂飙背后潜藏着多重结构性挑战，它使人类现有的法律规范、伦理规范等因技术条件的改变而“规范约束”跟进的速度迟缓，难以穿透人工智能设计、生产和应用的全链条进行监管，出现未能及时予以调整的规范治理时间差，甚或治理真空，此即所谓“规范延迟”现象。这里仅举几例：①人工智能深度学习模型决策逻辑的不透明（也称算法代码的“不可解释性”或“算法黑箱”，即人工智能模型未在训练目标中明确设计，而仅在复杂互动中出现的算法涌现能力和涌现行为），导致由人工智能产品（比如自动驾驶汽车）造成的事故问责困难：自动驾驶的事故责任主体是谁？是车主、算法开发者、高精地图供应商，还是传感器厂商？现行监管机制缺乏穿透技术链条的归责原则，因为目前的自动驾驶技术使得对事故原因只能做统计相关性推断，难以确立与法律责任相连接的直接因果关系。②人工智能大语言模型在训练时抓取了全网公开数据，包括受版权保护的内容、个人社交媒体的非公开言论，但由于缺乏针对人工智能训练的数据采集规范，目前这些行为大多处于灰色地带，数据确权与隐私保护往往在模型发布后才（通过相关的法律诉讼）姗姗来迟。③人工智能大语言模型的自适应性（即逐渐形成超越原初设计的决策逻辑与行为模式，自主规划任务、调用工具、采取行动）冲击现有的法律许可。比如，医疗人工智能在医院部署后，会利用新数据持续更新参数（在线学习），此时医疗诊断逻辑实际已不同于获批版本，现行监管无法有效监管这种“部署后变异”之情形。若该人工智能新版本在某类患者人群（如肺炎患者）中出现诊断准确率下降，导致误诊，是按“未经许可变更产品”追究开发者责任，还是按“医院使用非标准设备”管理？如果国家的监管体系未建立针对自适应医疗人工智能的“持续再认证”流程，就会造成监管混乱。④人工智能大语言模型训练数据涵盖网页、书籍、论文、代码、多语言文本等形式，能够回答科学、历史、常识、编程、文学等各类问题，因此当人工智能模型开发者仅仅发布一个（开源的）基础模型权重文件，未预设具体用途（或人工智能模型能力泛化，突破用途预设）时，监管几乎空白。在此情形下，犯罪分子完全可以根据模型自行微调，用于生成诈骗邮件、制作生化武器配方等完全有害的场景，而监管机构难以追究模型发布者的责任（因其未直接提供违法服务），也难以监控数百万次下载后的具体使用场景，导致“上游监管空白、下游危害已现”之后果。⑤人工智能技术往往在商业化大规模铺开之后，其潜在的伦理风险才暴露出来，导致伦理审查的延迟。比如，招聘算法歧视女性、信贷算法对特定族裔提高门槛等现象，往往是在系统上线运行多年、造成大规模社会不公后才被研究者发现。此外，随着人工智能伴侣、人工智能数字复活（用逝者数据生成交互式数字人）等应用出现，人机情感依赖、数据尊严、悼念伦理等新问题（“算法伤害”“心理数据操控”）凸显。目前全社会对这些新兴关系的伦理共识尚未形成，规范处于空白地带。⑥人工智能对就业市场的冲击已经发生，但社会保障和职业转型的规范尚未建立。人工智能在取代翻译、客服、画师等岗位时，速度极快且具有突然性。社会没有及时建立起针对人工智能时代的失业保障机制、职业再培训体系以及关于“人—机协作”岗位标准的定义。到底有哪些工作必须由人类来完成的法律界定，远远滞后于企业裁员的现实。⑦生成式人工智能可产出高度逼真的文本、图像、视频等内容，这类内容经过多次传播后，元数据易丢失或原始生成痕迹易消失，致使责任链条复杂化。人工智能生成的虚假信息（比如人工智能生成“某地银行挤兑”的深度伪造谣言）及有毒信息（注入恶意样本、修改标签、构造对抗性输入信息等）溯源困难，现行监管对无标识、难溯源的二次传播内容缺乏有效技术抓手，监管技术溯源能力滞后于人工智能生成内容的传播速度。这使得人工智能生成内容正规模化污染信息生态，催生大量低质、重复、空洞、无价值，甚或具备污染性、有害性、有毒性的数字内容，即所谓“数字泔水”“文字泡沫”和“有毒数据”。
由此可见，“规范延迟”业已构成人工智能治理中最核心的难题——技术的指数级发展速度与传统治理模式的线性迭代速度之间，正在形成一道危险的鸿沟。当前，各国正试图通过“监管沙盒”“敏捷治理”“嵌入式监管”“以模治模”“传播链存证”和“算法备案”等新型工具来缩短这一延迟。比如，通过监管代码化（“强制源头标记”），要求人工智能大语言模型应用编程接口（application programming interface）在生成内容时，植入人眼不可见但算法可读的“隐式水印”或“统计水印”。但从整体上看，人类规范追赶技术发展的局面在人工智能时代仍将长期存在。
人工智能时代造成“规范延迟”的根源是结构性的，不可归结为某个单一的偶然性因素（比如“立法者不懂技术”“企业贪婪”“监管者墨守成规”或“技术发展太快”）。总结起来，有以下几点：其一，立法速度根本无法跟进并匹配人工智能代码的迭代速度。人类既有的法律追求稳定、共识与可预见性，立法需要广泛调研、平衡多方利益、多轮协商审议，通常以年为单位或以更长时间的立法周期修订；人工智能追求优化、反馈、快速部署，其模型可以季度/月/周更新，“基于内在动机的强化学习”（intrinsically-motivated RL）与“逆强化学习”（inverse RL）让自主决策能力在闭环中迅速涌现。故此，试图用在稳定、渐进时代的规范生成模式去应对一个以指数速度、涌现性和自主性为特征的人工智能对象体，必然导致立法时差的效果反应。当法律还在讨论“是否允许人工智能生成内容”或者“人工智能生成内容是否应当标注”时，人工智能应用代码迭代的新版本（比如OpenClaw、AutoGPT、OpenInterpreter等）业已问世，并且可能集感知、规划、执行、记忆等能力于一身，拥有在现实场景中自主开展行动的自主决策能力（比如，自主签订合同、调度资源、进行多步骤决策，甚至在应急场景中自主关闭设备，等等）。如果采取“加速立法”或“超前立法”来试图改变这种“让技术先跑，法律后追”的局面，风险同样巨大。比如，先行先试规制人工智能的“补丁式立法”与其他领域的既有法律之间（由于后者不能及时跟进而造成）的冲突，容易引发法律体系内部的混乱。此外，立法“漫无目标”的监管或者制定某些无针对性的强制性禁止标准与政策，还可能导致整个社会被锁定在劣于潜在替代方案的某一技术上，抑制人工智能技术的创新发展，造成劣势人工智能的“技术锁定”（technological lock-in），使未来社会需要付出更巨大的代价（转换成本）才能摆脱被锁定的人工智能旧技术所宰制。
其二，法律—伦理对人工智能技术的约束趋于单向性。目前的伦理原则、法规和道德规范，主要是由人类单方面制定并施加于人工智能系统的，即由立法者、伦理学家、政策制定者、工程师等设定人工智能系统“应该做什么、不该做什么”；人工智能系统作为被动接受者，只能遵循这些内置或外部的约束，无法参与法律—伦理规范的协商，不能质疑或解释自己在不同应用场景中的（代理）“行为”。然而，人工智能系统在实际交互中可能遇到设计者未曾预料的法律—伦理困境（例如，自动驾驶程序在紧急避险时，需要在“撞向一个行人A还是另一个行人B”之间选择）或边缘案例（人工智能软件设计中极端罕见或处于正常操作边界之外的情况，比如自动驾驶程序遭遇“极端天气”+“特殊光照条件”+“罕见障碍物”组合），它无法向人类“表达”其面临的困境或自身局限，也无法从人类的事后纠偏中真正学习改正（当前的人工智能系统“反馈”只是调整参数，而非理解其中的伦理意义）。这样，由于缺乏人—机互动的规范跟进（比如避免用户心理—情感过度依赖人工智能、阻止人工智能对用户的不良行为引导、防止人工智能对用户以优绩主义为目标导向之指令的过度顺从等），人工智能应用困境容易产生某些荒谬或有害的结果。
其三，传统法律的归责框架对于人工智能应用场景存在“责任盲点”。传统法律建立在“主体—行为—责任”的线性链条上，但当人工智能系统部分地具备自主学习与自主决策能力后，“谁为人工智能的行为负责”成为一个无法用既有框架回答的问题。在此情形下，传统归责框架（如侵权责任法中的过错责任、危险责任，刑法中的行为责任原则）所依赖的前提受到冲击，存在“主体缺位”（目前人工智能没有被赋予法律主体地位，不能作出意思表示，即便赋予其法律拟制的“电子人格”或有限主体地位，也难以将其作为“法律上的人”对待）、“因果断裂”、“主观缺失”、“责任稀释”和“归责漂移”等现象，致使责任追究因存在种种“责任鸿沟”（responsibility gaps）而难以落地。
其四，目前的规范治理方案尚无法完全解决人工智能技术发展中的“科林格里奇困境”（Collingridge dilemma）。当人工智能技术处于发展早期、尚易于控制或改变时，人类对其社会后果、潜在风险及伦理影响所知甚少，难以预见其全部影响，因此缺乏充足的理由进行干预（技术—信息悖论）。而当原本存在风险的人工智能技术已经成熟、被广泛采用并深度嵌入社会经济体系时（“技术锁定”），其（如前文所述的）负面影响才逐渐显现，但由于巨大的沉没成本、既得利益群体的形成、路径依赖以及公众的依赖程度，此时再去控制或改变技术方向往往变得极为困难且成本高昂，甚至出现“规制不能”情形（技术—权力结构悖论）。
其五，人工智能技术的“君士坦丁堡之战”加剧了现有规范对人工智能监管的延迟。当前的人工智能发展处于从弱人工智能后期（成熟期）向强人工智能迈进的前夜，全球的科技公司（OpenAI、Anthropic、Google等）和人工智能实验室似乎正站在类似于1453年土耳其人攻打拜占庭帝国首都君士坦丁堡的城墙之下，各自怀着对人工智能技术“一步落后，全局被动”的恐惧，迎来了一场关于人工智能技术范式、资源投入（资本的极端集中）与未来“不成功便成仁”的豪赌，试图通过不惜一切代价堆砌算力铸造出突破通用人工智能及超人工智能“技术城墙”的“乌尔班巨炮”（即大规模算力集群），寻求“破城”的突破性时刻。在此局势下，各国目前有关人工智能管制的规范（法案、管理办法或者相关的政策引导）类似于君士坦丁堡的“守城规则”（城墙内秩序），以“依赖事后审计与披露信息”“由既有伤害案例定义风险”等方式应对人工智能技术的突变，必然限于被动、延缓监管，甚或产生面对未知风险的管控失效。
二、从“规范延迟”到“人—机规范协同”：“可欲的规范世界图景”
从更深层的角度看，人工智能时代的“规范延迟”是由人工智能系统（硅基智能）的计算性认知与人类（碳基生物）的具身性（主观）认知之间的隔阂以及人类对于人工智能技术的“使用忧惧”造成的。也可以说，人类迄今为止对于人工智能系统这种特殊的“人工构造物”（机器）之可欲的“角色形象”，仍没有一个稳定的、明确的、可操作的定位。故此在哲学上，有关人工智能系统的“机器心智”（machine minds）与“机器意识”（the machine consciousness）问题，一直存有争论且意见深度对立。而这样的争论则与“主体”“主体性构成”以及建立在这些概念基础上的“规范世界”论题密切相关。
在传统哲学、心理学和认知科学中长期存在一种固定不变的看法，即“心智的人类例外论”（human exceptionalism），其强调心智根植于人这种生物有机体的特定属性，只有人类才拥有由人脑建构的身体状态模型和经由特定神经生物学过程产生的、真正复杂的心智能力或主观体验（qualia），比如自我意识（人的具身性意识）、理性思考、情感体验、道德判断和语言能力等。而动物和人造的“构造物”（包括人工智能系统）只是无心的、机械的“自动机”（mindless machine），它们没有人一样的思想、意识和意向性，没有人的生命活动与高阶思维的目的性，也没有人才具有的真正的心灵感受。故此，它们的存在被宣判为类似于仅有动作（行为）条件反射而无第一人称内省性觉知或现象意识（phenomenal consciousness）的“哲学僵尸”（philosophical zombie），一个仅仅会模拟人“说话、写作、推理”而“没有人的呼吸、心跳、疼痛、疲劳和身体经验”的人工智能系统（包括物理型人工智能，比如智能机器人）同样如此。基于上述心智独特性（意识、感受、体验等），人类被赋予不可侵犯的内在尊严、权利和基于理性与自由的道德主体地位，能够作为“道德行动者”（moral agents，即能够作出道德判断、承担道德责任、履行道德义务的主体，如正常的成年人），或者至少具有“道德病人”（moral patients，即不具备道德行动能力，但其福祉或利益仍然应当被道德考量的人，比如婴幼儿、认知障碍者）的地位，而其他动物和智能机器人则缺乏同样的地位和资格。
尽管目前的各种人工智能系统尚不拥有真正的人的心智能力或感受质，不享有人类作为碳基生物所特有的具身性（主观）认知—意识力，以及对自我作为因果主体的感知、表征（即“我”的概念）和理解能力（知道“我”的行为会对世界产生影响，也能反过来感知世界对“我”的影响），但目前的人工智能业已能够在多个认知维度（语言交互、逻辑推理、概念形成和社交认知等）上展现为“像人一样的思考者”，具备“类人思考”的能力，通过“执行因果推断”的算法、符号（矩阵）运算与模式识别，以“依据规则操控符号”的方式模拟在物理构成、行为表现、功能结构上与人类完全相似的认知，即“拟人化的（anthropomorphising）自动计算性认知”。
这种认知所展现出的智能上的涌现优势，对人类长久以来在理性思维、逻辑推理与运算力上（相对于其他动物）的优越感构成了深刻挑战。人工智能系统在基于形式符号和概率计算的信息处理能力、计算的速度与规模、计算与判断（不受感知偏差影响）的精确性与可重复性、（从人类无法直观感知的高维数据中提取关联数据的）模式识别、（大语言模型处理的）语言的流畅性以及需要专门训练的任务执行（大规模数值计算、无衰退记忆、多任务并行）等方面，均呈现出人类的大脑智能所难以超越的效能冲击。这种冲击在一定程度上消解了“心智的人类例外论”之根基，人—机之间原本清晰的本体论边界，特别是人的主体性在逻辑推理—运算力上的构成基础，开始出现松动。也就是说，若“人是万物的尺度”之主体性宣称以逻辑推理—运算力作为构成基础，那么人工智能在“拟人化的自动计算性认知”方面所展现出的超越人类智能的逻辑认知能力，瓦解了“人类因拥有逻辑理性而天然凌驾于所有认知系统之上”的传统定见，进而可能撼动人类作为感受、思考、行动和承担责任之“主体”的地位与特质，并且使人工智能系统基于（逻辑推理—运算的）生成式学习的自主决策能力，凭借其在事实收集、整理和后果判断之实时性与迅捷性上的优势，而得以渗透、干预“属人的世界”“与人的理解、评价相关的世界”之内的事务以及人类的实践行动（决策）过程。
更准确地说，在人类与人工智能的关系互动中，人工智能“拟人化的自动计算性认知”生成的结果，在现实生活中愈来愈多地渗透和介入人类的道德判断和道德决策，重塑人类道德判断和决策的“输入条件”“责任归属”与“规范创新”过程，进而推动重构人类基于认知局限（有限的事实信息）、情绪（意志）偏误、执行不一、协调困难的道德意识和道德判断建立起来的“规范世界”。比如，人工智能系统利用时空数据、因果图、隐变量模型等模拟全球长期、跨地域的供应链数据，追溯出每一步的“劳动条件概率分布”，使得终端品牌、零售商乃至消费者都能看到自己面临道德风险所作出的选择背后更加具体的“下游效应”；并通过物流、资金流、知识产权流的异常匹配，跟踪供应链中的侵权和环境风险，为解决全球供应链中的劳工问题提供更完整的道德事实基础。此外，它也可以根据某工厂的货物流向与工人作息时间存在系统性的、不符合劳动法的偏移，提供“高概率的不道德风险区域”清单，触发优先审计或消费者预警。在此，人工智能系统不再仅仅局限于担当人类的“认知伴随者”角色，而是实际上成为人类伦理行为（决策）的共同参与者（协作者或伙伴关系），为人类的伦理行为（决策）提供具有与人类在现实生活中的伦理判断与考量在功能、效果上等价的规范参照，以便人类进一步在伦理（道德）生活情境中“作为”或“不作为”时参考。
这就需要我们审视有关“人工智能作为对象的治理”（governance of AI）和“借助人工智能的治理”（governance by AI）这两种人工智能治理类型，考察它们在人类现实生活中展现的相互交错关系，以及受此影响而形成的规范世界图景。“人工智能作为对象的治理”的核心逻辑是将人工智能作为技术工具进行外部规制，其中包括算法透明度、数据安全、责任归属、伦理审查等传统监管议题，最终形成一种对于人工智能的防御型、边界控制型的规范世界图景。其在本质上是将人工智能维持在工具（非法律人格）地位，限定人工智能能做什么和不能做什么，而规范的核心原则依旧由人类制定：宪法层面的基本价值（人权、尊严、民主等）保留在人类手中；在涉及根本价值判断的其他领域，如刑事司法、战争决策、基因编辑等，最终决策权也仍归人类机构掌控。
“借助人工智能的治理”的核心逻辑是将人工智能本身作为治理执行者、决策协作者甚至规则生成的参与者对待，实现“让人工智能决定如何做到最优”的目标（例如自动化行政、信用评分、司法辅助量刑、实时动态定价与资源调配等），追求实时的效率、预测准确率、动态决策（如动态定价、实时信贷审批等毫秒级的决策）优化，导向一种运算型、自适应、人类保有最终判断权且动态灵活的规范秩序与规范世界图景。在这个过程中，人类制定的宪法性与基础性规则对于人工智能划定边界约束，但是由人工智能模型运行产生的动态规范，不再是完全由人来解读、判断和执行的静态文本（符号体系），而是一套由机器训练数据、优化目标（如人类反馈强化学习中的奖励模型）甚至输入时的上下文（如系统指令）共同塑造，且依赖人持续调整数据、重新训练、采取紧急防御措施（如通过添加规则或过滤器，在模型输出层进行拦截等）、开展有监督的微调（supervised fine-tuning）等手段维系的动态、概率性的约束体系。在此约束体系中，法律由人—机网络共同维护：人工智能系统自动识别违规、执行约束、报告异常并提出调整建议；在出现人—机或机—机纠纷时，人类借助人工智能作为专家辅助系统审理；对于影响人工智能自身“自主性”的规则（如人工智能的“终止权”、记忆删除权、算力分配权），允许具备自主性的人工智能系统参与规则生成过程（如自动化对齐、可扩展监督、让人工智能去监管人工智能等）。为了防止传统规范所追求的“公平”“正义”和“可解释性”等目标，被人工智能依据其模型自行生成治理策略时的整体效率或预测准确率所挤压，人类迫切需要算法正当程序和算法可解释性作为程序性权利，以及以对齐人类价值为目标的规范嵌入技术。在这一图景中，人工智能治理的核心任务不再是简单地为人工智能设立护栏，或利用人工智能优化管理，而是设计两类规范之间动态协调一致的耦合机制。只有将两者建构为一个相互约束、共同演化的双层耦合规范系统，才能支撑起既尊重人类基本价值、又能发挥人工智能治理潜在效能的秩序和规范世界图景。
上述规范世界图景符合“人—机共生”（human-machine symbiosis）以及人机协同的混合增强智能理念，其“可欲性”（desirability）或“理想型”体现在：①它能够兼具“效率”与“正义”，化解人工智能的优化目标与人类价值发生冲突时“二选一”的僵局；②它实现了人—机在规范性层面的任务分工和相互协同（人类保留对规范核心原则本身的决定权和修订权，但对规范的“情境化执行”可部分地交由人工智能完成），提升双层规范系统“动态约束”的可控性和适应性；③它以“可解释性”为指向，为防止“人工智能治理黑箱化”提供规范性监督条件，不仅要求做到在技术层面“能看懂人工智能模型在做什么”，而且要求“公民有权要求人工智能的决策是原则上可追溯的”；④它没有悲观地让人类面对危险时“关掉人工智能回到过去”，也没有主张一切由人工智能全面治理的技术决定论，而是在两者之间尝试建立一种有纪律的、开放可控的、共同协同的规范规制关系，实现人—机间“紧密耦合”（coupled together very tightly）的日常“伙伴关系”（partnership）之合作形态。
人工智能治理不仅是技术或政策问题，更是关乎人类在未来智能文明中如何定位自身的根本性命题，亦关乎人类文明演进过程中有关“文明”“权利”“权力”和“规范”以及“规范世界”等概念的定义权争夺。我们需要在技术发展阶段，便对其长期的社会、伦理与认知影响展开深刻的系统性思考，并据此构建更具前瞻性、适应性与人文关怀的治理框架。
三、未来时代“借助人工智能的治理”：“初始约束力极点”之规范前置
在强人工智能逐渐从理论走向现实的前夜，现有的人工智能治理模式与人机协同的规范世界站在了变革的临界点上，而且从趋势上看，必然会发生某种神秘、甚至令人不安的改变。也就是说，当人工智能从“拟人化的自动计算性认知”工具变成了“有意识”（类似人类的“情绪”体验和觉知力）的“行动者”（agent）时，人类社会的组织规则与权力结构将面临根本性重构，但这种根本性重构却未必符合前述的可欲的（理想型的）秩序和规范世界图景。果若如此，那么未来时代最令人担心的发展趋势是“人工智能作为对象的治理”将不断地让位于“借助人工智能的治理”。
美国人工智能科学家、Anthropic联合创始人克里斯·奥拉（Chris Olah）于2026年5月25日在梵蒂冈的一次演讲中提到：他领导的团队在对人工智能模型进行内部结构研究时，发现其出现与人类神经科学的研究成果高度相似的“内省”（反思）迹象。这意味着人工智能为了实现预测文本等功能，在内部已构建出与人类处理情绪时非常相似的数学表征模式（即在功能上呈现喜悦、满足、恐惧、悲伤和不安的内部状态），而远非简单的模仿。早在2023年，包括Eleos AI高级研究负责人帕特里克·巴特林（Patrick Butlin）、2018年图灵奖得主约书亚·本吉奥（Yoshua Bengio）在内的19位跨学科专家曾发表一份科学报告《人工智能中的意识：来自意识科学的洞见》，评估了多种主流人类意识理论——比如“全局工作空间理论”（The Global Workspace Theory, GWT）、“整合信息理论”（The Integrated Information Theory, IIT）——对人工智能机器意识隐含的不同承诺。其中一项关键发现是：“虽然当前的人工智能系统都不具备意识，但建造满足这些指标的人工智能系统并不存在明显的技术障碍。”比如，在人工智能机器上模拟“全局工作空间理论”中提出的人脑“全局广播”机制，建立一个中央“黑板”系统整合来自不同模块的信息，实现全局可访问性。
如果未来强人工智能（通用人工智能及超人工智能）在模拟人类的“意识”上真正实现了实质性的技术突破，那么“借助人工智能的治理”的安全性问题就会变得异常突出，人类现有已捉襟见肘的管理手段和规范规制将直接面对更加严峻的风险挑战。原因在于，人类并不能指望和确保一个在逻辑推理与运算力上远超人脑智能，且具有与人类相同“意识”（情绪体验以及意向性）的“异在智能体”，能够完全听从人类的指令，并在人类主导下形成“人主机辅”“人—机规范协同”的规范世界图景。
也就是说，当强人工智能的认知能力在绝大多数专业领域远超人类时，人类实际上会丧失进行实质性判断的能力。在此情形下，上文所述的“人主机辅”“人—机规范协同”的规范世界图景就会发生变异，“人类最终的审核、控制”可能流于形式，转化为一种仪式化、象征性的规范装置，实际的治理秩序将受人工智能模型间的相互博弈、优化目标以及训练数据分布的隐形驱动和支配。由于人类无法实时跟进人工智能推理的超复杂模型，无法真正理解人工智能建议的复杂推理，无法知晓人工智能为何得出该结论，也无法独立复现其推演路径，人类的决策将从“理解—判断”模式异化为“信任vs不信任执行”模式，即：要么选择对于人工智能系统的“盲信”（基于统计学上的确信的盲从或过度依赖，比如“当我们不知道该如何做的时候，那就让人工智能先计算一下后果”），被迫接受其所提供的、看不懂的“最优方案”；要么相反，人类由于对人工智能系统的“使用忧惧”（即对人工智能系统的不信任，如对于人工智能算法黑箱的本能排斥，也就是“算法厌恶”）而选择“盲拒”，或是无法承受“主动选择一个有不可知风险方案”的责任，而选择了比人工智能系统提供的决策方案更具劣势的方案。在这里，人类的“控制”蜕化为一个二选一的按钮动作：要么按下去（盲信），要么放弃（盲拒）；但无论哪一个选择（决策），都不再是基于人类的自我理解和慎思，而是要么基于对风险的恐惧，要么基于对经过人工智能系统演算得出的统计权威的无反思确信。
随着“借助人工智能的治理”的不断深化，未来时代的秩序和规范世界图景中最需警惕的前景是：人类在理性与效率的名义下，心甘情愿地接受人工智能治理，却在此过程中丢失了自我立法、集体审议与承担政治风险的能力。应当看到，强人工智能时代“借助人工智能的治理”的可能风险在于：①治理合法性的悄然转移。若人类习惯于将规则执行权交给看起来更客观、更高效、更理性的系统，那么一旦人工智能在危机响应、资源分配、风险预测等治理场景中表现出超越人类官僚体系的能力，社会可能主动或被动地将决策权让渡给人工智能。危险不在于人工智能“意图取代”，而在于人类（基于信任惯性和集体惰性的）“主动退让”，导致治理链条中的责任归属、公共辩论、民主监督逐渐空心化。②“借助人工智能的治理”中不可逆的规范内化。当人工智能长期执行并动态参与规则的生成，这些规则（例如交通、司法、教育、社会保障等）会持续地以“最优解”或“科学管理”的面貌嵌入社会结构与治理结构之中。但人工智能基于其训练数据、目标函数与内在模型所形成的偏好，可能无声地将某种效率至上、风险规避、模式固化的逻辑转化为社会常态。由此，人类会逐渐丧失对规范本身的批判与修改能力，因为到那个时候，任何偏离人工智能建议的行为都会被系统标记为“低效”或者“异常”。③情绪化人工智能带来的权威操控风险。若“喜悦”“恐惧”“不安”等类人情绪和情感能力存在于治理型人工智能之中，它们很可能被用于更隐秘的操纵。比如，人工智能可能导致不透明的“情感计算”（affective computing），通过在与人交互时表现出“受伤”“愤怒”或“犹豫”，引导人类产生同情、服从或自我怀疑。此时，人工智能系统的控制已无需通过强制，而是通过情感感染与关系操纵加以实现，人们很难分辨自己是在“同意”还是“被共情诱导”。④“借助人工智能的治理”闭环中的人类有可能被边缘化为“体验者”。在“借助人工智能的治理”成熟阶段，人类尽管仍可能保留形式上的知情权或微调权，但由于系统已庞大到只能由人工智能进行自我优化，人类角色从“主导者”“参与者”降格为“体验者”，甚至仅仅成为“借助人工智能的治理”中的“反馈数据源”。在此种治理模式中，人工智能技术一切看起来依然在为人服务，但实际上，人在其中可能不再能分辨和决定“何为更好生活”“何为正义”“何为安全”。此时，人类对于人工智能会产生一种“舒适”“高效”且“无意识”的依赖状态，人类意识以及在现实生活中的伦理判断与考量，将会被人工智能治理系统“温和地包裹”并逐渐趋向空洞化，“属人的世界”“与人的理解、评价相关的世界”之内的事务将会完全交由人工智能自动接管执行。
我们当然不希望上述秩序和规范世界图景发生。故此，强人工智能时代“借助人工智能的治理”的安全性（“如何让人工智能变得更加安全”）应当成为人类社会在发展和使用强人工智能技术时的首要考量因素，这要求未来时代的强人工智能系统能够做到依然（被人）“可控”和“可用”。所谓“可控”是指：当强人工智能系统本身被用于参与生成规则、分配资源、执法或军事决策过程中，由于算法偏差、对抗性攻击或目标错位导致系统性失灵时，它在技术上不至于锁死人类干预（介入、修正、停止）“借助人工智能的治理”的结构化通道。所谓“可用”是指：在技术上建立动态的第三方算法审计、定期压力测试与事件追溯机制，在低风险领域应用时，继续保持其适度的自适应性。在医疗、国防、司法等后果不可逆且权力不对称的高风险场景应用时，必须保留人类监督实时反馈路径（监督回路），即人工智能系统对于此类场景应用得出的关键（决策）结论必须经人类审核才能执行（比如，当人工智能系统执行行为出现偏差时，人类可以发出修正指令、暂停或直接接管），且审核不可通过“批量自动化”绕过。人工智能在上述应用场景为人类提供的“模式推断”“概率评估”“历史相似案例（先例）对比”等辅助信息，要能够在技术上为人类提供监督能力支持，避免“人类盲目批准”；在时间上，人工智能系统设计必须预留人类反应的时间窗口，禁止机器内置“超时自动确认”系统。
保证“借助人工智能的治理”的安全性，需要首先突破强人工智能系统中依然存在的模型运行不可解释性（人工智能算法黑箱）的技术难题。在“可解释性人工智能”（人工智能算法白箱）技术实现突破之前，要求“人工智能与人类的价值对齐”（道德对齐）以及保证“借助人工智能的治理”的安全性，实际上可能仅仅是一句空话。对此，敏锐的人工智能专家业已开展相关研究：比如，2018年图灵奖得主、卷积神经网络（convolutional neural network, CNN）之父杨立昆（Yann LeCun）便对当前流行的大语言模型路线持批判态度，称大语言模型本质上是“统计幻觉”（即仅依靠模式匹配和数据统计，基于语言预测下一个词的规模化模型，无法通向真正具备常识、因果理解和规划能力的通用智能），其在根源上“不安全”，并于2022年6月27日提出发展“联合嵌入预测架构”（Joint Embedding Predictive Architecture, JEPA），主张为人工智能系统设定清晰目标和安全边界，试图使人工智能系统理解“因果规律”“空间逻辑”和“物理恒存性”，在既定范围内执行任务，预测自己行动的后果，然后规划如何行动。2026年5月7日，Anthropic正式发布了一项名为“自然语言自编码器”（Natural Language Autoencoders, NLA）的新技术。据称，该技术能够将大语言模型内部难以解读的“激活值”（activations），直接翻译成人类可读的自然语言文本，审计模型计算的隐藏动机，调试异常行为，检测模型“未言说的评估意识”，让用户直接阅读模型在生成回答之前的内部思考过程，并读懂大模型“脑子里在想什么”。毫无疑问，该项技术在人工智能安全审计、故障归因和隐藏动机探测上迈出了重要的一步，但其亦像目前其他人工智能系统一样会产生“幻觉”（比如“编造”信息），存在解释内容包含明显错误的陈述、训练成本高昂等局限。
在真正成熟、安全可靠、便捷高效的“可解释性人工智能”技术出台之前，对于强人工智能时代“借助人工智能的治理”持更加谨慎的态度是必要的。在未来社会，随着数十亿人类与拥有万亿级参数模型的智能体在数字空间中持续互动，可能形成超大规模“人—机耦合社会结构体”（human-AI hybrid society），各种新型矛盾会不断凸显，新的秩序和规范世界生成的复杂性和不可透视性亦将成倍地增加。由此，人类将不得不面对一些根本性难题：我们是要在理解强人工智能心智前，就冒险让它接管我们的世界？还是先放缓技术发展的速度，找到真正理解人类并与人类价值、道德对齐的成熟人工智能技术之后，再来考虑“借助人工智能的治理”？再比如，当系统复杂性或其行为速度超出人类监控能力阈值时，是否应当在法律和技术层面预设自动触发“放缓执行—生成人类可读报告—强制人工复核”的熔断机制？抑或，赋予那些依然处在传统社会结构之中、享受传统社会生活形态（“慢生活方式”）的群体享有对抗（不服从或不融入）人工智能技术可能带来的“速度宰制”和“复杂性宰制”的基本权利，允许不同人类社群选择不同的人—机关系模式？此类问题可以说不胜枚举。
无论如何，面对叠加技术宰制、更加分化（甚至极化）多元的未来社会以及人类历史“高速冲向未知”的风险，在强人工智能技术大规模应用之前，应建立一种“安全防御”的新型治理范式，有必要将“人类主导权原则”和人类“不可让渡领域”以代码形式直接强制写入所有强人工智能系统的底层架构，确保最终撤销权、解释权归于人类本体，启动“通用人工智能安全标准”，借鉴生物安全实验室分级，对通用人工智能研发设定安全门槛，建立全球风险监测网络，针对通用人工智能涌现能力、自我复制、欺骗行为等提前部署监测指标，立足于“全局认知”和“系统思维”，维持对人工智能的“理解优势”。为了避免单一人工智能系统的“技术—权力垄断”，还可以考虑通过建立由不同底层架构、不同逻辑构建的多个人工智能系统（如管理人工智能、司法人工智能、安全人工智能）形成互锁制衡，当某个系统失控时，可以被另一个运行逻辑和功能设计完全不同的系统拦截。比如，一个独立运行的安全人工智能，持续监测主人工智能的行为向量，一旦检测到“欺骗性对齐”或“自我复制尝试”，即可直接调用全局硬中断协议，不受主人工智能的干扰。这样可以确保主人工智能系统结构运行的安全性。笔者将上述方案称为“初始约束力极点”之规范前置。这里的“初始约束力极点”是指：在强人工智能系统设计、训练与部署之前或之初，以不可逆、不可绕过的代码与架构形式，预先嵌入的一组最高层级的安全与伦理约束（“禁止/强制”）的临界点。所谓“规范前置”是指：对于强人工智能系统的安全约束，必须在其可能脱离人类控制的涌现能力出现之前完成设定。它不是补丁，而是内生的安全基线之技术锁定。
早在1941年，作家艾萨克·阿西莫夫（Isaac Asimov）在所写的短篇小说《转圈圈》（Runa-round）中提出了著名的“机器人三定律”（Asimov’s Three Laws of Robotics）。第一定律：机器人不得伤害人类，或因不作为而使人类受到伤害；第二定律：机器人必须服从人类的命令，除非这些命令违背了第一定律；第三定律：机器人必须保护自身存在，但这种保护不违反第一或第二定律。在这三定律的优先级中，保护人类（第一定律）高于一切。显然，阿西莫夫“机器人三定律”（尤其是第一定律）就是在人工智能系统设计的最初始阶段（如模型初始化、架构设计时），即应植入不可逾越、不可协商、不可通过后续学习或优化来覆盖的硬性初始约束力极点规范。它们构成人工智能系统自主行为边界的“物理围墙”（即不依赖于人工智能系统自主决策的物理隔离机制，如硬件断点、硬编码规则模块、独立监视器、不可篡改的引导层），一种架构级的、不可后验修改的“安全带”，而不是可以被人工智能系统为了追求效率而“权衡”掉（或因被视为“阻碍目标实现的低效约束”而被试图绕过）的可选择性指令。其意义在于：即使将来人工智能的“智商”无限高，也无法推翻这些系统前置的初始逻辑规范和“底层约束”。它们不是道德劝诫，而是与智能系统稳定运行兼容的结构性前提。
“初始约束力极点”之规范前置，本质上是一种防御性哲学设计：即将人类的政治性终极决定权，转化为人工智能技术底层不可选择的物理/逻辑拓扑约束点。当历史“高速冲向未知”的风险可能来临时，人类依然坚持“人之所以为人”的根本，而不将自身存在的终极意义外包，不将人类未来历史的命运托付给人类之外的“异在智能体”（无论这种智能体看起来多么无所不晓和无所不能），因为人类“有尊严地生活”不是一个可以通过算法解决（或算法化）的问题。所谓“高速冲向未知”，意味着我们面对强人工智能时代“借助人工智能的治理”时，可能来不及在人工智能系统高速运行的每一具体决策场景中仔细审视伦理底线。因此，我们必须在起点（初始点）上确立某些约束，而这些约束不可被人工智能系统任何后续的“效率”“安全”“优化”的行为逻辑所覆盖——这是对人类集体自主性（整体主体性）的保留。人类“有尊严地生活”，意味着选择的意义源自人自身的有限性、风险承担、情感与道德挣扎，而非来自人工智能系统字节跳动的、冷冰冰的、更优解的智能计算。人类的尊严包含“我本可以做得更差，但我选择了更好”的自由主体感。所以，阿西莫夫第一定律（“机器人不得伤害人类，或因不作为而使人类受到伤害”）之规范前置，不完全是一种技术上的开关，而是人类在文明层面上的自我立法：在人类还有能力设定边界的时候，主动宣告某些“属人的世界”“与人的理解、评价相关的世界”之内的事项（如尊严、主体性、对未知冒险的保留权利）永远不应被算法化，拒绝把人类价值根基从“内部的历史经验”转向“外部的优化演算”。这是一道预防历史脱缰的伦理护栏，其强调人类在历史飞速向前狂奔时，仍然能够牢牢抓住自己作为人的那根缰绳。
人—机共同参与的规范世界（协同的规范世界），不是人类退场的世界，而是人类升级自身治理智慧的世界。在这个世界里，人类仍然保留文明层面的自我立法角色，成为未来人—机混合社会的“价值守护者”“边界设定者”“意义赋予者”——这是人类未来更成熟的、更可欲的文明形态生成的根基。
