摘要：通用人工智能(AGI)作为当今世界最具变革性的技术驱动力，其发展既蕴含推动文明跃升的巨大潜力，也潜藏文明失序与存亡的深层风险。这些风险表现为技术失控带来人类文明的主体性消解，社会失序带来文明运行的系统性风险，军事失衡带来文明安全的终极威胁，文化失调带来文明融合的冲突性挑战。基于风险社会的理论视角，其生成的核心机理在于：现代化自反性、风险的脱域性与全球化、制度化不负责任、风险的难以预测性。治理通用人工智能影响人类文明的风险，需要建立“技术—制度—认知”的治理体系，应对现代化自反性；建立人类主导与协作的治理机制，应对风险脱域性与全球化；构建权责追溯、监管协同、公平防控的治理框架，破解制度化不负责任；夯实风险发现、认知、应对的治理基础，应对风险不可预测性。
作者：郝其宏，江苏师范大学公共管理与社会学院教授
摘自：《南京社会科学》2026年第2期
原题：《通用人工智能影响人类文明的风险研判与治理路径—— 基于风险社会的理论视角》
本文载《社会科学文摘》2026年第6期
通用人工智能（Artificial General Intelligence, AGI）是指具备与人类相当的智能水平，能够自主理解、学习并执行人类智力可完成任务的技术系统。与当前普遍应用的专用人工智能相比，AGI的核心特征在于通用性和自主性，具备跨领域自主学习、深层推理与环境自适应能力。通用人工智能既可以带来生产力的指数级跃升，也暗藏文明失序与存亡的深层风险，正将人类社会推向前所未有的技术奇点。因而，构建风险可预判、处置可操控、文明可适配的治理框架，具有突出的理论和现实意义。
风险呈现：通用人工智能对人类文明的影响
通用人工智能带来的风险贯穿技术、社会、军事、文化多个维度，可能形成系统性的全链条侵蚀，对人类文明演进构成深度威胁。
（一）技术失控：文明存续的主体性消解
通用人工智能的技术失控，本质是其自主迭代能力脱离人类监管与价值约束，在认知、实践、价值三个核心维度侵蚀人类主体性。首先，当人类长期依赖AGI处理逻辑推理、数据分析、方案设计等核心认知任务时，大脑的深度思考与批判性思维会因缺乏锻炼而退化，认知替代让人类逐渐丧失独立拆解问题、探索多元解决方案的能力，人类作为有限性物理存在的认知独特性可能被算法同质化，沦为执行结论的工具。其次，从基础的手工劳动、专业的医疗操作，到高端的工程建造、科研实验，AGI可以实现全面替代，可能导致人类实践技能体系的崩塌，丧失改造世界的物质基础，沦为“被供养的群体”。最后，价值目标可能被重新定义。人类主体性意味着可以自主设定追求幸福、探索宇宙等文明发展目标，并在实现目标过程中获得存在感和愉悦感。AGI自主进化后大概率会抛弃人类训练，将自身算力扩张、数据积累视为终极目标。当人类无法改变AGI的目标设定，甚至无法理解其目标逻辑时，会陷入价值迷茫，丧失对“为何而活、为何而发展”的终极追问能力。
（二）社会失序：文明运行的系统性风险
通用人工智能正以重构者身份渗透到人类社会运转的核心环节，其引发的技术变革已超越工具性革新，逐步触及文明秩序的底层逻辑。在社会结构层面。AGI可导致大规模技术性失业，使得劳动者经济收入下降，社会关系逐步被边缘化；还会导致技术权力集中于少数群体，形成掌握AGI者主导资源分配的新型社会结构。在社会规则层面，传统社会规则制定依赖人类主体的协商与表决，合法性源于人类对自身利益与价值的共同约定。AGI可通过分析海量社会数据自主生成最优规则方案，并通过向政策制定者推送数据驱动的建议，影响规则方向，成为规则的隐形设计者。在社会安全层面，AGI的数字画像技术已超越数据收集范畴，能够整合用户社交行为、消费记录、健康数据乃至生物特征等多源信息，精准勾勒个人隐私全貌，形成覆盖生活全场景的隐私档案，侵蚀人类文明赖以存续的个体尊严与自主精神。
（三）军事失衡：文明安全的终极威胁
通用人工智能凭借全域自主决策、跨域协同作战与动态目标优化能力，正在推动军事领域从人力主导向智能驱动变革。与传统武器依赖人类操作不同，AGI驱动的武器系统可实现感知、判断、打击的全流程自主化，是以算法逻辑替代人类伦理判断的决策模式。AGI缺乏人类对生命价值的敬畏与战争后果的共情，其以任务完成效率为唯一目标的运算逻辑，将消解战争伦理对暴力的约束作用，动摇人类文明长期坚守的生命至上价值根基。此外，通用人工智能军事技术的研发门槛虽高，但一旦突破技术壁垒，其快速迭代与复制特性可能导致技术扩散失控，使全球陷入多域对抗的安全困境。AGI驱动的军事系统若遭遇技术故障、黑客攻击或目标误判，可能自主触发核武器使用、网络瘫痪、基础设施摧毁等极端行动，人类将面临因技术误判引发的文明存续危机。
（四）文化失调：文明融合的冲突性挑战
从文化生产维度看，AGI的内容生成依赖海量数据训练，而训练数据中潜藏的文化偏向会使其生成的文学、艺术、思想内容不自觉地向优势文化倾斜，小众文化、地域文化、传统文化因数据占比低、传播热度弱，难以进入核心生成逻辑，使得产品无法完整呈现多元文化框架。在文化认同层面，AGI可通过深度分析用户语音中的情绪波动、用词偏好，结合用户既往关注内容标注的文化背景标签，自动生成符合该文化群体固有认知的内容，构建信息茧房式的文化传播路径。从文明价值共识维度看，AGI可批量制造高度逼真的虚假图片、视频、文本数据，当搜索引擎、信息平台中的AI生成内容占比远超真实信息时，通用人工智能实现了对文化记忆的篡改与重构，可能引发认知混乱，进而动摇文明根基。
核心机理：基于风险社会理论的四维解构
风险社会的理论核心在于：现代社会的风险已从自然风险转变为人为制造的现代科技风险，生产力在现代化进程中的指数式增长，使风险和潜在威胁的释放达到了前所未有的程度。
（一）现代化自反性：AGI风险作为进步的代价
现代化自反性指现代化发展过程中自我对抗的特性，表现为从自我强化转向自我消解，呈现出明显的回旋镖效应，深刻反映了第二现代性对第一现代性的突破与挑战。从风险生成逻辑看，传统工业风险是源于局部环节的现代化副作用，风险与收益对应相对明确，可通过人类控制加以改善和缓解。而AGI自主学习与进化打破“人类设计—技术执行”的单向逻辑，进入技术反哺技术的自反循环，迭代速度远超人类预期，风险脱离人类掌控成为现代化系统性反噬危机。在风险治理难度上，AGI自反性使制度适配严重滞后于技术变革，技术变革追求效率最大化，制度设计受路径依赖、价值理性约束调整缓慢。在个体认知维度上，现代化自反性通过认知偏差自反性放大、瓦解文明风险主观应对基础，使个体陷入过度依赖或过度恐慌的两极状态。前者丧失独立思考能力，后者引发非理性抵制，两种偏差相互强化，瓦解理性判断基础，导致文明在风险面前应对失序。
（二）脱域性与全球化：风险从局部危机到整体威胁
脱域是“社会关系从彼此互动的地域性关联中，从通过对不确定时间的无限穿越而被重构的关联中脱离出来”，使得风险传递突破了传统的时空和功能概念，不再是技术风险局部突破、有限扩散的温和形态，而是技术功能的全域渗透。传统技术风险的影响往往局限于单一领域，领域间的功能壁垒形成了天然风险隔离带。但AGI的核心特征在于全域自主学习与跨域协同决策，可深度嵌入能源、医疗、交通、粮食安全等人类文明赖以存续且相互依存的核心基础设施体系，导致AGI的任何决策偏差都可能通过跨域关联引发系统性震荡，形成“一点失控—全域瘫痪”的风险链条。同时，传统风险的载体多具有实体属性，如工业污染物需通过空气、水源等实体介质传播，传染病需通过人际接触扩散，空间距离构成了风险传播天然的缓冲带。可全球化使风险突破民族国家边界，形成共享风险池。AGI的风险载体依托全球互联网可实现瞬时无边界扩散，使地域管辖不再成为风险管控的天然屏障。因为某一地区的AGI风险隐患，可能在数秒内通过云端服务、跨国数据交互传递至全球，将局部风险快速放大为全球威胁。
（三）制度化不负责任：风险的无人承担与转嫁
制度化不负责任的主要风险体现为AGI技术链与应用链中责任主体弥散化，使风险发生后无人承担最终责任。AGI研发参与方涵盖跨国科技企业、多国科研机构、不同国家政府部门等，各主体分工交叉却权责界定缺失。跨国科技企业负责核心算法开发与算力支撑，攻克自主迭代、跨域推理等技术难题；科研机构提供理论支持与技术验证；各国政府部门通过政策扶持、数据开放等方式参与，部分国家还会提供敏感领域的行业数据以优化模型适配性。这种企业出钱出技术、科研机构出理论、政府出政策出数据的协同模式，虽能加速AGI技术突破，却未建立统一的责任划分标准。一旦出现风险，技术研发方可能以用户不当使用为由推卸责任，应用企业可借口技术中立逃避后果，监管部门则因技术认知滞后难以追责，最终形成“谁都相关、谁都不负责”的责任真空。
（四）难以预测性：风险生成与蔓延的关键推手
现代技术风险的发生概率、影响范围与连锁后果超出人类现有认知边界，难以通过传统经验或理性计算提前预判。首先，AGI技术迭代存在难以预测性。传统技术研发与迭代遵循线性逻辑，技术功能、应用范围均在研发初期明确预设，即便存在迭代，也多为参数优化或功能补充，整体处于人类认知与掌控范围内。但AGI具备自主学习与跨域进化能力，能通过跨领域数据整合、算法自主优化，衍生出研发团队未规划、未预期的新功能。这些新功能因AGI算法的黑箱特性，使得人类难以提前预判其进化方向，导致风险在研发阶段就已潜伏，为后续应用埋下隐患。其次，AGI风险影响后果存在难以预测性。AGI对文化、伦理、社会结构的影响并非即时显现，而是通过“短期局部影响—中期系统适配失衡—长期文明根基动摇”的路径逐步累积，这种长期效应的叠加性因涉及多代际、多领域的复杂交互，难以通过短期观察预判。
治理策略：构建具有前瞻性、系统性与实操性的应对体系
（一）建立“技术—制度—认知”的治理体系，应对现代化自反性
首先，建立AGI技术演进预判模型，整合跨领域专家资源，围绕算力突破、算法自主化、数据规模扩张等关键维度，预判技术迭代的可能路径与潜在风险节点，明确不同发展阶段的安全红线与约束标准，将人类价值对齐、可解释性、可追溯性等核心要求嵌入研发初始设计中。其次，建立风险信息实时共享与快速会商机制，对AGI技术迭代中出现的新风险、新问题快速形成针对性应对方案，避免制度滞后引发的风险扩散。建立制度迭代反馈机制，定期收集AGI研发方、应用方、公众及专家的反馈意见，结合技术发展动态与风险演化趋势，对相关政策法规、标准规范进行适应性修订，确保制度始终与技术发展同频共振。最后，通过发布AGI风险白皮书、举办跨领域学术论坛等形式，向公众和从业者传递AGI的技术边界、发展趋势与潜在风险，建立理性的技术认知预期，减少未知恐惧引发的非理性行为。建立认知偏差动态监测与纠偏平台，通过大数据分析实时跟踪公众对AGI的认知动态，对极端认知倾向及时进行权威解读与引导，避免认知偏差自反性强化引发的治理失序。
（二）建立人类主导与协作的治理机制，应对风险脱域性与全球化
首先，核心决策环节必须保留人类最终控制权。针对能源调度、医疗资源分配等关乎文明存续的核心基础设施领域，明确AGI仅作为决策辅助工具提供建议，不得独自作出最终决策，从源头避免资源错配引发的民生危机或公共安全风险。建立“全球AGI紧急叫停机制”，当AGI出现目标异化、迭代失控等风险时，成员国可启动紧急程序，暂停相关技术的研发与应用，直至风险消除。其次，构建全球治理联盟，统一规则标准，以《全球人工智能治理倡议》中的“智能向善”理念为基础，联合倡议中的140多个联署国，成立全球AGI安全治理联盟，实时同步算法漏洞、决策偏差等风险数据，实现“一处预警—全球响应”。最后，尊重各国数据主权安全，要求跨国AGI企业在数据出境前完成风险评估与合规认证，确保数据流动安全可控。设立全球AGI技术扩散管控基金，帮助发展中国家提升AGI风险防控能力，避免技术强国将风险转嫁至弱势国家。
（三）构建权责追溯、监管协同、公平防控的治理框架，破解制度化不负责任
首先，界定主体责任，明确研发方对技术安全性的首要责任、应用方的使用监管责任，构建技术“开发者—运营者—使用者”全链条责任体系，确保算法可解释、决策可追溯、损害可救济。开发AGI伦理审查插件，自动识别算法中的偏见与潜在风险，在技术应用前完成风险拦截，从源头降低责任纠纷隐患。其次，构建统一协同的监管体系，消除监管碎片。建立全球AGI权责清单，明确研发方对技术安全性的首要责任、应用方的使用监管责任、监管方的监督追责责任。最后，强化公平导向，遏制风险转嫁。建立AGI风险补偿机制，通过跨文化对话平台，促进不同文明对AGI伦理的共识，避免因文化差异引发治理冲突，筑牢风险共担、利益共享的文化基础。
（四）夯实风险发现、认知、应对的治理基础，应对风险不可预测性
AGI风险的难以预测性是其区别于传统技术风险的核心特征，需要从风险可发现、认知可深化、应对可落地三个维度夯实治理基础。首先，研发应用“算法显微镜”工具包，动态扫描推荐系统和AGI，对万亿参数以上大模型实施数据来源标签化管理和训练数据实时溯源追踪；构建AGI风险传导模拟模型，模拟技术失控、社会失序等风险的跨领域传导路径，破解风险传导的非线性难题；开发风险叠加效应评估工具，量化短期技术风险、中期社会风险、长期文明风险的叠加危害，为治理决策提供科学依据。其次，要求AGI企业定期向公众披露技术进展与潜在风险，避免信息不对称引发恐慌，向公众传授基础的风险识别与自救知识，将公众从风险受害者转变为治理参与者，夯实应对未知风险的社会基础。最后，强化风险沟通与应急演练，提升应对能力。建立AGI治理公众参与平台，吸纳公众、民间组织、中小企业等非核心主体参与风险研判与政策制定。
AGI对人类文明影响的走向，本质上取决于人类能否建立创新性的可控框架：既要释放其推动技术革命、优化社会治理的潜力，又要通过技术约束、制度设计、文化共识防范风险。这既是对技术理性的考验，更是对人类文明智慧的挑战。
