习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上提出，人工智能时代人类不得不直面时代之问：当机器开始思考，人类如何与之相处？当算法参与决策，安全如何保障？当技术挑战伦理，治理如何跟上？当鸿沟不断拉大，普惠如何实现？这“四问”从人机关系、技术安全、伦理治理与价值导向四个维度，构成了智能时代全球治理的核心命题。回答好“四问”，是加快构建公正合理的全球人工智能治理体系的关键。

人机关系：确立人在智能时代的主体性地位

人工智能正从“数字世界”走向“物理世界”。在智能时代，人机关系面临三重深刻挑战。一是劳动替代之困，当智能系统能够完成越来越多以往专属人类的工作，人的存在意义与生存来源将面临深刻拷问。二是创造边界之惑，当生成式AI可以产出文学、艺术、科学成果，创新生态和知识产权制度将面临重塑。三是行为自主之危，当算法深度参与个人选择、公共决策甚至主导重要判断，人要避免沦为算法逻辑的被动执行者。

人工智能是增强人类能力的伙伴而非替代人类的竞争者。明确“以人为本、向上向善”的理念，关键在于将人的全面发展确立为技术演进的价值锚点。当前，人工智能正加速向“智能体（Agent）”与“具身智能”演进，大模型能力正从“做题”快速迈向“执行”和“工作”。构建以人的权利保护为核心的法律框架，确立“人类保留事项”清单，明确哪些决策必须由人作出而不可交由算法；建立算法影响评估制度，在部署前系统评估对人权、就业、社会结构的影响；完善劳动保障制度，发挥人工智能在创造就业岗位方面的潜能，切实维护劳动者的权利和尊严，构建更有温度的智能社会。推动“人工智能+”模式，培育以企业为主体、以市场为牵引、以应用为导向、以科研为基础、以人才为根本的创新生态，让机器承担重复性劳动，将人类解放出来从事更具创造性的工作。守护“人的独特性”的价值底线，建立人机关系的伦理准则，确保人工智能始终处于人类控制之下，让人工智能这匹千里马既跑得快又跑得稳，始终保持对自身价值的清醒认知与坚定守护。

技术安全：建立全面的人工智能安全保障体系

算法决策的安全风险在不同层面呈现不同特征。在技术层，数据投毒、模型后门、对抗攻击等手段可以系统性扭曲算法行为，大模型的“幻觉”问题更使输出结果难以预判。在人机协同层，当人类过度依赖算法建议而放弃独立判断，可能出现“自动化偏见”——人对算法错误失去警觉，安全防线在信任中被消解。研究表明，人类在面对高准确率算法时，即便明知其可能出错，也会逐渐放松主动校验，这种心理机制的长期后果是人的判断能力的系统性退化。在系统层，人工智能前沿技术的升级迭代对金融、电力、通信、交通等关键基础设施构成潜在威胁。三重风险叠加，使得传统“事先预防—事中控制—事后追责”的安全框架捉襟见肘。这些风险并非孤立存在，而是在应用中相互强化——技术漏洞可通过人机协同放大，系统级威胁又可能因自动化偏见而被低估，形成“风险连锁反应”。

构建“伴随式治理”的安全架构，将治理嵌入技术发展的全生命周期。首先，建立治理架构，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。为人工智能大模型加装必要护栏，确保前沿模型的安全部署，防范人工智能带来系统性风险。其次，探索分类分级管理的敏捷治理模式。不同领域、不同场景的人工智能应用面临不同的安全风险，需要差异化的治理策略。对高风险领域实施严格的事前审批和持续监管；对中低风险应用采取备案制和行业自律相结合的方式。同时建立快速迭代的规则更新机制，使治理规则能够跟上技术演进的节奏。最后，构建智能体的行为追溯机制。智能体是人工智能产品和服务的新形态，应当明确决策权限和行为边界，建立行为追溯和风险提示机制，着力提升智能体内生安全能力，化解应用衍生风险。

伦理治理：明确人工智能伦理标准和指引

人工智能的广泛使用带来日益严峻的伦理挑战。生成式AI批量制造高逼真虚假信息，深度伪造降低诈骗和舆论操纵门槛，持续侵蚀社会信任根基；算法嵌入决策流程，人类独立判断能力和批判性思维面临退化风险；情感陪伴智能体诱发过度依赖，模糊虚拟与现实的边界；智能体自主执行操作时，责任归属变得模糊不清，尤其在自动驾驶、金融交易、医疗诊断等高敏感领域，人机责任边界亟待清晰界定，亟须明确人工智能伦理标准。

2026年发布的《人工智能应用伦理安全指引1.0》明确了“以人为本、智能向善”的理念，确立增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信、敏捷共治、普惠共享九大原则。这些标准为研发、应用和治理提供了统一的价值框架。要构建全生命周期伦理治理制度，实现源头防控。面向未来，要建立敏捷动态治理机制，适应技术快速迭代，将伦理治理从“事后补救”前置为“事前嵌入”，有效提升治理的主动性。建立人工智能伦理风险案例库和重大事件信息交流机制，定期更新、动态优化，为敏捷治理提供实证支撑。实施风险分类分级防控，对高敏感应用（如医疗、司法）实行严格准入和持续监控，对中低风险应用采取备案与行业自律相结合。高校、科研机构和企业要设立独立运行的人工智能科技伦理委员会，将伦理审查嵌入需求分析、数据采集、模型训练、部署应用、迭代更新全流程，从研发端即识别和消解风险。践行共商共建共享原则，依托联合国等多边平台，推动各方在伦理原则、风险分类、责任划分等基础问题上凝聚共识，逐步形成互认的伦理标准框架。唯有坚持敏捷治理，在标准上求同存异、在实践中协同共进，才能让伦理治理跟上技术步伐，确保人工智能始终向善、安全、公平发展，真正提升全球治理效能。

价值导向：确保人工智能发展成果惠及全人类

当前全球人工智能发展呈现高度不均衡的格局。从算力分布看，训练大模型所需的核心资源高度集中于少数国家和企业——全球超过70%的AI算力集中在北美和东亚少数经济体。从人才分布看，顶尖人工智能研究者的流动方向与产业聚集高度一致，形成一个“中心—边缘”的全球知识生产结构。从治理话语看，全球南方国家在规则制定中的代表性明显不足。人工智能的核心要素——数据、算法、算力——形成了垄断结构。人工智能技术扩散的“涓滴效应”可能远低于预期，国家间的发展差距可能进一步拉大。发展中国家的数据被采集用于训练服务发达国家的模型，而模型的收益却很少回流到数据来源地，技术流动的单向性掩盖了价值流动的不对称性，免费使用的“开放”往往伴随着无形资产的持续外流。

人工智能是全人类共同的智慧结晶和宝贵财富，人工智能发展不应该是某个国家的独奏，而应当是全球合作的交响。应秉持共商共建共享原则重构全球人工智能治理格局，让人工智能成为促进共同繁荣、维护共同安全的一个重要动力源，增进全人类共同福祉。首先，推动能力建设的普惠化。未来5年，中国将面向发展中国家提供5000个人工智能专题研修培训名额；面向东盟、阿盟、非盟、拉共体、上合组织、金砖国家建设国际人工智能应用合作中心；推动气象智能预警方案“妈祖”在30个国家落地应用。其次，推动开源开放的共享化。开源开放是人工智能普惠发展的重要路径。应当以负责任的方式鼓励共建开源生态，积极打造开放包容的国际开源社区。中国大模型在算力受限的情况下，通过开源策略和底层架构创新（如DeepSeek-R1），在推理能力上已逼近国际顶尖水平，训练成本大幅降低，这种开放模式让广大发展中国家和中小型科技企业看到了参与的可能。最后，推动治理规则的多边化。践行真正的多边主义，切实发挥联合国的重要作用。加强人工智能发展战略、治理规则、技术标准的对接协调，加快形成具有广泛共识的全球治理框架，让这一前沿技术更好造福人类社会。世界人工智能合作组织坚持向善普惠原则，支持全球南方国家加快人工智能发展，弥合数智鸿沟，促进可持续发展，提升创新、应用、治理综合能力，追赶科技革命浪潮。