2026年9月23-25日，中国国家主席习近平对美国进行国事访问。其间，两国元首达成八点成果共识，其中包括“双方同意建立中美人工智能对话，交流人工智能相关风险和惠益。下次对话将于今年11月举行。双方同意建立人工智能事件的沟通渠道。”白宫公布的成果文件中特别提出，两国领导人同意使用“超级智能”（super intelligence）而不是“人工智能”（artificial intelligence）来指称此次讨论所涉及的新兴技术。

中美作为当前人工智能技术发展处于领先地位的国家，达成这一重要安排，代表着一种人类历史上全新的治理情景和模式，即治理对象尚未完全出现，甚至尚无统一定义，但治理已必须开始。这种治理既因人工智能的空前影响而极端重要，又因技术发展的快速迭代而极不稳定，对中美和全世界都提出了新的考验，也决定这一治理，必须是随着技术演进不断认识风险、预判趋势、前瞻调整、共享惠益并积累信任的体系性工程。

超级智能风险不是一道“红线”，而是变化“区间”

人们往往习惯把人工智能发展想象成一条清晰的阶梯：普通人工智能、通用人工智能，再跨过某个临界点进入超级智能时代。然而，难以划一道清晰红线，之下安全可控，之上“黑客帝国”，已是业界的普遍共识。现实也充分说明，风险并不会等到“超级智能”这一标签正式出现以后才突然发生。近几个月，OpenAI、Anthropic等前沿人工智能企业都出现了训练模型自主越权访问的危险实践，导致上述公司数次决定暂停相关模型训练。这些事件表明，现实中的“刹车点”不在于一个模型是否被正式认定为AGI或超级智能，而越来越取决于：现有控制体系是否还能可靠约束它的能力与行为。

与徒劳寻找一条抽象的“超级智能红线”相比，更现实的治理方向可能是建立一套动态的“风险区间—响应等级”体系：哪些能力组合意味着风险显著上升，哪些异常行为需要加强监测，什么情况需要降低训练速度甚至暂停训练，什么情况经过整改可以恢复，又有哪些行为意味着某一训练路线应当停止。

“共同看懂”是“共同管好”的前提

如果超级智能风险的边界本身处于快速变化之中，那么国际治理首先需要提供的公共产品，不是严格全面的规范文件，而应该是共同知识，这正是中美首先需要进行的“对表”。

中美不必采取相同的人工智能产业政策，也不必共享模型参数和核心技术，但需要逐步建立一套能够彼此理解的风险语言：什么是危险自主性，什么程度的“模型越权”需要上升为安全事件，重大AI风险和事故如何分类，哪些训练路径更可能风险大于收益？……这些目前分散在少数企业内部的安全经验，应当逐步转化成跨企业、跨科研机构、跨国家可以理解和讨论的共同语言。

美国企业在模型研发持续领先，内部研发训练的模型较商业使用的模型更为先进，但美国前沿模型均为闭源模型，这种“黑箱”属性事实上加剧了外部的担心和忧虑，在加强风险信息披露方面，美国企业应作出表率。

此外，超级智能风险治理，不能让几个前沿企业“小圈子”，决定全人类的“总前途”，中美两国政府，应该就如何加强企业监管，统筹发展和安全，作充分交流，在对话中形成法律、人工智能、网络安全、战略研究与公共政策的跨学科、跨行业共同体，为未来的全球治理工程不断奠定能力基础。

无论发展还是安全，都应共同实现

中美人工智能对话，要“交流人工智能相关风险和惠益”。其中极为重要的内容，就应当是中美如何提供公共产品。人工智能首先是人类发展新领域。如果超级智能治理只谈限制扩散、设置壁垒和提高门槛，就很难建立真正广泛的国际基础。一些国家发展，一些国家不发展；一些国家有能力，一些国家没有能力，这种情况可能成为智能时代最大的全球不平等。

在发展领域，中美应当充分交流、探索合作，找到将技术红利转化为全球发展机会的制度性安排，使发展成果更多更公平惠及全人类，保障每一个国家、每一个人类个体不因技术进步而被结构性排除在有尊严生活之外。人工智能发展的最终目的，不是创造更先进的机器，而是创造更美好的生活；不是让智能成为少数人、少数国家的特权，而是让全人类共享技术进步带来的发展机会。

在安全领域，如果高度自动化的网络攻击、生物设计以及其他高风险能力能够被低成本复制，其危害显而易见，但先进智能长期集中于少数国家和企业，可能造成更大危害。如果少数国家具备运用网络智能攻防的先进体系，而大量中小国家仍主要依靠传统技术防御，那么人工智能时代形成的就不仅是“数字鸿沟”，而可能是一条新的“安全鸿沟”。安全成熟、普遍适用的智能能力，应当尽可能转化为广泛的公共能力。换言之，超级智能治理不仅要防止“矛”的危险扩散，也应推动“盾”的普及。全球网络安全能力建设、AI安全工具共享、中小国家智能化防御体系建设，以及国际风险预警和协同响应机制，都应当逐步纳入治理议程。

人类文明延续需要共同守护

陶哲轩与另外24位菲尔兹奖得主近日共同发表公开信指出，AI企业越来越把“解决重大数学问题”本身作为衡量模型能力的目标，可能影响“形成新的概念理解与洞见”这一真正重要问题。

如果AI跨域知识产出和问题解决的速度远远超过人类理解和吸收知识的速度，就可能在大幅提高这一代最优秀科学家生产率的同时，削弱下一代优秀科学家成长所依赖的训练体系。现代科学共同体不是只有极少数塔尖人物。一个顶尖研究者通常需要经历学生、研究生、普通科研人员等漫长阶段，在解题、阅读、实验、失败和反思中逐渐形成专业判断力和创造力。如果这些过程被AI大量替代，那么科研人员如何训练和选拔？未来又由谁来判断AI给出的证明、程序和科学结论是否真正可信？

因此，超级智能治理不能只讨论模型安全，也应关注更广义的文明安全问题——保存人类理解知识、生产知识以及创新能力代际传承的体系。

在竞争中不断塑造可扩大的信任空间

上述问题最终都会回到一个现实矛盾：超级智能机遇和风险具有明显的合作需求，而中美人工智能竞争又在持续加剧。

这种张力在一些美国前沿AI企业的公开主张中已经表现得十分明显。Anthropic明确提出，美国及其盟友应保持在最先进AI领域的领先，并主张继续加强对中国先进芯片、模型能力和相关技术的限制，以确保所谓“民主国家”掌握人工智能发展的主导权。这种主张和限制政策，不得不让中国担心，所谓治理合作，是不是限制中国发展机会的制度枷锁？反过来，美国同样会担心，风险信息交流是否可能演变为能力信息交流，安全合作是否会帮助竞争对手缩小技术差距？

于是，一个典型的安全困境可能形成：担心对方首先获得突破，因此加快自身研发并限制对方；限制进一步增强对方的不安全感；不安全感导致风险评估和安全合作更加困难；安全合作越困难，双方就越有理由进一步加速竞争。

因此，中美超级智能治理最大困难在于：能否在战略竞争中保留下足够的信任空间，使双方可以在此基础上不断扩大必要合作。未来的对话目标，应当是建立一种即使中美技术竞争继续存在甚至加剧，也不至于轻易失效的最低风险合作体系。通过超级智能对话，从最基本的风险“对表”开始，逐步形成共同的风险语言、必要的科学信任、兼顾安全与发展的能力共享方式，以及在必要时能够踩下刹车的战略共识。

超级智能治理，是事关人类前途命运的大事，中美对话，是两国承担大国责任、守护人类前途的重要一步。对于中美而言，真正的考验并不是能否停止竞争，而是在竞争中能否塑造互信、坚持合作，在追求竞争优势的同时，同步风险认知、治理战略风险、促进全球发展、传承人类文明，为人工智能全球治理这一体系工程，贡献决定性力量。