摘要:人类智能和机器智能双足鼎立的“双智社会”正在到来。从单智社会进入双智社会绝不是新一轮工业革命,而是对工业革命及其建立的文明形态的颠覆。双智社会带给人类的真正福利不是彻底免除劳动的辛苦,也不是提供极大丰富的物质财富,而是倒逼人类挣脱工业社会的内卷漩涡,向充满生机的更高文明形态奋力攀升。
人类智能和机器智能双足鼎立的“双智社会”正在到来。在这一趋势中,有指标意义的一个新证据是:大模型通过了初级图灵测试。从单智社会向双智社会转变的关键原因在于,人工智能实现了两项原理性突破,同时也是两项原理性局限,即实例性和弱共识性,从而也为“双智假设”增添了强有力的科学证据。“双智假设”为双智社会的基本问题染上了无法改变的底色,也为两种智能在双智社会中的竞争与合作限定了方向。
双智社会的科学思想起源与社会实验
1948年艾伦·图灵的一份内部报告隐含着一个革命性的思想:机器智能的工作原理与人类智能的工作原理可以相同,也可以不同。因此,机器智能与人类智能是两种不同种类的智能,但它们的表现可以相同或相似,即能够完成相同或相似的功能。这就是“双智假设”。图灵测试正是用来检验图灵的上述“猜想”的一种科学实验。1955年约翰·麦卡锡等人提出Artificial Intelligence这个词,并指出,Artificial Intelligence是“研究世界对智能提出的问题,而不是研究人或动物”,这就明确表达出对双智假设的继承。
2025年3月发布的一份实验报告显示,大部分人类裁判将带“人设提示”的两个大模型误识别为人,并认为大模型已经通过了图灵测试。根据报告的分析,本次实验中人类裁判主要依靠日常经验,极少依靠专业训练,完全没有使用来自专门研究的识别技巧。由于图灵设想的图灵测试是依靠来自专门研究的识别技巧的,因此我认为这次实验表明,大模型通过了初级图灵测试,而没有证据表明其通过了中级或高级图灵测试。但是,如果实验结果具有普遍性,那就意味着,任何没有经过AI专业训练或不从事AI专门研究的人(占总人口99%以上),都无法正确分辨大模型与人。也就是说,就多数人的认知而言,机器智能已经达到了与人类智能难以区分的程度。
人工智能应用可视为机器智能的社会实验。在服务业的一些行业中,以大模型为代表的生成式人工智能正在取代部分初级和中级岗位,但仍然依靠人类的高级员工查错纠错。社会普遍相信,这一趋势将逐步增强。除了生成式人工智能之外,人工智能应用还有另外三条主要赛道——规划式人工智能、分析式人工智能和具身智能。这些赛道的AI已经表现出比人类更强的能力。例如,AlphaFold2在蛋白质结构预测上的能力和成绩远远超过了人类分析师。预期这样的例子即将大量出现。
种种迹象显示,人类与机器的关系已经发生了颠覆性变化,一个前所未有的人类智能与机器智能双足鼎立的“双智社会”正浮出水面。
双智社会的技术基础
大模型代表人工智能研究的最新进展,并进一步证实了双智假设。研究发现,关联度预测是大模型的基础设施或底层机制,可以形式化为类LC理论,包含如下三类公理(其中n≥1):
上述公理代表关联度预测在理论上的基本假设。公理1中的a1n是由n个词符(token,即字词和标点符号)组成的序列,代表一次对话中出现的所有词符,称为语境(即用户与大模型交互的上下文);ai是a1n中的一个词符;b是一个任意的词符。公理1表达如下理论假设:在任何语境a1n下,其中一个词符ai与任意词符b之间存在关联度C(ai, b|a1n),它的值在0到1之间。公理2是对关联度进行推断(inference)的规则,规定多元关联度[如C(a1n, b)]如何归结为二元关联度[如C(ai, b|a1n)]的组合。公理3是决定推断结果的规则(在不同的应用中可能需要不同的公理3)。
在大模型技术体系中,确定任何一个关联度C(ai, b|a1n)的值的唯一有效的根据来源于训练数据。由于公理中的n没有上限(下限为1),所以需要无穷多训练数据才可以提取所有C(ai, b|a1n)的值。但数据的数量不可能是无穷的,所以只有有穷多个C(ai, b|a1n)的值是有数据根据的,而其余无穷多个C(ai, b|a1n)的值是由算法赋予的,既没有数据根据,也没有其他任何通用合理的根据(如逻辑依据)。
类LC理论的一个关键概念是“实例”。以公理1的C(ai, b|a1n)为例,将其中的n固定为一个正整数,用二个具体的词符A和B分别代入ai和b,用n个词符组成的序列D代入a1n,通过训练或算法赋值得到C(A, B|D)的具体值,就得到C(ai, b|a1n)的一个实例。
公理本身是由变量(如公理1中的n、ai、b和a1n)和函数(如C)组成的,而公理的实例不含任何变量,只含常量(如具体的正整数、词符、词符序列和0到1之间的具体实数)。公理的概括性表达是用公理代表其所有实例;公理的实例性表达则是用公理的实例代表公理。
以往的逻辑、数学、人工智能和科学理论都采用公理的概括性表达,而描述大模型的类LC理论却必须采用公理的实例性表达,因为通过训练或算法赋值只能确定类LC公理的实例,不能确定公理本身。这称为类LC理论的实例性。实例性是大模型的一项原理性突破,同时也是一项原理性局限。
有数据根据不意味着无错误,因为数据本身无法避免噪声和其他类型的错误。数据错误可导致大模型产生“错觉”,即对真实的外部输入产生错误的输出,类似于人的错觉。算法赋值也无法避免出错,这种错误引发的大模型输出错误可称为大模型的“幻觉”,因为这种输出错误不对应于任何真实的外部输入,类似于人的幻觉。
类LC理论首次发表后,陆续出现了越来越多的深度测试,揭示了大模型的各种奇异表现,即好得无法解释或差得无法解释的现象。已发现的大部分奇异表现都可以用类LC理论加以解释,有些甚至是被类LC理论提前预言的,并且迄今没有发现类LC理论的反例。
例如,大量实验测试表明,大模型不会计数(即数数)。计数的例子非常多,比如:在一个英文单词里,一个字母出现了多少次?在一个数学公式里,一个符号出现了多少次?提出Transformer算法的研究团队也证实:Transformer算法无法解决不会计算的问题。根据类LC理论,大模型不会计数的原因是实例性:数学和逻辑中的一个抽象运算通常包含无穷多运算实例,分别对应于类LC公理的无穷多实例;为了保证在任何情况下正确地执行这个抽象运算,要求大模型中所有这些类LC实例都是正确的,而这是不可能的。事实上,在任何数学、逻辑运算中大模型都面临相同问题。
其他例子如:(1)大模型不掌握概念,虽然通常能正确表述概念内涵。(2)大模型不掌握逻辑推理,因为概念连结形成判断,判断间逻辑关系的运用才是逻辑推理。(3)大模型与人类之间只存在弱共识性,即关于词符之间统计关联的共识,人类通常无法意识到这一点,所以对大模型产生了普遍幻觉。(4)大模型可以在高考数学科目和奥林匹克数学竞赛等测试中获得极高分数,同时却无法避免低级错误(如计数错误),这是因为大模型只擅长回答有充分训练数据并且数据中不存在统计干扰的问题。(5)大模型的“思维模式”既不是抽象思维也不是形象思维;抽象思维依靠抽象概念上的逻辑判断和推理,形象思维依靠意象和想象,通常是“超统计”甚至“反统计”的。
综上所述,大模型的工作原理与人类智能存在根本性区别,尤其是在数学、逻辑、概念等方面。这再次证明了机器智能和人类智能是不同种类的智能。
双智社会的基本问题
双智社会的基本问题是:两种智能分别占据什么地位?又发挥了什么作用?
一般认为,机器替代越来越多的人类工作是文明进步的必然。对此,本文无法苟同。在工业革命与智能革命之间,存在着“物极必反”的一个“极点”——工业革命中的机器只取代人的体力劳动,所以更多机器替代人的体力,必然导致人的智力更多投入劳动,从而使得人类与机器的社会作用同步增长;而智能革命中的机器同时替代人的体力劳动和智力劳动,这种替代非但不能保证人的社会作用同步增长,反而可能对人类智能的社会作用产生严重的挤出效应。
只要机器以某种形式、在某种程度上取代人类劳动,那么人类就以某种形式、在某种程度上不再是历史的亲历者和创造者。因此,在智能时代,机器代替人承担创造历史的部分重要职能,对人类的影响将更加重大、更加深远。
在双智社会中,两种智能的地位取决于它们各自承担的劳动在社会发展和文明进步中的作用和意义。如果一种智能承担的劳动在社会发展和文明进步中起辅助作用,那么这种智能就具有辅助地位;如果一种智能承担的劳动在社会发展和文明进步中起决定性作用,那么这种智能就具有主导地位。因此,一旦机器发挥决定性作用,其社会意义就将发生根本性逆转。
双智社会中的竞争与合作
关于人类在双智社会中的地位,特别是人类工作岗位被机器替代的后果,目前流行着两种极端看法。两种看法一致认为人类的工作岗位将不可避免地被机器取代,不同在于:极度悲观的看法认为,这意味着人类彻底退出历史舞台,所以人类的结局是悲惨的;而极度乐观的看法认为,当机器替代了人的劳动之后,通过实行“全民基本收入”制度,人将能够“做自己真正喜欢做的事情,不做任何自己不喜欢做的事情”,于是人类将步入没有任何痛苦的“如意人生”。
然而,这一美梦是经不起推敲的。对很多人而言,即便学习念书识字,也难免伴随着一定的痛苦,忍受一定痛苦是获得基本文化素养的必要前提。在没有任何外界约束的情况下,如果让未成年人对自己“真正想做的事情”进行无记名投票,估计得票最高的是“玩手机”。所以对多数人而言,由全民基本收入制度支撑的“如意人生”意味着人的全面退化,进而加速人类智能相对于机器智能的全面落败。所以根据两种极端看法将得出相同的结果——双智社会是不能长久的,人类的未来是没有希望的。
因此,双智社会是一种全新的社会,不是以往单智社会的加强版。人类必须从根本上扭转单智社会的习惯思维,用双智社会的观点展望未来,重新规划未来。
双智社会的发展取决于两种智能之间的竞争与合作。“竞争有利于共同成长”的普遍原理对双智社会仍然有效,但竞争的内涵已经发生了根本性改变。第一,竞争对手不同,单智社会中人类的竞争对手是同类,而双智社会中人类智能的竞争对手是另类(即机器智能);第二,竞争目标不同,单智社会的竞争目标以物质生存为主、精神生存为辅,而双智社会的竞争目标以精神生存为主、物质生存为辅;第三,竞争成效不同,单智社会的竞争成效是更多收获,因为更多收获可以提升社会地位,而双智社会的竞争成效是更多贡献,谁对双智社会的贡献更大,谁就在双智社会中占据更多优势。
为了保持人类的主导性,两种智能的合作须满足如下强制性条件:第一,人类保持机器智能的唯一发明权,即一切本质上的新机器只能由人类发明,机器仅执行被发明的功能;第二,由人类决定两种智能的分工,包括决定哪些劳动可以被机器替代,由两种智能共同落实人类决定的分工;第三,任何机器智能都必须具有可控性和可解释性,以保证机器智能所产生的任何重大社会后果可被人类掌控,由机器智能的劳动所生产的新经验可被人类间接掌握。
双智社会中人的发展
人类将在双智社会中如何发展?为此首先要回答一个关键问题:在双智社会中,人类智能相对于机器智能的核心优势是什么?以下四种能力是机器智能的主要短板和人类智能的主要强项:
第一,判断能力。大模型由于数学、逻辑能力的先天局限,无法避免低级错误,进而导致判断力不足。相对而言,人类具备数学、逻辑和概念的基础能力,在此基础上能够形成更强的判断力,从而识别、纠正大模型的判断失误。
第二,专业能力。大模型依靠从训练数据中提取的统计关联,而专业内容(尤其是默会知识)并不都在数据中,所以大模型的专业能力相对较弱,必须依靠人类掌握的各个领域的专业知识和技能,弥补大模型专业能力的不足。
第三,涉世能力。大模型不与真实世界直接交互,只接触语言型数据,也不具备语言与世界之间的对应能力。相反,人类与现实世界直接交互,通过这种交互能够获得语言数据没有记录的大量真实世界信息,从而超越机器智能。
第四,生机能力,即生命力。机器没有人的生命,也无法获得不可言传的生命体验及由此而生的生命冲动。而人类最重要的特性根植于生命活动之中,生命的精彩是机器智能可望而不可及的。
上述四种能力中,判断能力和专业能力是人类智能和机器智能共同拥有的,但在某些场合人类智能较强,某些场合机器智能较强,人类成员必须强化自己的判断能力和专业能力,才不会在职业生涯中被机器智能淘汰。涉世能力和生机能力是机器完全不具备的,是人类智能独占的领地,也应该是人类在双智社会中长期发展的重点方向。
基于人类的上述四种优势能力,人类智能将与机器智能错位发展,既竞争又合作,从而让两种智能都变得越来越强。
从单智社会进入双智社会绝不是新一轮工业革命,而是对工业革命及其建立的文明形态的颠覆。双智社会带给人类的真正福利不是彻底免除劳动的辛苦,也不是提供极大丰富的物质财富,而是倒逼人类挣脱工业社会的内卷漩涡,向充满生机的更高文明形态奋力攀升。
陈小平,中国科学技术大学机器人实验室主任、广东省科学院人工智能首席科学家
摘自:《自然辩证法研究》2025年第9期