吕陈君:“狗”为什么能弈胜人?

——关于人工智能的数学基础的思考
选择字号:   本文共阅读 753 次 更新时间:2019-07-28 10:25:44

进入专题: 人工智能   超穷序数  

吕陈君  

   其每一层储存状态数目是按幂指数来递增的,这个增速是极为迅速的。假如“狗”的宽度为10,即其基础处理器是一个10个格子的图灵机,那么只要形成2层神经网络——“狗”包括“策略网络”和“价值网络”两层,它就可以具备2^1024 个内部储存状态,这就远远超过围棋所有能走的步骤数 ,即围棋的复杂度。这样看来,围棋的复杂度并不算高。

   如果把“狗脑”和人脑都看作是两台分层神经网络,那么下围棋,为什么“狗”要远远超过人呢?这是因为,“狗脑”的宽度要远远大于人脑的宽度,人脑一次最多只能计算不到20步棋,而“狗脑”一次可以计算上百万步棋。对下围棋这样复杂度不算太高的任务来说,走棋的效率取决于其宽度而不是深度。如果是复杂度非常高的任务,执行的效率就取决于其深度而非宽度了,因为深度的增加会带来内部储存状态数目的指数暴涨。人脑的结构要比“狗脑”复杂得多,它可能比“狗脑”的层次更深,即“狗脑”比人脑要宽很多,但可能没有人脑那么深。从这种意义上说,在执行更复杂的任务时,譬如自然语言理解、自由联想、表达情感、群集(swarm)、遗传、进化等,“狗”可能就未必会超过人了。

   大家之所以对“狗”走棋感到很神秘,因为这一步棋不是计算出来的,但是我们能通过反向传播来计算出走这一步棋的概率。打个比方来说,明天下不下雨是不确定的,但我们能准确计算出明天下雨的概率。在不确定性中往往又隐藏着某种确定性,这其实一点也不神秘。所以,像意识、思维、智力、智慧等这些概念,无须把它们想得太神秘了。凡是能在不确定性的状态中找到某种确定性的结果或结构,我们都称之为“智力”或“智慧”。不仅人脑具有这种智慧,自然界许多自组织系统也广泛存在这种智慧。我们相信,机器也具有这种智慧。因为,这些不同类型的“智慧”都遵循着共同的数学原理。


4 一个数学猜想:超穷数和计算复杂性

  

   在计算机中,一个信息都可以表示成一个数字符号0或1的长串,这就是一个编码,其长度可以用一个超穷序数a来表示,a就表示这个信息的复杂度。显然,越复杂的信息,其编码的长度a就越大。这里,我们先要讲清楚两个问题:

   第一, 实数集和复数集都比自然数集的长度要大,也就是复杂度更大,所以,如果要计算定义在这些集合上的函数复杂度时,当然就需要用到比自然数集的长度w更大的超穷序数a,这是自然的;

   第二, 任何计算机只能处理有穷数,也就是说,它不可能真的有一条无穷长的带子,所以,我们必须还要把一个超穷序数a处理成一个自然数n的迭代函数,这样它才可以真的用于计算。

   所以,我们提出一个数学猜想:可以用超穷序数来表示一个数学公式的计算复杂性,这个超穷序数还能表示成一个可计算的自然数迭代函数。这样一来,就等于是建立了一个通用学习机的超穷数模型。

   按照康托的超穷数理论,超穷序数的增长有两种方式,一种是序数增加但基数不变,譬如序数从 w^2增长到w^3 ,它是按基数w的指数w^n来增长的,我们就称之为“指数复杂性”,这种情况,集合的元素数目是不变的,迭代函数都在同一个集合w中取值;另一种是序数增加、基数也增加,譬如序数从w_1增长到w_2 ,这种情况,集合的元素数目也在增加,也就是说,迭代函数在集合 w_1中取值就变成了在集合w_2 中取值,但可以规定:

   任一u∈w_i g(u) =: 任一u1,u2 ,…,ui ∈w g^i( u1,u2 ,…, ui, u_(i+1)),i≥1

   也就是说,我们可以把一个在集合w_i 中取值的单元函数g,等价转换成一个在集合w中取值的i维空间函数g^i ,所以,如果在集合w_1 中取值,就相当于一个二维空间<(u1 ,u2 )|u1 ,u2 ∈w>,在 w_2中取值,就相当于一个三维空间<( u1, u2,u3 ) | u1, u2, u3∈w>,它是按维数来增长的,我们就称之为“维数复杂性”。

   所以,计算复杂性可分为“指数复杂性”和“维数复杂性”两种类型,这对我们理解机器的内部结构是关键性的概念。一个计算系统的复杂性按照指数和维数来递增,都可以形成分层结构,但这两者的计算行为是不一样的,我们来做一个简单的描述:

   在指数复杂性的计算系统中,其上下层存储状态集的基数是相等的,所以,它的反向传播也是确定性的,只要一步一步去搜寻,必然就会找到匹配的结果。我们打个比方来说,譬如一个密码系统,如果密码的编号就在系统的存储集中,我们只要一步一步去搜寻,总能找到匹配的结果。此时,其反向传播就是线性代数,这就是一个线性的概率分布空间。像AlphaGo就是这样的计算系统,机器总能找到最优的算法,现在AlphaGo能做到13层网络,但它们都是在同一维度空间内的分层结构。我们猜想:在指数复杂性的计算系统中,“N⁄NP问题”是成立的。因为,我们最后总能找到密码,也就是说,机器总能写出一个正确的程序。

   但在维数复杂性的计算系统中,其上下层存储状态集的基数是不相等的,所以,它的反向传播也是不确定性的,我们一步一步去搜寻,最后不一定能找到匹配的结果。譬如,一个密码系统,如果密码的编号不在系统的存储集中,一步一步去搜寻,最后也不一定就能找到匹配的结果。此时,其反向传播就是高维空间向低维空间的投影映射,这就是一个非线性的概率分布空间。我们猜想:在维数复杂性的计算系统中,“N⁄NP问题”是不成立的。因为,我们最后不一定能找到密码,也就是说,机器不一定能写出一个正确的程序。

   这就是我们对计算复杂性的两种直觉思考,当然它还需要做进一步的严格数学定义,还只是一种数学想象。两种计算复杂性,其实也就是两种不同的计算行为。图灵机可以处理指数复杂性问题,但对维数复杂性就不行了,我们必须去探索新的计算模式。通用学习机也好,GAI也好,都需要突破图灵机,这是新一代人工智能理论突破的关键所在。现在人们对计算复杂性、对数学基础的理解,都超越了图灵和哥德尔的时代,新世纪的数学曙光已经照耀在地平线之上。

  

   References

   [1] A. M.Turing(1936) :“On Computable Numbers”,with an Application to the Entscheidungsproblem”,Proc.London Math.Soc.43:544;also 42(1936).

   [2] A. M.Turing(1938) :“Systems of logic based on ordinals”, transcribed by Artificial Intelligence and Computer Science Laboratory, Universidade do Porto, Portugal, September 18, 2014.

   [3] K. G?del(1939):“The Consistency of the Continuum Hypothesis”,Proc.Natl.Acad.U.S.A,25,(1939),pp220-224.

   [4] A. M.Turing(1950) :“?Computing Machinery and Intelligence”,Mind.LIX,no.2236(1950.10),pp433-460.

   [5]AI科技评论(2019):“和 Geoffery Hinton 面对面聊聊”,文章来源: https://mp.weixin.qq.com/s/dXidHuHgLPGc8-nH6E76Ew.

   [6] Chenjun Lv(2016):“Negative Proof about Continuum Hypothesis”,文章来源:https://www.researchgate.net/publication/333942528_Negative_Proof_about_Continuum_Hypothesisrevised_editionpdf.

   [7] Chenjun?Lv,Xiaohui?Zou(2018):“How to Understand the Mathematical Basis of Two Basic Types of Computational Behavior”,文章来源:https://link.springer.com/chapter/10.1007/978-981-13-7983-3_27?from=timeline&isappinstalled=0.

   [8]Rumelhart D,Hinton G,Williams R(1986):“Learning internal representations by error propagation”,in Parallel Distributed Processing,chapter 8.MIT Press,Cambridge,MA.

   [9] M. Malliaris, S. Shelah(2018):“A separation theorem for simple theories”,文章来源:https://www.researchgate.net/publication/328474877_A_separation_theorem_for_simple_theories.

  

  

    进入专题: 人工智能   超穷序数  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益笔会 > 科学精神 > 科学评论
本文链接:http://www.aisixiang.com/data/117444.html
文章来源:作者授权爱思想发布,转载请注明出处(http://www.aisixiang.com)。

1 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网