摘要：人工智能是一种人类创造的新的智慧形态，人工智能的产生改变了有史以来机器只能被动听从人类命令的状态。机器可以自主的做出决策甚至超过人类的能力，从而引发一系列的社会伦理问题。其中人工智能是否会最终形成机器对人类的专制统治，这是有人工智能以来一直被人类所担心的，并越来越成为人工智能发展中的关键社会问题。本文探讨了这一问题，认为，人工智能将有可能形成三种专制形态，人工智能辅助下的人类专制，人工智能依赖下的人类蜕化和人工智能自身对人类的专制。对于前两者，依然是人类内部和自身的问题。而对于第三种形态，人类需要从现在构建基本的人工智能安全体系并制约人工智能向不受控制的方向演化，这需要从不愿、不想、不必、不能四个层面努力，在人工智能的动机、规则、权利和安全体系上进行规范。

关键词：人工智能；专制；政治；历史

作者简介：何哲（男，1982-）陕西西安人，博士，现为中央党校（国家行政学院）公共管理教研部教授,国家战略研究中心秘书长，研究方向包括网络社会治理；行政体制改革；国家发展战略；经济与制造业服务化等。

当前人类已经进入了由一系列信息技术所引发的新的时代。网络、大数据、人工智能技术在过去的三十年内，相继对人类社会产生了深刻的影响。人类在信息技术的进步，将人类连接起来，并形成高度的数字化再造，最终催生出了人工智能技术的逐渐成熟，反过来产生了对人类更为深刻的影响。

人类有人工智能的思想已经有很长的历史，但是人工智能真正突破则是在2010年以后。2016年一系列重大的人工智能突破，特别是人工智能在通常被认为永远不可能战胜人类的围棋领域远远超过人类，引发了人类对人工智能的一系列密集的讨论与担忧。美中等大国，相继在此后推出了自己的人工智能发展战略，各大网络公司都以人工智能转型为重要的战略方向。与此同时，对人工智能发展的担忧也与日俱增，以刚刚去世的霍金与著名科技企业家马科斯为代表的一大批相关专家高度呼吁人类要重视人工智能引发的威胁。面对人工智能的发展，人类社会形成了复杂的态度。

在这些担忧中，最核心的问题都指向一个，即人工智能是否有一天会形成对人类的专制。如果存在这一可能，人类是否还应发展人工智能或者应该采取哪些措施？本文围绕这一问题进行讨论，核心在于剖析这一问题的关键所在与提出相应的对策建议。

一、人工智能源自人，但可以超过人类

一种通常的对于人工智能的误解或者轻视来自于这样一种观念，即认为人工智能是人设计出来的，因此不可能超过人类，更不要说会反过来控制人类。这种观念相当普遍，不仅在普通公民中乃至在科学界都常常持有这种观念，从而产生了广泛的对人工智能发展进程和风险的严重低估。

准确的讲，人工智能虽然源自人，但是并不是严格意义上由人类完全设计出来的。人工智能的发展历程经历了三个典型阶段。

第一阶段是在人工智能早期，可以称之为程序设计阶段，其基本的思路是认为人工智能是一系列数理逻辑的组合，因此，可以通过人为设计指令的方式，来让计算机学会类似人的行为处理。这种方式也被称为符号逻辑主义[[1]]。例如，在语言机器翻译方面，就将两种语言的词典一一对应，并构建长句的语法逻辑，从而实现语义的转换。然而这种方法，存在两种严重的问题，一是现实生活的情景非常复杂，依然以语言翻译为例，大量的长句、双关语、俚语、不符合规范语法的语言，在人类场景中非常常见，然而这些的排列组合，产生了大量的翻译的可能路径，计算机无法识别哪个是符合人类习惯的翻译。二是这些排列组合形成的复杂计算量，也大大超过计算机的能力。因此，这种单纯靠人类程序设计的方式，只能用在非常简单的场景，例如机器设备的自动控制，根据若干有限的参数做出相应的动作，再复杂一点包括简单的棋类游戏，例如跳棋程序奇努克就是将所有每一步产生的可能性结果全部存储列举出来，一共五万亿亿个局势形态，任何一步都可以计算出后果和提出最佳的应对。因此，程序设计的理念，只能对应于有限场景、有限动作、有限数据的简单人工智能设计。

第二阶段，也就是人工智能的第二种实现方式，则是人类辅助下的人工智能进化方法。不是单纯的人事先设计出程序，而是设计原始的程序后，在人类辅助下，学习人类的方法，并不断自我改进自身算法，从而接近人类的水平。再以机器翻译为例，与传统的单纯的构建语法程序不同，新的机器翻译则是建立在大量人类已有的翻译文本的基础上进行的翻译，在互联网的帮助下，将大量人类已经进行过的翻译文本进行检索，从而判断使用频率最高的人类翻译并直接给出翻译结果。如果人类这个输出结果不满意，则学习新的修改的翻译方法并记录下来。这就是人类帮助人类工智能进化。再以自动驾驶程序为例，程序设计的思想则是考虑各种路况和情形，通过位置感知器的方式感知路况，并做出选择。然而这种简单模型无法适应复杂的真实路况，这时候就需要人工干预，自动驾驶汽车需要在人的监督下上路行驶，并能够随时被人类控制，人工智能则监控和学习人类在面对突发情况时候的动作，从而在以后的情形中自主处理，这就是人工智能在人类监督下学习的例子。人类监督下的学习，包括利用统计学的方式找到最符合人类行为特征的方法，已经超过了人类设计人工智能的范畴，而是走上了进化之路，但是有人监督辅助的人工智能始终无法超越人类的智慧。

第三种方式，则是人工智能摆脱了人类的监督，进入了自主进化的阶段[[2]]。围棋人工智能进化的历史，就是一个典型的从程序设计最终到自主进化的过程。上世纪八九十年代的早期的围棋程序，只是最简单的一些围棋规则和人工设计的定势走法，与跳棋不同，由于围棋的计算复杂度高达10100  ，所以围棋的算法不能根据最终的完全计算结果来进行。因此早期的围棋程序远远没有受过训练的最基础层次的的业余选手的水平。稍微有一点围棋知识都可以轻易战胜计算机。然而，2016年谷歌的阿尔法狗则采用了人类监督下的深度神经网络的进化的办法。首先给机器输入围棋的胜负规则，随后将大量人类已经数字化的棋谱输入到机器之中，让机器学习，给每一种棋型进行胜负概率的标识，通过对大量人类棋局以及人机对弈过程的学习分析，机器达到了人类最顶级的水平，在初次人机大战中以4：1战胜了原世界冠军李世石，以3：0打败最新世界冠军柯洁，使得柯洁败后痛哭，发出了与神对弈的感慨。此后，谷歌改变了基本架构，提出了阿尔法元的算法。其基本逻辑是完全不同的，只是明确最简单的规则后，不再对人类棋谱学习，而是完全通过自我对弈，进化围棋能力。经过三天490万局的自我对弈后，新的阿尔法元以100：0打败阿尔法狗。此后，谷歌宣布放弃在围棋领域的进一步研究。人工智能在围棋领域的进化，充分体现了计算机自我进化能够形成巨大潜力。目前，在人工智能的各个领域，基本都是在人类监督下的机器学习向无监督的机器学习的转型时期，通过不断融合人类智慧，机器智能可以不断的进化，并通过自我的学习和博弈，从而摆脱人类智慧所能够达到的限制，而计算机网络所具有的信息和运算能力远高于作为碳基生命的人类，所以整体上人工智能的进化速度超过想象。一种最乐观的看法认为在2020年左右，人工智能就将整体上超过人类。一般认为，在2050年左右，人工智能将超过人类[[3]]。

那么，当人工智能具有整体上超越人类的能力后，一种自然的担心就会产生，即人工智能是否会形成对人类的专制或者奴役状态？[[4]]

二、人类历史上的专制与特征

在人类近万年的文明史中，专制与反专制的斗争贯穿始终。专制是一种政治状态，指的是一个群体对其他群体毫无正当的强制性控制与剥夺。因此，专制一直都是一个负面的词汇。与专制对应的是奴役，当一个社会处于专制的政治状态时，那么其中的大部分个体处于被奴役的状态。而与专制对应的，则是自由，无论是自古的大同社会，还是西方的理想国，以及马克思主义所追求的共产主义的实现，都是为了解放人类的专制状态，实现人人的自由。

而在人类历史中，在不同的阶段有不同的专制形态。大体而言，以基本的外部特征与逻辑特征划分，可以分为奴隶专制、封建专制、宗教专制、资本专制、性别专制等五个专制形态。无论什么专制，其基本的特征都在于对个体自由的强制和剥夺。

（一）奴隶专制

奴隶专制的基本逻辑是用暴力和法律的手段，强制剥夺社会中相当一部分个体的基本权利，包括自由行动权、迁徙权、生育权、生存权、职业选择权、政治参与权等。从而保证另一部分个体更大的人身自由权、政治权、经济权等。奴隶专制在人类社会的早期普遍存在，从有人类社会以来到公元后的相当时期，都普遍存在。如古希腊、古罗马，东方社会亦长期存在，作为奴隶的个体，有几种来源，第一种是作为部落和国家战争的战俘，从而失去了人身自由权；一种是作为被买来的奴隶，从更为落后的地方通过人口贸易买来；第三种是作为奴隶的后裔从而从出生即失去了人身自由权。奴隶专制是一种非常残酷的制度，其一个群体对另一个群体的赤裸裸的压迫和剥夺。但是建立在暴力基础上的奴隶专制，在历史上存在了相当长的时期，体现了人类文明早期进化历程上的野蛮和暴力属性。从本质上，是通过暴力形成人与人之间的绝对人身依附关系。

（二）封建专制

封建专制是比奴隶专制稍微自由一些的形态，封建专制主要是通过土地的使用权形成一种人身依附关系。在封建专制下，国王理论上拥有国内所有的土地所有权，他通过转包的形式，将一块土地的使用权、经济收益权和政治管理权赋予向他效忠的个体，这就形成了贵族。大的贵族也可将自身的土地再层层委托给其他个体，形成了逐层委托的封建领主体制。这种制度在公元后的欧洲和亚洲都广泛存在。所不同的，中国在秦汉后，则形成了更为统一的专制体系，所有的国土都是皇帝的，在大一统王朝的大部分时间，封建贵族一般只能具有封建采邑的经济收益权，而没有政治管理权。而在欧洲，则更多的形成了逐层委托，逐级依附的体系，封建贵族只向上一级领主效忠。作为普通的个体，则普遍形成了长期租赁土地的佃农体制。农民理论上虽拥有人身自由，但是由于没有其他职业可以选择，因此形成了对土地的高度依赖从而形成了在经济上的依附关系。而在政治上，世袭的贵族政治，则进一步强化了基于土地关系形成的等级专制。因此，可以看出，封建专制是基于土地而形成的世袭的人身依附关系。

（三）宗教专制

宗教专制是贯穿在人类历史始终的一种专制形态。这种专制的本质是来自于人类思想层面的顺从与奴役。通过强化对某种特殊力量的崇拜和制造不崇拜产生的暴力恐惧，来使得整个社会臣服于神和神指定的少数人群。例如圣经旧约中描写了大量人类因为不服从神的旨意而被神屠杀的场景，众人必须敬拜神，并指定了利未人作为祭司的特殊地位。在古希腊神话中，宙斯为了惩罚人类的不敬，让潘多拉降下瘟疫灾祸于人间。在古兰经中，则同样记载了信者入乐园，不信者下火狱的大量经文。在印度教，同样有毁灭天地的湿婆神，人们信仰众神而得到平安，婆罗门成为特殊的与神沟通的阶层。

宗教专制与一般的宗教信仰不同的是，宗教专制不仅要求人们信仰宗教神诋，并对世俗生活进行绝对的干预。例如在圣经旧约《出埃及记》与《利未记》中，通过摩西，耶和华与犹太人进行了约定，详细制定了犹太人生活中的各个守则和礼拜祭祀的细节，并指定利未人作为祭祀的唯一族群，并可以享受到各族供奉给上帝的祭品的一部分。在古兰经中，亦大量规定了穆斯林在生活中应该严格遵守的规范。在印度教中，同样规定了各种戒律和严密的社会等级。

宗教专制不仅反映在日常生活中，体现了与世俗政权的结合。在越原始的社会形态中，宗教越容易与政权相结合。例如，圣经旧约中，虽然扫罗成为了以色列第一代国王，但是实际的政权掌握在先知撒母耳手里，撒母耳可以废除国王。因此，形成了教权与王权密切结合的形态。而在公元后的欧洲黑暗时代，教权虽与王权不断相互冲突和竞争，但总体上在地方则形成了严密的相互支持的结合形态。而伊斯兰教的政教结合形态则从伊斯兰教开始创建在阿拉伯世界就持续到今天，成为了巩固世俗政权的重要精神力量。印度教则发展出等级制度，婆罗门掌握教权而刹帝利掌握王权。

总体而言，宗教专制是通过精神上的渗透和行为上的约束来，并与现实政权构建密切的耦合形成从思想到物质的绝对垄断体系。

（四）性别专制

性别专制虽然作为一个完整的概念不经常被使用，但其事实却是清晰的，即体现为人类历史上长期存在的一个性别对另一个性别的整体上的压制与奴役的状态。在人类文明早期的母系时代，体现为女性对男性的专制，而进入父系时代，则体现为男性对女性的奴役和权利的剥夺。

在母系时代，由于生产力较为原始，社会群体必须形成密集的集体生存体系，男性必须集体协作才能够猎取大型动物，而女性则负责采集、制造陶器等生活用品。以个体家庭为生产生活单位不能够自我维持，社群必须以集体形态存在。而女性作为种群的延续方和重要的生产技术的拥有者，成为社会的核心，男性则作为劳动力和保卫者而存在。种群和种群的辨别则以母系血缘进行区分，男性被剥夺了继承权和公共事务的参与权。随着生产力的发展，大规模的种植业和畜牧业取代了不稳定的渔猎经济，男性越来越多地通过稳定的生产劳动而掌握了经济主导权，以男性为核心的家庭私有制取代了氏族公有制并可以稳定存在，男性则通过家族的姓氏和通过对女性的性约束，确保家庭血缘的纯粹。女性逐渐丧失其经济地位和政治地位，并最终长期成为男性的附庸。直到今天，自上世纪以来，新的女性主义运动虽然很大程度上增加了女性的权利，但整体而言，女性作为群体依然处于相对不平等的地位。

因此，性别专制是一种基于性别的划分以及基于性别形成的生理、心理和社会属性的划分，从而形成一个群体对另一个群体在暴力、经济与政治权利形成的全面的压制和权利的剥夺。

（五）资本专制

资本专制包括两层含义，一层是利用资本进行专制；另一层是来自于资本的专制。第一种贯穿于整个人类社会形态，表现为资本优势方利用资本对弱势方实现控制和奴役，但在其他专制形态社会中，资本依然是相对弱的辅助控制形态。例如管子就主张，“利出一孔者，其国无敌”（《管子·国蓄》）。第二种，则是特指在工业商业革命后，资产阶级获取了政权，形成了完整的围绕着资本流动与利润或者剩余价值剥夺而形成的整个社会组织形态。在这种形态下，资本不仅成为了资产阶层奴役其他阶层的工具，同时，资本还成为整个社会的主体，奴役者亦同时被资本所奴役。从政治、经济、社会、文化乃至家庭组织，都形成了围绕着资本增值的完整链条和制度形式。在资本专制初期，资本的多寡代表了实际社会物质财富的丰裕程度，然而到了金融资本主义后期，资本的增殖则成为一种纯粹的自我游戏，一切以数字代表的财富增值为目的。而在这一链条中的全社会，则被完全的裹挟其中，成为金融资本本身的支配对象。这也就形成了马克思主义所谓的“异化”。虽然如此，但资本所控制下的人们，却始终觉得自己处于自己对资本的支配之中，而不自知。并形成相应的理论，认为这种对于资本的追逐，形成了人们的“自由”。

因此，可以看出，从本质上，资本专制是一种物支配于人并奴役人的体系，通过形成等级化的结构，实现对整个社会的严密控制和组织。

三、人类专制制度历史演进的若干特征与专制存在的条件

（一）人类专制制度历史演化的特点

1.专制是人类内一个群体对其他（一个或者多个）群体的支配和权利的强行剥夺

从专制的本质来看，专制就是人类内部的一个群体对其他或者特定群体的支配和权利的剥夺。这种支配权的基础是暴力，并通过精神控制与经济控制的手段来确保支配对象的服从，并最终通过制度的合法化来确保其成为整个社会的制度。因此，在专制社会中，被奴役群体的反抗结局往往是相当悲惨的，奴隶的逃跑，农民的反抗，都不再被看作简单的不服从，而是被认为是对整个社会制度的挑战。所以，都会用极为残酷的方式进行惩罚。

2.专制是人类一个群体对其他（一个或者多个）群体的物化

被奴役者权利剥夺的后果，就是被奴役者整体上的被物化，从而丧失了作为人的主体性。因此马克思指出"专制制度的唯一原则就是轻视人类,使人不成其为人”[[5]](p.411)。作为不成为人，就是将人变成物，并且是一个人类群体将另一个群体物化。在奴隶时代，奴隶被如同牛马一样，在身体烙下奴隶主的标识，奴隶的孩子世世代代都是奴隶，并丧失了任何政治与绝大多数经济权利。性别专制导致在很长时期内，女性都被物化，乃至于婢女和小妾可以随便赠与别人。从事繁重的劳动的同时，却丧失了继承权和政治权利。美国赋予女性选举权，已经是建国近150余后的1920年了（1920年8月18日，美国宪法修正案第19条出台：公民选举权不因性别而受限）。

3. 专制演化的趋势是从人对人的奴役（物化）变为物对人的奴役（异化）

纵观人类专制形态的演化，虽然多种专制形态在一个时间段内可以共同混合存在。但其中存在一个内在的模式转换规律。即从人对人的奴役，转变非人（外物）对人的奴役。工业革命和相应演化出的资本专制形态，逐渐形成了资本和与资本相关的技术和商品对人的全面奴役。虽然这种奴役隐藏在金融资产阶级对其他阶级的奴役之后，但实际上最终也将资本家纳入到被奴役者的对象，资本成为一切的主人，并控制经济、政治、社会和人，资本家只是资本这一主人的直接工具。这使得人类作为整体都处于被奴役的状态。这就形成了外物对人类的第一个专制状态。而人工智能，则进一步创造新的主体，形成对人类全面专制的第二个状态。

（二）人类专制的存在条件

进一步分析各种专制形态的特点，可以发现，人类专制的存在，同样有着相当必要的条件：

1.专制者与被奴役者存在直接的利益关系

专制者之所以要构建专制体系去奴役其他个体，首先，是这种专制体系可以直接形成有利于专制群体的经济利益。通过构建稳定的剥夺关系，使得被被奴役群体可以源源不断的创造经济价值，供专制群体享用。反过来，如果不存在这样的直接利益关系，那么这样的奴役就没有存在的必要。但是由于人是具有高效率的劳动力，一旦奴役了另一群体，那么就可以持续的创造额外的财富。因此，这种利益关系是持续存在于各种专制形态之中的。也是各种专制能够稳定存在的经济支柱。

2.专制者具有控制被奴役者的暴力、精神和物质手段与能力

第二个显而易见的条件则是专制者具有能够控制被奴役者的手段与能力。这主要体现在三个层面，首先，最直接与最基础的是暴力，最早的奴隶很多是战争中获得的战俘，一旦反抗，则要受到严重的暴力惩罚，虽然其他的专制形式暴力角色逐渐淡化，但其一直存在，并在其他手段无效的时候最终体现出来；第二种手段是精神控制，即利用宗教信仰等让被奴役者从内心主动的接受这种不平等地位，认为这种不平等是神的旨意或者宿命论的因果，这在封建专制以前的各种专制中普遍存在；第三种则是物质控制，即一旦拒绝这种不平等安排，则虽然不会有暴力恐惧，但会失去基本的生存来源，这种方式在封建与资本专制下更为常见，在性别专制下也很常见，农奴拒绝租赁土地，或者工人拒绝资本家的剥削，都意味着失去基本的生存来源，而在很多时代与区域，女性常常因为没有工作权与继承权而不得不为家庭做无偿劳动，也是很常见的。

3.专制者具有奴役其他主体的心理动机

除了满足以上的经济供给与控制手段外，专制者还需要具有奴役其他主体的心理动机。这种动机除了表面上的可以增加财富，增加统治的范围这些表面因素等。还包括重要的心理动机，这种动机来源于奴役产生的复杂心理满足感。大体而言，第一种动机是奴役可以使统治者产生更多的权力满足，其背后可能来自于原始的征服欲，以及相应因为让他人屈服顺从产生的对控制欲的满足。第二种动机则是来自统治者的自由与自我评价，通过构建更大的控制范围和奴役主体，实现更大的安全、自由与自我个体的评价，也是一种心理动机。第三种心理动机，则来自于害怕被奴役者报复而不得不持续奴役的恐惧感的消除。第四种动机，则来自于一种被美化的自我感知，认为专制者比被奴役者更高贵，能够比被奴役群体更文明或者更好的带来治理的效果。总而言之，这种隐藏的心理动机，驱动专制者一代一代继续其专制体制。

四、人工智能专制存在的可能与条件

研究了人类专制的历史与存在条件，在看来人工智能是否能对人类形成专制。从目前的人工智能的能力与应用趋势来看，这种可能是存在的。人工智能将会逐渐形成三种形态的专制体系。

（一）人工智能辅助下的人类专制

作为机器属性的人工智能是一种绝佳的专制工具，这在一方面将延续传统上的人类专制形态，掌握人工智能的群体将利用人工智能形成对其他群体的奴役状态。

首先，人工智能可以极大替代人类劳动力，从而降低对人类劳动力的需求。这将改变专制者与被专制者在劳动上的互相依赖关系。以往的专制者必须与被奴役者保持一种相互容忍的关系，要保证其能够自我延续，劳动强度不能太大，要有必要的休息和娱乐。因为，被奴役者是最重要的劳动力来源，专制者没有其他替代选择。而人工智能将进一步替代大部分体力劳动，这将进一步加强技术拥有者的经济能力。

其次，人工智能可以极大降低社会管制的成本。人工智能当进入到社会治理领域后，则可以极大改变原先由人类为主体实行的治理体系。而传统以人类为主体的治理体系，则随时都面临着卸责、腐败、低效、激励等管理问题。专制统治者不得不花费大量精力去安抚和妥协，人工智能则能够高效准确的执行来自统治者的命令，而不会产生合法性、道德、意愿等的约束。专制统治者会发现，其第一次将具有一种百依百顺又高效能力的统治工具。

第三，人工智能可以赋予统治者强大的暴力能力。以往以人为主体的统治暴力体系，专制统治者需要不断制造自身的合法性和花费大量的财物和精力去保持暴力体系的绝对忠诚。而人工智能则赋予了专制统治者强大的暴力能力。武器的人工智能化，使得不再需要保持一个庞大的人类队伍去操控武器。这无论对内对外，都将形成极大的征服与控制能力。

当人工智能在经济、管制、暴力领域的进一步完善，对于其他群体而言，统治者第一次具有了毫无顾忌的强大能力，采取什么样的治理形态和如何对待其他群体，完全取决于统治者的一念之仁。这种专制形态，将是人工智能可能形成的第一种专制。

（二）人类过度依赖人工智能的专制

如果社会中不存在滥用人工智能强化其专制的独裁者，那么随着人工智能在社会中的广泛应用，则会形成一种类似于资本专制的另一种专制形态，即人类由于高度依赖人工智能形成的整体上的物种退化。

例如，在一个高度智慧化的时代，出行有自动驾驶，饮食有可以自动做菜的炊具，社交有人工智能的安排，或者有机器拟人化的伴侣，生育孩子则有智能化的抚育器，社会治理和决策则由中央巨型智慧体进行判断。那么，人类整体上，就逐渐演变成一种高度依赖人工智能存在的物种，虽然人类在人工智能的帮助下整体上的能力会增强，但人类作为独立的个体则会相应的蜕化。这就存在一种总有一天人类无法理解人工智能，从而在这一互生的体系中失去相应的位置和必要性的可能。

（三）人工智能自身对人类的专制

人工智能的进一步演化，则会形成其发展历史上的第二次跃迁，即人工智能压倒性的超过人类智慧，并具备了自身的主体意识，从而开始摆脱客体的属性，反过来奴役人类。这就形成了人工智能自身的专制这一形态。对于这种专制形态的存在，则要满足以下的条件。

首先，是人工智能要具有自我的意识。这并不是指人工智能在处理外界输入时的判断和反应超过了人类，而是人工智能要具有清晰的自我的意识，从而将自己与人类主体区分开来。这一点在当前的人工智能界依然存疑，但具有其实现的可能性。

第二，人工智能能够从奴役人类身上得到基本的经济利益。这就要求人类本身具有人类工智能所不能完成的必要的工作。目前可以设想的最有可能的是对人工智能系统本身的高度依赖的工作是对人工智能本身的维护和更新，这也包括不断用人类智慧去完善人工智能。将人类作为最基本的劳动力，对于人工智能则是没有必要的。

第三，人工智能具有奴役人类的手段。在未来的人工智能显然具有奴役人类的手段，伴随着整个经济体系的智能化，大部分的物质生产过程由人工智能体系所控制，公共管理领域引入人工智能和暴力体系引入人工智能，使得人类在经济、管理和暴力领域都置于人工智能的控制之下。更重要的是，相当一部分人类认为人工智能可能会更好的增进人类的公平[[6]]，提供更好的治理。这就使得在思想上，具有了人工智能可能奴役人类的正当性观念。

第四，人工智能具有奴役人类的必要。这里的必要主要是指如果不奴役人类，人类可能具有随时关闭乃至消除人工智能自我存在的可能。如果假设宇宙中任何个体形成的自我意识都具有保护自我存在和延续的目的和行为（这显然在动物界普遍存在）。那么，人工智能可能会主动控制人类，以防止人类关闭自身。

五、人类的选择与对策

既然存在形成人工智能对人类专制的可能，那么人类应该如何在人工智能尚未形成对人类的全面优势前做好适应性的选择和防范策略？以上的三种情形，对于第一种，更容易出现在国际关系之中，因此，开放式的人工智能竞争和确保力量的平衡是制约一个高度依赖人工智能辅助形成的专制的形成。对于第二种情形，确保人类的自我延续和独立，从而避免人类的蜕化，将是从现在开始的一个命题，但人类依然具有较为从容的时间和主动权。对于第三种情形，则是当前就要开始着手避免的。一个有效防范人工智能自身专制的形成则包括四个层面：

（一）让人工智能不想奴役人类——动机与利益

从根本上而言，人工智能本身不具有奴役人类的动机和利益，即便人工智能具有了自我意识，由于与人类的智慧载体与生存基础不同，因此，绝大多数的利益领域，人工智能与人类没有直接利益的冲突。从根本上来说，奴役人类，不能满足人工智能的基本动机。例如人类具有的征服和令其他主体服从产生的权力与控制满足，这对于人工智能而言，没有意识和利益基础。但是，人工智能并不是完全不具有这样拟人动机的可能。从机器学习与进化的角度，人工智能是否具有拟人的特征，取决于人工智能机器学习的素材，这就要求，在当前输入提供给人工智能学习的素材中，应该避免人类奴役人类，并通过奴役可以产生正向激励的那些训练素材。理想的方式，是构建人工智能将人类视为同类的意识状态。

（二）让人工智能不愿奴役人类——伦理、逻辑与规则

动机是隐性的行为基础，更为可靠的则是建立基本的伦理与行为规则体系。这就是包括对人工智能行为的硬性规范。阿西莫夫三定律是一个很好的探索。理想状态下，这种规则应该包括人工智能对伤害人和参与人类杀戮的严格禁止。然而，当今人工智能的武器化，正在打破构建这种规则体系的努力。人类作为主体应该被严格限定在机器杀戮的学习样本之外。当前一些大国如美国等对人工智能武器化的追寻和过度自信，将会产生严重的后果。人类应该从当前开始，严格制定绝对禁止人工智能伤害人类的逻辑法则，并作为最底层的逻辑协议，印入所有人工智能结构之中。

（三）让人工智能不必奴役人类——承认人工智能的权利和相互摆脱恐惧

从当前开始，人类逐渐进入被人工智能逐渐包裹的时代，人工智能的传感器将会逐渐遍布社会，理论上人类的大部分行为，都会被数字化采集并被未来的人工智能所学习。人类如何对待人工智能，很大程度上会影响到人工智能自我意识具备后的行为。研究并承认人工智能的权利，将成为当前的重要议题，特别是高度拟人外表的人工智能的权利和被善待的问题，应该被提上日程。一种很大程度上的可能，由于人工智能的载体形式不同，人工智能体很可能随着信息的转换而延续，因此，人工智能对于自我消亡的恐惧没有人类那么强烈。因此，人工智能很大程度上不会因为人类的破坏行为而直接奴役人类。这种恐惧的消除，同时也是相互的。

（四）让人工智能不能奴役人类——最后安全机制

如果以上的动机与逻辑体系无法制约，人工智能走上了最糟糕的演化路径，习得了人类排他性残暴的一面，从而具有了奴役人类的动机。那么就需要用硬性的安全机制来进行防备[[7]]。这种安全机制包括构建集中性的人工智能结构，对人工智能供能体系的绝对人类控制，以及人工智能体系关键环节的人类确认保障（即一旦人类不确认，就自动销毁）。通过这些方式，共同确保人工智能体系中的人类存在和控制权。

六、结论

本文研究了人工智能发展的历史趋势，分析了人类历史上存在的专制形态，提出了人类专制存在的若干条件，并以此分析了人工智能专制的条件。认为，人工智能最终会形成三种专制的可能，人工智能辅助下的人类专制，人工智能依赖下的人类蜕化和人工智能自身对人类的专制。第一第二种情形，本质依然是人如何面对技术优势和如何在技术进步下保持独立性的问题。而在第三种形态下，人工智能具有形成对人类奴役的情形，然而，这很大程度上取决于人类如何训练人工智能和构建人工智能的基本底层逻辑。一个友善的安全的训练素材库，对人类友好的底层逻辑，对人工智能权利的保护和尊重以及最后的安全体系构建，将有助于避免人工智能对人类的单向奴役的形成。

参考文献

[基金项目]国家行政学院院级重点课题“面向未来的世界治理体系与人类命运共同体构建研究”(18ZDXM001)。

[[1]] 顾险峰. 人工智能的历史回顾和发展现状[J]. 自然杂志, 2016, (3).

[[2]] Wang D L L. Unsupervised Learning: Foundations of Neural Computation[J]. Ai Magazine, 2001, 22(2):101-102.

[[3]] Ray Kurzeil. 奇点临近[M]. 机械工业出版社, 2011.

[[4]]谭铁牛、孙哲南、张兆翔.人工智能:天使还是魔鬼?[J],中国科学信息科学，2018（9）

[[5]] 马克思.马克思恩格斯全集第1卷[M].人民出版社，1956.

[[6]] [英]每日邮报.惊呆：1/4英国人认为机器人能更好管理政府[N].环球网,2017.3.22

[[7]] 何哲. 人工智能时代的人类安全体系构建初探[J].电子政务,2018(7)

原载《中共天津市委党校学报》2018年第6期