高奇琦:全球善智与全球合智:人工智能全球治理的未来

选择字号:   本文共阅读 361 次 更新时间:2019-09-08 19:36:05

进入专题: 全球善智   全球合智   人工智能   全球治理  

高奇琦  

  

   要想实现全球善智,需要做出如下努力:

   第一,全球社会要在通用人工智能的发展问题上达成共识。阿西洛马原则强调通用人工智能开发的可行性,这也是西方企业界的共识。它们希望通过开发通用人工智能一劳永逸地解决所有问题。但是,通用人工智能的开发可能会导致人类存在的意义受到挑战。因此,全球社会应该在通用人工智能的发展上形成共识,要总结出哪些类型的通用人工智能是可以开发的,哪些是不可以开发的。笔者认为,一方面,我们不能完全停止通用人工智能的开发,这是因为其确实可以在许多方面帮助人类更有效率地解决某些问题。而且,后期人工智能的发展基本上是以通用人工智能为焦点,各国都会在这一领域竭尽全力,贸然放弃这一领域很可能会导致失去竞争优势。另一方面,要对通用人工智能的类型以及整体发展后果进行充分评估,特别是应该对更高等级的通用人工智能即超 (高) 级人工智能的开发保持足够警惕,因为其很可能会冲击人类的意义世界。

  

   基于此,笔者认为,应该提出一种“机器人新三原则” (下文简称为新三原则) :第一原则,机器人永远是辅助;第二原则,人类决策占比不低于黄金比例;第三原则,人类应时刻把握着人工智能的发展节奏,随时准备好暂停或减速。在新三原则的规范之下,现存的有关机器人的争议可以得到一定程度的解决。例如,根据第一原则,在法律上,我们可以给予人工智能一定的法律地位,但绝不是完整的、类似于人的法律地位。在该领域,沙特阿拉伯政府授予机器人索菲亚以国籍可以视为重要的标志性事件。与此类似,美国在推动无人驾驶汽车的测试过程中,无人驾驶系统被开创性地赋予了司机的地位。欧洲近年来一直在讨论电子人权问题,其中就有主张要赋予人工智能系统某种类似于人类的权利关系和法律地位。笔者认为,智能体应该是“半主权的人”,可以给予智能体一定身份。这里可以参考对公司的认定方式。在公司法上,因为公司是拟制的,所以公司被给予法人的身份。从这个意义上讲,可以给予智能体一定身份,但是这种身份又不能完全等同于人的公民身份。

  

   根据第二原则,人工智能可以成为决策的辅助,但是人类不能将所有的社会决策都交给人工智能完成。第三原则将引导人们更加谨慎乐观地发展人工智能,时刻掌握人工智能的发展节奏。这里提出的人类决策的占比不低于黄金比例的主要目的是,确保人类在将来的人机互动中占据主导地位,确保机器人在决策中处于辅助地位。从趋势来看,人类越来越习惯于将自己的几乎所有决策都交给机器来处理。以地图导航为例,虽然导航系统的发展可以便捷人们的出行,但是完全依赖导航的行为很可能导致退化。因此,应当通过使用机器来提高人类决策的效率,而非将决策完全交给机器。通过设置黄金比例,可以反复提醒我们不能把所有的决策都交给机器。之所以选择黄金比例0.618,是因为当机器的决策一旦超过一半,其存在将可能威胁人类的长期发展和人类自身的意义。当然,在实际操作的过程中,如何评估人类决策与机器决策的占比非常复杂。这一问题涉及大量的细节,计算也非常复杂。受限于本文篇幅,笔者将会在后续研究中加以深入探讨。

  

   西方学者希望通过机器的自主道德性来约束机器。阿约巴和佩尼布指出,虽然人工智能可能拥有情感和道德能力,但也可能没有。面对这种可能,人类最好先完善自身的战略规划。西方学者一般把这种战略规划定义为培养有道德的机器。例如,温德尔·瓦拉赫 (Wendell Wallach) 和艾伦主张,通过建立人工道德智能体即道德机器,使得机器可以明辨是非。然而,笔者认为,西方学者中的这一主流思路从一开始就是错误的。既然要培养道德机器,那么前提就是毫无保留地承认机器的主体性。更重要的是,关于道德内涵的争论在整个哲学史上都没有停止过。那么道德机器的道德是谁的道德?是怎样的道德?我们不希望的是,这里的道德变成了西方主流价值观所定义的道德。

  

   之所以强调人工智能的辅助性,是为了进一步凸显人的主体性。人的主体性需要在实践活动中加以确认和体现。人通过生产劳动改变了自然界的存在形式,实现了人类的构想和目标,从而将自然界置于自己的主体控制之下,成为自然界的主人。然而,人工智能异化的问题在于,人的主体性和实践性受到了根本挑战。马克思在《1844年经济学哲学手稿》中指出:“人的类的特性恰恰就是自由的有意识的活动。”这种“自由的有意识的活动”是人的本质。如果丧失了这一特征,人将难以为人。

  

   第二,要通过一种全球协商机制来对智能化的发展的节奏加以调节。目前人工智能的发展主要由民族国家和企业来推动,然而,人工智能的影响却是全球性的。例如,各国在人工智能发展领域的竞争会形成一种全球层面的焦虑,一国很难在这一领域减速,因为减速很可能意味着出局。这种焦虑可能使得新三原则中的第三原则失效。因此,形成全球层面的机制协调至关重要。我们不能在明确的威胁形成之后,才进行全球协调。在冷战期间,美苏双方的协调是在威胁明确、感觉到已经不能承受的毁灭之重时才开始启动。美苏双方起初都希望拥有更多的核武器,但是当双方意识到核武器的总数已经足以将整个人类文明摧毁成千上万次之后,就开始就核军备控制进行谈判,共同限制核武器的发展。

  

   再如,失业问题同样需要提前进行全球协调。在人类社会适当保存一些冗余设置,或者向人工智能系统征税并补偿失业者,这些都可以为人类社会的自我调节争取更多时间,减缓智能体对人类劳动者的替代速度。否则,人类社会很有可能陷入内部争斗激化的困境。如果缺少对人工智能发展的适度调控,那么南北差距可能进一步拉大,最终导致全球性问题的激化。失业问题同样超出了某一民族国家的能力范围,全球协调的意义更加凸显。

  

   第三,将可解释的、安全的人工智能作为未来发展方向。阿米尔·侯赛因 (Amir Husain) 认为,要推进人工智能的发展,设定超高的安全性和可解释性标准迫在眉睫。未来人工智能的发展要更多向安全、人文和理性这些人类特征靠近。当前这一轮人工智能浪潮主要归功于机器学习中的深度学习算法。深度学习是以数据为基础,由计算机自动生成的特征量。它不需要由人来设计,而是由计算机自动获取高层特征量。典型的深度学习模型就是深层的神经网络。对于神经网络模型而言,提高容量的一个简单方法就是增加隐层的数量。隐层数量增多,相应的神经元连接权、阈值等参数就会增加,模型的复杂度也会随之提高。深度学习强调数据的抽象、特征的自动学习以及对连接主义的重视。但是,深度学习缺少完善的理论。因此,在深度学习的应用实践中,工程师需要手工调整参数,才能得到一个较好的模型,但同时工程师也无法解释模型效果的影响因素。换言之,由于大量内部参数的不可解释性,深度学习本身存在算法黑箱。因此,发展可解释的人工智能就成为关键。与深度学习的路径不同,知识图谱则利用实体链指、关系抽取、知识推理和知识表示等方法,其有希望推动可解释的人工智能的发展突破。

  

   第四,通过智能化来推动解决发展中国家历史性难题。善智更多是赋能,而不是替代。通过人工智能巨大的赋能能力,发展中国家的弱势群体可以有更多的机会来改善自身条件。“我们不需要夺走任何人的东西,只需要用一种更加公平的方式来分配未来的增长,问题就会迎刃而解。”卡普兰的这一观点是有见地的,我们需要把这一观点在国际社会中加以推广和适用。从这一意义上说,智能化应当是多数全球性问题的优化解决方案。例如,许多发展中国家饱受水资源短缺的困扰,通过有效的智能化水资源管理,可以使这一问题得到有效解决。再如,对于发展中国家而言,最大的问题是社会传统对管理活动的影响。智能化方案可以在智能系统和设备的辅助下将社会传统的影响降到最低,从而有效应对一些历史顽疾。例如,通过智能化技术手段可以使对政府的监管更加高效透明,可以在控制行政成本的前提下降低腐败发生的可能。因此,应当把人工智能作为解决全球性问题的重要方案和思路来加以推进。人工智能的最大优点是可以极大地节省人力资源,而联合国和其他国际组织在第三世界国家执行相关任务时的最大难点就是人力资源缺乏,人工智能可以在这方面发挥重要的补充作用。

  

   第五,在全球治理和国家治理之间达成平衡。要想实现平衡,需要在全球层面形成人工智能相关的协调机制,并与国内制度形成积极良性的互动。一方面,目前涉及人工智能的国际规则主要由西方发达国家的企业或机构来推动制定,这意味着从全球层面整体考虑的全球性人工智能治理机制是缺位的。因此,下一步需要发达国家和发展中国家共同推动机制建设。另一方面,全球治理最终还是要回到国家治理的框架中。在国际社会中,国家仍然是最重要的行为体。多数与个人福利、安全保障相关的关键问题最终都要由国家来解决。所以,只谈全球治理不谈国家治理的方案是空洞而不切实际的。在国家治理层面,最为关键的问题是如何通过人工智能的技术和产业发展提高各国 (特别是发展中国家) 的国家治理能力,从而在根本上消除引发全球性问题的国内根源。

  

6.全球合智:消除冲突逻辑的努力

   长期来看,人工智能的发展有助于人们增进了解,但在短期内的频繁直接接触则可能引发新的冲突。人工智能技术能够帮助流动中的人们了解他国文化,但是全球性失业问题加剧的反移民浪潮并不利于人口的全球性自由流动。这表明,人工智能在全球治理中的应用很难直接削弱冲突逻辑,甚至在短期内还会加剧冲突。因此,在价值层面上的准备就更加重要。其中的关键问题是,如何在智能时代形成紧密而团结的全球社会。

  

   在这一过程中,中国的作用尤为关键。在中国共产党第十九次全国代表大会报告中指出,中国特色社会主义进入了新时代,但是中国仍然是发展中国家的一员,仍然处于社会主义初级阶段。中国也在国际舞台中积极为广大发展中国家争取利益。中国提出“一带一路”倡议就是希望就自身的发展经验与其他发展中国家交流,在“五通”的基础上,为其他国家的基础设施和民生项目建设提供帮助。可以看出,中国在思考自身发展的同时,也在考虑广大发展中国家的利益。

  

   在人工智能发展的问题上,中国的态度与西方形成鲜明对比,这体现在如下两点:第一,与西方的悲观论不同,中国对人工智能的发展持谨慎乐观的态度。西方学术界和产业界对人工智能的未来发展结果都非常悲观,这与基督教文化传统中的末世论有密切关系。这种悲观不仅体现在对待人工智能技术的发展上,还出现在其他前沿技术 (如生物技术) 的伦理讨论中。例如,弗朗西斯·福山 (Francis Fukuyama) 就认为,在生物技术的推动下,人类可能会进入一个后人类的未来,更为等级森严、矛盾丛生。50相比较而言,中国则更多持谨慎乐观的态度。例如,中国强调需要抓住新一轮科技革命的机遇,积极主动地发展相关科学技术及其应用。同时,中国强调积极应对人工智能在伦理、法律方面的潜在影响,体现了对人工智能发展的谨慎态度。

  

第二,与西方国家强调独占和霸权不同,中国更强调与其他国家 (特别是发展中国家) 共享。如果人工智能的发展最终会导致国际分工体系的终结,那么发展中国家通过与西方国家的交流与合作进而走向发展的可能性就会越来越小。(点击此处阅读下一页)

    进入专题: 全球善智   全球合智   人工智能   全球治理  

本文责编:sunxuqian
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 政治学 > 公共政策与治理
本文链接:http://www.aisixiang.com/data/118104.html
文章来源:国关国政外交学人

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2020 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
工业和信息化部备案管理系统