高奇琦:全球善智与全球合智:人工智能全球治理的未来

选择字号:   本文共阅读 288 次 更新时间:2019-09-08 19:36:05

进入专题: 全球善智   全球合智   人工智能   全球治理  

高奇琦  
但是,第二法则要求“机器人必须服从人类的命令”,抹杀了机器人的主体性。第三法则反过来强调“机器人必须保护自己”,又重新赋予机器人主体地位。因此,阿西莫夫三法则本身在机器人的主体性问题上是非常模糊甚至相互矛盾的。这种矛盾可以在西方基督教文化中找到解释。在基督教文化中,神是“大写”的,人是“小写”的。只是在近代启蒙运动的发展过程中,人才逐渐被“大写”,即具有主体地位。此外,基督教文化认为人是有原罪的,其主体性地位是不合理或者不能长久的。在西方文化的世界和逻辑中,存在一种隐喻,那就是人的主体地位终将在某一天被剥夺。因此,在西方人的观念中,更容易接受机器人的主体性。从西方悲观的世界观出发,很多学者可以接受机器人取代人类的结果。西方学者的思路基本上支持完全的自主智能体,或者认为这种趋势不可避免。因此在伦理学上,许多西方学者都主张实现自主的道德智能体。例如,印第安纳大学的伦理学教授科林·艾伦 (Colin Allen) 等人就认为,随着人工智能越来越接近完全自主智能体的标准,如何设计和实现人工道德智能体 (artificial moral agent) 的问题变得越来越紧迫。艾伦等人希望这样的人工道德智能体可以通过“道德图灵测试 (moral Turing test) ”。总之,西方学者过高地预设了智能体的自主性。此外,这里的道德由谁来定义?如何将道德量化并交给机器来决策?这些都是理论难题。对于道德这样的命题,人类社会都很难达成共识,那么如何交给机器来决策?

  

   阿西莫夫第一法则的内容是机器人不得伤害人类或坐视人类受到伤害。其中潜在的含义是,机器人具有自身的主体性。如果不承认机器人的主体性,那么这一法则的表达应改为“机器人不得被用于伤害人类”。如果给予机器人过多的决策权,或者说将主体性赋予机器人,便会产生责任推卸或责任缺失的问题。具体而言,如果机器人具备某种主体性,那么当机器人伤害到人类时,人类就会主张应当由机器人承担相应的惩罚。然而,机器人本身并不理解人类世界的惩罚意义。同时,这种主体性也为其他相关方推卸责任提供了可能。例如,日内瓦大学的国际法教授马可·萨索里 (Marco Sassoli) 就认为,目前自主武器的一个难题是,在使用自主武器的情况下,当发现攻击为非法时,取消攻击的责任究竟应当由谁来承担。同时,机器人由程序运行,并没有情感,在战争中极易发展成“杀手机器人”。正如彼特·辛格 (Peter Singer) 所指出的:“机器人可能招致一种黑暗而讽刺的结果。它们似乎降低了战争中人的损失,但可能会诱使我们发动更多战争。”其实,人类社会中的利益冲突主要发生在人与人之间,是人类社会自身产生的问题,其责任和后果理应由人类来承担,而不应该推卸给智能体。

  

   同时,西方国家对伦理价值观的主导还与其技术垄断相结合。例如,在机器人武器的问题上,发达国家希望先形成技术优势,再借助国际规范来维护这种优势。其典型态度是先推动战争机器人的发展,在自身形成技术优势后,再对战争机器人的发展进行规范,通过创设相关的国际规约来限制机器人的生产和使用,从而维护发达国家的技术优势。从现状来看,人工智能的国际规则建设缺少发展中国家的参与,也没有迹象表明这些规则会朝着利于发展中国家的方向发展。

  

4.人工智能对冲突逻辑的影响

   人工智能的发展是否有助于减弱全球治理中的冲突逻辑?对此,笔者的观察主要集中在如下三点。

  

   第一,长期来看,机器翻译可以改善文明间对话的效果。文化间隔阂是全球性问题产生的一个重要原因。塞缪尔·亨廷顿 (Samuel P.Huntington) 也预言,文明间的冲突将成为冷战后国际社会的主要矛盾。在智能革命之前,跨文化交流一直是一个难题。由于语言的差异,人们在沟通上存在障碍,这些障碍反过来加深了人们之间的不信任。因此,文化差异是人类历史上冲突和战争不断的重要原因。在《圣经》中关于巴别塔的故事中,上帝通过设置语言障碍,瓦解了修建通天之塔的人类联盟。语言不通的人们逐渐形成了不同文化,导致人们之间无法相互理解,由此产生冲突甚至战争。然而,人工智能中机器翻译技术的进步将极大地促进跨文化交流。众所周知,学习新的语言非常困难,掌握多种语言更是难上加难。但是,人工智能的发展给人类的语言学习提供了便利。一方面,机器翻译可以消除不同国家的人们在日常交流上的困难;另一方面,人工智能还可以反过来增强人的技能,即可以在机器营造的环境下快速学习,提高自身的语言能力。例如,中国人工智能公司开发的“英语流利说”就可以通过与机器人的对话来帮助人们增强语言能力。

  

   第二,短期来看,在得到人工智能的赋能后,不同文化群体直接相遇的可能性和频率都会增加,可能会造成新的冲突或适应性问题。智能相关技术对弱势群体有较强的赋能作用,使其可以与其他群体展开更加平等的对话。这是因为弱势群体自身往往存在某些方面的缺陷,而人工智能技术恰恰可以弥补这些缺陷。例如,射频识别技术 (RFID) 可以帮助盲人在特定环境中安全行走,3D打印技术可以为肢体残疾者的假肢定制提供便利,脑机接口技术给予重病瘫痪者重新恢复行动能力的可能。著名经济学家和哲学家阿马蒂亚·森 (Amartya Sen) 极为强调能力平等。他认为,只有人和人之间的能力平等才能实现真正的平等。要实现能力的平等,人工智能无疑是最为重要的技术方案。过去,有缺陷的人们很难融入公共社会,但是技术的进步正在将这种不可能逐步变为可能。全球性问题中的卫生问题和贫困问题都涉及弱势群体的利益,而人工智能的发展恰恰可以为这些问题的解决提供新思路。因此,从长期来看,技术赋能带来的直接对话有助于不同群体的沟通,也有助于弱势群体的利益表达。但是,短期内由于智能赋能可能会出现表达高峰。不同文化群体在直接相遇时,也可能陷入跨文化交流的困境甚至冲突,而弱势群体仍然会面临参与的不平等。例如,卡洛—安娜·森尼特 (Carole-Anne Sénit) 等人在对2012年联合国可持续发展会议的大量在线对话的实证研究后得出结论,尽管信息和通信技术在对话和辩论中做出了贡献,但它在全球范围内加强而不是扭转了隐性的参与不平等,未能大幅增强透明度和问责制。

  

   第三,人工智能的发展可能加剧全球失业问题,使得反移民浪潮更加高涨。经济学家一般将失业分为两类:周期性失业和结构性失业。周期性失业是指由于经济萧条和经济繁荣的外部环境变化使得人们在就业和失业之间循环。结构性失业则是描述长期性的、结构性的因素所导致的某些职业和岗位的完全消失。智能革命对就业的最大冲击在于,它不仅威胁传统意义上的体力工作者,而且对脑力工作者也有明显的替代效应。用杰瑞·卡普兰 (Jerry Kaplan) 的话来说就是:“无论你的领子是什么颜色,自动化都毫不留情。”未来人类社会所面临的很可能是全球失业的问题。失业不仅是发展中国家的难题,也会成为发达国家的难题。如果新的失业人口以经济难民的形式进行全球性流动,那么会造成更多的全球性问题。目前已经部分出现了反全球化或者“逆全球化”的趋势,例如发达国家越来越趋向于收紧移民政策以阻止发展中国家人口的大量涌入。由此观之,失业问题可能与反移民浪潮形成共振。

  

   在共振效应下,世界会出现一些追求自我封闭的地区。人的自由流动是全球治理的基础。然而,西方国家已经出现了反对人口自由流动的趋势。此前,西方发达国家之所以鼓励人口流入,是因为劳动力缺乏。多数国家在进入发达社会之后,生育率都会下降,使得后续劳动力不足,只能依靠外来劳动力的流入来填补缺口。然而,外来劳动力流入的最大问题是会导致社会的巴尔干化。亨廷顿在《我们是谁》中所表达的就是这样一种忧虑。因此,西方国家一直试图通过科技革命来降低对外来人口的依赖。从这一意义上说,人工智能技术的发展将遏制那些在全世界范围内为寻找工作而产生的人口流动。当前,西方极右翼思想的一大主张就是反对人口流动。其认为,欠发达国家的移民抢走了本地居民的工作,并且造成了许多社会问题。如果西方国家反对人口流动和移民的思潮继续发展,世界范围内的人口流动会在某种程度上遭到冻结,发达国家和发展中国家之间的要素交换将不再发生。从这一角度来说,人工智能的发展和反移民浪潮可谓不期而遇。

  

5.全球善智:消除霸权逻辑的努力

   没有明显迹象表明,人工智能的发展会导致美国等西方国家的权力优势下降。尽管发展中国家可以发挥后发优势,但它们同样面临诸多困境,并可能会遭遇西方国家的技术封锁。同时,也没有证据表明,人工智能的国际规则正在朝着有利于发展中国家的方向发展。这一结论告诉我们,人工智能在全球治理中的应用,并不会自然地消解霸权逻辑。从某种意义上说,霸权逻辑甚至会得到重塑和加强。因此,各国需要在价值层面努力,在国际社会达成新的共识,以共同消除霸权逻辑。

  

   基于此,笔者认为,全球智能治理的目标性价值应是全球善智。全球善智与全球善治有关联,也有区别。全球善治是全球治理中的一个重要理论,是指通过良善的治理来实现全球的正义目标。俞可平认为,“善治就是使公共利益最大化的社会管理过程”。在智能时代,我们同样需要进一步考虑价值性问题。例如,我们发展人工智能的初衷是什么?要基于何种目的来发展人工智能?以此而言,善智就是良善的智能,即将人工智能的发展目标定义为良善正义。全球善智就是要将人工智能的正义目标在全球层面铺开,进一步拓展全球治理的积极成果。卢恰诺·弗洛里迪 (Luciano Floridi) 提出了“伦理全球化”的概念,其主张“伦理话语表明它需要更新以应对一个全球化的,各部分被密切联系起来的世界。每一个伦理理论被要求为它世界范围的、跨文化的适切性辩护”。伦理全球化在智能时代的新要求可以被总结为全球善智。

  

全球善智应该包含两点内涵:一方面,人工智能的发展要进一步增强全球社会中的平等和正义。约翰·罗尔斯 (John Rawls) 在《正义论》中强调了国内层面的分配正义,托马斯·博格 (Thomas Pogge) 和查尔斯·贝茨 (Charles Beitz) 等人则在此基础之上提出了国际分配正义的问题。贝茨认为:“如果国内原初状态中选择出来的是差别原则,同样在国际原初状态中各方也应该选择差别原则。”各国国民之间也应承担平衡分配的义务。伯格也赞同将罗尔斯的契约主义和分配正义应用到全球社会,并以全球最弱势群体的状况作为制度评判的参考。如何定义智能时代的全球正义,如何在人工智能时代进一步推动善智,都是值得深入思考的问题。另一方面,善智的目的是发展良善的人工智能,这意味着人工智能的发展要推动全球性问题的解决,而不是加剧全球性问题。正如诺伯特·维纳 (Norbert Wiener) 所提醒的那样:“新工业革命是一把双刃剑,它可以用来为人类造福,但是,仅当人类生存的时间足够长时,我们才有可能进入这个为人类造福的时期。新工业革命也可以毁灭人类,如果我们不去理智地利用它,它就有可能很快地发展到这个地步。”卡里姆·阿约巴 (Kareem Ayoub) 和肯尼思·佩尼布 (Kenneth Payneb) 认为,人工智能正面临着当前人类智能所面临的伦理困境。基于此,如何定义善智和全球善智就显得尤为关键。(点击此处阅读下一页)

    进入专题: 全球善智   全球合智   人工智能   全球治理  

本文责编:sunxuqian
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 政治学 > 公共政策与治理
本文链接:http://www.aisixiang.com/data/118104.html
文章来源:国关国政外交学人

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2020 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网