张耀铭 张路曦:人工智能:人类命运的天使抑或魔鬼

——兼论新技术与青年发展
选择字号:   本文共阅读 1556 次 更新时间:2019-01-11 21:00:21

进入专题: 人工智能   人类命运   青年发展  

张耀铭   张路曦  
可人与人之间的关系正在削弱。我们讨论人与机器人的谈情说爱,正是对人类关系失望的认同。但这绝不意味着,娶一个美女机器人就是彻底解决人类亲密关系的灵丹妙药。英国德蒙福特大学资深研究员凯瑟琳·理查森警告,机器人行业似乎已将性爱机器人作为研发的重心,他们更加注重机器人的外观、扮演的角色,这着实令人担忧。此类机器人的研发将会对男女、长幼以及同性之间的关系产生不利影响。这不仅是他人瓦上的霜,事实上也是我们门前的雪,作为人类命运共同体的一员,谁也不能置身事外。因此,“如何悬置人类心中的伦理学成见,真正将人工智能与人的关系的伦理学纳入到考量当中,重新建立人与人工智能共存的伦理学,将会是一个极其漫长且十分艰巨的任务。”[45]

  

   4、奇点临近带来的恐慌

  

   人工智能分为弱人工智能、强人工智能和超人工智能三大类。弱人工智能指的是专注于且只能解决特定领域问题的人工智能,强人工智能指的是可以胜任人类所有工作的人工智能,超人工智能可能比世界上最聪明、最有天赋的人类还聪明。美国的未来学家和科幻作者喜欢用“奇点”来表示超人工智能到来的那个神秘时刻。未来研究实验室的特蕾西·福洛斯预测,2040年机器人犯罪率将远大于人类,“一旦机器人被黑客攻击后可以成为自杀性爆炸武器,利用机器人进行的恐怖袭击将越来越普遍。”未来学家雷·库兹韦尔认为,人类在21世纪的进步将是20世纪的1 000倍。他在2005年出版的《奇点临近:当人类超越生物学》一书中写道,按照这个加速度,人类社会将发生远远超出我们预期和想象力的超级变化,奇点将在2045年左右发生。这将是极具深刻性和分裂性的时间点,非生物智能在这一年将会10亿倍于今天所有人类的智慧。[46]早在谷歌阿尔法狗在公众中掀起AI热潮之前,《时间简史》的作者霍金就发出警告:完全人工智能的研发可能意味着人类的末日。在他看来:“人工智能可以在自身基础上进化,可以一直保持加速度趋势,不断重新设计自己。而人类,我们的生物进化速度相当有限,无法与之竞争,终将被淘汰。”[47]2012年,计算机科学家摩西·瓦迪在《大西洋月刊》发表文章指出:“人工智能革命不同于工业革命。19世纪,机器战胜了人类的肌肉;现在,机器正在与人类的大脑角力。机器人兼具大脑和肌肉,我们都正在面对‘被我们的造物完全取代’的未来。”[48]上海交通大学讲席教授江晓原认为:“人类正在玩的最危险的火有两把,即基因工程和人工智能,其中最危险的就是人工智能。”[49]言犹在耳,基因编辑婴儿就诞生了。以科学家的身份打开潘多拉魔盒的贺建奎却贴着商人的标签,这突破的不是科学前沿,而是伦理学的底线。因此,霍金等学者并不是简单的悲观主义者,他们在提出警告的同时,也在积极行动,试图为人类找出应对人工智能威胁的对策。特斯拉的创始人埃隆·马斯克不仅主张在国家层面或国际层面建立规范的监管机制,而且与萨姆·奥尔特曼成立了非营利性质的科研公司Open AI,双管齐下,既积极研发强人工智能,又希望将这个魔鬼关在道德与制度的笼子里,让人工智能难以威胁人类命运。2017年初,霍金旗帜鲜明地支持加州阿西洛马会议通过892名人工智能研究人员以及另外1 445名专家共同签署并发布《人工智能23条原则》,从方法、伦理、道德等方面,限定未来的人工智能可以做什么,不可以做什么。“23条原则”涉及伦理和价值观的原则有安全性、价值观一致性、由人类控制和非破坏性。“在下一代人工智能‘出笼’之前,我们必须保证它们尊重我们的习俗与惯例,因为人类世界需要文明的机器人。”[50]资本的蠢蠢欲动敲响警钟,监管红线已经到了必须硬起来的节点。因此,为确保人工智能的发展行进在正确轨道上,人类必须勒紧缰绳。

  

   虽然库兹韦尔“奇点临近”的理论有很多的拥护者,但不少人认为离天花板还很遥远。麻省理工学院的语言学家诺姆·乔姆斯基认为,我们离建立人类水平的机器智能还“遥不可及”,称奇点是“科幻小说”。哈佛大学心理学家史蒂芬·平克说:“没有丝毫的理由相信奇点会在未来实现。你可以想象出一个未来,并不能证明它就有可能发生。”明尼苏达大学的生物学家P·Z·迈尔斯严厉斥责库兹韦尔是一个“对大脑如何工作一无所知”的“疯子”,而且他有“编造胡话和发表与现实毫无关系的荒谬言论”的嗜好[51]。

  

   尽管对人工智能风险认识和评价有相当大的分歧和争议,但学界、业界以及政界对人工智能治理的必要性已形成基本共识。2016年6月,日本AI学会的伦理委员会发布人工智能研究人员应该遵守的伦理指标草案,以引导和规范研究人员正确处理人工智能进一步发展导致的伦理道德、安全问题。2016年9月,英国标准协会发布《机器人和机器系统的伦理设计和应用指南》,这是业界第一个关于机器人伦理设计的公开标准,旨在保证人类生产出来的智能机器人能够融入人类社会现有的道德规范。美国的《国家人工智能研究和发展战略计划》特别强调保障人工智能系统的友好性,推动人工智能系统的公平、透明与符合伦理。[52]联合国教科文组织和世界科学知识与技术伦理委员会近年来连续多次联合发布报告,针对人工智能及机器人技术的发展对人类命运带来的威胁,提出了全新的思考方式与解决路径,对世界各国的人工智能监管具有重要指导意义。

  

结  语

协作共存,命运由我们自己塑造


   《第二次机器革命》的合著者埃里克·布莱恩约弗森指出:“人工智能正在创造巨大的财富,但是面对这样的馈赠,我们却没有可以共享的经济法则。”人类命运共同体面临的最大挑战在于驾驭这些新技术并创造共同繁荣的同时,又要“道在魔先”,在潘多拉魔盒打开之前先要有制服之道。中国作为人工智能大国,既要积极布局抢占产业发展制高点,又要未雨绸缪及早做出人工智能发展的社会治理预案。第一,构建人类命运共同体,实现各国共同安全。2017年9月26日,国家主席习近平在国际刑警组织第86届全体大会开幕式发表主旨演讲强调:坚持合作共建,实现持久安全。坚持改革创新,实现共同治理。坚持法治精神,实现公平正义。坚持互利共赢,实现平衡普惠。只有这样,人工智能发展成果才能更好地实现平衡共享,造福于人类命运共同体。第二,构建包含技术、伦理和法律的信任架构,为人工智能发展保驾护航。法律制度建设,尤其要高度重视数据信息安全、知识产权保护、隐私泄密、算法偏见、伦理道德等问题。第三,建立有效约束人工智能寡头垄断的体系,防止智能鸿沟造成严重的两极分化难题。比起控制机器人,对那些控制机器的私人公司进行规制更显重要。第四,政府要制定合理优化的公共政策,减缓人工智能对劳动力市场带来的负面影响。(1)加强对工人的教育培训,从而帮助他们重新就业或随着技术变革而转换工作。(2)实行全民基本收入政策,使失业人群的生活标准保持在贫困线上。(3)通过对机器人征税,适当降低自动化的采纳,给予劳动者时间去适应其他职业[53]。第五,青年要从人机协作共存而不是人机竞争敌对的角度去探寻发展道路。机器人大规模应用以后,人类的许多职业已经被替代或消失。2015年版《中华人民共和国职业分类大典》与1999年第一版相比,新增职业347个,取消894个,共计减少547个[54]。但是,技术消除的是岗位而非工作,它在消除大量旧岗位的同时创造了更多的新岗位。互联网构成了过去50年间最具创新性的商业模型的核心内容。麦肯锡全球研究院在所调研的4800家中小型企业中,相对每一个因科技效率而消失的就业机会而言,互联网创造了2.6个就业岗位[55]。由此说来,技术性失业是经济增长过程中暂时但必要的垫脚石。

  

   机器人既不善良也不卑鄙,更不应该被视为魔鬼。有思想、有追求、有温度的青年,应该热情地去拥抱人工智能,只有同机器合作才能发挥最大的潜能。这同时也是对自己认知的了解和重构,任何一次改变,都是不断地自我创新,都是一种成长,都可能造就一种新的生活方式。《连线》杂志创始主编凯文·凯利提供了一个有利的视角:未来你的薪酬将取决于你跟机器人的合作。马云的观点值得参考:“机器不应该成为人的对手,机器和人只有合作在一起,才能解决未来的问题。”[56]

  

   最后,我们以美国著名人工智能专家马文·明斯基教授的话作为结语:机器人将接手地球吗?是的,但是他们将成为我们的后代。

  

   参考文献

   [1]克劳斯·施瓦布:《第四次工业革命》,李菁译,北京:中信出版集团2016年版,第4页。

   [2][17][30][51]马丁·福特:《机器人时代——技术、工作与经济的未来》,王吉美 牛筱萌译,北京:中信出版集团2015年版,中文版序XXIII、第259—260、13、263-264页。

   [3]J.McCarthy,M.L.Minsky,N.Rochester,and C.E.Shannon,A Proposal for theDartmouth Summer Research Project on Artificial Intelligence,http://www—formal.Stanford.edu/jmc/history/darmouth/dartmouth.html

   [4][20]李开复 王咏刚:《人工智能》,北京:文化发展出版社2017年版,第36、265-266页。

   [5][50]杰瑞·卡普兰:《人人都应该知道的人工智能》,汪婕舒译,杭州:浙江人民出版社2018年版,第2、187页。

   [6]Deloitte:《德勤报告:从零开始认识人工智能》,http://www.sohu.com/a/55384725_178741

   [7][55]布雷特·金:《智能浪潮:增强时代来临》,刘林德 冯斌等译,北京:中信出版集团2017年版,第7、38页。

   [8]曾毅 刘成林等:《类脑智能研究的回顾与展望》,载《计算机学报》,2016年第1期。

   [9][16]顾险峰:《人工智能的历史回顾和发展现状》,载《自然杂志》,2016年第3期。

   [10]陈自富:《炼金术与人工智能:休伯德·德雷福斯对人工智能发展的影响》,载《科学与管理》,2015年第4期。

   [11]张煜东吴乐南等:《专家系统发展综述》,载《计算机工程与应用》,2010年第19期。

   [12][48]约翰·马尔科夫:《与机器人共舞》,郭雪译,杭州:浙江人民出版社2015年版,第128、86页。

   [13]《欧美先进计算机开发计划概要》,国霞译,载《现代防御技术》,1987年第1期。

   [14]郭凯声:《日本的第五代计算机研制计划将草草收场》,载《世界研究与发展》,1992年第4期。

   [15]万 赟:《从图灵测试到深度学习:人工智能60年》,载《科技导报》,2016年第7期。

(点击此处阅读下一页)

    进入专题: 人工智能   人类命运   青年发展  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益笔会 > 科学精神 > 科学评论
本文链接:http://www.aisixiang.com/data/114486.html
文章来源: 中国青年社会科学 公众号

3 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网