龙卫球:人工智能立法的“技术—社会+经济”范式——基于引领法律与科技新型关系的视角

选择字号:   本文共阅读 230 次 更新时间:2020-06-11 23:35:50

进入专题: 人工智能立法   科技立法  

龙卫球 (进入专栏)  
通过劳工运动,与当时科技应用相关的工业风险和劳动安全开始得到关注。英国政府于1802年推出第一部《工厂法》,提出了工厂生产安全的早期规范要求,到了1860年代相关立法保护范围扩大到“有雇佣劳动的任何地方”,旨在适当改善被雇佣者的境遇。其他国家也陆续发展这种工厂法和劳工保护法规。这是早期科技立法的微弱社会性的一些体现。20世纪80年代之后,各种科技社会问题的不断爆发,加上越来越多的社会运动的压力,科技立法才加速纳入科技社会问题的进程。具体体现为:工厂法、劳工保护法、工业事故法等进一步社会化[13](P1)。除了上述部分,国际社会也开始关注环境和生态保护,以及特殊科技安全如核安全等,但是总体上仍然处于边缘位置。

  

   三、科技立法“技术—经济”范式下的社会问题及其自主化技术后果

   科技立法强调科技经济意义实际上是强调一种效率导向[14](P98-102),这一点本身无可非议。人类在很长的一个时期内需要加强的确实就是自己的经济生存能力问题,从功利主义的角度来说,让人类具备吃饱穿暖的能力,这大概应该成为一条底线。很多经典学者对于国家意义的讨论,很大一个基点就是经济生存问题,所以就有了财产权设计的原初正当性。例如,洛克就认为,个人权利应该是从父权和财产权共同起源的,政府作为一种可以使得财产的自然状态变成受保护的权利状态的方式受到人们欢迎,所以才有了政府的必要,才有了政治社会和公民国家[15](P63-68)。康德也认为,对财产利益的保护是最初核心的诱导性因素,它引领处于自然状态的人们走向联合并形成政府或市民社会[16](P186)。科技是人类自身可以创造的具备提升经济能力的事物,所以在促进经济意义上得到利用、受到重视,应该说是顺理成章的。但科技具有经济意义本身,并不等于科技仅仅具有经济意义,或者说我们对于科技的关注唯其经济意义即可。科技活动及其立法的“技术—经济”范式的问题正在于此,简单片面地强调对于科技经济意义的追求,而忽视科技具有的其他方面的意义,甚至为了科技的经济意义而不顾其他的后果。这种科技活动及其立法范式,在这二三百年的实践中,带来了许多负面的后果。

   科技活动及其立法的“技术—经济”范式,使得技术的社会性基本被忽略,引发甚至诱发许多社会问题包括社会政治问题。它通过与资本的结盟,在工业革命初期导致的社会灾害问题就已经凸显,比如说工业事故、劳动安全以及严重的社会不公平问题。这些也导致了社会的不安定,损害了社会团结。技术经济主义,进而也会导致从技术支配经济到技术支配人的问题。卡尔·马克思在《资本论》中,深刻揭示了这种资本倚重工业技术的经济主义单边结构,不断导致社会分化乃至社会关系异化,从而导致资本家或企业主与工人的对立关系。工人的主体性,被资本作用下的“技术—经济”架构以及资本家经济利益单边结构所支配。这是非常可怕的,使得资本主义社会长期陷入对抗之中而不能自拔[17](P1)。技术经济主义,也促成了国家之间的恶性竞争和极差,导致了欧洲国家之间的多次争霸,导致了技术先进国家对技术落后国家的技术支配和殖民,恶化国际社会关系。建立在技术经济主义基础上的政治秩序,无论国内还是国际,一直以来都处于恶性的竞争格局之中,虽然在每次剧烈冲突之后都有所调整和节制,但是总体上并不能有效控制,更谈不上消除问题。到今天为止,世界仍然处于一种基于科技逐利的、通过科技极差压制掠夺他国的极为互不信任的关系之中。正在进行的中美贸易战就是一个典型例子。技术经济主义,还使得其不能及时回应科技及其应用引发的不断升级的环境和安全问题。工业革命以来,科技立法对于环境破坏问题长期处于沉默状态,直到20世纪60年代在环境社会运动的压力下,才逐渐将环境保护问题提上议程,但直到今天这个问题解决起来其实还很困难,包括开展环境治理的国际合作十分不易。工业革命以来,科技发展的安全和威胁问题,也一直处于边缘位置,直到20世纪中叶,当航空航天科技、核技术、生化技术等对人类生存构成严重威胁时,相关议题才进入视野。

   科技活动及其“技术—经济”立法范式,其产生的最根本上威胁人类自身存在价值的一种后果,是技术结构的自主性滋长。技术在一种自主性结构逻辑里面为所欲为,进而发展为失去人的控制的主体化僭越。雅克·埃吕尔将这种技术失去控制的情况,称为“自主化技术”后果,即“技术已经成为自主的;它已经塑造了一个技术无孔不入的世界,这个世界遵从技术自身的规律,并已抛弃了所有的传统”[18](P13)。自主化技术后果,首先对于个人的自主性具有致命的威胁[19](P1)。海德格尔就此描述说“:人都将比以往更紧密被技术力量包围。这些力量,它们要求、束缚、拖曳、逼迫和强制着,将人置于这样或那样的技术发明形式的控制之下——这些力量……自从超越他的意志以来已经走了很远,他的决策能力已经落后了。”[18](P12)自主化技术的后果,对于人类文化自主性形成压制,最终促成技术统治乃至技术垄断。美国学者尼尔·波斯曼在《技术垄断》一书中提出,人类技术文明以来可以划分为三个时代,即工具时代、技术统治时代和技术垄断时代。人类直到17 世纪,都是处于工具时代,技术成为人类自身文化的工具;进入工业革命之后,技术地位不断上升,逐渐取得统治权,开启技术统治时代,对人类文化产生了极大的改造效应,虽然表面上促进了平等和自由,但也出现了产业化和科技竞争的狂热;今天则开始进入技术垄断时代,文化向技术投降,技术几乎要彻底垄断人类文化观[3](P21-62)。

  

   四、人工智能立法“技术—社会+经济”新范式的基础及其开展

   人工智能科技作为第四次工业革命引燃的新科技之一,是以机器学习算法(如人工神经网络和深度学习方法)和自动发现技术为基础的,这些技术让智能的机器人与计算机获得认知能力,可以通过设计实现自我编程,形成从基本原理中找到最佳解决方案的能力。现在应用的领域突飞猛进,从智能助手向环境智能急速转进[20](P9)。前者,包括人机交谈(如苹果公司的Siri语音服务)、文字输入预测、归纳文本信息、诊断疾病、选择推送广告、搜索算法(谷歌)、翻译软件、智能法务等;后者,则包括正在开发或不断改进的作为单体使用的无人机、无人驾驶汽车、警务机器人、伙伴机器人等,也包括作为提供管理和服务的智慧交通管理平台、智慧城市管理平台、司法服务自助和分发平台等[21](P152)。

   (一)人工智能科技的“强社会面相”与立法范式转变基础

   世界经济论坛创始人施瓦布提出,要关注科技革新或工业革命可能导致负外部性,即对于社会的损害或威胁。他认为,此前的第三次工业革命,虽然取得了巨大的发展,但是在科技竞争、经济一体化和全球化的情势下,却付出了损害自然环境、弱势群体等沉重代价,而以人工智能等新科技为表征的第四次工业革命如果不想重蹈覆辙,那么最好是要管理好这种外部性效应,防范和避免科技应用的意外后果、变革成本、二级影响以及蓄意滥用的伤害等[21](P3,11)。

   人工智能发展基于其科技特点以及极具颠覆性的经济应用潜能,如果不提前应对和防范,其可能带来的社会负外部性,毫无疑问会比既有的任何科技都更加复杂和严重。人工智能科技作为新兴科技,自身在应用上具有许多其他科技无法比拟的迭代效应,存在巨大的应用场景和产业化空间,此外还具有渗透其他几乎所有领域的效用,即通过“人工智能+”方式,可以放大其他领域的效用。这是积极方面的。但是消极面来讲,如果处理不好,也会带来许多可能意想不到的负外部性后果,包括甚至放大其他领域的社会问题。因此需要预先布局,提前做好化解和应对,以避免贪功冒进、陷入社会危机。已经有不少人工智能社会学家对之做出了严肃的关注和研究,并且做出了许多中肯的揭示或预测。中国政府2017年7月8日发布《新一代人工智能发展规划》也关注了人工智能发展的不确定性带来新挑战,提出“人工智能是影响面广的颠覆性技术,可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展”[22]。

   首先,人工智能发展可能带来的负外部性,许多是整体性或共同性的。主要体现为两个方面,即可能引发系统的社会公平和平等问题,以及可能引发社会安全和风险问题。其一,人工智能基于其应用可能导致社会不公平、不平等,主要是因为人工智能作为一种更具颠覆性的技术,容易使得先用者取得一种科技极差优势和事实上的科技垄断优势。从而,不仅会使得财富和福祉分配不公平,甚至导致赢者通吃的吸利效应,使得后用者或者各种原因被排除在人工智能技术之外的人,特别是利益相关者,成为新技术的弱势群体,进而成为社会弱势群体[23](P7-8)。一般而言,最大的受益者应该是科技创造者、投资人、股东,以及控制了作为人工智能运行基础的数据的为数不多的大平台;而具体的劳动者、消费者甚至一般生产者等则容易沦为不幸者[20](P9-12)。其中,劳动力市场公平问题目前最令人关注。面对人工智能可能带来的产业消失、从业人口减少和为释放出来的劳动力寻找出路,该如何缩短转型周期,是摆在政府面前的一个现实命题。人工智能将导致传统劳动力的大量失业,合理安排、疏导或是通过培训再次利用这些劳动力,将是对政府的重大考验。但在另一方面,人工智能人才短缺又成为制约人工智能产业发展的短板。所以,劳动力体制改革已经是迫在眉睫。2016年12月奥巴马政府出台《人工智能、自动化和经济》报告,便涉及培养人工智能人才和同时解决劳动力失业难题两个方面[24]。欧盟委员会发布了2018《关于人工智能的通讯》,也关注了自动化、机器人和AI的出现正在改变劳动力市场,提出现阶段做出量化的评估还不具备条件,但欧盟必须为此变革做好准备[25]。中国2017年《新一代人工智能发展规划》在保障措施部分的第五点提到,大力发展劳动力培训,但目前这方面的举措还有待实化和明确。其二,人工智能基于应用特别是滥用,比以往许多科技都可能更容易使得社会陷入不安全或巨大风险。这是因为,人工智能的研发和应用,无论从系统稳定、功能还是应对复杂社会环境、防范人为滥用或者破坏等来讲,都具有更加的不确定性[21](P10-11)。广义上的社会风险,还包括人们对于人工智能时代的不适应性。因为人工智能带来的变化速度,可能已经超出了人类基因选择和文化选择的适应能力[26](P22)。中国《新一代人工智能发展规划》第一部分的总体部署,提到了人工智能发展与风险防范的并举要求,即“把握人工智能技术属性和社会属性高度融合的特征。既要加大人工智能研发和应用力度,最大程度发挥人工智能潜力;又要预判人工智能的挑战,协调产业政策、创新政策与社会政策,实现激励发展与合理规制的协调,最大限度防范风险”[22]。

其次,人工智能可能的负外部性,更多是具体的,体现在人工智能特定化的具体应用场景。所以,场景细分研究很重要。例如,在人工智能决策领域,可能导致的负效应就包括问责不合理、引发失业、诱发网络入侵和网络犯罪、缺乏责任义务、决策过程不透明或难以理解、加剧该领域的不平等、违反算法合理、对人性化形成根本威胁等;在人工智能替代白领工作领域可能导致的负效应,主要包括失业、问责和义务不合理、法律财务信息披露风险加剧、工作自动化等;在人工智能服务领域,其负效应则可能有失业、责任和义务不合理、向全天候服务转变、诱发黑客和网络安全风险等[20](P161-166)。具体场景中,至于无人机、自动驾驶汽车、警务机器人、自动致命武器等则更加复杂,正处于热议之中,目前的研究似乎离形成清晰化认识还有很大差距。(点击此处阅读下一页)

进入 龙卫球 的专栏     进入专题: 人工智能立法   科技立法  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 理论法学
本文链接:http://www.aisixiang.com/data/121679.html
文章来源:《武汉大学学报(哲学社会科学版)》2020年第1期

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统