季卫东:人工智能开发的理念、法律以及政策

选择字号:   本文共阅读 494 次 更新时间:2019-09-07 15:15:46

进入专题: 人工智能   社会治理  

季卫东 (进入专栏)  

  

   综合上述信息,我们可以发现在人工智能研发的原则和政策方面,国际社会已经初步形成了一些基本共识。例如对国际通用的指针、标准、规格采取合作态度,尽量使设计方案统一化;为确保人工智能系统和智慧网络之间互联互通,必须共有相关信息;数据形式应该标准化;应该公开包括应用程序编程接口在内的接口和协议、知识产权的特许合同条件;确保技术的中立性以及透明性,判断结果的可解释性,等等。另外,在不同价值取向发生冲突时,进行选择的元规则被公认为要优先保护人的安全,慎重对待生命伦理,不得毁损人性的价值。在与人相关的复数价值判断标准之中,优先顺位的排序如下:①生命、②身体、③财产。从“以人为本”的立场出发,人工智能的研发者在设计阶段就应该充分考虑私生活的平稳、个人信息保密、通讯保密,相关企业和服务商必须对利用者和利益相关者充分履行说明义务,尊重客户的选择自由。为了落实上述要求,有必要加强问责机制,提高惩戒的力度。

  

结语:与人工智能相关的主要法律问题和规制领域


   以上重点分析了在数据驱动的智网社会进行人工智能研发的有关原则、规则以及政策,但与人工智能的适当规制相关的法律和伦理问题当然绝不局限这些。例如机器人造成人身损害的风险应该如何预防和分散、怎样承担法律责任、人工智能武器的研发和适用的边界在哪里等等,都值得深入讨论,需要制定相应的标准。随着人工智能的广泛应用,即使不采取强制手段也可能左右人们行为的“间接管制”变得越来越容易了。人工智能对社会的间接管制实际上就有可能在很大程度上侵蚀个人选择的自我决定权,给那些不使用人工智能的人们带来经济损失以及其他各种代价。在这样的状况下,如果没有适当的机制设计,现代国家宪法和民法秩序的基础势必发生动摇。另外,还存在许多与人工智能相关的具体法律问题,这里也按照一定的逻辑关系略作概括性说明。

  

   首先是人工智能生成物的归属问题。在智网社会,各种信息和文化作品的素材——新闻、网络评论、照片、视频和音频、游戏、知识介绍、小说、音乐、画像等等,都在周流不息地流布和扩大再生产。这些内容的发布机制是平面化的、自由的,但作为商业性活动又是由少数信息技术公司巨头所垄断的。其中有些作品还是人工智能以低成本大量创造的。例如自动翻译(科大讯飞)、自动着色和加工(“美图秀秀”“天天P图”)、既有文章的加工和第二次创作,特别是自动文艺创作的软件(英国音乐科技公司Jukedeck、美国谷歌DeepDream、日本东京大学开发的自动作曲系统Orpheus、中国清华、北大、北邮共同研制的“薇薇写诗机器人”)所产生的作品,著作权究竟属于谁,涉及复杂的法律上和伦理上的问题,也很容易助长免费搭车的侵权现象。对于那些具有创造性贡献的人工智能生成物要不要给予著作权上的保护、是否承认其垄断性地位、保护是否要附加条件、保护期间多长为宜,需要在政策上进行慎重的权衡。

  

   其次,议论更多的是人工智能生成物的行为责任问题。例如2016年某公司开发的具有深度学习能力的对话系统在推特上登场后,由于受网络上大量流传的歧视性笑话的影响,不久这个系统就开始不断发表具有种族歧视倾向的推特短文,损害他人的名誉,引发了宪法上的问责,被迫停止服务进行整改。更广为人知的实例是自动驾驶汽车造成事故时的责任。全球首例无人驾驶汽车撞人致死事件发生在2018年3月18日的美国亚利桑那州,导致加利福尼亚州开放上路测试的计划搁浅。实际上,当自动驾驶汽车造成交通事故时,按照现行法制追究民事责任是很困难的,因为无法确认驾驶者的过失,也很难证明控制运行的软件或人工智能的设计上存在问题;特别是在获取的信息和利用的服务非常多样化的情况下,责任主体势必复数化。算法黑箱很可能导致人工智能采取某种不能预测的动作,这些都是汽车所有者和驾驶者既无法预知、也无从回避的,因而难以追究他们的过失责任。当然,也可以把人工智能软件已经嵌入汽车作为理由,根据产品责任法向厂商请求赔偿;或者设立以人工智能为保险对象的服务,通过保险制度来解决问题。至于对自动驾驶汽车造成的事故追究刑事责任,必须通过修改法律或者制定新法另设犯罪类型。

  

   另外还有提供给人工智能进行学习的数据所伴随的权利问题。例如通过读取绘画进行深度学习是否侵害作者的复制权,个人的消费信息、健康信息、经历信息以及识别信息作为学习数据使用时是否侵害隐私权,把生产方法、销售方法以及其他营业活动的大数据提供给人工智能是否引起不正当竞争,怎样保护具有经济价值的数据,数据的大量积蓄和集中化会不会导致市场的垄断,这些都需要深入研究,制定必要的法规、政策以及伦理标准。对于匿名加工个人信息以及相关数据库的建设也应该有统一的规格和方法。2018年5月开始实施的欧盟一般数据保护条例被称为二十一世纪的人权宣言,就是因为在网络化社会特别强调尊重个人的原则。该条例第21条规定数据主体对数据的存档具有异议权,如果数据管理者不能提供不得不这样做的正当性根据(例如防止传染病蔓延),就必须停止相应的信息处理。第22条还进一步规定,数据存档等信息自动化处理本身不得给数据主体带来任何法律效果。也就是说,关于个人特征的完全自动化评价,不得成为侵害该个人权益的决定的唯一根据。如果产生了诸如此类的重大影响,数据主体有权不服从。这种机制设计是值得我国留意和借鉴的。

  

   不得不承认,我国以及各国的现行制度在保护人工智能方面仍然存在一些明显的缺陷。我国的著作权法及其实施条例以及计算机软件保护条例承认软件产品、程序以及相关文书的著作权,以独立开发、登记以及固定在实体物件上为前提条件给予法律保护,但关于算法即人工智能本身还没有明文规定。如果算法是由复数的软件程序构成,当然可以作为程序作品申请著作权上的保护,但算法即人工智能本身仍然无法申请专利权。人工智能仅有算法并没有实用价值,而必须与数据的学习结合起来才能产生真正的意义。但对需要大量投入资源的学习用数据以及学习方法,法律却不能提供保护。还有学习完毕的模型也具有很大的经济价值,需要对其利用问题制定必要的管理规则。随着人工智能及其网络化的加速发展,这些问题势必层出不穷,需要在制度和机制的设计上及时跟进甚至未雨绸缪。

  

   此外还有人工智能与行业法规之间关系如何处理,也是非常重要的课题。例如人工智能在相当程度上开始从事司法和法律服务,但从事法律实务活动本来是存在严格的门槛限制的,需要通过国家考试取得必要的资格。当中国的“睿法官”机器人(北京)、“明镜系统”(浙江)、“法务云”(江苏)、美国的ROSS律师机器人、JUDICATA法官机器人纷纷用于业务处理,是否有违反法官法和律师法的嫌疑?如果人工智能被赋予法律人格,那么能否也被赋予法官资格或律师资格?不言而喻,同样的问题也存在于医疗等行业。现在人工智能已经广泛应用于疾病的预测、预防以及诊疗服务,如果医疗事故发生应该如何追究责任正在成为热议的话题。以上描述的这一切都在告诉我们:讨论对人工智能怎样进行适当的规制,逐步建立和健全相关的法律、政策以及道德的规范秩序,此其时也。

  

进入 季卫东 的专栏     进入专题: 人工智能   社会治理  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益笔会 > 科学精神 > 科学评论
本文链接:http://www.aisixiang.com/data/118083.html
文章来源:《东方法学》2019年第5期

2 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统