季卫东:人工智能开发的理念、法律以及政策

选择字号:   本文共阅读 487 次 更新时间:2019-09-07 15:15:46

进入专题: 人工智能   社会治理  

季卫东 (进入专栏)  
总之,人工智能网络化社会的治理切忌“一刀切”的生硬强制手段,更适合采取多视角的、综合性的、社群指向的“软法”方式。只有这样,人工智能在中国的发展才能跳出“一管就死、一放就乱”的传统陷阱。

  

三、人工智能网络社会治理的基本原则和方法


   国务院颁发的2017年《新一代人工智能发展规划》在保障措施这一节里强调了人工智能发展的制度安排、开放包容的国际化环境以及社会基础等基本理念。鉴于人工智能的技术属性与社会属性高度交叉融合的特殊情形,关于制度安排,规划要求加强人工智能相关法律、伦理和社会问题研究,建立保障人工智能健康发展的法律法规和伦理道德框架。开展与人工智能应用相关的民事与刑事责任确认、个人尊严和隐私以及产权保护、信息安全利用等法律问题研究,建立追溯和问责制度,明确人工智能法律主体以及相关权利、义务和责任等。通过法律规范和伦理规范的并用来实现社会交往的共享和互信。在立法方面,重点围绕自动驾驶、服务机器人等应用基础较好的细分领域,加快研究制定相关安全管理法规,为新技术的快速应用奠定法律基础。

  

   由于人工智能是影响深远的颠覆性技术,国务院规划还重视围绕人工智能开展行为科学和伦理等问题研究,建立伦理道德多层次判断结构及人机协作的伦理框架。制定人工智能产品研发设计人员的道德规范和行为守则,加强对人工智能潜在危害与收益的评估,构建人工智能复杂场景下突发事件的解决方案,以夯实第四次产业革命“以人为本”的社会基础。除此之外,规划特别指出有必要积极参与人工智能全球治理,加强机器人异化和安全监管等人工智能重大国际共性问题研究,深化在人工智能法律法规、国际规则等方面的国际合作,共同应对全球性挑战,并且在全球范围内优化配置创新资源。在人工智能开发的规格、标准以及规制方式上与国际接轨,参与全球对话,这是值得高度评价的原则性立场。

  

   关于技术标准框架体系和保障举措,国务院规划明确提出了安全性、可用性、互操作性、可追溯性等基本原则,要求逐步建立并完善人工智能基础共性、互联互通、行业应用、跨界融合、网络安全、隐私保护等技术标准以及行业规范,特别是鼓励人工智能企业参与或主导制定国际标准。针对相关的评估和安全监管,2017年规划注重人工智能对国家安全和保密领域影响的研究与评估,决定构建人工智能安全监测预警机制并加强对人工智能技术发展的预测、研判和跟踪研究。在风险评估和防控方面,从预防法学和因势利导政策的角度明确近期重点关注对就业的影响;远期重点考虑对社会伦理的影响,确保把人工智能发展规制在安全可控范围内。机制设计的思路是建立和健全公开透明的人工智能监管体系,实行设计问责和应用监督并重的双层监管结构,实现对人工智能算法设计、产品开发和成果应用等的全流程监管并加强惩戒力度。

  

   在人工智能网络化和数据驱动社会成形的背景下,国务院规划特别注重人工智能行业和企业的自主操控、群智研发以及人工智能网络安全技术的研发,试图构建动态的人工智能研发应用评估评价机制,要求“围绕人工智能设计、产品和系统的复杂性、风险性、不确定性、可解释性、潜在经济影响等问题,开发系统性的测试方法和指标体系,建设跨领域的人工智能测试平台,推动人工智能安全认证,评估人工智能产品和系统的关键性能”。从这一系列制度设计方案和举措中,我们可以解读出通过人工智能网络来实现社会共生和普惠的原则、通过跨界协调和自律性尊重让企业和社会都充满活力的治理目标、通过利益相关者参与决策以及问责确保人工智能网络互动的可控性与透明性。

  

   通过上述分析,可以发现我国人工智能研发的主要原则和实施方法不妨归纳为以下九条:

  

   (1)共享互信原则——人工智能的研发以社会共生、人与人交往的互信以及开发利益的普惠为根本价值目标。

  

   (2)个体尊严原则——在数据驱动的智网社会,人工智能研发必须切实保障网络安全、数据安全、个人信息安全以及公民的隐私权和名誉权。

  

   (3)民主参与原则——鉴于人工智能互联互通、渗透到生活的各个角落,仅靠自上而下的决定和监管必然存在盲点和漏洞,因而必须让利益相关者也参与相关决策。

  

   (4)国际合作原则——鉴于人工智能跨界互联互通的现状以及标准统一的经济合理性,人工智能研发应该立足于国际合作,对必要的规制也应该采取全球共同应对的方法。

  

   (5)相机规制原则——由于人工智能的技术复杂性和创新性,规范秩序的建构有必要让立法(刚性规范)与道德规范、政策(柔性规范)兼具并用,并对合规性问题采取多层化判断的方法。

  

   (6)公开透明原则——为了防止人工智能失控,确保设计者和企业的可问责性,对算法和程序应该要求公开、透明化,强调可说明性。

  

   (7)双重规制原则——对于人工智能研发实施设计问责和应用监督的双重规制方式。

  

   (8)追踪制裁原则——鉴于人工智能的本质在于信息输入与输出之间的关系,对有关产品和技术的研发、应用实行全流程监管,并对违法和违规现象加大惩戒力度。

  

   (9)预防响应原则——针对人工智能研发中的风险要加强预防举措,并建立危机处理的预警和应急处理体系。

  

四、关于人工智能研发的法理和政策的国际主要动向


   关于人工智能研发引起的法律问题以及相关规制的理论探讨的近况,上海交通大学凯原法学院彭诚信教授主持翻译的“独角兽法学精品·人工智能”丛书三卷本已经为我们提供了比较全面的概观。其中关于机器人规制的内容也是从阿西莫夫三定律开始的,涉及机器人伦理学、人工智能管理规定、统一人工智能法典、联合国人工智能公约、电子法、自动化执法、法律责任与社会伦理等一系列问题和制度设计的构想,读来饶有趣味。在这里,只想介绍和分析一下主要国家和超国家机构在人工智能规制方面的最新立法活动以及相关规范的基本内容,作为中国相关制度建设的借鉴。

  

   美国政府从2016年5月开始正式研讨人工智能的法律、伦理以及政策方面的问题,为决策进行准备。当年10月白宫发表了题为《为人工智能的未来做准备》报告书,提出人工智能的相关系统必须可控、公开透明可理解、有效发挥功能、与人类的价值和愿望一致等原则。与此同时,国家科学技术会议网络和信息技术研究开发小委员会还发表了关于运用联邦政府预算研究人工智能的方针《美国人工智能研究开发战略计划》,提出了副作用最小化的要求。随后美国电气电子学会也发表了关于人工智能设计伦理标准的报告书,提倡实现人权理念、人类与自然环境的效益最大化、减少人工智能和自律系统等等带来的风险和负面影响等三条原则。由亚马逊、DeepMind、谷歌、脸书、IBM、微软五大公司发起,欧美产业界在2016年9月还缔结关于人工智能的伙伴关系,旨在构建一个研究和讨论人工智能技术改进和社会影响的开放性平台,并发表了关于确保社会责任、采取防护措施等八项信条。来自不同机构和学科的专家也按照人工智能“可接受、有责任”的理念结成伦理专题社群,进行关于失控风险的脚本分析并提出对策建议。

  

   欧盟的机器人法律项目从2012年开始活动,到2014年9月发表了机器人法律指南。2016年4月,欧洲议会法务委员会召开关于机器人和人工智能的法律和伦理问题的听证会,并在5月公布了与机器人相关的民事法律规则的报告书草案。2017年2月欧洲议会通过《向欧洲委员会提出的关于涉及机器人民事法律规则的提案》,建议设立专门的欧盟机构、采纳智慧机器人登记制、明确严格的损害赔偿责任、保障知识产权等,要求欧洲委员会制定相关的欧盟法律。这个提案还建议确立机器人研发者的伦理行动规范,其中包括尊重基本人权、预防原则、包容性、问责、安全性、可追溯性、隐私权保护、效益最大化和危害最小化等内容。2018年5月25日欧盟开始施行一般数据保护条例,要求人工智能研发涉及个人信息处理时要通知本人,受到影响的个人有权获得解释。其中有些举措比美国更加严格,对违反该法规的企业采取重罚政策。这项法规对数据向其他国家的转移业务也生效。2018年12月欧盟委员会AI高级专家组发布了《人工智能开发和适用伦理指南》草案,以《欧盟基本权利宪章》为基准,力争形成值得信赖的、负责任并没有偏见的人工智能,为此提出了七条关键要求。这个伦理指南将从2019年夏季开始进入试行,所有企业、政府部门以及社会团体都可以参加欧洲人工智能联盟,通过共同遵循伦理指南在数据、算法、技术等方面推进伙伴关系。

  

   日本总务省信息通讯政策研究所通过系列研讨会在2016年10月制订了《人工智能开发指针方案(征求意见稿)》,经过讨论修改在2017年7月正式公布《为国际讨论而作的人工智能开发指针方案》。日本方案的基本宗旨是:尽管人工智能的技术创新和互联网化有望给经济和社会生活带来各种各样的效益,但也存在黑箱化和失控的风险。人工智能是跨越国界互联互通的,因此相关的效益和风险也势必跨越国界产生连锁反应。在这个意义上,智网社会的治理不可能局限在一国范围内,而应该形成全球化的治理框架。为此,有必要通过开放式讨论在利益相关者中凝聚国际共识。在人工智能研发的初期阶段,通过立法来进行规制有可能导致创新活动的萎缩,因此对刚性规范的制定应持慎重态度,不妨更多地借助“软法”等非正式的有序化机制。

  

   日本的人工智能开发指针方案提出了五大理念,即(1)人通过与人工智能网络共生而共享其恩惠,并建立一个尊重人的尊严和个体自主性的“以人为本”的社会;(2)利益相关者应该对作为非约束性软法的指针及其最佳实践经验进行国际共享;(3)应该通过创新的、开放式的研发活动和公平竞争增进社会效益,在尊重学术自由等社会价值的同时防范风险,确保效益和风险的适当平衡;(4)坚持技术的中立性,注意不给开发者造成过度负担;(5)对指针方案的内容不断斟酌,根据需要灵活进行修改。

  

根据这些理念,指针方案具体阐述了人工智能研发的九项原则,即人工智能系统互相连接和互相运用的“合作原则”(包括与国际标准和规格保持一致、数据形式统一化、界面和通信协议的公开、知识产权特许合同及其条件的公开等)、确保输入和输出的可验证性和判断的可解释性的“透明原则”(包括研发者公开算法、源代码、学习数据等)、研发者能驾驭人工智能的“可控原则”(为此可以采取监督、预警、停机、断网、修理等有效举措)、人的身体、生命、财产免于损伤的“无害原则”、保护人工智能系统本身的“安全原则”(包括系统的可信度、牢固性以及信息的机密性、完整性、可用性)、防止人工智能利用者和第三者个人信息泄露和滥用的“隐私原则”、尊重人格的“伦理原则”、为用户提供选择机会的“支持原则”(包括设定系统默认、提示易懂的选项、及时反馈、紧急情况的警告、失误的纠正等)、以及对利益相关者履行说明义务的“问责原则”。(点击此处阅读下一页)

进入 季卫东 的专栏     进入专题: 人工智能   社会治理  

本文责编:limei
发信站:爱思想(http://www.aisixiang.com),栏目:天益笔会 > 科学精神 > 科学评论
本文链接:http://www.aisixiang.com/data/118083.html
文章来源:《东方法学》2019年第5期

2 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统