万志前 陈晨:深度合成技术应用的法律风险与协同规制

选择字号:   本文共阅读 117 次 更新时间:2021-12-02 13:35:33

进入专题: 人工智能   深度合成   人脸识别   技术异化  

万志前   陈晨  

   摘    要:深度合成技术是人工智能领域里一项颠覆性技术突破,该技术在满足人们多元化需求的同时也产生了技术异化、信息失真、信息泄露等风险。应从多个维度协同治理深度合成技术所生风险:在技术层面,以技术规制技术,提高溯源防伪和反向破解技术的能力水平,发挥技术的规范功能;在行业层面,以商业伦理治理技术,强化伦理的引导作用和业内组织的协调能力;在法律层面,以法律规范技术,结合中国实际和借鉴外国立法经验,以《民法典》的相关条款为基础,明确技术的使用边界、使用程序及滥用技术的法律后果等。

  

   关键词:人工智能;深度合成;人脸识别;技术异化;商业伦理;民法典

  

   中图分类号:D 912 .29            文献标识码:A          文章编号:2096-9783(2021)05-0085-08

  

   一、问题的提出

  

   人工智能已经进入技术与产业融合发展的新阶段,一个“泛在智能”的新技术革命时代正在来临,人工智能基础设施逐渐完善,应用场景也更加多元和广阔[1]。深度合成技术(deep synthesis)1即是人工智能领域的一项重要突破[2],目前已广泛应用于多个领域,如在影视行业为影视特效和图像影音带来升级,在网络社交中提升用户的虚拟互动和娱乐体验,在电子商务领域优化服务和增强在线购物体验,在媒体传播上打造虚拟主播、虚拟歌手,在医疗领域帮助渐冻症患者、老年痴呆症患者康复,构建智慧医疗体系等等,这些应用充分展示了深度合成技术巨大的发展潜力和实施远景。

  

   技术是一把无形的“双刃剑”。深度合成技术在为社会带来便捷和福祉的同时,也带来了新的挑战和风险。例如2017年11月,外网Reddit平台上一位名为“深度伪造”(deepfake)的用户通过电脑技术将色情影视片中演员的脸换成明星、政客等名人的脸,制作仿真度极高的视频并发布,引起众多网民模仿制作假电影、假新闻[3]。因其发展迅猛,“deepfake”一词由网名演变成深度合成技术的代称。该技术在我国引起普遍关注源于2019年的3月,Bilibili视频播放平台的一位名为“换脸哥”的用户利用该技术将电视剧《射雕英雄传》里原本由朱茵扮演的角色“换脸”成由杨幂“表演”。至2019年9月,一款名为“ZAO-逢脸造戏”的“换脸”应用软件引发广泛的舆论与关注,用户只需简单上传本人或他人的照片等就可以将影视作品中的角色“换脸”,制作出由自己或他人“主演”的小视频。该软件因存在未经明示同意而收集用户个人生物识别信息、个人信息处理规则不清晰、过度索取用户的肖像权、数据泄露和滥用风险等问题而迅速下架。

  

   人工智能的时代已经来临,先进的技术和开放的数据流动能为社会带来巨大的信息红利,但是深度合成技术生成的信息影响力能被瞬间成千成万倍地放大,其所具备的负面作用不容小觑[4]。目前,国内关于深度合成技术风险与规制的研究主要集中于技术滥用问题[4];扭曲信息传播渠道导致的“后真相”时代危机[5];对技术的一体化规制,如加强数据平台责任、明確技术使用者权限、保障公众数据安全等[3]。本文将结合深度合成技术原理,进一步分析深度合成技术应用的法律风险,并在此基础上探寻此类风险的协同规制。

  

   二、深度合成技术的原理与应用

  

   深度合成技术是人工智能领域里一项“颠覆传统认知”的纵深发展合成技术(AI-generated media),即以人工智能为手段,实现视觉、听觉等方面的模仿和修改,从而达到以假乱真的超高度仿真效果。人工智能是深度合成的技术支持,深度合成是人工智能的内容输出,二者是手段与目的的关系[6]。

  

   (一)深度合成技术的原理

  

   深度合成的过程就是将个人的照片、视频等数据输入到智能算法当中,然后由智能算法在多次训练的基础上,自动完成“换脸”操作[7]。其革新在于运用对抗生成网络模型(Generative Adversarial Networks,简称“GAN模型”),该模型与传统深度学习技术(Deep Learning)的单向性相比,引入了“对抗”机制,并由两组深度卷积神经网络双向进行,包括生成器和判定器[8]。在该网络系统中含有图像空间和隐层子空间,由图像空间将创作的图片投影到隐层子空间,由于投影变换具有非正交和非线性特点,且可以根据不同要求构造不同的网络[9],因此创作的图像具有高度相似性。

  

   基于神经网络的技术支撑,对抗生成网络模型的工作原理是运用生成器和判定器这两个神经网络进行图像的高仿,先由操作者从互联网等移动平台上获取较大数量的目标人物视频或图像信息,形成可供生成器进行算法训练的数据库,此后由生成器通过神经网络训练并生成的视频、图像等,并经过判定器对原来的真实图像数据与伪造数据进行博弈,如果两者误差很小,达到了“以假乱真”的程度,则可以保留该伪造数据作为下一步“换脸”的素材。如果两者误差很大,系统将自动把数据返回给生成器进行新一轮的计算训练,直至生成的图像与原真实图像相比能通过判定器鉴别方可使用。最终,通过反复地训练和筛选,生成器所创造的数据与原有的真实数据具有相同的分布排列,使得判定器无法准确识别生成器所造差异,二者达到相对平衡,从而使伪造视频能够欺瞒大多数人的眼睛[10]。

  

   (二)深度合成技术的应用

  

   深度合成技术目前已获得广泛应用,主要的应用场景包括人脸替换(face replacement)、人脸再现(face re-enactment)、人脸合成(face generation)和语音合成(speech synthesis)四个方面[2]。具体而言,人脸替换即人们熟知的“换脸”技术,如曾风靡一时的“ZAO”应用软件可以根据用户上传的照片自动替换影视中角色的脸,制作出由用户“出演”的小视频。而人脸再现主要是通过操作、改变视频中人物的面部表情和说话内容,使其看起来说出或作出并非基于其本人意愿的事。人脸合成则是通过人工智能技术改变人物的面部特征,或者创建新的人脸图像,这项技术可被应用于社交媒体,如美颜相机、创作虚拟形象等;也可用于影视行业制作特效,使演员“返老还童”,甚至“起死回生”,如使《速度和激情7》里的角色沃克“复活”;还可以广泛应用于艺术体验、旅游等领域,使参与者能身临其境的感受更加丰富的视觉体验。语音合成不仅可以通过机器自动转化文字和声音、翻译等,还可以通过机器创作新的语音系统,如虚拟歌手初音未来、洛天依、艾灵,参与新华社两会报道的3D主播等。除此之外,深度合成技术开始朝着综合运用、全身合成、数字虚拟人(digital person)等方面发展,这些都表明深度合成技术蕴含着巨大的发展潜能和前景。

  

   作为人工智能领域的突破性进展成果,深度合成技术具有高度的仿真性,技术成果泛在的使用性和快速进化性等特点[3],这些技术优势的应用中同样蕴含着风险,其不仅是一把双刃剑,很可能还是一把双刃不平衡的剑[11]。若使用不当或被滥用,深度合成技术的负面效应将愈发凸显。例如,网上广泛传播的明星或政客的“换脸”视频涉及色情、虚假言论等不实内容,不仅对个人名誉造成不良影响,也对社会信用和公共秩序产生不良影响。

  

   三、深度合成技术应用的法律风险

  

   风险(risk)不同于危险(danger),风险是危险的一种形式,即指“可能发生的危险”[12]。乌尔里希·贝克是首次提出风险社会概念的社会学家,其认为,当代社会已经是一个风险的社会,且最大的风险是技术风险[13]。技术所导致的风险可大致分为内部风险和外部风险,内部风险源于认知程度的限制和技术能力的缺失,外部风险则是由内部风险外溢对人类社会所产生的不良影响[14]。据此,不当使用深度合成技术所导致的风险可分为内部的技术异化风险,以及外部的信息失真和信息泄露风险。

  

   (一)技术异化风险

  

   所谓异化(alienation),其意有疏远、背离之意,技术异化的本质在于科学技术和人文社会背道而驰,即以经济利益为目的,脱离了技术创新和以人为本的初衷,违背了法律法规、伦理道德的约束,以此获取不正当利益而损害社会可持续发展的现象[15],最终将导致社会的异化、人的异化。这是因为相较于传统技术的线性增长,新技术赋能社会呈现指数级发展,计算机构成了越来越复杂的操作系统,普通群众难以真正了解系统背后的运作原理,反而不得不遵循其操作规范,当技术出现漏洞或被不当利用时,其破坏性和威胁性将极度放大并反噬社会,加剧社会的碎裂化。且随着新技术应用方式和场景的多样性组合与变换,其不断模糊着真实世界和数字世界的界限,逐渐影响到人类生活的方方面面,系统网络错综复杂,蕴含着极大的错误叠加与连锁反应风险。

  

   深度合成技术具有泛在的使用性,当核心技术攻关和开源软件公布后,技术的普及成本逐渐降低,即使是普通民众也无需经过专业的训练就能较快地掌握操作方法。随着深度合成技术在多场景之中的推广应用,技术异化的风险也愈发增大,“科学从原本温文尔雅、带领人民走出黑暗时代的‘赛先生, 变成了带领人们急速驶入未来世界、力量极其庞大却又找不到方向的巨型怪兽赛维坦(Seviathan)”[16],诸如滥用技术制作虚假视频和伪造不实言论侮辱、诽谤、恐吓他人等例子,将对个人权益、社会稳定、国家安全构成威胁。

  

   (二)信息失真风险

  

   新技术浪潮下一切皆可数字化,基于机器深度学习和互联网发展优势的深度合成技术更是具有深度撷取大众数据的风险[17],若再借助网络爬虫技术2,深度合成科技能够挖掘和获取的数据将十分可观。诸如图像、语音、行为等信息被全方位监测、计算,人们在技术面前将“无所遁形”,现实社会与虚拟世界的界限逐渐被打破,形成“透明的个人与幽暗的数据掌控者”[18]之鲜明对比。

  

越來越难跨越的数字鸿沟把人们划分为掌握信息技术的人和无法获得信息技术的人,若那些数据掌握者不当利用深度合成技术散布谣言、扰乱公众视听,此不当引导舆论方向的行为是对公众意识的操纵和社会信任体系的破坏,严重影响公共秩序的稳定。这些虚假信息逼真程度之高,往往以十分令人相信的方式呈现给社会公众,尽管人们也会忽略一部分与他们认知不符的谣言和绯闻,但当此类信息达到一定数量时,很难让人不得不注意并相信其中的内容[19]。这更加快了信息由“眼见为实”向“眼见为虚”的转变,使社会陷入真相与假象纷繁复杂、界限模糊的困境之中,造成“真相的终结”,并继而进入“后真相”(Post-truth)时代3。(点击此处阅读下一页)

    进入专题: 人工智能   深度合成   人脸识别   技术异化  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 民商法学
本文链接:http://www.aisixiang.com/data/130050.html
文章来源:科技与法律 2021年5期

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2022 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统