赵瑜:人工智能时代新闻伦理研究重点及其趋向

选择字号:   本文共阅读 252 次 更新时间:2020-06-24 00:01:22

进入专题: 人工智能   新闻伦理  

赵瑜  

   内容提要:人工智能通过算法和大数据分析已经深刻改变了人类的新闻传播行为,在此背景下的新闻伦理研究处于哲学、法学和新闻传播学的交叉研究区域,其中广义层次的研究聚焦人工智能及其伦理研究,狭义层次的研究聚焦人工智能时代的新闻伦理本体。人工智能及其伦理研究的核心是技术的道德主体地位辨析,而对此问题的回答则呈现极化趋势。分布式道德模型区分了道德问责和道德责任,提供了解决这一哲学难题的新思路。人工智能时代的新闻伦理研究意在回应新技术背景下的新闻实践问题,信息茧房效应、后真相、算法偏见和被遗忘权引发学界广泛的讨论。问题的实质是新媒体技术与社会伦理期待的冲突。其后的研究需要更为细腻的技术问题逻辑描述,更具理论导向的新闻伦理本体研究和更高质量的跨学科研究,从而形成来自人文社科的话语合力。

   关 键 词:人工智能/新闻伦理/算法/大数据

   作者简介:

   赵瑜,浙江大学 传媒与国际文化学院,浙江 杭州 310028 赵瑜(https://orcid.org/0000-0003-0690-5911),女,浙江大学传媒与国际文化学院教授,博士生导师,传播学博士,主要从事新媒体传播和视听传播研究。

   基金项目:

   中央高校基本科研业务费专项资金资助项目(2018FZA121)

  

   如果我们将媒体广泛地理解为传播和交流信息的一种方式,就不难发现信息技术和人工智能的发展与媒体的内在联系及其对传统媒体的冲击或影响。人工智能通过算法和大数据分析已经深刻改变了人类的新闻传播行为,并且引发算法偏见及其纠正、数字身份及其保护、个人隐私及其保护、信息不当触及的讨论,学界日益担忧数据垄断和算法“独裁”对社会过程和社会公正的影响,因此,信息技术的伦理治理和整体规制至关重要。国务院印发的《新一代人工智能发展规划》中也已明确将“制定促进人工智能发展的法律法规和伦理规范”作为我国人工智能发展的首要保障。

   自主智能系统的发展提出了一些亟待关注的问题,人、机、自然(社会)之间的关系将出现新的构建形式,如果将人工智能的终极目标等同于让机器(物)拥有自主意志,这首先引发了人类的伦理危机感,促使我们重回伦理本质的本体论和认识论问题,探讨人类如何在智能技术的中介下构建安全、公平、美好的生活。人工智能便不再是一个单纯的技术问题,而是一个哲学问题、政治问题。

   新闻传播领域所建构的拟态环境会直接影响人们的情绪、观点和行为决策,对社会公正和社会安全具有重大意义。机器人写作、算法推荐和信息过滤、社交媒体机器人等带有自主智能系统因素的新事物已极大地改变了人类传播和接收信息的模式,并在形塑人类行为模式的基础上产生了巨大的社会影响。如何界定人工智能技术的新闻伦理问题,如何定义智媒时代的新闻专业主义,如何构建智能媒体伦理治理体系和法规体系,是亟待学术破题的重要领域。

   本文拟综论新闻传播学、哲学和法学在相关领域的研究,厘清目前学界对人工智能和新闻伦理研究的重点领域并进行反思,为未来研究提供思考的起点。

  

   一、人工智能及其伦理研究

   从工业革命以来,机械化、自动化已经成为人类文明的一个显著特征。1956年达特茅斯会议上一批年轻的科学家首次提出“人工智能”的概念,进一步扩大了技术人工物社会功能的想象空间,从而被称为“第四次革命”[1]。

   人工智能研究,简单来说,就是要通过智能(自动化)的机器,增强人类在改造自然、治理社会的各项任务中的能力和效率[2-6]。人工智能的本质是算法。算法是为了解决问题而输入机器的一系列指令[7-10]。

   人工智能起步时,研究方法以逻辑推理与启发式搜索为主,核心研究领域是符号人工智能。短暂的繁荣之后,人工智能研究进入瓶颈,直到20世纪80年代与神经网络研究结合,又焕发了新的生机。目前,计算机视觉、自然语言理解、认知科学、机器学习、机器人学等几大学科协同发展,其中机器学习中的深度学习因为AlphaGo在围棋方面的卓越表现获得了公众广泛的关注。根据牛津大学2017年针对全球顶级人工智能专家的调查,超过50%的专家认为人工智能将在45年内在所有领域超越人类,并且将在120年内将所有人类工作自动化[11]。

   在1877年的《技术哲学纲要》中,卡普曾敏锐地洞见到技术具有向一切人类领域扩张的能力[12],某些技术具有一种强制性的功能,能嵌入个人生活并产生深远的影响。计算机革命正在不断提高人们对自动化的依赖,且自主性系统越来越多地掌控了各式各样的能产生伦理后果的决定。换言之,目前的自动化系统已经复杂到一定程度,甚至要求系统面对具体场景做出道德决策[13]。如此一来,问题就转变为:人们对于把自己的生命和福祉交给没有确定的伦理框架的系统会感到放心吗?近来被曝光的Facebook、亚马逊用户数据滥用,Twitter机器人账户影响用户观点和情绪等问题,使人们加深了这样的疑虑。

   与科学技术要解决的“能不能”问题不同,伦理学要解决的是“该不该”问题[14]。在人工智能运用方面,伦理学研究首先必须辨析核心价值,以提供思考框架。

   (一)技术批判与技术伦理

   资本主义早期对工人的残酷剥削、城市化和生态恶化,在当时就引发了技术批判和反抗,如英国知名的卢德运动。虽然主流学界对当时的反技术浪潮总体持批判态度,但“闯进花园的机器”式的技术怀疑论始终存在。而二战对人类社会巨大的破坏作用,使得希特勒被认为是人类史上首个运用技术力量而使罪行倍增的人。埃吕尔、麦克卢汉、马尔库塞、芒福德、赛佛、加尔布雷思、海德格尔、温纳、拉图尔等学者都发展和深化了对技术的学术反思,这些著述也是技术伦理学的直接源头。

   海德格尔在《论思想》中指出,在其生存的所有领域,人都将比以往更加紧密地被技术力量包围,将人置于这样或那样的技术发明形式的控制之下[15]。哲学家们担心人成了技术社会这部机器的齿轮,从思想和行动上沦为机器的奴仆[16]。在这个意义上就诞生了“自主性技术”的概念[17],表达技术业已失去人类控制之意。在康德学术脉络下谈论技术的自主性是令人不安的,因为康德认为自主性是自我意志的根本条件。赋予技术以自主性,在某种程度上即是人的自主性被替代[18],主客体的位置产生了颠倒。

   但仍然有相当一部分学者认为技术是价值中立的,技术本身并不是一种自我决定的力量,仅是一种手段。雅斯贝尔斯指出,“技术本身并无善恶。一切取决于人从中造出什么”①。梅赛恩也坚持技术价值中立的观点,认为“有益的做法是将技术定义为一般意义上的工具”[19]。

   部分学者承继埃吕尔的研究传统,认为技术充满意向性,是社会结构的体制性力量。温纳认为技术在中立的、工具式的掩护下,建立了一种崭新的秩序[20]。美国技术哲学家唐·伊德认为技术不是中性的工具,它们在人与世界的关系中发挥着主动性的作用[21]。在拉图尔看来,道德和技术都是“本体论的范畴”,技术以具体的形态促进人类社会的形成,包括我们的行动和决定的道德特征[22]。

   最微妙的就是技术影响的“偶发”机制,也就是说技术对人类的控制并不总是具有预先意图,其中一部分后果是意想不到的。换言之,人并非总能控制自身所创造的技术的社会后果。乌尔里希·贝克的风险社会概念也回应了这一观点,“在风险社会中,未知的、意图之外的后果成了历史和社会的主宰力量”[23]。

   恰如荷兰学者维贝克所指出的,早期技术伦理学采取的是批判的方式,这些批评不是针对具体的技术应用场景和案例,而是对“大写的技术”自身现象的批判[24],但过于抽象化和哲学层面过于本质论的探讨方式反而流于隔靴搔痒。

   (二)技术人工物道德主体地位辨析

   人工智能的技术想象突破了自启蒙运动以来人和非人实体之间的界限。美国技术哲学家唐·伊德识别出了人与技术的四种关系:具身关系、诠释学关系、他者关系和背景关系。唐·伊德所说的具身关系类似海德格尔的“上手”,有些技术能够上手,而有些技术只能在手,成为我们行动的背景性因素。随着人工智能的发展,人、技术与世界的关系结构发生了改变,人和技术也表现出融合关系,例如后现象学技术哲学家维贝克提出的赛博格关系(cyborg relation)和复合关系[25]。

   人工智能的技术想象包括创造出具有自我意识的自动化系统,这就在伦理学体系内提出了一个全新的问题:技术是否能被赋予道德主体地位?自启蒙运动伊始,伦理学就有着人本主义特征。以道德术语来研究物绝非易事,这违背了伦理学理论的最基本假设[24]。

   在主流伦理学中,一个合格的道德行动者至少是拥有意向性和一定程度的自由。很多哲学家认为,技术客体缺乏自由意志和意向性,不能对它们的行动负责。例如AlphaGo可以胜过人类围棋大师,但是没有办法理解自己走子行为的意义,现阶段并不具有自由意志。AlphaGo的智能实际上是以人为核心的一个巨大的延展认知系统的能力,是系统部分认知功能的某种外化[26]。无论从道义论视角还是后果论视角,人工物只能从因果层面而非道德层面对既定的行为负责。因此,“没有理由将人工物纳入道德共同体之中”[27]。

   弗洛里迪和桑德斯于2004年发表了颇具影响的《关于人工能动者的道德》一文,聚焦实际上具有“行动者”资格的智能技术。他们依据行动者之互动关系标准,使用交互性、自主性和适应性三个标准来判断。一个系统如果能与外部环境互动,能在没有响应外部刺激的情况下行动,也有在不同的环境中行动的适应能力,这个系统就可以被视作行动者。如果系统行事方式会产生道德结果,那么就被认为是一个道德自主体[1]。

   弗洛里迪和桑德斯在某种程度上提出了一个类似道德图灵测试的模式,区分了道德问责和道德责任。这种分布式道德允许无心的道德,将一个哲学难题转变为具备操作性的判断标准。也就是说,我们无须执着于现有系统是不是成熟的道德智能体,只要系统具备交互性、自主性和适应性三个标准,就可以被等同于一个道德主体而予以问责。当然,目前一部分哲学家不愿意赋予技术人工物道德主体地位的原因还在于担忧如此一来,将使得设计这些系统的人类工程师被赋予了免责的地位[13,24]。

   (三)工程师伦理

   责任是知识和力量的函数。在智能信息时代,科学家、工程师不仅人数众多,而且参与社会重大的决策和管理,他们的行为会对他人、对社会带来比其他人更大的影响,因此他们应负更多的伦理责任[28]。

   在过去25年中,工程伦理领域的主要成就之一就是工程师们越来越意识到自身的价值观对设计进程的影响,以及此过程中他们对他人价值观的敏感度[13]。20世纪70年代开始,美国科学促进会和美国律师协会联合组成了国家律师和科学家会议,讨论科学研究中的道德规范问题。之后,美国发布了有关科技界社会责任的一系列报告,如关于“科学自由和科学责任”的报告[29]。2000年,美国工程和技术认证委员会(ABET)在其标准中明确指出,工程教育必须要求学生“理解职业和道德责任”[30]。美国白宫人工智能报告将“理解并解决人工智能的道德、法律和社会影响”列入国家人工智能战略,并建议AI从业者和学生都接受伦理培训[31]。

当然,也有专家认为技术活动是社会组织系统下的制度活动,单一的工程师是无法对其技术后果承担责任的。(点击此处阅读下一页)

    进入专题: 人工智能   新闻伦理  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 新闻传播学 > 理论新闻学
本文链接:http://www.aisixiang.com/data/121814.html
文章来源:《浙江大学学报:人文社会科学版》2019年第2期

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2020 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
工业和信息化部备案管理系统