谭泰成 闫雪枫 周颖 刘永谋:以人民为中心:科技伦理治理的价值追求

选择字号:   本文共阅读 108 次 更新时间:2022-07-13 17:01:41

进入专题: 科技伦理治理  

谭泰成   闫雪枫   周颖   刘永谋 (进入专栏)  

   编者按:随着科技进步的日新月异,世界发展的面貌和格局也发生着深刻变化。人工智能、大数据算法等新发现、新突破,在造福人类的同时,也带来了一定的伦理风险和挑战。2022年3月,中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》,对加强科技伦理治理作出系统部署。树立正确的科技伦理意识,遵守科技伦理要求,不仅是科技工作者,更是全人类都应该具备的认识自觉和行为自觉。那么,如何增强科技伦理意识,实现科技增进人类福祉的宗旨?本刊特组织几位青年学者围绕“伦理价值”“伦理原则”“伦理责任”三个维度开展对话,并邀请专家予以点评和阐发,以期对深化相关研究和探讨有所助益。

  

   与谈人

  

   谭泰成 中国人民大学哲学院博士生

  

   闫雪枫 复旦大学哲学学院博士生

  

   周颖 上海交通大学科学史与科学文化研究院博士生

  

   主持人

  

   刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员

  

   1、伦理价值:助力走出科技发展困境

  

   主持人:针对如今的科技发展现状和发展前景,我们都面临着哪些伦理风险和挑战?

  

   谭泰成:21世纪以来,随着运用新科技参与社会治理的不断推进,特别是智能革命兴起后,出现了“智能治理的综合”趋势,即不同技术治理手段逐渐在智能技术搭建的平台上综合起来,不再是零散的、局部的甚至相冲突的“技治拼盘”。各种智能治理措施在新冠肺炎疫情暴发以来更是迅猛发展,在大展身手的同时也暴露出一些问题,且大多与伦理风险和挑战相关。主要表现为四个方面:一是“信息孤岛”。无法接入智能平台与他者通信的人群,就会成为“信息孤岛”,在数字世界中“消失”,信息权不能得到公平保障。二是“无人困境”。智能技术如果不能与“治理中的人”很好地结合起来,人的因素容易被治理者忽视,技术问题则被过分强调,可能出现背离人本的“无人困境”。三是数据专家权力越界。要对数据专家的权力进行规范,防止技治专家权力过大,违背社会主义民主法治的基本精神。四是个人隐私滥用。尽管政府已在尽力立法对数据、个人隐私予以保护,但仍然存在不少风险。

  

   周颖:近年来,数据被视为一种新型生产要素,与土地、劳动、资本、技术等传统生产要素一样是人类社会的重要构成。伴随数据科学与数据技术的发展,数据正在进行着对整个社会生活、生产和治理方式的重塑。在全球数字化转型的进程中,我国数字化发展备受关注且发展迅速。基于数据科学与数据技术对人类社会的深度影响,相关的伦理风险和挑战也随之而至,并成为社会各界热议的话题。比如,健康码推出不久就出现了许多没有手机或不会下载、使用该程序的群体——尤其是老年人群体,不光被技术拒绝,更被公共场所拒绝,进而加剧了社会分化、权利不平等的伦理问题,也体现出伦理在数据赋能过程中缺位带来的危害。此外,与数据相关的伦理风险还包括数据不正当获取,数据访问、使用和共享具有不透明性,数据信任危机和数据被过度商用等问题所带来的伦理风险和伦理挑战。

  

   主持人:要走出科技发展的道德伦理困境,“伦理反思”扮演着怎么样的角色?

  

   周颖:为了走出科技发展的伦理困境,伦理反思是必不可少的。历史地看,伦理反思贯穿技术哲学发展全过程。经典技术哲学关注的是整体而抽象的“大写的技术”,技术的伦理反思通常是悲观地批判技术的社会影响和它所造成的人类生存境况的变坏。随着德国学者胡塞尔吹响“回到事物本身”的号角,一定程度促使技术哲学更加关注经验事实,即“打开技术黑箱”,伦理反思也更加注重具体的技术经验证据。随之而来的技术的快速发展,使伦理问题愈发显现,技术伦理学逐渐从技术哲学中分离出来,进一步地,荷兰学者维贝克等主张反思进路应当“从外在主义、人本主义到内在主义、非人本主义”。从数据应用的发展来看,对隐私、安全、公平等方面进行深入的伦理反思,才能促使我国经济社会更加健康有序发展,促使大数据技术产品更新换代和数据赋能相关产业的转型升级。

  

   闫雪枫:正如澳大利亚学者彼得·辛格所言,当面对新兴的科学技术时,许多人会产生某种直觉,但直觉未必是经得起推敲的。从生命伦理学的视角来看,伦理反思一方面能够使我们从习以为常的生活中认识到技术带来的道德困境和挑战,另一方面,借助哲学史上的经典理论框架,伦理反思能为我们在诸多彼此冲突的价值观念中提供多角度思考问题的进路,帮助我们提炼梳理对于技术的态度和观点,推理重构“不言自明”的信念背后的论证逻辑,审慎地分析其中的问题。破除科幻电影和小说的夸张情节对于技术本质的扭曲,让我们能回过头来审视一些广泛存在的规范性观念本身是否合理,进而为科学技术的研究与实践进行恰当的辩护。值得注意的是,进行伦理反思的目的不是一味地限制科技的发展。生命伦理学学者需要与科技从业者保持积极的对话,在科技发展与伦理反思中寻求动态的平衡点。

  

   谭泰成:最近被热议的大数据治理、算法治理和区块链治理,都属于智能治理的具体形式。在各种智能治理场景中,伦理反思有助于不同主体(信息伦理学者、算法工程师、数字政府治理者和公众等)审视技术治理措施是否因超过合理限度成为技术操控手段,揭示嵌构在算法认知背后的复杂制度安排。尽管对于智能治理的伦理反思存在认知差异,但它的根本宗旨在于实现人民向往的美好生活,厘清实施智能治理应有的限度。因此,伦理反思的关键在于区别智能治理与智能操控,寻求效率工具与伦理价值之间的动态平衡。实际上,智能治理伴随着社会、政治、制度和伦理等多重风险,既有的道德批判不足以回应和化解,只有以制度化方式将德治、法治和技治手段充分融入智能治理中,才能实质性地发挥科技伦理在智能领域的治理成效。

  

   2、伦理原则:以人民为中心推动科技向善

  

   主持人:在《关于加强科技伦理治理的意见》的总体要求中,将“伦理先行”作为治理要求的第一条,那么,在科学技术的发展中何以“伦理先行”?

  

   谭泰成:伦理先行需要确定相关原则及规范。目前,欧盟、美国和中国都颁布了人工智能相关的伦理指南、指导意见或规范,基本涵盖算法设计、部署和监管各个环节对于透明度和可解释性的要求。发挥伦理引导智能治理的先行作用,需要充分考虑技术专家、政府治理者、企业用户、公众等不同治理参与者的多元价值诉求,兼顾伦理的价值适配性与算法的技术可用性。需要注意的是,伦理先行并非以绝对道德主义来约束或反对技术治理活动。伦理先行的中国语境在于确保技术治理为人民服务,使之服务于中国特色社会主义民主制度的更高目标。同时,强调一般伦理原则与具体治理场景的结合,例如从道义上要求科技企业完全公布其核心基础算法并不可行。而对于公共部门而言,为了维持行政决策的执行力和公信力,有必要对算法行政决策进行充分解释,澄清背后的治理依据和价值理由。

  

   周颖:伦理先行是技术伦理学的内在路径的必然要求。维贝克等学者提出和发展了调节的理论,将技术自身纳入解决其伦理问题的语境中。首先,在数据相关技术设计之初就需要伦理学者、技术专家、公众代表等多元主体参与并制定伦理框架、指南、原则,即在设计的目的、方法和结果预测中纳入伦理考量。例如,2020年美国联邦总务署发布的《数据伦理框架草案》中提出7条数据伦理基本原则。其次,数据相关技术设计过程作为设计者的决策过程内在地渗透着伦理价值,技术调节作用不可避免地存在着,因此,须将伦理前置,有意识有目的有方向有预见地发挥调节作用。最后,由于技术不确定性的特征,调节的各个维度不能被完全预期,许多伦理问题往往是在技术与人处于社会大背景下进行交互的过程中产生的,所以需要对技术进一步修复调节。如健康码在实施过程中显现了隐私安全等伦理隐患,在修复过程中,既制定了《新冠肺炎疫情防控健康码管理与服务暂行办法》,其中提出“为疫情防控、疾病防治收集的个人信息,不得用于其他用途”,又从技术上对健康码加以修复。经过三个维度的调节,技术自身被道德化,进而调节着人的合伦理的感知和行动。

  

   闫雪枫:新兴技术手段往往兼具巨大的效益和风险,伦理先行也因此成了当今时代发展背景下的必然趋势。为了应对基因编辑带来的诸多挑战,科技工作者作为发展科学技术的主体,首先需要考虑的是所进行的科学研究与实践是否以人民为中心,以提升人类福祉作为最终的目标,对生命和伦理抱有敬畏之心。在开展科技工作时,要充分考虑到风险问题,提升自身的伦理道德敏感度,保证科技发展中伦理在先。新西兰生命伦理学者尼古拉斯·阿加曾强调,不要忘记历史上许多新技术都曾给人类造成预料之外的重大灾难。因此在制定伦理原则时,仍然需要考虑到一些在当下看来或许永远不会发生的情况,并给出相应的对策。科学技术不断发展,伦理原则也应当随之改进和完善,保持动态的发展,以便应对新的挑战。

  

   主持人:《关于加强科技伦理治理的意见》中明确了科技伦理的基本原则,即“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”,其中蕴含着哪些伦理观念?

  

   谭泰成:在技术治理活动中,服务于人民是上述原则的根本价值旨归。科技向善从根本上说就是让人民共享科技发展成果,共同引导技术治理赋能美好生活。当然,不同领域的技术治理活动对于科技伦理原则有不同侧重,例如算法治理比较强调“公开透明”。这一原则主要是针对算法运行的黑箱问题,具体化为研发者如何通过改善训练算法的数据样本质量来确保算法输出的精准度,以及企业和政府部门如何通过算法治理来提升决策效率,进而确保公共行政显得更为合理,让算法问责更具操作性。算法向善不应仅仅作为柔和的伦理观念,而是转化为敏捷的治理行动,避免因滥用算法而陷入伪技术治理。

  

   闫雪枫:《关于加强科技伦理治理的意见》中明确的科技伦理基本原则涵盖了美国学者汤姆·比彻姆和詹姆士·邱卓思在《生命医学伦理原则》中所提出的“尊重自主性”“不伤害”“有益”“公平”四原则的内涵。与之呼应的还有2018年第二届人类基因组编辑国际峰会委员会对遗传基因编辑开展临床试验所提出的十项原则。具体来说,在进行生殖系基因编辑临床试验时,需要首先确定无其他合理替代方案,并将试验目的严格限制在严重疾病的预防上,最大限度避免试验可能造成的伤害,合理控制风险。对参与试验的患者充分告知试验潜在的风险,保持公开透明,让患者自主作出知情且自愿的决策,尊重患者的生命权利和自主性,保障患者知情权和隐私。

  

周颖:从数据的视角来看,相关伦理问题大致围绕隐私、安全、公平和正义四个面向展开,在个人、社会和国家的不同层面上表现不同,在不同的语境中侧重的伦理原则也有所差异,其伦理意蕴具有多元化、复杂性、交叉性和动态性等特征。(点击此处阅读下一页)

进入 刘永谋 的专栏     进入专题: 科技伦理治理  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 哲学 > 伦理学
本文链接:http://www.aisixiang.com/data/135248.html
文章来源:《光明日报》( 2022年07月04日 15版)

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2022 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统