傅宏宇:构建“以人为本”的人工智能治理体系

选择字号:   本文共阅读 806 次 更新时间:2024-03-23 10:23

进入专题: 人工智能   人工智能治理体系  

傅宏宇  

 

近年来我国人工智能技术快速发展,技术自主性也不断提高。高度普及的移动网络终端催生了万物互联的数据技术,算力和存储从用户端向云端转移降低了步入数字生活的门槛,深刻改变了人的生产生活方式。目前人工智能已经普遍应用于社会生活的各个方面,从出行路径规划、网络购物选择到知识内容获取、信贷申请审批,人工智能也在改变人类惯常的决策方式,但在提高效率的同时也带来了系统性的问题,比如人工智能技术不够安全、稳定,影响了系统的可靠性;人工智能决策目标单一,难以满足多元的社会需求;人工智能使用的数据和模型复杂不透明,结果难以解释等。

揭开人工智能的面纱,不断解决其发展应用中的诸多挑战和问题,是人类社会的共识。我国近年来不断加强对人工智能治理的要求,结合我国实际情况出台了《新一代人工智能伦理规范》《关于加强科技伦理治理的意见》《互联网信息服务算法推荐管理规定》等一系列政策规范,确立了我国人工智能伦理治理的核心目标和基本原则,创设并完善了人工智能影响评估、备案、分级分类等治理管理工具,引导科技企业评估人工智能技术研发应用风险,健全全生命周期伦理治理体系,为社会提供更为安全、更负责任的人工智能产品服务。

帮助提高人的劳动效率,增加劳动价值。人工智能技术本身处在快速发展的过程之中,从专家系统到深度学习、从有监督学习到无监督的自主学习,机器在不断模拟人类智能的过程中智能化水平不断提高,对人的劳动方式和价值实现产生了影响。一方面,人工智能创造了新的生产生活方式,促进了职业模式的创新,新业态的产生带来了新的就业机会。比如,通过人工智能技术对分散的劳动资源进行线上化整合和实时性调度,催生了网约车司机、外卖配送员等新职业,通过连接消费者、商户建设起共享性的零工经济,但新的劳动生产方式也带来了劳动保障不足、劳动权益被忽视等问题。另一方面,人工智能降低了知识获取和利用的门槛,对部分传统劳动产生挤出效应和替代效果,例如自然语言学习算法的不断优化让人工智能系统的语音转译、外语翻译能力有了显著提升,目前线上会议软件已经实现了实时记录和翻译功能,提高了对会议内容的记录效率,但也一定程度上降低了对速记、翻译等人员的需求。总体来看,人工智能技术目前在创造性、感知性等方面和人类智能还有较大的差距,完全替代人类的强人工智能尚不具备可能。但人工智能技术会持续影响人类的知识学习和生产工作方式。一是人工智能技术的发展可能将替代部分重复性高、规律性强的人类劳动;二是创造新的、非传统的工作形态,影响现有的劳动价值分配方式和劳动保障制度;三是可能扩大技术赋能与技术失能两大群体间的差距。人工智能治理需要关注其对人的劳动的替代以及对劳动价值的影响,让技术方案更便捷、友好、易用,帮助更多的人提高劳动效率;同时,进一步完善针对新就业形态的劳动保障,让人工智能驱动的劳动者享受到更为充分全面的劳动权益保障。

尊重人的权益,做到有克制、不伤害。随着人工智能的广泛应用,人工智能下的公共决策更加精准,人们生活更为便捷,社会效率也得到提升,但技术渗入社会生活也改变了人们的沟通交流方式,产生了一系列新问题、新挑战。一是个人隐私受到威胁。和物理空间一样,数字社会中人们的隐私也受到保护,但人工智能技术需要大量的数据进行模型训练,不加约束地收集和利用数据侵入了人们在数字社会中的隐私空间,对数字身份带来了安全风险。二是公平公正难以保障。当人工智能被用于调配生产生活资料、分配社会资源的时候,人们期待其能够做出公平、不带偏见的决定。然而受制于有限的数据分布和数据质量,以及在模型设计和部署实施中的人为错误,人工智能存在难以避免的偏差,而当被用于决定资源分配的时候,技术的偏差就可能造成结果的不公平。三是信任机制存在缺失。人工智能系统的设计、部署和应用比较复杂,机器学习更增加了技术的不透明性,给人们留下了“黑箱”的印象,普通用户很难理解人工智能系统如何做出决策,当决策影响到其权益的时候,也很难要求说明、提出申辩、获得救济,往往是被动接受而不是主动选择人工智能的决策结果。

人工智能治理需要重点关注人工智能对隐私、公平的侵犯,提高人工智能技术的透明度,让包括数据使用、模型设计、影响评估等在内的人工智能决策过程更清晰、可解释,为人们提供沟通反馈的渠道、并对产生的负面效果提供及时充分有效的救济,变人工智能“黑箱”为好用、受信任的“工具箱”。

促进社会包容可持续发展。当人工智能成为人类社会生产生活的基本工具,除了考虑此项技术当前的问题,还需面向未来,探讨其在中长期对人的生存和发展带来的影响。在环境保护方面,人工智能技术可以让能源的生产和使用符合可持续发展目标要求,比如通过控制物联网设备实现实时的能源消耗调节,帮助创建更为智慧和低碳的城市;通过智能电网整合可再生能源,实现更为稳定的替代电能供应;利用图像识别技术实时监控分析卫星图,确定荒漠化和海洋污染情况,并提出针对性的方案。但同时,人工智能技术的发展也推高了能源消耗,比如适用于自然语言处理的预训练大模型,在训练过程中算力消耗较大,带来了过多的碳排放。在人的发展方面,人工智能以及更为广义的数据智能改变了人认识和理解世界的方法,在不同的领域驱动新的创新和创造。目前在医学领域,通过人工智能设计药物分子式、预测药物的理化性质和生物活性,节约了大量的实验成本,而图像识别技术应用于医学影像分析也会大大提高了诊疗的准确性。在文化领域,人工智能创作音乐、影视作品的艺术表现力不断提高。但上述应用对药物研发和诊疗监管、知识产权等针对创新活动的监管制度也带来了挑战,以人的创新为对象的治理体系难以适配人工智能驱动的创新。因此,从长期来看,人工智能的发展需要充分考虑可持续发展目标、推动创新创造,人工智能的开发使用者应当主动承担社会责任,让技术应用服务更为先进的生产力;另一方面,也需要调整现有制度,以适应人工智能对人的生产发展带来的积极改变。

构建“以人为本”的人工智能治理体系,让人工智能坚持以人为中心的价值目标,需要多方协同、共商共治。政府应当做好顶层设计,确定人工智能发展的价值目标和治理的总体要求,加强对影响隐私、公平等权益的人工智能的监督管理,在劳动保障、环境保护、知识创新等方面引导人工智能的发展方向。企业应该强化审慎自律,加强人工智能伦理教育培训,对人工智能进行全生命周期管理,防范人工智能对人带来的各种风险,开发和利用更负责任的人工智能。社会应当增进对人工智能技术的理解,对人工智能治理形成共识,积极反馈意见、提供建议,让每一个人成为人工智能的使用者、受益者,也让每一个人成为人工智能的设计者、治理者。

    进入专题: 人工智能   人工智能治理体系  

本文责编:SuperAdmin
发信站:爱思想(https://www.aisixiang.com)
栏目: 科学 > 科学评论
本文链接:https://www.aisixiang.com/data/150093.html
文章来源:本文转自学习时报,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统