吴进进 符阳:算法决策:人工智能驱动的公共决策及其风险

选择字号:   本文共阅读 738 次 更新时间:2021-09-18 09:05:27

进入专题:   人工智能   算法决策   公共决策  

吴进进   符阳  

   【内容提要】 作为一种自主算法决策,人工智能技术已经渗透到公共决策过程的各个环节,使公共决策模式产生重大变革。本文基于公共政策循环理论的视角,提出了一个人工智能算法对公共政策的问题界定与议程设置、政策制定、政策执行和政策评估四个阶段的影响与应用的分析框架,指出人工智能算法通过其大数据处理能力和预测分析能力,对提高公共决策的科学性、精准性和有效性发挥了巨大的作用。与此同时,人工智能算法存在的算法偏见、预测偏差和算法“黑箱”等问题可能引发公共决策失灵和合法性危机。最后,本文还提出,为了合理利用人工智能技术提高公共决策的有效性,规避算法决策的风险,决策者应关注人工智能算法决策与人类常规性决策的应用范围、适用性以及两者之间的互补协调关系,同时在算法驱动的公共决策各个环节中加强公共参与,建立参与式算法决策框架。

   【关键词】 人工智能,算法决策,公共决策,风险与挑战

  

   一、引言

  

   人工智能(artificial intelligence, AI)是计算机科学的一个分支,其目的是开发一种具有智能行为的机器,实现在没有明确编程命令的情况下,使计算机自主采取行动。机器学习和大数据是人工智能的两大核心要素。机器学习是人工智能的大脑,是支持人工智能的基础算法;大数据则是实现人工智能算法运算的基础原料。机器学习基于算法来解析和训练数据,进行学习,从现实世界中识别模式,发现趋势,作出预测和决策,并在此基础上执行特定任务。算法就是对解题方案的准确而完整的描述,是一系列解决问题的清晰指令。算法代表着用系统的方法描述、解决问题的策略机制,对一定规范的输入,在有限时间内获得所要求的输出。从本质上说,人工智能就是一种基于算法的自主决策系统。以大数据为基础的,以机器学习及深度学习算法为核心的人工智能自主决策系统被称为算法决策(Zouridis, van Eck & Bovens, 2020)。

   决策是行政行为的核心。一方面,随着人工智能的兴起,人工智能对公共决策系统中的官僚与专家决策等常规决策模式起到了重塑作用。目前,国内外学者对大数据驱动的公共决策优化研究较为丰富,如大数据影响“公共决策循环”的模型化研究(Höchtl, Parycek & Schöllhammer,2016),大数据驱动的议程设置信息化、备择方案讨论全民化、决策执行自动化、决策评估实时化以及全过程跨领域综合集成化等五个方面的公共决策创新研究等(陈一帆、胡象明,2019)。但是,人工智能算法对公共决策过程和环节如何发挥影响,影响机制是什么等问题尚未在理论和实证层面上得到充分回答。另一方面,算法决策的风险问题也引起越来越多的警惕和探讨。部分学者对人工智能应用于公共决策持谨慎态度,认为人工智能算法的内在缺陷及其不当使用,如算法偏差、算法错误、算法歧视、算法“黑箱”、审查难等问题(Osoba & Welser, 2017;Chiao, 2019),将产生严峻的行政伦理问题,如人工智能对决策公平、公正、透明性和可问责性的挑战,侵犯公民信息隐私权,加剧社会不平等(于文轩,2017)。然而,这些探讨较少分析人工智能算法决策在公共决策过程中产生的风险的具体形式及其来源。

   借鉴大数据驱动的公共决策循环模型(Höchtl, Parycek & Schöllhammer, 2016),以及人工智能对政府与公共政策影响的最新研究(Valle-Cruz et al., 2019),本文首先基于政策学者对政策过程经典的四个阶段划分(Dunn, 2015),发展一个人工智能算法在公共决策领域中应用形态与作用机制的分析框架,呈现人工智能对公共决策各阶段与过程的深刻影响。其次,本文将对公共决策各个阶段的算法决策风险及其来源问题进行探讨。最后,本文还将讨论如何平衡人工智能算法决策与常规决策之间的关系,阐述这两类决策机制的适用范围和互补关系,并对提高算法决策的公众参与性,规避算法决策的风险提出若干政策建议。

  

   二、人工智能驱动的公共决策:一个分析框架

  

   人工智能在公共决策中巨大的应用潜力源于人工智能的两大基本能力。第一,人工智能的大数据生成和处理功能为公共决策提供了丰富的决策信息。信息是决策的基石,在决策的全过程中发挥至关重要的影响。在充斥着复杂性和不确定性的决策环境下,海量的信息充斥在各个领域和活动中。然而,信息规模越大,信息的结构性就越差。相当大比例的数据呈现非结构形态,如图像数据、自然语言数据、文本数据、语音视频数据等。据国际数据公司(International Data Corporation, IDC)的预测,2018 年到 2025年之间,全球产生的数据量将会从 33泽字节(ZB)增长到175泽字节,其中超过 80% 的数据都是处理难度较大的非结构化数据。①然而,人类的思维能力和运算速度十分有限,在搜集和处理海量非结构化数据时存在着成本高、速度低和准确率低的劣势。非结构化数据需转化为计算机可以处理的结构化数据才会方便决策者进一步分析。人工智能的机器学习与深度学习方法凭借文本挖掘、知识库自动构建、图像视频识别与生成、自然语言处理等技术,快速、便捷且大规模地将非结构化数据转化为结构化数据。例如,对于语言形式多样而意义模糊的自然语言数据,人工智能可以减少文本的模糊性,识别不同的词汇,连接语言中的逻辑,解读语言的背景知识,对语言与文本进行标记和分类。当前,人工智能可以快速地阅读海量的政策文本,并对政策内容进行分类(Rice & Christopher, 2021)。人工智能的图像识别技术通过抽取识别图像的各种特征,帮助网站运营商和政府网络监管部门对视频和图片进行质量、版权、涉恐涉黄鉴别和标记。

   第二,人工智能机器学习算法的预测分析能力为公共决策提供直接的支持。人工智能使用算法来分析数据,并从中学习,从而对现实世界中的事件作出决策和预测。由人工智能算法驱动的决策基于大数据和高纬数据筛选预测因子,建构非线性和高度交互的预测模型,非常准确地预测了高度复杂的现象与数据间的关系(Mullainathan & Spiess, 2017)。人工智能算法决策在提升预测的精确性上具有人脑判断、专家预测和传统统计模型无法比拟的优势。首先,由于人脑获取和处理信息能力的局限、非理性的偏见和情感因素的影响,人脑的预测效果远不及统计模型(Grove & Meehl, 1996),而传统的统计模型无法应对现实世界的变量间复杂而模糊的关系与模式,难以准确地还原真实的数据生成过程,以因果推断为目标的传统统计模型的预测能力十分有限。与传统统计模型不同,人工智能算法主要关注的是预测的准确性,允许数据自己决定变量的拟合过程,从而尽可能精确地拟合实际的数据点,随着模型拟合的准确性的提高,人工智能算法的预测能力也就越强。人工智能算法凭借其优越的预测分析能力为公共决策提供了强大的智能支持。

   21世纪,特别是2010年以来,人工智能对公共决策的介入呈现一个由浅到深,由边缘到核心的过程。人工智能最初对公共决策的影响主要集中在简化政府一线服务部门工作流程,改善市民服务和提高机构办事效率方面,如自动回答市民问题,辅助工作人员填写和搜索文档,对顾客需求进行分类和选择服务路径,翻译和起草文件等(Mehr, 2017)。一项研究表明,人工智能的自动化能力可以帮助工作人员在执行记录信息、处理文档表格等基本行政任务时节省30%的时间(Viechnicki & Eggers, 2017)。随着政府活动对人工智能算法开放度越来越高,人工智能算法也开始介入公共决策的核心环节,如政策制定、执行与评估环节,并且参与到政府的一些核心公共服务与决策领域,如公共交通、医疗、教育、环境、公共安全与社会福利领域。算法驱动的公共决策的典型案例包括美国沃森人工智能(Watson AI)辅助医疗诊断,中国杭州和新加坡等地城市智慧交通信号灯与拥堵预警系统,美国洛杉矶等地实施的人工智能犯罪区域风险预测和火警检测系统等(Berryhill et al., 2019)。在这一阶段,算法决策的任务不仅仅是简化行政流程,处理程序性和重复性任务这些简单的行政工作,而且是充分发挥人工智能的大数据处理和分析预测能力,提高公共服务的效率、质量和精准性,创新公共服务的供给,甚至决定资源配置和权利分配这些公共决策的核心问题。

   那么人工智能的大数据处理与预测分析能力如何与公共决策相结合,为公共决策系统提供支持呢?本文发展了一个人工智能驱动公共决策过程的分析框架,呈现人工智能对政府公共决策各个阶段的深刻影响。为了便于简洁地理解复杂的公共政策系统和决策过程,政策学者把政策过程划分为四个相互联系的阶段:政策问题界定与议程设置、政策方案设计与政策制定、政策执行,以及政策评估。笔者将逐一探讨在公共决策的四个阶段中,人工智能的两大功能如何发挥作用(见图1)。表1概括了人工智能的大数据处理和预测分析在决策四个阶段中的具体实践形态及其影响。

   (一)人工智能、政策问题界定及议程设定

   政策问题界定和议程设定是公共决策过程的起点,公共决策首先要确定政策应该优先解决哪些问题?对政策议程设定的研究主要关注两类问题:一是社会问题的性质是什么,政府干预这一问题的必要性何在,即问题界定。问题界定在议程设定过程中发挥着特殊作用,社会问题能否进入议程在很大程度上取决于问题如何被社会认知和建构,如问题产生的结果是好的还是坏的,问题的重要性程度如何,以及问题是否有解决的方案(Baumgartner & Jones, 2015)。二是在大量社会问题中,哪些问题被决策者所关注,这些问题如何进入政策议程,即政策议程设置。政府内外的行动者总是寻求以各种手段来影响问题界定和议程设定过程。传统上,除了政府决策者外,新闻媒体的传播,专家学者的决策咨询和利益集团的游说活动等都是影响政策议程的重要手段(Kingdon, 1995)。议程设定过程的核心是如何使政策问题从公共议程上升到决策者注意力范围内,并进入正式政策议程。现有研究发现,有多种模式推动了政策问题进入决策议程(Howlett & Ramesh, 2003):第一种是外部倡议模式,即社会力量通过动员公众支持推动政府关注某一政策问题;第二种是内部倡议模式,指的是决策相关者不用公众支持而影响议程,如利益集团独立动员某些社会群体直接影响政府决策;第三种模式是支持动员模式,是没有公众参与的决策议程初步确定后,政府再动员公众支持该项政策问题;第四种模式是整合模式,即当一项政策问题已经获得公众的广泛支持和共识后,政府再顺应民意推动议程建立。在大数据时代,人工智能是影响问题界定和塑造议程设定模式的重要手段,通过不同于传统的媒体、利益团体和专家行为的方式发挥影响。

首先,人工智能的大数据处理能力是政府内外各类行动者界定问题的重要工具或平台。在大数据时代,微博、微信、推特和脸书等在线社交工具成为重要的线上公共问题讨论和决策参与平台,社交媒体大数据作为重要的公共舆论形态,是决策者获取信息和议程设置的重要来源。一方面,政府决策者在设置政策议程时越来越重视网络大数据和在线公共舆论。当一项公共问题引发热议或舆论风暴时,决策者可以利用人工智能技术,如自然语言处理、文本情感分析、数据挖掘和图形识别等分析事件或问题引发的舆论动向,如舆论内容、舆论情绪及其变化趋势与传播途径等,从而有助于决策者掌握事件或问题成因,对其可能产生的政治社会后果进行精准识别,(点击此处阅读下一页)

    进入专题:   人工智能   算法决策   公共决策  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 民商法学
本文链接:http://www.aisixiang.com/data/128643.html
文章来源:《开放时代》2021年第5期

2 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2021 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统