吴进进 肖汉宇:“技术—组织—文化”视角下政府算法应用的公众信任

选择字号:   本文共阅读 47 次 更新时间:2026-06-05 22:13

进入专题: 政府算法应用   公众信任   算法技术  

吴进进   肖汉宇  

吴进进,法学博士,深圳大学政府管理学院副教授,深圳大学全球特大型城市治理研究院研究员;

肖汉宇(通讯作者),哲学博士,香港教育大学社会科学与政策研究学系副教授。

摘  要政府算法应用的公众信任不仅受算法技术性能的影响,还与算法的组织环境和文化价值观密切相关。构建“技术—组织—文化”(TOC)框架来分析政府算法应用公众信任的关键影响因素及其形成机制可发现:技术维度聚焦于算法的性能、透明度和用户体验,这些因素直接影响公众对算法的信任感知;组织维度则关注任务场景、公众参与和监督问责机制,这些要素通过增强算法应用的合法性和公正性,间接影响公众信任;文化维度深入探讨技术价值观、政府信任等因素对公众信任的塑造作用。TOC框架还揭示了组织与文化因素对政府算法应用公众信任形成的调节效应,表明公众信任并非孤立产生,而是在技术、组织和文化因素的交互作用中逐渐形成。由此,政府算法应用公众信任的形成机制包括积极体验机制、权利保障机制、信任扩散机制和场景适配机制。

随着人工智能技术在政府部门的应用不断扩展,算法凭借其强大的数据处理和预测分析能力,广泛应用于公共决策及公共服务的多个领域,成为推动数字政府与公共治理智慧化的重要驱动力。政府部门的算法应用不仅需要突破传统科层制的壁垒、数据共享不畅与技术储备不足的“技术壁垒”,更棘手的是跨越“用户壁垒”。算法欣赏理论认为,算法在提供充足信息、识别紧迫问题、预测潜在结果以及评估政策有效性等方面具有显著的优势,有助于克服政策过程中的人为偏见,帮助政府部门更有效、更客观、更精准地进行公共资源分配和公共服务供给。因此,当人们意识到算法的决策比人类决策更客观、更准确、更不易受情绪影响且更少带有歧视性时,便会更愿意接受算法。然而,算法厌恶理论指出,人们普遍不愿意接受算法,担心算法产生一系列道德与伦理问题,如社会偏见、侵犯隐私、违背社会公平、缺乏透明度和问责困境等。在算法时代,公众对政府算法应用的信任缺失,可能会降低其对政府智慧化转型的认同与支持,进而削弱算法对提升政府治理绩效和公共服务有效性的赋能作用。

明晰政府算法应用公众信任的成因及其形成机制,有助于政府更好地破除算法应用的“用户壁垒”。当前,针对政府算法采纳原因、算法绩效产出及其治理模式的研究正日益增多,对政府算法应用公众信任的讨论尚不充分,且既有研究视角相对零散、结论缺乏共识,亟待研究者系统梳理。本文借鉴经典的“技术—组织—环境”(TOE)视角,结合风险感知的文化理论(the cultural  theory of risk perception),提出“技术(Technology)—组织(Organization)—文化(Culture)”(TOC)分析框架,深入分析政府算法应用公众信任的形成机制,通过整合技术、组织和文化三个维度,全面解释公众对政府算法应用的信任。

理论基础与分析框架

(一)政府算法应用的公众信任及其解释理论

公众对人工智能的信任问题是一个复杂而多维的议题,不仅涉及技术本身的性能和可靠性,还与社会文化、伦理规范以及公众的认知和期望密切相关。多个经典理论都对公众对人工智能算法的态度与信任做出了不同解释。早期的技术接受模型认为,用户对技术的接受度受其对技术有用性和易用性感知的影响。随后,Venkatesh等在原有模型的基础上进行扩展和深化,引入社会影响因素,提出了统一理论模型(UTAUT)。然而,算法技术的广泛应用也引发了公众对其潜在风险和伦理问题的担忧,可能引发公众的不信任。因此,风险感知理论为理解公众对人工智能的态度提供了一个有力的分析框架,公众对人工智能的信任与其风险感知呈负相关,即风险感知越高,信任度越低。

政府算法应用的公众信任指公众对政府使用的算法技术的信任程度。这种信任不仅是技术信任的一种,更是公共治理领域中技术与人际信任的融合。政府算法应用的特殊性在于其公共性和权威性。政府算法应用涉及司法、公共安全、医疗、社会福利等领域,对公众的权益和福祉有着深远影响,影响公众信任的因素更为复杂。尽管一些经典理论在解释一般性人工智能信任方面具有一定的适用性,但它们在解释政府算法应用的公众信任时存在一些局限与不足。首先,技术接受模型主要关注个体层面的技术接受行为,忽视了组织和社会因素。其次,UTAUT模型虽然考虑到了社会因素和技术基础设施对信任的促进作用,但并没有专门解释公众对政府的信任与风险感知因素。最后,风险感知理论忽视了算法技术的复杂性,也未能充分考虑文化和社会背景的差异性。

(二)“技术—组织—文化”分析框架

“技术—组织—环境”(TOE)框架被国内外研究广泛用,主要用于识别和分析不同情境下组织采纳某项技术的关键影响因素。TOE框架的核心观点是,组织对技术的采用和接受不仅取决于其绩效,还受组织的文化与制度安排以及所处环境因素的影响。近年来,利用这一框架分析影响政府使用人工智能素因的研究不断涌现。然而,TOE框架旨在解释组织层面对于算法的采纳,不太适用于个体的态度和行为,未能充分考虑个体层面的因素,如公众的情感、伦理考量和社会文化规范等。本文基于技术接受模型、风险感知的文化理论等,对TOE模型作了修正,将环境属性因素替换为文化因素,创造性地提出了“技术—组织—文化”的分析框架,通过阐释这三类因素及其相互作用,更全面地理解公众对政府算法应用的信任度。

首先,技术接受模型、UTAUT模型等理论都强调公众对信息技术有用性、易用性等的感知和期望是决定个体信任并使用技术的核心因素。公众对政府算法应用的信任度受算法技术自身特性的影响,如果公众认为算法性能优良、安全可靠,能够提升公共服务的效率和质量,就更可能信任和支持政府采纳算法。其次,组织因素对政府算法应用的公众信任同样发挥着不可忽视的作用。算法作为社会技术系统的一部分,嵌入于特定的组织体制之中。因此,算法在政府层面的采用与扩展,无法脱离其所处组织的特征与具体背景;公民对算法决策的态度,在很大程度上也取决于算法应用的组织因素。最后,理念、规范等文化因素对公众接受技术的影响日益受到学界重视。对于那些收益与风险并存的技术而言,公众的态度更容易受到文化和价值观的影响。风险感知的文化理论认为,个体对于风险的感知和评估不仅受到信息和知识的影响,还深受他们所属社会群体的文化价值观和世界观的塑造。

本文选择用“文化”因素替代传统TOE框架中的“环境”因素,一方面是因为文化比环境因素更能解释公众对算法的信任,它直接影响人们对技术的感知和风险评估。文化不是环境的简单补充,而是环境的内核。环境是外部的动态变量,比如政策法规和社会舆论等,难以稳定地解释个体态度。文化则是环境因素的源头,体现了公众内心深处的价值观和世界观,根植于社会群体的长期积淀,塑造着人们对技术的直觉反应。公众对信息技术的乐观或悲观态度,往往不是因为某项政策的出台,而是因为文化中对未知事物的接纳程度。文化还通过群体压力影响技术接受。在强调“跟随主流”的文化中,即使个体对技术持保留态度,也可能因社会规范压力而被动接受。另一方面,文化因素能够更直接地作用于公众的信任机制。环境因素往往是间接的,如舆论可能通过影响文化中的技术价值观,进而塑造公众对算法的态度。文化则不需要经过复杂的中介,就能让公众对算法产生信任或怀疑。因此,文化比环境更能解释公众对算法的态度。

政府算法应用公众信任的影响因素:技术、组织、文化

“技术—组织—文化”分析框架中的三个维度相互作用:技术因素提供了信任的物质基础,组织因素构建了信任的制度保障,而文化因素则塑造了信任的价值导向。这种多维度的整合旨在克服既有理论模型的局限性,通过动态整合技术、组织和文化三个维度,构建一个更具解释力和适用性的分析工具。

(一)技术因素视角下算法的“绩效产出—运行过程”

基于政策系统合法性视角,可以从过程和绩效产出两个维度更好地理解政府算法应用的公众信任。一方面,算法的绩效产出直接决定其性能的有效性和有用性,进而影响公众信任。另一方面,算法运行过程,如数据输入、选择标准、训练指标等的复杂性和不透明性易引发公众对算法偏差和歧视的担忧,降低信任。因此,算法的透明性和程序的公正性对公众信任至关重要。

1.算法绩效产出与政府算法应用的公众信任

算法绩效产出,即算法在实际应用中的准确性、可靠性、安全性和效率,是算法性能的集中体现,直接决定了算法功效和收益。算法的绩效产出是公众信任并接受算法的前提。高绩效产出的算法能够稳定地提供准确的结果,减少错误和偏差,增强信任。实践中,公众更关注算法应用能否改善行政效率与公共服务效果。例如,人工智能可借助自动化技术简化行政流程、降低行政成本,并通过预警与预测分析提升资源配置效率,增强决策的前瞻性。人工智能算法还有助于提高决策的准确性,如精准锁定目标,提供高效的行动方案和服务供给模式。算法技术的可靠性、客观性、准确性与安全性是公众信任的基础。算法的预测准确率高,公众信任度也就高。反之,算法偏见或性能不佳会削弱信任。如果算法的性能低于无算法辅助下的专家决策,公众也不会选择信任算法。

算法的绩效产出影响公众信任的关键途径是用户体验。用户体验是公众在使用算法时的直观感受和深层次体验,包括界面设计、交互方式和响应速度等。良好的用户体验设计能够提高公众的满意度,提升其对算法的积极认知。用户体验可分为直观的感官体验和深层次的内在体验。第一,直观的感官体验主要源于用户与算法界面(如视觉展示、操作方式、智能设备、软件应用)的交互。算法应用界面设计在拟人化、主动性、响应性、互动性、语言风格、学习体验等外在性能上给用户带来的情感愉悦,对提升政府算法应用的公众信任起到了很大的积极作用。第二,对算法技术的内在使用体验产生于公众对绩效产出的深层次感知,如准确性、可靠性、安全性等,体验到算法实质性地增进了个体利益。如果算法决策解决的是个体重要的利益问题,公众对算法的信任度自然就提高了。

2.算法透明与公众信任

尽管算法能提升服务绩效和个体体验,但公众仍可能对其决策过程存疑。算法作为无生命的机器程序,其训练数据可能带有种族、性别等偏见,且算法的黑箱特质使得公众难以理解其决策过程,从而担心算法可能对某些群体造成不公平对待,甚至侵犯个人隐私等基本权利。这种担忧在一定程度上阻碍了公众对政府算法应用的信任。算法透明度缺失引发信任危机的一个典型例子是荷兰政府福利欺诈监测系统SyRI(System Risk Indication)。该系统通过整合税收、住房、教育等11类公民数据构建风险模型,自动标记“潜在福利欺诈者”。但政府拒绝公开算法逻辑和数据关联规则,导致公民质疑该系统结论,2020年海牙法院裁定其违法并强制停用。此案也成为全球首个因算法不透明被司法叫停的政府系统,揭示了技术合法性缺陷可能直接导致公共服务信任崩塌。因此,公众对算法的信任很大程度上取决于算法运行过程的合法性、透明性和可解释性。透明的算法能公开数据来源、决策逻辑和训练过程,并以通俗易懂的方式解释决策依据,显著提升公众的积极评价和对政府的信任。算法透明度包括可访问性和可解释性两个方面。虽然可访问性很重要,但仅凭这一点并不足以培养信任。算法可解释性对信任的影响要比算法的可访问性更显著。相比于形式化的透明度,如简单地把算法的源代码、模型或数据公开,公众更重视更严格、更有价值的透明度。许多算法决策模型的可解释性相对较强,如规则驱动的算法模型通常用于通过定义显式规则来解释复杂模型,其输出结果是完全可理解的,公众的信任度也更高。

(二)组织因素与政府算法应用的公众信任

依据简·芳汀(Jane E.Fountain)的技术执行理论,信息技术并非中立性工具,其在科层组织中的应用并非简单植入,而是经由组织制度、权力结构与实践逻辑的重塑,最终形成落地运行的实践性技术。算法作为社会技术系统的一部分,嵌入特定的组织与制度体系之中,由参与者部署于决策环境与业务流程内,用以处理特定任务。技术与组织的结构、流程及制度因素的相互作用,影响着公众对算法的态度与认知。阿尔伯特·梅杰(Albert Meijer)等总结了算法与科层组织互动的两种模式:“算法牢笼”模式强化科层制控制导向,引发了基层工作者的普遍反感和抵制;“算法协作”模式推动了权力的分散化和工作人员的自主性,得到了更为积极的评价和反馈。总体上,政府算法应用的公众信任受三类组织因素影响:算法参与机制、问责机制以及任务场景属性。

1.算法参与机制

公众不仅是算法自动化决策中的被动接受者,也是算法治理过程中的重要参与者。由于算法技术的“黑箱”特质,大多数算法模型难以被公众访问。即使数据特征、决策模型与基础参数等已被公开,但其技术复杂性仍使得一般公众难以理解。一般意义的算法透明对政府算法应用的公众信任的影响可能是心理安慰,并不足以产生持久稳固的信任。因此,依靠算法做出的公共决策可能会进一步压缩公众参与的空间,削弱公众的政策认同和支持。缺少决策参与也是部分国家公众反对在特定公共服务使用人工智能的重要原因之一。公众对公共决策的参与和审议可以对政府产生更积极的看法,算法参与也有助于提升对政府算法的信任度。算法的公众参与机制指在算法的设计、开发、应用与评估全流程中,为公众提供参与渠道与机制,涵盖算法反馈、建议、监督及决策参与等环节。该机制旨在充分吸纳公众的声音与需求,增强公众对算法的信任度与接受度。公众期望在特定公共服务场景中,对人工智能的应用拥有话语权。算法设计涉及多元价值选择,将利益相关者纳入算法各阶段,有助于平衡设计中的价值权衡,进而提升算法合理性,对增强政府算法应用的公众信任产生更积极作用。此外,让利益相关者参与算法设计,也是克服算法偏见的重要手段——多地政府正通过数据开放与共享,提供数据接口及API接口,以此提升公众的数据应用能力,保障其参与算法行政的程序权利。

2.监督问责机制

强化对算法决策的监督与问责是纠正算法决策偏差的根本保障,也是保障政府算法应用公众信任的关键。算法的监督问责机制是对算法应用过程和结果进行监督、评估和问责的制度安排,以及在算法出现问题时明确责任归属和采取相应措施的机制,确保算法应用的合法性和公正性,从而显著增强用户对算法决策的信任和安全感。其一,多数观点认为算法在复杂问题和需要大量自由裁量的事务上仍然无法取代人类。在高度复杂的情境中,人机协同的算法决策模式比单纯的算法自主决策更受欢迎,将人类纳入算法决策的循环,确保人类的监督角色,有助于提升人们对算法公平性的认知。其二,算法不仅具有偏差风险,还面临着组织问责难题,因为公众不知道算法决策失败时该向谁求助,或者由哪个部门负责。当前,算法决策责任与义务的界定模糊,被视为人工智能领域最大的风险来源。人类通过制定法律与规范来对自身行为负责,而计算机本身无法在道德层面承担责任。因此,建立明确的算法问责制是对抗算法歧视的重要措施,对算法问责有效性的感知也被证明增加了人们对算法的满意度和信任。

3.任务场景

算法应用的具体场景是指算法在实际应用中所处的特定领域或情景。例如在医疗领域,算法可以用于辅助诊断疾病;在交通领域,算法可以用于优化交通信号灯的控制。这些不同的领域就是算法应用的具体场景,每个场景都有其独特的背景和需求,决定了算法在该场景下的应用方式以及公众对算法的期望。任务属性则指在这些场景中算法所承担任务的性质和特点,如任务的复杂性、重要性、隐私性、结构性等方面。布洛克(Bullock)认为,当前的弱人工智能更有可能自动化或增强简单的常规性任务与场景,擅长解决边界清晰、具有良好结构性(模块化或“可分解”)的问题。在低复杂性决策方面,人工智能用可计算的标准实现了一些定量目标,决策能力已经超越了人类。但是,算法决策并不擅长处理复杂任务,人类在这方面的优势更明显。因此,公众对算法决策的态度在高复杂性和低复杂性的决策环境下有所不同。在医疗诊断中,任务的复杂性和重要性通常较高,同时涉及患者隐私问题;而在交通信号灯控制中,任务的结构化程度较高,隐私性相对较低。公众倾向于对处理相对简单任务的算法决策产生更高的信任,而在高度复杂的决策场景下,如刑事司法、医疗保健和社会权利分配等领域,算法决策相对于人类决策更不被认可。同样地,相较于主观任务,公民对算法决策执行客观任务时的感知的公平度和接受度更高。

(三)文化与政府算法应用的公众信任

由于公众在大多数情况下不会直接与政府算法应用互动,研究仅能从后端观察算法决策的实际应用及产生的影响。人类的思维在面对新事物时,通常会依据预先形成的规范、价值观和经验来进行认知组织,在接收新信息时会先对其进行快速的信任评估,而非直接判断算法的绩效信息。因此,风险的文化认知理论(cultural cognition theory)认为,文化价值观比社会因素更有力地预测公众对纳米技术、基因编辑、人工智能等技术的态度。

1.技术价值观

技术价值观指个体对技术积极或消极的认知。算法作为一种新兴的信息技术,对人类社会产生了广泛、深远而复杂的影响。公众对人工智能技术也存在着截然相反的两种态度,因此,不同的技术价值观也影响着对政府算法应用的公众信任。技术乐观主义者更有可能接受互联网和其他信息技术创新,相反,技术悲观主义者对人工智能有更负面的看法,对算法决策的支持度较低。部分国家的公众得益于积极的政策反馈,对算法技术应用的态度更为乐观,更加关注该技术的有益方面,因此对人脸识别技术的风险认识相对较低。相比之下,一些西方国家公众对人脸识别产生的数据泄露和隐私的态度更加悲观,这也是美国部分城市,如旧金山、波士顿和奥克兰立法禁止公共场所使用生物识别技术的重要原因。

2.政府信任

政府信任指公众对公共体系及其机构的信任和信心,它是维持政治稳定和政策顺利执行的基础。算法决策是政府主导下的算法应用,带有显著的公共属性,算法开发与应用机构的声誉也构成了嵌入算法的社会技术系统的一部分,影响着公众信任。当公众对应用算法的政府有较高的信任时,他们更可能认为算法的设计和应用是为了公共利益,而不是仅仅为了追求效率或利润最大化,因此也更倾向于认为算法是值得信赖的。此外,对政府的信任显著降低了公众对人工智能的风险感知。政府算法信任可视为政府信任的延伸与扩散。在算法日益参与公共决策与社会治理的背景下,公众对政府算法的信赖已成为政府信任的新维度,被视作政府信任在技术治理领域的一种体现。尤其在部分可能存在侵犯公众隐私风险的算法应用场景中,政府信任更是影响公众算法接受度的关键因素。当公民信任政府,他们更愿意在公共领域接受人脸识别技术,而那些不信任政府的人则认为这些技术侵犯了个人隐私。在东亚国家,民众往往因为信任政府从而接受算法应用,如新加坡政府利用算法优化公共交通系统,通过分析交通流量数据,实现智能调度和资源分配,提高公共交通的效率和可靠性。由于政府在城市治理方面的良好声誉和高效管理能力,民众对政府应用算法提升公共服务质量持积极态度。

(四)政府算法应用公众信任的复杂性:组织与文化因素的调节效应

尽管公众对政府算法应用信任度的前提是算法的绩效产出,同时组织和文化因素也发挥着重要的影响,但是政府算法应用公众信任的形成并不简单由三个要素独立实现。越来越多的研究注意到三个要素之间的互动对政府算法应用公众信任的复杂影响,特别是在技术因素如何创造算法价值并获得公众信任的过程中,组织和文化因素发挥了关键的调节作用。本文识别了三种组织与文化因素的调节路径。

第一,在组织因素中,算法应用的任务与场景被视为重要调节变量之一。在不同的应用场景中,政府算法应用的公众信任因公众对隐私、安全性、透明度等算法绩效的期望而有所不同。在高度敏感的领域,如人脸识别技术,公众对个人隐私的保护有着更高的要求,因此算法的可靠性和公正性变得尤为关键。在这种场景下,算法的任何失误或偏见都可能被视为对个人权利的侵犯,导致公众信任的大幅下降。此外,任务的性质也会影响公众信任政府算法应用程度。在一些需要高度精确性和公正性的决策任务中,如司法判决或医疗诊断,公众对算法的期望不仅是高效,更要求其决策过程的透明和可解释。如果算法能够在这些领域提供清晰、合理的决策依据,并且经得起公众的审查,那么它就更有可能获得信任。相反,在一些较为简单或程序化的任务中,如交通违规的自动罚款系统,公众可能更关注算法的效率和便捷性,对透明度的要求相对较低。

第二,在文化因素中,公众对算法决策机构的信任度可以增强算法绩效对信任的积极效应。对中国政务服务大厅自助服务终端服务体验的研究表明,公众越信任地方政府,自助服务终端的个性化和界面的美学设计就越能改善公众的体验感。即使这些系统存在一些小的技术缺陷,公众也可能因为对政府的信任而更宽容,更愿意接受并使用这些服务。相反,如果公众对政府的信任度不高,即便算法的绩效很高,他们可能也会对算法的结果和决策过程持怀疑态度。此外,对算法决策机构的信任还能够缓解公众对算法透明度和可解释性的需求。当公众信任政府时,他们更可能相信算法决策的工作原理和决策过程是安全可靠的,对运行过程的可解释性的要求也随之降低。

第三,组织因素之间相互作用对政府算法应用的公众信任也产生了复杂的影响。随着决策重要性的增加,公众对于人机交互治理的期望也随之提高,人机交互的算法组织体制的合法性红利将增大。在重大公共决策场景下,如城市规划、医疗诊断或刑事司法等领域,相比算法主导的决策模型,公众更倾向于信任人类决策者和算法技术相互配合,特别是算法辅助人类决策的模式。在这些场景下,算法辅助人类决策的模式被认为是最理想的。组织因素之间的调节作用还表现在公众对算法透明度和问责机制的期望上。在重大决策场景中,公众期望算法的决策过程是透明的,当算法出现问题时有明确的问责机制。这种透明度和问责性有助于增强公众对算法的信任,它们提供了一种监督和纠错机制。

政府算法应用公众信任的形成机制

当前对政府算法应用公众信任成因的分析,涉及多个影响因素,本文将其归纳为技术、组织和文化三个解释维度。从这三个维度出发,可以总结出四个政府算法应用公众信任的形成机制(参见图1),这四个机制相互作用,不同机制侧重特定要素。

1 “技术—组织—文化”视角下政府算法应用公众信任的形成机制

第一,积极体验机制。公众的积极体验机制是政府算法应用中促进信任建立的核心动力,这一机制主要通过算法的绩效产出与用户的交互体验等典型技术因素发挥作用。当算法在实际应用中展现出优化服务与资源配置的能力时,公众更容易感知其带来的积极变化,进而增强信任感。良好的用户体验设计,包括直观的操作界面与积极的交互反馈,能进一步提升公众的使用满意度,推动形成对算法的积极态度。此外,算法的透明度对构建积极体验同样重要,它能让公众理解算法的决策过程,减少对偏见与错误的担忧,增强安全感。

第二,权利保障机制。权利保障机制是政府算法应用中公众信任生成的关键机制之一,其核心依托于组织因素中的算法参与、监督与问责等要素。这一机制的核心目标在于保障公众在算法决策过程中的参与权与监督权。通过参与环节,公众能够对算法的设计与应用提出意见,推动算法充分考量多元视角与公共利益,而非仅聚焦于技术或行政效率层面。算法监督与问责则聚焦于确保算法决策过程的公正性与透明度。通过构建人机协同、算法审查、公开算法审计及反馈系统等有效监督机制,可对算法决策结果进行评估与干预。此类监督有助于识别并纠正算法可能存在的偏差与不公平现象,强化公民对算法公正性的信任。通过促进公众的参与和监督,该机制能够平衡算法的技术理性与价值理性,确保算法应用不会损害公众权利,进而构建更为开放、包容且可信的算法应用环境。

第三,信任扩散机制。信任扩散机制是一种基于文化因素中政府信任与技术价值观的社会心理现象,通过积极的社会互动与正面的文化影响,公众的信任可从对决策者、机构的信任及对技术的乐观态度中扩散开来,进而推动对政府算法应用的广泛接受与信任。这一机制的核心理念在于,当公众对政府部门或技术企业持有信任感时,这种信任感会延伸至这些机构所使用的算法技术,即便这些算法本身或许并非完全透明或易于理解。

第四,场景适配机制。场景适配机制是政府算法应用公众信任构建的核心机制,主要对应组织因素中的任务场景变量。该机制要求深入考量任务的复杂性、重要性及特定需求,确保政府算法应用在具体场景中科学合理且符合公众期望。组织场景适配机制强调,政府算法应用公众信任的形成并非孤立过程,而是在算法与特定组织环境、任务场景的交互中逐步塑造的。公众对算法的信任不仅取决于算法本身的性能,更在于算法与应用场景的契合度。

余论:走向算法治理的共生范式

在数字化时代背景下,政府算法应用的普及对提升治理效率和服务质量具有积极作用。然而,要实现这一目标,首先必须解决公众对算法的信任问题。本文提出“技术—组织—文化”(TOC)分析框架,创新性地整合技术、组织和文化三维度,全面阐释公众对政府算法应用的信任形成机制。框架突出文化因素的关键作用,涵盖技术价值观、政府信任、社会规范和伦理考量,为跨文化研究提供新基础;揭示公众信任形成的复杂机制,强调技术、组织和文化因素的交互作用,通过技术因素(性能、透明度)、组织因素(公众参与、监督问责)及文化因素(技术价值观、政府信任)共同塑造信任。

政府算法信任研究本质上是对数字时代治理合法性的再审视。TOC框架揭示的多元互动机制表明,技术理性与价值理性的张力无法通过单一维度消解,这就要求我们超越传统的“工具—制度”二元思维,构建更具包容性的治理范式。在AI技术加速迭代的背景下,算法系统已从辅助决策工具演变为具有自主性的治理主体,导致治理主体从“人—政府”向“人—算法—政府”转变,催生了“公众—算法—政府”的三元治理结构。这种结构性变革迫切需要重构责任分配机制:当算法决策导致权益侵害时,责任主体认定需突破传统行政法框架,建立涵盖技术开发主体、部署主体与应用主体的“责任链”模式。同时,算法透明性也面临技术瓶颈与公共理性的双重挑战:完全透明的技术不仅不现实,还与公众理解能力不足存在矛盾。因此,亟须建立“分层透明”制度,针对不同群体设计差异化的算法信息披露机制。

本文提出的综合分析框架有助于政府部门识别算法决策的潜在障碍,为政府治理智慧化转型提供参考,也为政府算法决策和治理研究提供新视角。当然,本文的分析框架也存在一些不足:一是未充分考量技术、组织和文化因素随时间演化的动态性,分析框架需进一步发展以更好地理解这种动态性和流动性。二是在探讨技术性能的过程性因素时,多强调算法透明度和可解释性,而忽略数据完整性与质量对算法产出绩效的关键影响,算法的安全性、稳定性、反馈性等过程性性能因素也未得到充分探讨。三是虽涉及文化因素,但对跨区域、跨国别不同文化背景下政府算法应用公众信任的差异及其影响因素的分析不够深入。

未来研究应关注算法信任与其他治理价值的动态平衡。一方面,算法效率追求可能挤压民主协商空间,通过算法设计保留必要的民主审议时间。另一方面,文化价值观的冲突在跨国算法治理中尤为突出,西方个人主义文化下的隐私保护范式与东亚集体主义文化下的效能优先模式,亟须通过全球数字治理协商建立互认机制。而生成式AI的大语言模型模糊了规则驱动与数据驱动的界限,其涌现能力使传统算法监督机制失效,这要求我们重新思考算法可信度的评价标准:当准确性无法验证时,“过程可信”可能比“结果可信”更具现实意义。这些挑战共同指向算法治理的新范式;要求我们在保持技术赋能优势的同时,应维护人类在公共治理中的主体性地位,技术专家、政策制定者与公众共同构建面向算法治理的共生新生态。

原文见于《东南学术》2026年第3期

    进入专题: 政府算法应用   公众信任   算法技术  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 政治学 > 政治学理论与方法
本文链接:https://www.aisixiang.com/data/177093.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2025 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统