姚颖若 王雷:情感计算技术的伦理边界:数据治理框架下的权益风险与规范机制重构

选择字号:   本文共阅读 45 次 更新时间:2026-09-13 14:59

进入专题: 数据治理   情感计算技术  

姚颖若   王雷  

原文刊载于《全球传媒学刊》2026年第2期“智能传播”专栏

姚颖若,宁夏大学法学院博士研究生,宁夏医科大学人文与管理学院讲师;

王雷,中国政法大学政治与公共管理学院博士后。

【摘  要】随着数字中国与数字政府建设的深化,情感计算作为人工智能的重要分支,正广泛应用于政府公共治理领域。该技术通过解构情感,实现了对情感信号的捕捉、识别与反馈,在提升治理效能的同时,也因其涉及敏感数据处理而引发了关于人的主体性、隐私权、平等权及知情权受损的伦理隐忧。本研究深入剖析了情感计算嵌入政府公共治理的运行逻辑及其侵权风险。重点探讨了该技术在警民互动、犯罪治理、舆情治理及交通治理四大场景中的应用机理,并系统揭示了其可能带来的主体性排斥、个人信息泄露、算法歧视及算法黑箱导致的知情权侵犯等法律与伦理问题。本研究引入法学领域的比例原则作为核心分析框架,构建了针对情感计算技术应用的审查机制,该框架包含目的正当性、适当性、必要性以及相称性标准四个维度,用于权衡公共利益与公民个人权利。研究表明,遵循比例原则的审查框架能有效规制情感计算技术在公共治理中的应用,这不仅能确保行政目标的实现与决策科学性的提升,更能从法律和伦理层面最大限度地减少对公民权利的侵害,为技术应用划定清晰的伦理边界与规范路径。

【关键词】情感计算;公共治理;权益侵害;比例原则

加快推进数字中国建设,构筑国家发展新优势是党的二十大以来社会主义现代化建设的重要内容。数字政府建设作为夯实数字中国建设基础、赋能新时代中国特色社会主义政治文明建设的题中应有之义,也随着数字技术的发展走向了提质增效的新阶段。在信息化、数字化与智能化叠加共进的社会发展状态下,我国行政管理的数字化转型程度不断加深,数字政府职能应用覆盖面不断拓宽。随着我国数字政府建设的不断深入,“数字治理生态”不断优化,数字政府的建设也应当与时俱进,进一步利用大数据、人工智能等新技术革命的最新成果推进数字行政治理工作。大数据、人工智能等新技术的广泛应用能够促使机器不断学习,促进机器的自我进化。但机器始终不是人类,如何让机器能够拥有和运用人类的情感,成为人工智能技术发展的重要议题,且愈发受到重视。情感计算技术的出现和大规模使用,使得这一愿望的实现成为可能(李棠洁,2024)。作为全球范围内情感计算应用最为深入的国家之一,我国已成功将情感计算技术广泛应用于犯罪预防、舆情监测、交通管理等关键公共治理领域,并显著提升了治理效率与质量,为公共服务的优化与升级注入了强劲动力。但情感技术属于一种算法,情感技术的利用离不开数据和智能技术的支持,情感计算技术应用于行政治理的过程也不可避免地对人的主体性、个人信息和隐私、平等权等造成了严重的威胁(程倩、林榕,2024)。因此,在推进情感计算与政府公共治理融合的过程中,必须审慎权衡技术应用的利弊,建立健全相应的法律法规与伦理规范,确保技术发展成果能够惠及全民,同时有效保障公民的基本权利不受侵害。比例原则作为衡量公共利益与公民个人权利的重要标尺,能够为情感计算技术在政府公共治理中的应用提供清晰的指引。在公法与私法领域,学者们对于比例原则的应用也进行了诸多的探讨。但比例原则仅仅是一项原则,如何将其适用于情感计算技术的规制,依然有待进一步探讨。本研究在分析情感计算技术在政府公共治理中的应用与不足的基础上,提出将比例原则确立为情感计算嵌入政府公共治理的审查基准,以遏制技术的滥用与误用,同时对比例原则应用于情感计算技术的规制进行具体分析,确保情感计算技术在达成行政目标的同时,最大程度地减少对公民权利的负面影响,进而提高政府的服务水平,推进国家治理体系和治理能力现代化。

本研究旨在对新闻传播学科的多个子领域呈现知识边界延伸价值:其一,对舆论学研究而言,现有成果多聚焦于舆论的形成逻辑(陈珂、万欣荣,2023;李彪,2025)与引导策略(许静、雷跃捷,2025;沈正赋,2025),却较少将情感计算的技术规制纳入分析框架,本研究通过比例原则界定情感计算在舆情监测中的“合理干预边界”,进一步突出技术介入强度、舆论场域活力、公民表达权之间的互动关系,补足传统舆论研究中“技术维度缺失”与“权利视角薄弱”的局限,完善技术驱动型舆论治理理论体系;其二,对计算传播学而言,当前研究多集中于商业平台的情感分析与内容推荐(张雪、江积海,2025),本研究将计算传播的技术分析框架适用范围拓展至政府公共治理场景,结合比例原则探讨情感数据的“采集—分析—应用”全链条伦理约束,可突破计算传播“重效率轻价值”的研究倾向,丰富其在公共领域的应用范式与理论内涵;其三,对数字传播伦理与媒介化治理研究而言,现有文献对“算法伦理”的讨论多围绕商业算法展开,对政府主导的情感算法伦理规制关注不足,本研究以比例原则为核心构建情感计算的传播伦理审查标准,既能超越“公共治理语境下情感算法伦理”的研究局限,也能深化“媒介技术如何平衡治理效能与权利保障”的媒介化治理理论,为新闻传播学科介入数字政府建设的跨学科研究提供新的理论支点与分析路径。综上,本研究不仅致力于解决情感计算在政府治理中的规制难题,更试图推动新闻传播学科与公共管理、法学的深度对话,为新传领域审视数字技术在公共空间的传播实践提供兼具理论创新性与现实针对性的研究视角,进而拓展新闻传播学科在数字治理时代的知识辐射范围。

一、应用机理:情感计算嵌入政府公共治理的运行逻辑

将情感计算融入政府公共治理,是一个深度整合脑科学、心理学、计算机科学及社会科学的过程,旨在实现情感信号的精准捕捉、高效识别、深刻理解与智能反馈。借助先进的情感分析算法,情感计算技术已在犯罪预防、舆情监控、交通管理等多个公共治理领域展现出显著的功能与成效,为提升治理效能、优化公共服务提供了有力支持。

(一)情感计算技术的运作机理

情感计算是人文社科与自然科学技术的综合运用,关于情感的计算主要指通过技术对情感进行客观的信息化描述,属于情感信号的采集与初步结构化阶段;由情感引发的计算则是在此基础上进行情感识别与推断,属于中端分析与建模阶段;意图影响情感的计算则进一步推动情感反馈与干预机制的实现,属于后端应用与交互阶段。从此逻辑出发,情感计算由关于情感的计算、由情感引发的计算和意图影响情感的计算三个部分组成。

第一,关于情感的计算,主要是指通过技术对情感进行客观的信息化描述。在人类的情感表达中,存在可以直接观测的情感信号,一般情况下表现为文本信息、面部表情、外部动作等,但是面部表情与外部动作也可能是人类简单的生理反应而不代表任何情感。文本信息的传播中更有可能出现意思与真实情感之间的误差。为解决上述难题,情感信号与情感系统通过观测装置捕捉这些情感信号,对其进行收集,进而结合主体所处的特定环境来对其所流露的情感进行推测。换言之,计算机虽然无法直接感知人类的情感,但是可以通过情感信号的收集与识别,并结合特定环境来分析人类情感。

第二,由情感引发的计算。在收集到了相应的情感信号之后,如何才能准确地识别出相关主体的情感表达是情感计算面临的最难攻克的技术难题。其原因就在于,情感状态是一个综合的过程,涉及内在生理和心理过程的变化。计算机无法透视人类的心灵,因此无法捕捉到最为敏感的人类情感变化。因此,情感识别只能通过一些情感信号实现由外到内的观察和推测,而推测就意味着具有不确定性。尽管如此,人类在表达部分情感时的外部身体信号还是具有相似性,如恐惧和愤怒时音量会随之提高,兴奋时总是伴随着瞳孔放大。情感识别与表达就基于此映射关系进行建模,从而识别主体的相关情感。在多模态情感识别中,通过提取图片、视频等多种情感信号,对情感进行分类、回归、检测、检索。早期,主要采取实验引导实验者产生实验想得到的情感,收集实验者的声音、面部表情等,从而助力多模态情感识别研究。

第三,意图影响情感的计算。当计算机技术具备捕捉人类情感信号表达以及对其进行准确识别的能力之后,更进一步的发展便是能够通过这些技术赋予机器以表达情感的能力(刘婷婷等,2021)。这是人工智能技术所追求的高级目标。虽然当前的情感计算技术还未完全实现机器人的多样态情感表达,但也取得了一定的技术进步,如家用陪伴机器人的出现让人们看到情感合成技术的运用,日本的心理干预机器宠物“PARO”,以竖琴海豹宝宝的形象为原型,具有视觉、听觉、触觉等感官,能够感应来自人体和其他外界环境的刺激。在与人类的交互中,可以展示出与情境相应的心理和感情变化,并在感应方式中体现。可以仿真地接受人类的拥抱和抚摸,甚至展示出害羞等情绪(Wagner,2013)。

在明确了情感计算三个部分各自的技术目标之后,便可以提出该三者之间的技术逻辑,实际上,情感信号的收集与人类情感的识别只是情感计算的基本目标,情感计算的高级目标在于整合情感收集与识别技术,并将其反向运用至计算机上,促使计算机系统像人类一样准确地表达情感,并在此基础上根据不同情境采取不同策略来影响人类情绪。在此意义上,识别情感只是情感技术逻辑的一个组成环节,甚至是最初环节,让机器人拥有情感,能够调节自己甚至他人的情感才是情感计算的终极目标(周进等,2021)。

(二)情感计算嵌入政府公共治理的实践场景

随着情感技术的快速发展,情感计算已广泛应用于政府公共治理领域,为虚拟场景搭建、执法工具升级及治理智慧化转型提供重要支撑(黄雪英,2023)。当前,其在公共治理中的应用主要集中在警民互动、犯罪治理、舆情治理和交通治理四大场景。

1.警民互动场景:提升警务效能与警民信任

情感计算在公安管理中体现为对社会民众情绪与态度的监测分析,从而优化警务工作。通过对社交媒体、在线论坛等平台的情感数据进行实时分析,公公安机关能够及时捕捉民众对公安工作的满意度及诉求,辅助识别不实信息,准确把握民情民意,进而有针对性地调整执法策略,增强公众信任。在具体警务执行中,情感计算有助于识别公共场合人群的情绪状态与行为趋势。例如,在大型集会或突发事件现场,通过情绪投影、人群避障等动态人群情绪感染并行仿真算法(向南等,2016),情感识别技术能够预测人群情绪波动,帮助公安机关提前部署警力与疏导措施,有效防范群体性事件(王志英等,2019)。在日常警务服务中,情感计算可嵌入政务服务窗口、110接警系统,通过摄像头捕捉群众面部表情,实时判断焦急、困惑等情绪,提醒工作人员调整沟通节奏;110接警平台可结合语音情感分析,快速识别报警人恐慌、愤怒等情绪,优先调度警力处理紧急警情,缩短响应时间,让警务服务更具“温度”,夯实警民信任基础。

2.犯罪治理场景:强化犯罪预警与精准干预

在犯罪治理方面,情感计算应用于潜在犯罪倾向识别与行为预警,可解决传统风险评估工具难以解决的个体内差异性评估及数据失真问题(马皑、宋业臻,2021),实现对违法犯罪活动的早期干预。通过对社交媒体内容、网络论坛讨论等多源情感数据进行分析,情感计算可识别出具有暴力、极端或犯罪倾向的情感表达与语言模式,帮助公安机关发现个体或团体的危险信号。在审讯与治安检查中,通过实时分析被询问者的微表情、语音压力及生理反应等情感信号,系统可辅助判断其心理状态与言语真实性,提升侦查取证效率。多模态智能审讯技术通过非接触式生理检测、眼动检测等多源异构数据融合算法,实现对犯罪嫌疑人心理的智能化分析和谎言甄别(李长庭等,2024;李婧婷等,2025)。在高危场景动态防控中,情感计算与视频监控系统深度融合,在火车站、地铁站等人员密集区域实时识别焦虑、暴躁等异常情绪个体,同步向现场警务人员推送预警信息,从源头遏制违法行为。针对社区矫正、刑满释放人员等特殊群体,通过定期分析其社交动态中的情感倾向,评估心理状态与再犯罪风险,推动犯罪治理从“事后处置”向“事前预防”转型。

3.舆情治理场景:获悉公共舆论情感走向

舆情治理的前提在于及时把握舆情走向。与传统舆情监控技术相比,情感计算借助自然语言处理、机器学习技术,能够识别和分析文本中的情感倾向,实现精准监测(新华网,2022)。执法机关可利用这一技术对社交媒体、新闻报道、网络评论等文本数据进行自动化处理和分析,快速获取舆情信息,掌握民众情感态度,进而应对和引导舆论。通过对文本进行情感分类,可将文本划分为正面、负面或中性情感,帮助执法人员快速了解民众评价。情感分析还能识别和跟踪舆情变化趋势,通过分析情感变化了解民众情绪起伏,有助于发现和解读事件背后的动态因素,及时调整工作策略和预判舆情走向(陈炳丰,2019)。除文本情感分析外,由于现代社交媒体意见表达形式具有多样性,情感计算的对象也可扩展至人脸表情、语音表述、肢体行为等信号,计算结果在舆情控制、智能侦查等领域应用广泛(金升菊,2018)。部分社交媒体平台已尝试借助情感计算识别用户情绪倾向,优化内容推荐策略,实现更精准的舆论引导,这有助于揭示媒介内容与受众情感之间的互动机制。

4.交通治理场景:科学交通认知决策

在交通管理中,情感计算通过捕捉情绪因素对交通决策的作用,揭示出行者的出行决策过程和路径选择,为交通管理提供智力支持。基于社会情感计算的交通流分配方法关注人们的情绪因素对交通决策的影响,有助于提高交通系统的效率、安全性和可持续性(李棠洁,2024)。通过对情感因素进行测量和分析,交通管理者可以更好地理解出行者的选择原因,提供更符合需求和期望的交通服务。同时,情感计算可揭示出行者的路径选择规律,通过分析出行者的情感数据,更准确地预测和模拟路径选择行为,为交通流合理分配提供参考依据。在交通运输领域,驾驶员的愤怒、焦虑等负面情绪会严重影响专注度,可能导致交通事故,利用可穿戴设备对驾驶员的情绪状态进行实时监测和计算,能够有效减少交通事故(权学良等,2021)。有学者将Agent和情感计算进行建模,从生理和认知方面解决网络拥塞问题(余腊生、何满庆,2009),提升交通系统运行效率。

二、侵蚀权益:情感计算嵌入政府公共治理的侵权风险

任何技术都是一把“双刃剑”,尽管情感计算在犯罪预防、舆情监控、交通管理等多个领域展现了巨大的潜力与成效,但同时也可能伴随着对人的主体性、隐私权、平等权以及知情权的不当侵犯风险。

(一)侵蚀人的主体性:情感计算嵌入社会治理隐含主体性排斥风险

人的主体性是人所固有的内在属性,是人与其他物体区分的关键(凌应生,2025)。情感计算通过算法将人的行为简化为情感的机械反应,忽视了人类的复杂性、创造力和自主决策能力,可能削弱人的主体性(易显飞、胡景谱,2023)。

一方面,情感计算导致情感与人的具身认知相背离,情感与人的深层次需求联系未被正确认识。在情感计算过程中,具身情感与离身情感的差异使算法无法准确了解情感产生的真实状态,仅以“正向”或“负向”粗略划分。情感的外在表达与内在含义并非总是一一对应,需要结合具体情境作出差异化判断(皮卡德,2005)。在舆情管理中,情感计算对情感种类、强度和极性的设置必然倾向于类型化、抽象化。台湾大学简体中文情感极性词典(NTYSD)将语词分为“积极词”和“消极词”;知网Hownet中文词典则将语词分为负面评价词语、负面情感词语和正面评价词语、正面情感词语等(王娟等,2023)。类型化手段虽有助于辅助治理,却将情感与人身分离,情感本身及作为情感归属者的个体意义在某种程度上被忽视。

 

 另一方面,情感计算忽视了人类情感的不可复制性,消解了生命个体的情感差异,贬低了人的尊严。情感是双向交流互动的身心体验,情感计算技术将情感交流从“面对面”拓展到“键对键”的无物理接触式互动。例如,“阿尔法鹰眼”公司通过摄像头收集人的面貌视频流,分析头部及脖子部位的肌肉振频与振幅,借助算法分析个人的侵略性、焦虑度等参数,将受测人员分为“休息或安静状态”“正常或平和状态”“焦虑或紧张状态”和“激动或攻击状态”等,以辅助安检排查(荔枝,2017)。但身体参数与情绪状态并非一一对应,情绪往往复合存在,仅凭微表情判断难免偏颇。同时,有研究证明,智能体亮度会影响用户情绪表现,但并非所有情绪均受干扰(刘婷婷等,2021)。若以预设标准对情绪进行感知识别,忽视个体差异与自主表达,使人异化为单纯的治理客体而丧失主体性,则贬低了人的尊严。

(二)侵蚀个人信息和隐私权:情感计算嵌入社会治理隐含知情同意风险

情感计算涉及收集和分析个人情感数据,这引发了个人信息和隐私权被侵犯的担忧(王禄生,2021)。在我国,为平衡个人信息的利用和保护,制定了知情同意原则,但知情同意原则的应用不能彻底地解决行政治理活动中情感计算侵蚀个人信息和隐私权的问题。知情同意原则的贯彻,不仅需要行政主体充分尊重法律和人类尊严,还需要情感数据主体高度重视对自身权利的维护。这意味着,当情感计算收集与使用行为存在不合理之处时,情感数据主体享有拒绝权,并可以要求相关行政主体对数据的使用情况进行公布以及对此进行审查(汤建华,2022)。具体来说,情感计算技术的运用离不开对情感数据的识别和分析。在将情感计算嵌入政府公共治理的过程中,需要获得公众的情感数据,通过对这些情感数据进行分析、识别和学习,以了解公众的情感走向。而这些情感数据之中可能蕴含着个人信息和隐私,根据《中华人民共和国民法典》第1033条,除了取得权利主体的真实同意或者在法律有例外规定的情形下,其他侵犯个人隐私的行为皆非法。《中华人民共和国个人信息保护法》第13条也对个人信息的合理使用进行了明确的规定。总而言之,在现有的法律规定下,在法律未有例外规定的情况时,情感数据主体拥有自主选择是否公开情感信息、决定情感信息使用的方式和范围等内容的权利。但是,情感计算技术的嵌入可能会带来两个问题:一是在处理的情感数据之中,存在需要取得个人同意但未取得个人同意的数据;二是数据的处理虽然取得了个人的同意,但网络格式条款的运用极易导致部分数字弱势群体在未真正理解个人信息使用告知书等文件的含义的情况下,出于从众、怕麻烦等心理选择了同意。这样的知情同意仅满足了知情同意的形式要件,并不属于数据权利主体的实质同意。在《中华人民共和国个人信息保护法》订立之初,围绕知情同意制度能否保护个人信息安全的诸多质疑便是明证(龙松熊,2023)。而在情感技术的处理中,因为情感技术分析的数据不仅涉及文本数据还涉及个人表情等生物信息,这毫无疑问增加了个人信息和隐私权被侵权的风险。

(三)侵蚀平等权:情感计算嵌入社会治理隐含算法歧视风险

情感计算技术到目前为止仍然是不成熟的,并伴随着一系列的技术风险与伦理危害,若将其在行政治理中大幅度地使用而不构建预防措施,必然会破坏社会公平正义,侵犯公民的平等权。

一方面,存在数据歧视风险。情感计算所依托的是海量数据,通常情况下单个数据是歧视性的或不准确时对于运算结果并不会产生太大的影响,但当所依托的数据不全面如数据的大面积遗漏或者以偏概全,或有大量数据是不准确的,也会产生歧视问题。心理学家阿克曼(Paul Ekman)曾将面部识别技术研究从第一线教学扩展到了更广泛的领域,通过对5000多种面部运动进行分类,来帮助识别人类情绪。他的研究为Emotient Inc、Affectiva Inc和Eyeris等公司提供了帮助,后者将心理学和数据挖掘相结合,检测人的细微表情,并对人的反应进行分类(清华大学人工智能研究院等,2019)。这项技术的重点在于协助执法,但不同性别、不同种族的受测者在面部物理属性上的差异使得原先设计的情感计算不可避免地陷入数据歧视的困局之中。

另一方面,存在算法歧视风险。算法歧视的风险来源于算法设计之初的歧视和算法在学习之后演化的歧视。前者主要来源于算法设计者的立场、观点、价值追求甚至偏见。对于算法设计之初的歧视,可以通过法律的规制进行解决,但算法通过不断学习而产生的歧视,因其超越了算法设计者的预期而难以通过立法的方式予以规制。情感计算的识别结果是基于情感信号和情感内部状态的推测关系得出的,这种推测关系是大数据喂食算法进行机器学习,不断调整优化的,数据喂食的代表性和偏差便成了一大问题,所以情感计算也免不了算法歧视(宋华琳、孟李冕,2018)。此外,算法的设计和应用本身就不是一种完全价值中立的活动,不可避免地会蕴含着价值判断。有时,算法会不当地将特定对象、特定项目、特定风险给予不当的权重(腾讯研究院等,2017)。这些都有可能导致情感计算的结果有失公允,继而也就无法为行政决策的作出提供正确指引和支撑。

总之,在情感计算过程中,每个生命体之间存在较大差异,技术资本逻辑的嵌入可能会使智能体根据行政相对人的社会身份、种族、年龄、肤色、受教育程度等因素对其进行标签化、类别化处理,完全不顾及人的内在价值,而仅仅将人的社会地位与外形差异作为标准对其进行差异化评价。毫无疑问,这严重损害了人格尊严,摧毁了每个个体的客观平等地位。

(四)侵蚀知情权:情感计算嵌入社会治理隐含算法黑箱风险

情感计算嵌入社会治理隐含算法黑箱风险,进而可能因为算法的不透明而侵犯公民的知情权。算法的透明度是指“由算法的设计者披露有关算法如何部署、如何工作以及如何使用算法等相关信息,以期由监管部门或第三方进行监管的制度。”(张凌寒,2021)Cary Coglianese & David Lehr(2019)提出算法的透明度可分为“鱼缸型透明”(fishbowl transparency)和“析理型透明”(reasoned transparency),前者是指公众能够从内部观察政府活动,获取工作人员正在作何事情,主要解决“是什么”问题;后者则强调政府通过说明理由解释其为何如此行动的重要性,主要解决“为什么”问题。总体而言,鉴于技术特点,后者对政府的要求更高。一直以来,行政公开是行政领域的一项重要追求和价值所在,它不仅是民主国家的要求,还是人权保障的要求,更是信息化时代的要求(金承东,2018)。也就是说,算法的透明度是与行政公开要求相契合的。

然而,情感计算的数据、技术特点却是与行政公开的要求相违背的。一方面,情感计算需要采集与人的“情绪”“心情”相关的数据,但像面部、声音等数据都被纳入了身份数据的范畴,通过这些数据即可识别出公民个人,因此这些数据本身便具有敏感性、秘密性和隐私性,这就决定了这些数据本就是不能公开的或者只有在严格的条件限制下才能公开。另一方面,情感计算所蕴含的不透明主要来源于三个层次:因商业秘密或国家秘密保护而产生的不透明;因算法自身的专业性、复杂性而产生的不透明;因机器自主学习导致设计者无法控制其走向而产生的不透明。为了鼓励创新,维护各企业主体的利益,情感计算相关技术的秘密性是受知识产权保护的。数据显示,我国情感计算领域的发明专利申请数接近1200项,其中67%是在2018年之后申请的(王禄生,2021)。这些数据说明对情感计算的保护力度实际上是极大的。据此可知,情感计算算法的透明性即使在技术层面具有实现的可能性,制度层面对其也是有所保留的。概言之,情感计算所依赖的数据与技术的不透明性使辅助行政过程也具有秘密性,这不仅导致行政决策过程中权力滥用的可能性增加,还使情感计算即使产生错误也难以被有效发现,最终都会导致对社会公正的侵害。

此外,在新闻传播领域,情感计算算法的“黑箱”特性尤为突出。例如,在个性化新闻推荐系统中,情感计算被用于识别用户的情绪状态并据此调整信息推送策略,然而用户往往对自身情感数据如何被收集、分析与使用毫不知情。这种不透明性不仅侵犯了用户的知情权,还可能加剧“信息茧房”与“情感极化”现象,导致公众舆论的碎片化与对立。传播学研究表明,算法的隐蔽运作机制会削弱公众对媒介的信任,影响舆论形成的理性基础,进而对民主沟通与社会共识构建带来挑战。

三、权衡框架:情感计算嵌入政府公共治理的比例审查

情感计算技术作为一种新兴的人工智能技术,为政府公共治理提供了新的手段和方法。然而,为了防止公民权利被不当侵害,技术的应用必须遵循一定的原则和规范,以确保其合法性和有效性。比例原则作为权衡公共利益与公民个人权利的基本框架,为情感计算技术在政府公共治理中的应用提供了明确的指导。将比例原则作为情感计算嵌入政府公共治理的审查框架,可以有效避免技术的滥用或误用,确保情感计算技术在实现行政目标的同时,最大程度上减少对公民权利的侵害。目前学界所指比例原则审查框架专指四阶标准,即目的正当性、适当性、必要性与狭义比例原则(张翔,2015;谢立斌,2019)。因此,下文将围绕这一框架进行展开。

(一)情感计算嵌入政府公共治理的目的正当性标准

算法辅助行政治理中应用情感计算是为了帮助收集决策信息,为决策者提供决策辅助,提高行政治理的效率和科学性。政府在行政治理中是否可以为了提高治理效率和科学性而普遍运用情感计算?对这一问题的回答,应当考虑现代国家治理体系下政府在行政治理中遵循的依法行政原则,依法行政原则包括依法行政、高效便民等子原则(国务院,2004)。其中,高效便民原则又包含行政效率原则、便利当事人原则,而行政效率原则要求:其一,积极履行法定职责,禁止不作为、不完全作为;其二,禁止超越法定时限或者不合理延迟。因此,提高治理效率和科学性是依法行政原则的必然要求。在行政治理中出于提高决策效率和正确率的目的,普遍运用情感计算是正当的。现代政府已逐渐实现从管理型政府向服务型政府的转变,政府承担着越来越多领域的权利保障职能,如通过把握热点事件舆论走向、了解社情民意,及时推出惠民利民的政策,从而实现权利保障。并且,随着大数据时代到来,数字经济蓬勃发展,一方面行政治理不断遭遇新情况、新问题,如网络诈骗、现代技术手段生成的虚假信息泛滥、电子商务领域数据造假等层出不穷;另一方面,算法辅助在行政治理中日益发挥重要作用,智能舆情系统、智慧社区建设、智慧交通管理等通过文本信息识别、情感分析等,致力于提升决策效率与科学性。总之,大数据时代下行政治理面临新困境,借助算法辅助中的情感计算实现决策效能提升具有充分正当性。

(二)情感计算嵌入政府公共治理的适当性标准

在确认行政治理应用情感计算符合目的正当性标准之后,下一步需要对其作适当性审查。适当性标准是指公权力机关执行职务时,只能选择能实现目的的最适宜的方法为之(城仲模,1980)。该原则偏重“目的取向”。算法辅助行政治理中情感计算的运用应当符合适当性要求,即要对应用情感计算进行事前评判,预估使用情感计算运行的结果能够达到行政治理的要求和最终目的。只有手段与目的关系适当,才能将其用于行政治理,以发挥情感计算的真正价值,提高行政决策的科学性和效率。具体而言,是否在行政治理中运用情感计算,要分析情感计算在算法辅助行政治理中的应用是否有助于提高决策效率和科学性。行政治理的政府决策是公共决策的一种,是政府为了组织、分配、增进和实现公共利益对行动方案的选择与确定过程,是政府在法定职权范围内为依法有效履行行政管理职能而对未来行动的选择。在人工智能高速发展的背景下,由于运用情感计算等算法辅助,行政治理中的决策发生了一系列积极变革与巨大创新。在决策依据上,由原先狭隘的、孤立的信息来源变为具有统合性、关联性的大数据。通过对人脸表情、语音表述、生理信息、肢体行为等信号的情感计算,政府决策所依据的零散数据被系统整合,以某种特定意义呈现,从而传递更多隐含信息,且数据规模随之倍增,决策依据科学性增强。在决策方式上,由原先经常性采用经验决策变为借助情感计算等算法辅助决策。这就有助于克服因待决策事项复杂、信息资源有限与决策效率之间的固有矛盾,有助于克服单纯的人脑信息处理和逻辑思维能力有限导致的经验决策的弊端。在决策侧重上,由原先的静态视角、事后总结变为动态视角、事前预测。原先的决策更侧重从静态视角针对决策对象作特定时空的判断,而通过融入情感计算等算法辅助手段,能够对决策对象作持续、全面的数据收集与分析,从而实现决策的动态化,增强决策的科学性。综上,情感计算在算法辅助行政治理中的应用有助于提高决策效率和科学性。

(三)情感计算嵌入政府公共治理的必要性标准

必要性标准是指公权力在采取行政行为的过程中若不得不对人的基本权利施加影响,必须采取对人的基本权利损害最小的方式(朱武献,1991)。正如上文所述,情感计算在行政治理中的充分应用存在风险,可能引发对公民权利的侵害问题,但情感计算的运用对于政府公共治理存在极大的益处,不能因噎废食。故而,对于情感计算的应用应当进行规制,必要性原则正好能够实现这一目的。具体来说,情感计算在行政治理中的运用必须符合必要性原则,即对于实现提高决策效率和科学性的目的,没有对公民权利侵害更小而同等有效的手段。是否符合必要性原则,取决于情感计算与其他替代手段之间在侵害程度和有效性方面的比较。如果不采用情感计算,而是采用其他类型的数据分析能够带来与情感计算运用相同的提升,且危害更小,那么这种数据分析就是同等有效的。此种情况下,情感计算原则的采用就不符合必要性原则。与之相反,如果没有类似的替代手段,则情感计算的运用便符合必要性标准。由此,比例原则中的必要性标准对情感计算运用到行政治理中的风险规制的作用在于,一旦出现比情感计算更加温和且不影响其实行效力的手段,便不能径行运用情感计算方法。

(四)情感计算嵌入政府公共治理的相称性标准

相称性标准,指权力的行使,虽是达成目的所必要的,但是不可给予人民超过目的之价值的侵害(城仲模,1997)。这一标准要求公权力行为在采取行政行为的过程中,为实现目的而采取的限制手段,其损害与目所带来的利益之间不能不成比例,不相均衡或不相匹配。相称性标准与前三个标准相比,并不受原既定目的的限制,“由于必要手段加上副作用(即对公民的负担)的衡量,使手段产生价值,得以和目的比较衡量,变成副作用和作用的衡量,从而使手段提升到目的的层次,成为目的和目的间的衡量”(姜昕,2008)。在行政治理领域,情感计算在舆情监控、智能侦查等方面发挥突出作用,究其本质,情感计算在行政治理领域的应用是出于公共利益。所以,情感计算在算法辅助行政治理中的风险规制,体现在相称性标准层面,主要是对行政治理的公共利益目标与可能侵害的公民基本权利之间的法益进行权衡。首先需要确认公民基本权利受到多大程度的干预,明确行政治理主体意图促进的公共利益及其重要性;其次就要权衡二者,判断行政治理主体所追求的公共利益是否优先于被限制的基本权利。为了确保对公民基本权利的限制是相称的,行政治理主体应当在二者之间进行权衡,如果未考虑公民权利而径行使用可能侵犯公民权利的情感计算等手段,即违背相称性标准。如果公民基本权利与意图追求的公共利益发生冲突,行政治理主体虽考虑到公民基本权利,但仍对基本权利作出严重限制,则该基本权利事实上被掏空,仍不符合相称性标准要求。如果以上两种情况均不存在,就要在公民基本权利与公共利益之间进行权衡。行政治理中运用情感计算方法是否符合相称性标准,关键就在于具体情形下的具体分析,这也是相称性标准作为有效风险规制工具的意义。

四、结语

情感计算作为数字化时代下通过算法实现公共治理的有效形式,将情感计算融入政府公共治理,是一个深度整合脑科学、心理学、计算机科学及社会科学的过程,旨在实现情感信号的精准捕捉、高效识别、深刻理解与智能反馈。借助先进的情感分析算法,情感计算技术已在犯罪预防、舆情监控、交通管理等多个公共治理领域展现出显著的功能与成效,为提升治理效能、优化公共服务提供了有力支持。但从个体及公共利益的角度出发,其已然触及多层知觉构成的情感要素,将对公共治理中的各个主体形成不同程度的影响,并可能伴随着对人性尊严、隐私权、平等权以及知情权的不当侵犯风险。因此,在推进情感计算与政府公共治理融合的过程中,为了防止对公民权利的不当侵害,必须审慎权衡技术应用的利弊。比例原则作为权衡公共利益与公民个人权利的基本框架,为情感计算技术在政府公共治理中的应用提供了明确的指导。将比例原则作为情感计算嵌入政府公共治理的审查框架,可以有效避免技术的滥用或误用,确保情感计算技术在实现行政目标的同时,最大程度上减少对公民权利的侵害。

在新闻传播学科视野下,情感计算不仅是一种技术工具,更是一种重塑舆论生态、影响公众认知与情感结构的重要力量。本研究所探讨的情感计算在舆情治理、权益风险与比例审查等方面的议题,可直接延伸至新闻传播领域的核心关切,如算法伦理、媒介效果、公众情绪引导、传播治理等方向。未来研究可进一步结合传播学理论,深入分析情感计算如何影响新闻生产、信息分发与接收行为,及其对公共领域构建与民主进程的深层影响。同时,情感计算的规范化使用也为构建负责任的传播机制、推动舆论场健康有序发展提供了新的理论视角与实践路径。

本文引文格式:姚颖若 王雷:《 情感计算技术的伦理边界: 数据治理框架下的权益风险与规范机制重构》,全球传媒学刊,2026年第2期,126-141页。

    进入专题: 数据治理   情感计算技术  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 新闻学 > 传播学理论
本文链接:https://www.aisixiang.com/data/182647.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2026 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统