单勇:全景式数据监控犯罪技术治理的形成与反思

选择字号:   本文共阅读 86 次 更新时间:2019-12-01 17:50:39

进入专题: 数据监控犯罪技术  

单勇  

   当前,以全景式数据监控为特征的犯罪之技术治理崛起,技术治理对秩序唯美主义的过度追求使个人变得更加透明,并加剧了“数字利维坦”和个体之间的“纵向数字鸿沟”。在国家主导的技术治理框架中,相对于科技企业与政府的密切合作,个人参与技术治理甚为薄弱,这种社会参与的非均衡性在本质上是一种基于权利危机的数字不平等。为促进民众对技术治理的实质参与,应回归信息技术的赋权功能,尊重和保障个人数据权利,遵循法治之道制衡数据监控的权力运行,以人工智能伦理指引数据法制定,对具体的数据权利进行法律确认,通过数据权利的法律保障搭建跨越非均衡性的法律阶梯。

   在“互联网—大数据—人工智能”三浪叠加下,信息技术成为推动犯罪治理创新的强劲动力。图像识别、视频监控、语音监测、行为预测、风险感知、人群画像、信息整合等蔚为大观的应用实践催生出全景式数据监控的技术治理模式。“社会的发展塑造了技术,但也被技术所塑造。”技术治理在极大地提升治理主体的社会能见度、风险感知灵敏度和预警预防精确度同时,也在潜移默化中形塑出数据控制型的社会结构。在数据控制型社会,“数字利维坦”或“技术利维坦”的生成几乎不可避免,“数字利维坦”与普通个体之间的“数字鸿沟”成为亟待深思的理论焦点。

  

   一、技术治理扩张加剧“纵向数字鸿沟”

  

   在传统意义上,“数字鸿沟”通常指信息技术在使用者和未使用者之间的社会分层,描述了“信息通信技术在普及和使用中的不平衡现象,这种不平衡既体现在不同国家之间,也体现在同一个国家内部的不同区域、不同人群中”。技术发展的不平衡可分为一级数字鸿沟和二级数字鸿沟:一级数字鸿沟探讨是否拥有家庭电脑及互联网之间的接入沟;随着互联网逐渐普及,研究的重心转移到不同群体之间互联网使用行为、技能与目的的差距,即二级数字鸿沟。从结构上看,上述“数字鸿沟”是不同群体或区域之间的“横向数字鸿沟”,而本文研讨的是在技术治理中数字利维坦与普通个体之间的“纵向数字鸿沟”。

   在信息社会之前,政府与普通个体之间的纵向结构“纵向数字鸿沟”长久存在,政府通过科层制治理结构掌握社情民意,建立系统性的数据库和种类齐全的档案制度,依据数据、信息提炼治国理政的知识和智慧。相对普通个体,政府具备天然的信息优势。进入信息时代,纵向信息优势在某些领域被缩小(如社会事件的网络传播),而在更多的领域则被悄无声息地拉大(如“说服计算”的流行)。

   信息技术大爆发推动了新一轮的社会治理革命,催生出犯罪的技术治理模式,基于大数据技术的数据监控和分析成为技术治理的主流策略。技术治理经历了从分散式创新到连点成线式的系统性优化、整合式重构的发展进程,形塑出整体性的技术治理架构。这种治理架构以总体性的“政务云”为技术支撑,遵循“数据集成—风险预警—决策支持—指挥调度—共治服务”的平台治理流程,在平台集成运用上百种具体的智能治理系统。在数据输入端,通过110警情中心的吸纳、网格管理员的上传、物联网传感器的感知,与犯罪治理有关的各类信息涓涓细流般汇入治理平台;在数据分析环节,平台中的各种智能治理系统依靠代码、算法、模型对信息进行挖掘、清洗、评估,从相关性分析中把握犯罪规律;在数据输出端,依据数据分析为具体的犯罪打击、预测、预防提供科学依据。技术治理由此催生出一种致力于整体性治理、趋向中心化的智能机器系统,治理手段的技术化和治理体系的算法化转向共同推动治理主体的机器化重构。

   这种机器化重构标志着“数字利维坦”或“技术利维坦”的生成。“技术利维坦可理解为国家利维坦在人工智能时代的新形式,它以更加隐秘、牢固的方式体现国家控制能力,国家可利用人工智能技术的价值理性和工具理性编织新型的权力网络,国家意志通过算法制定得以展现,以此加强监控能力和社会管理能力。”相比此前国家利维坦与个体之间的数字鸿沟,“技术利维坦”无疑大大加剧了纵向数字鸿沟,形成了“透明的个人与幽暗的数据掌控者”的社会分层。技术治理加剧“纵向数字鸿沟”的表现如下:

   从技术社会的掌控看,治理主体的机器化巩固了趋于中心化的整体性治理架构。“大数据虽然散布在整个数字空间,从理论上讲任何人都可以对这些数据加以分析和利用,但实际只有政府和大型科技企业才有资源、技术和能力去利用它们。大数据技术的发展将使政府变得越来越不透明,甚至连它不透明这个事实都变得不透明。”国家持续投入社会治理、犯罪治理的智能基础设施建设,各种资源汇聚于智能机器系统,治理主体的智能机器化趋势势不可挡。政府和科技企业组织最优秀的程序员编写各种程序、处理各类数据、设计各种算法,以技术之网将社会生活不断编程,持续扩大智能机器覆盖的广度、深度、精度。数据的集中往往意味着权力的集中,技术治理的扩张给个人权利保障带来新的挑战,技术利维坦所搭建的全景式监控社会日渐成型,对个体被监控及个人隐私被威胁的争议愈演愈烈。技术利维坦加剧了社会分层,个人与智能机器系统控制者之间的力量对比愈发悬殊。

   从技术治理的运行看,治理体系的算法化以更隐蔽的方式极大加强了国家对社会的控制。在硅基文明时代,代码即规则、算法即权力,信息技术构成影响乃至主宰个体行为的控制力量,技术治理对高危人群的识别和对犯罪风险的预测主要通过算法驱动智能系统完成指定任务,代码、算法、模型构成了国家意志的实现机制,个人作为被分析、被治理的对象无从参与算法的设计。“国家通过人工智能塑造出的镜像权力‘修剪’着社会现实,通过算法滤镜看到的社会可能只是政府自己的影子。”“技术和技术平台具有短期跃进效应和长期固化效应。”智能机器系统一旦投入使用,技术治理的资源将围绕技术平台的运转而投入,技术平台在提升治理能力的同时,也在相当程度上限制了技术治理之外的治理创新。技术治理所形成的路径依赖从体制、机制上提高了民众参与治理的门槛。

   从民众参与的能力看,“数字利维坦”的形成导致社会关系的改变,民众的生活被数字技术、算法、模型所控制在所难免。“互联网发展成为互不联网,‘只见树木、不见森林’成为大趋势。”碎片化信息越多,社会真相就越模糊,个人也就越无法进行理性思考。在算法时代,“说服计算”的愈发流行,人们被看透得越多,个人的选择就越不可能是自由的、不被他人事先决定的。“互不联网”“说服计算”“算法黑箱”等因素共同限制了民众对技术治理的知情权,而前述技术运行的长期固化效应则限制了民众对技术治理的参与权。

   “纵向数字鸿沟”的加剧源于技术治理对工具理性的过度追求,是技术治理在效率和秩序方向上持续扩张的负效应。技术治理对秩序唯美主义和全景式监控的过度追求使个人变得更加透明,导致隐私的边界不断收缩。算法和技术的扩张使监控权力的运行变得更为隐蔽,隐私被侵犯、算法歧视和“算法黑箱”成为信息时代“看不见的非正义”。正如於兴中所言,“算法社会是科技精英社会,我们可能正在期望一个比现有社会更不平等的社会。这种不平等是从起点到结果的全方位的不平等,这是罗尔斯、桑德尔和森合起来也无法对付的”。从本质上看,“纵向数字鸿沟”是一种基于信任危机和权利危机的数字不平等。

  

   二、社会参与技术治理的非均衡性

  

   未来学家托夫勒指出:“未来生产和生活方式的核心是网络,谁控制了网络,控制了网上资源,谁就是未来世界的主人。”由此,弥合“数字鸿沟”的最佳选择在于调整技术治理的主体关系,将治理权力从国家外溢至社会,以实现个人数据权利的方式促进社会参与。技术治理的主体包括政府、科技企业和民众,社会参与主要体现为科技企业和民众的参与;但这种社会参与在企业和民众之间存在巨大的非均衡性,呈现出迥然有别的状态,即政府与企业缔结了紧密的合作治理机制,而民众参与相对薄弱。

   (一)政府与科技企业的紧密合作

   随着人类步入信息文明,科技资本异军突起,在悄然间掌握了越来越多的话语权。作为信息技术的提供商,科技企业以智能机器崛起的方式推动数字控制型社会的生成。科技企业将触角全面渗透至生产、物流、金融、商业、交通、出行、安防、通信、社交、公共服务甚至军事领域。凭借技术优势,科技企业掌握了大量的经济社会数据,在各自领域形成了事实上的数据垄断,并通过技术迭代升级不断巩固自身的“数据寡头”地位。科技企业尤其是头部企业的快速发展对社会治理模式和治理机制产生了重大影响。“在世界范围内,新技术公司渗透到各社会阶层和群体的日常生活,颠覆性科技的触角几乎延伸到人类物质和精神生活所能企及的所有领域。”科技企业是技术治理不可或缺的参与主体,其参与作用表现如下:

   第一,科技企业通过承接政府项目等形式为技术治理提供集成算法、模型、软件、硬件于一身的智能安防系统和数据服务方案。如海康威视公司之于“雪亮”工程、科大讯飞公司之于“上海刑事案件智能辅助办案系统”、阿里集团之于“城市智慧大脑”建设的重要作用。如今政府数据平台的开发和运营维护几乎均由国内互联网科技企业承揽,这构成了科技企业的主业,也是科技资本财富积累的主要途径。

   第二,科技企业参与对涉网络案件、网络灰黑产业违规违法活动的治理。科技企业能够为涉网络案件的侦办、司法处理提供数据分析及电子证据。《网络安全法》还要求科技企业须承担一般性法律义务,履行平台管理的责任。“网络服务提供者在网络社会中处于核心地位,给网络服务提供者设立管理义务是各国立法的趋势。国内外立法一般要求网络服务提供者承担协助执法(协助通信监视、数据留存与提供)、内容信息监管、用户数据保护等义务。”因此,科技企业必须履行对网络灰黑产业中违规违法行为的管理义务,如阿里的绿网系统和腾讯的万象优图系统对直播平台中色情信息进行AI鉴黄,阿里集团运用大数据技术监管网购平台中的制假贩假类经济案件。

   第三,科技企业以履行企业社会责任的方式参与社会治安综合治理,尤其是参与电信网络诈骗犯罪的防治工作。如腾讯公司以鹰眼系统、麒麟系统打击电信网络诈骗,并联合公安、电信、银行等部门共同发起“守护者”计划;阿里巴巴集团开发“团圆”系统发布失踪儿童信息,在打击和预防拐卖儿童案件中取得了良好的社会效果。

   (二)民众参与技术治理尤甚薄弱

   “大数据的利益相关者包括大数据搜集者、大数据使用者和大数据生产者。”个人是典型的大数据生产者,政府和科技企业属于大数据搜集者和使用者。相对具有严密组织度的国家和拥有技术优势的科技企业,个人在技术治理中无疑处于原子化形态和边缘化境地,更多以被治理对象的面目出现。“现代技术已成为‘巨机器’或‘巨技术’,即与生活技术、实用主义和多元技术完全相反的专制技术,其目标是权力与控制,技术治理追求整齐划一的秩序,导致人的异化。”

在个人与政府的关系中,民众对技术治理的知情权、参与权及监督权亟待改善。政府权力来源于人民的权利,政府和民众在法理上属于治理权力格局的同一侧。我国的“平安建设”由政府主导,基于科层制结构自上而下的组织化调控推进,个体缺乏参与治理的稳定渠道和双向互动的有效机制。技术治理的扩张在潜移默化中塑造且维持了“上暗下明”的治理格局,个体被简单数据化和物化的趋势愈发明显。“国家依靠信息技术的全面装备,将公民置于彻底而富有成效的监控体系下,而公民却难以有效地运用信息技术来维护其权利,即无法通过数字民主来制衡国家的监控体系。”在此意义上,管理部门掌握的信息资源越多、管控手段越强大,个人在技术治理中的参与地位可能就愈发边缘和弱势。如个人数据如何被保管和被使用、谁是数据监控的潜在目标人群、哪类群体因何种原因被重点监控、围绕公共安全威胁评分的高危人群捕捞模型的应用边界、算法设计有无监督程序等问题均无定论,(点击此处阅读下一页)

    进入专题: 数据监控犯罪技术  

本文责编:陈冬冬
发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 法学 > 刑法学
本文链接:http://www.aisixiang.com/data/119258.html
文章来源:《中国特色社会主义研究》2019年第5期

0 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2019 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网