虞青松:算法行政:社会信用体系治理范式及其法治化

选择字号:   本文共阅读 1407 次 更新时间:2020-05-10 08:05

进入专题: 社会信用体系治理   数字资本主义   监控资本主义  

虞青松  

摘要:  大数据下的信用评级机制生成独立于数据本体的数字人格。数字资本主义利用算法控制来推动金融信用的产生与发展,进而监控资本主义利用私有化“数字人格”实施黑箱管控。我国基于数据驱动的社会信用体系属于数字技术公共基础设施,在矫正监控资本主义逐利偏差的同时,生成与法律强制下行政管理方式相并行的算法行政。算法行政作为全新的权力工具导致数字社会治理机制的范式转化,这对法治国的传统法律原则提出挑战。福柯的“规训”理论可以解释基于数字人格的权力运作以及社会信用体系的正当性,也能解构算法行政生成的“自我规制型”问责制,由此生成全新的数字行政法学。这为我国社会信用系统的法律规制提供新形态的学科支撑,也为该制度输出提供西方话语体系中的说服工具。

关键词:  数字资本主义 监控资本主义 算法行政 数字人格 社会信用 数字行政法


引言

早在我国着手建立社会信用体系之前,国外金融领域已建立起数字化的信用评级机制(下称“金融信用”)。相较于国外监控资本主义推动的、局部而分散的小规模金融信用,我国社会信用体系因涵盖市场、社会、政府、司法多个领域而具有大规模、全局性和公有化特征。[i]随着我国全面推行社会信用制度(比如社会信用在税务领域的推行)渐行渐近,国外对该制度滥评也日渐加剧,“老大哥”、“奥威尔”、“数字极权主义”和“数字专政”等夸张指责不绝于耳。[ii]那么,为何在我国境内推行的社会信用体系会让西方社会如此焦虑?如果以西方金融信用系统为参照系可以发现以下事实:从表象上看,西方社会的极力诋毁社会信用体系有可能是因其公有化属性,将在未来断绝私有化下监控资本主义赖以生存的经济来源。但从本质上看,其真正原因应当是我国以数字驱动的社会信用体系通过自我约束来加强权力关系,而无需强制性权力,该特性在西方被称为“治理术”(governmentality),这代表着一种全新的社会治理范式转化,其超前性已引发西方社会的危机感。[iii]不容置疑的是,我国社会信用体系象征着一种新的数字治理形式,西方自由民主制国家也在朝着类似制度的方向迈进。就是说,大数据驱动的社会信用治理总趋势是全球性且不可逆转的,我国实践一旦成功就具有示范效应,这意味着我国将在社会治理领域全球领先。[iv]

然而,国内既有研究多数仅停留在国家政策文本层面,鲜有触及社会信用体系背后的算法治理。[v]进而,算法治理将在多大程度上替代现有的权力支配模式和法律框架目前尚不清晰,这在引发西方社会不安的同时,国内也在质疑社会信用体系与法治国原则相悖而存在致命的合法性危机。[vi]事实上,这种观点忽视了社会信用体系在数据驱动下算法控制带来的治理范式变迁,为此基于算法治理展开对社会信用的法治化研究意义重大。同时,为发挥我国社会信用体系的全球引领作用,消除西方社会的误解,亟需利用西方话语体系中的相关理论,对社会信用制度的权力运作本质和功能加以阐述,以达到驳斥歪理、矫正视听的目的。因此,笔者导入福柯的“规训”治理理论,意在利用西方话语体系论证我国建构社会信用制度的正当性,同时解构社会信用体系中全新的权力工具———“数字人格”,并以社会信用体系中独有的算法行政作为法理基础作探讨对数字人格进行法律规制的路径,最后探讨由此产生行政法领域的全新分支———数字行政法学。

本文第一部分基于西方金融信用领域算法治理发展历史的梳理,指出算法行政系数字社会的高阶治理范式,社会信用体系为之提供应用场景。第二部分基于信用数据的私有化与公有化的制度比较,指出信用数据公有化下的社会信用体系是西方数字社会利益失衡的矫正机制。第三部分指出数字人格系信用评级机制生成的新型权力工具,在社会信用系统下,因数字人格具有的衡平功能和治理功能而成为数字社会的全新治理工具。第四部分利用福柯理论阐明基于规训权力,数字人格成为算法行政的载体,进而论证社会信用体系的正当性。第五部分指出算法行政的内核系自发式问责制治理,由此成为数字人格法治化的法理基础,并产生全新的法律领域———数字行政法学。


一、历史梳理:基于信用数据算法治理的范式转变

社会信用体系建设需要建立全面统一的信用信息数据大平台,互联网、大数据使之成为可能。在公共领域,大数据技术的应用提升了社会问题治理效率,拓宽了思考社会问题的视野。[vii]最初我国社会信用体系也是以金融信用为中心,由各地筹建局部的、分散的信息库为基础展开,初步实现信用信息的局部共享。[viii]随后,国务院要求建立全国统一的信用信息共享交换平台,整合各领域信用信息,实现各地区、各部门信用信息共建共享,利用大数据标准体系提高政府治理能力。[ix]从此,我国社会信用体系发生质的变化。目前,我国信用工程开始采用全景数据视图收集源自商业交易、社交网络、视频监控等海量数据,实现对信用主体的行动特质展开动态、实时、全方位的分析和预测,并采用多维数据的流处理和批量处理等技术对信用主体进行全息信用画像,从而实现向数据驱动的转化。为此,社会信用体系是指利用大数据、数据分析、人工智能和机器学习的可能性,围绕算法开发数据驱动的综合管理结构,为法律、经济、社会和其他行为产生实时奖惩基准的自律化治理模式,成为社会治理的新趋势。[x]

尽管我国的社会信用系统致力于将大数据与算法结合起来,以培育一种新的数字治理形式,但是就算法与治理相结合而言,是西方金融信用领域早有的实践。算法与治理之间的关系非常复杂且具有执行力,国外相关理论提供了两者之间三种逐层递进的发展关系,这三种进阶关系分别代表着算法治理发展的三个历史阶段。[xi]

(一)初级阶段:数字资本主义下信用数据商品化

数据化信用评级机制是资本主义盈利结构变化的产物,起源于单个企业经营模式的转化。基于算法生成的信用数据被作为商品进行交易,算法开始成为盈利工具,从而实现企业内部经营环境治理,这是算法治理的初级阶段。

在西方话语体系中,资本主义是一种基于货币和权力积累逻辑的社会形态,用以实现工具理性,亦即建立一个高度工具化的社会。[xii]资本主义在历史上有三种主要结构:商业资本主义、工业资本主义和认知资本主义。[xiii]依此观点,数字资本主义被视为是认知资本主义的一种,是当代资本主义的主导维度或类型。认知资本主义认为价值的创造越来越依赖于创造性的智力活动,其经济生产的核心系以非物质劳动提供服务和操纵信息。[xiv]信用评级机制是非物质劳动提供服务的典型,其中算法是信用评级机制的核心要素,由此生成信用数据。

在大数据环境下,算法不仅可以计算现有信用数据,还可以通过发现相关性来开发新形式的“感性”或经验性知识,这种算法知识力图寻找模式和关系,从而在复杂的数据体系中实现观察、感知、响应和适应生活的新方式。这意味着算法治理是通过模式识别而不是知识创造或解释行为来响应或适应扰动和变化。[xv]进而,大数据使算法能力得到无限的扩张。当日常活动产生的数字化痕迹被收集、汇总并用于预测数据本体的行为时,数据控制者基于大数据生成的预测成果被作为商品进行交易,用以获取高额利润。其工作原理是提供数十亿人乐于使用的免费服务,使这些服务的提供者能够以惊人的细节监控这些用户的行为———通常未经他们明确同意。

荒谬的是,虽然大多数人认为自己只是置身于难以理解的算法之中,但实际上他们是无意间被数据资本主义所控制。目前,开采人类经验成为数据资本主义的新能源,经济权力产生全新的分配方式。由于人民的意识尚未觉醒,数据资本主义不顾数据本体的隐私进行野蛮开采,由此导致权力失衡。为此,数据资本主义被认为是对数据商品化进行权力的不对称再分配,而这种权力的分配会偏重于有访问权并具备具有数据理解能力的参与者。[xvi]

(二)中级阶段:监控资本主义下信用数据工具化

随着数据资本主义走向旨在通过预测和修改人类行为来作为产生收入和控制市场的控制者,算法成为数据资本开发、监控其目标客户的主要工具,从而建成企业大数据生态链,实现企业外部经营环境治理。这导致全新的资本主义亚种———监督资本主义的诞生,算法治理走向中级阶段。

大数据时代引发市场形式的变化,从资本依赖消费者(双方互惠互助)走向资本依赖数据分析,对消费者的数字化信用评级是数据资本主义实现单方面攫取(如精准的杀熟算法)主要方式。与数据资本主义侧重于研究技术的历史发展以及将信用数据变成互联网时代核心商品的经济和体制实践不同的是,监控资本主义提出其利润来自对人类行为的单方面监控和改变。监控资本主义利用数字痕迹“积累的新兴逻辑”,实现对信用数据的收集、分析、利用,这是一种基于大数据产生的新制度,它“产生了自己的社会关系,并产生了其概念、权力以及权力的使用。[xvii]相较于数字资本主义下的乐观主义者(认为数字技术创造新的社区形式,提供了多种多样的知识和感知方式、参与性文化、网络化的行动主义和分布式民主),数字监管资本主义则是悲观主义者,他们认为数字技术通过新的控制形式深化和扩展了统治,生成网络专制主义,数字化走向非人性化、网络剥削和监视社会的兴起。[xviii]这恰好是民众生活被数据掌控者全面数字化后,监控资本主义利用其所了解的情况来引导规则系统进行决策,进而对整个社会生成正反两面的重大影响,唯一不变的是数据掌控者的信用数据收集能力和盈利能力被无限增强。

然而,由于监控资本主义使得在工业市场资本主义中原有的、与社会和人的有机互惠消失了,因为监控资本主义的消费者不再依赖大众,而是集中于企业,大众根本不是这个机制的参与者,在其中不拥有任何权力,于是监控资本主义被视为民主侵蚀者。[xix]同时,监控资本主义对信用数据产权的强调掩盖了以下事实———信用数据不仅仅是私有的,也是商业化的、产业化的、金融化的。监视资本充分利用了信息不对称现象获利。亦即,基于算法控制,监控资本主义完全可以借助算法黑箱强加其意志或偏见,由此生成“黑箱社会”。[xx]

监控资本主义通过对“现实行为”进行预测、修改,并将其转化为信用数据以进行分析和销售获利,自此算法治理被工具化,其控制权威胁着西方核心价值,例如自由、民主和隐私。[xxi]有学者提出大规模监控生成的新功能和新用途需要对社会新系统进行结构性更改,以防止算法控制的滥用。[xxii]然而,从本质上看,这是在资本主义盈利动机的背景下收集和处理信用数据而存在固有的危险,也是根源于信用数据私有化的监控资本主义所无法消除的。

(三)高级阶段:社会信用体系下的算法行政

数字资本主义与监控资本主义虽然在发展路径上有差异,但其背后均受算法控制。因私有化数据市场下算法功能差异化将导致数据驱动的治理体系产生裂痕,进而破坏民主和隐私,这可能会对基于法律的公共政治社会所内含的合法结构和实践构成重大风险。[xxiii]为纠正数字资本主义与监控资本主义固有风险,国外研究将视角投向福柯的治理理论。[xxiv]

治理表达了一种普遍的信念,即国家越来越依赖其他组织来确保其意图,实施其政策并建立统治模式,治理也可以用来描述在国家依赖他人或国家几乎不起作用或不起作用时出现的任何规则模式。[xxv]福柯创设治理术(governmentality)的概念,意指特定的实践从“治理什么”转变为“如何治理”。[xxvi]“国家统治权力采用的形式包括法律与治理两种,它一方面用法律来做原则性地规范,一方面用治理来灵活地寻求合法性资源”,进而“通过治理术,权力不再作为社会和个人的外在的力量,而是逐渐内化到社会与个人之中”。[xxvii]因此,政治学上的“治理术”系相较于法律强制之外的权力运作方式,采用多种策略来实现法律无法达成的目标,意在界分基于“统治”(法律)和“治理”的两种不同行政管理模式。治理术强调通过积极手段而不是由国家权力制定法律来控制人民的行为,通常与被统治者的积极同意和自愿参与其自身治理有关,旨在塑造、引导或影响人们行为的活动,通过理性界定使被统治者可见,从而对其进行识别、分类、排序和控制。

鲁夫罗伊将治理术导入数字领域,并提出“算法治理术”(algorithmic governmentality)这一全新概念,意指数字社会中基于因算法产生全新的权力机制而形成的一种全新治理模式。[xxviii]这里的“算法治理术”系对algorithmic governmentality的直译,因“治理术”实际上是指与法律强制的行政管理相并列的、基于治理的行政管理模式,为此笔者将algorithmic governmentality转译为“算法行政”,与基于法律强制的行政管理(下称“法律行政”)相对应。算法行政的基础是算法治理,算法治理包括三个“阶段”:一是海量数据的收集和自动存储,即大数据不可或缺的数据监视;二是数据挖掘,即对这些大数据的自动处理,以识别它们之间的细微关联;三是使用概率统计知识来预测单个行为,并将其与基于通过数据挖掘发现的相关性定义的配置文件相关联。[xxix]算法行政是这三个阶段相互融合,其规范性功能因彼此之间相互加强而变得更加强大和具有过程性。为此,算法行政是指代建立在自动收集、汇总和分析大数据基础上的某种类型的规范性或政治理性,以建模、预测和先发制人地影响可能行为。[xxx]算法行政具有实时性和适应性,且不会产生主观性,它会规避和避免反思性的人类主体,以自身无意义的个体信息为“食”,建立行为或特征的个体模型,而无需涉及个人。此时,权力作用对象不再基于其能力,而是基于其“形象”。这种数字化“模型”或“形象”生成的个人数据配置文件就是前文的“信用数据”,最终基于算法评级形成后文的“数字人格”。

在社会日趋数字化的今天,算法已成为重要的社会物质参与者,由此出现对相关行为的治理问题。当政府利用社会物质集合的行动流程使算法的执行性可见时,基于特定主体性的治理技术与算法控制相关联,形成面向全社会的算法治理。[xxxi]在政府主导下,算法治理可以被理解为一种现实可行的,以政治思考方式进行干预和思考的智力机器或设备。[xxxii]当国家的治理形式不再将政治经济学作为其运作手段,或者至少不再作为其特权行动手段,而是通过数字技术(尤其是算法)进行自动化操作时,该治理形式可以被称为“算法行政”。[xxxiii]

算法行政已经完全不同于现代国家采用的传统治理机制,系后现代治理工具。传统治理一般被理解为多个参与者的思想,其中没有一个参与者有权或单方面直接地决定和实施解决方案或政策。[xxxiv]同时,传统治理强调政治共识、相互调解和集体解决问题,并寻求促进协调、合作与统一的机制。[xxxv]与之相反,算法行政似乎在背离传统治理,其背后的算法控制是用技术功能的抽象串联取代有意识的阐述、社会谈判和民主决策,用自动连接取代命令的对话阐述,用适应取代共识。[xxxvi]算法行政由此给基于法律制度运行的实体政治代议制带来危机。[xxxvii]

如果把数据资本主义和数据监控主义相结合,那么就能完全展示出算法控制对资本主义权力治理范式的初级变迁。当信用数据收集和解释的权力从公众转移到企业部门(私有化)时,算法治理机制开始在社会局部发生变化。但是,当信用数据收集和解释的权力从企业部门转向政府(公有化)时,算法治理机制便具备面向全社会的控制能力,这种颠覆性变革形成治理范式的高级变迁。算法治理的这种高级进阶成为福柯“治理术”理论的最佳实践,算法行政的导入有助于理解数字领域的这种治理范式转化。[xxxviii]


二、打破黑箱:信用数据公有化下社会信用体系的正当性

(一)信用数据的基本属性:客观性和侵入性

在大数据驱动的世界中对社交网络进行分析和情境化,可以对个人的社会和经济属性做出推断,由此生成信用评级机制,这被用作特定主体参与市场活动的资格认证。数字资本主义将用户的每一个数字轨迹都视为信号,均可被分析并反馈到数字系统中,成为信用评级的数据基础。因此,数字驱动的信用评级机制基于社会化大数据生成,而非用个人行为与现有法律规范是否相符合进行个案化评价、制裁。基于数字驱动的信用评价机制并非由权力控制者单方面决定,这使得算法控制下信用评价机制具有客观性。由于信用评级机制至少从表象上看可以通过算法实现公平性,因此信用数据的客观性有助于实现社会利益的平衡。

同时,基于监视资本主义的驱动,数字监视已经可以实现实时和回顾性查看,并能处理和分类在线足迹的行为,在未经数据本体同意前提下,通常构成违反此类数据所属参与者的意愿和知识的行为,由此产生侵入性。监控资本主义受利益驱动,数据控制者无视监视参与者的同意和知识,以及这种监视所带来的安全性,却独享信息和情报收益,这是一种典型的未经授权的入侵。[xxxix]

基于以上两种属性,对信用数据的治理需要充分发挥其客观性,并抑制其侵入性。然而,西方社会的金融信用实践与之相反,因其片面保障监控资本主义的侵入性,才形成的黑箱控制。我国的社会信用体系强调客观性和公平性,进而发展成为打开黑箱控制的“钥匙”,可以矫正西方金融信用缺陷。

(二)利益失衡:监控资本主义下的信用数据私有化

金融信用系一种由企业自建、小规模、侵入性的评估信用方法,用以降低贷方风险,通过对借款人的大数据分析评估,确定借款人的信用状况并进行分级评价,从而规避风险。贷方使用心理计量学和大数据被视为有益的金融创新,并认为金融普惠项目将金融逻辑的应用描绘为产生更公平和负责任的普惠制度的手段。[xl]然而,现实与之相反,金融信用是以资本偏好为前提,其本身就不具有不平等性。

事实上,金融信用评级机制是数字资本主义与监督资本主义共同作用的产物,是跨行业、跨时空、跨媒介的数据集成过程。大数据是逐利的数字资本主义推动的,其核心特征是数据私有化。监控资本主义不会主动建立有建设性的生产者与消费者互惠关系,取而代之的是“钩子”式诱饵,将用户引诱到采掘活动中,让其形成依赖性,这种依赖性是监视项目得以运作的核心基础。

(三)矫正机制:社会信用体系下的信用数据公有化

与西方国家早期建立的金融信用相反,我国社会信用系统并非单一针对金融服务,而是多面向的大规模综合机制,并逐渐成为符合中国特色社会主义市场经济的新体系。[xli]事实上,社会信用体系将成为我国全新的数字化技术公共基础设施,信用数据公有化为其核心特征。相较于数字资本主义,笔者将国家控制下公有化信用数据体系称为“数字社会主义”(非政治概念,只是相较于信用数据私有化下数字资本主义而言)。数字资本主义以实现利润最大化、风险最小化为目的,在新自由主义主导下,金融信用体系意在增强资本自身的强势,这却减少网络参与人的自由,并限制主要经济秩序的空间。与之相反,我国社会信用体系旨在实现信用数据公有化的数字社会主义,用以维护社会整体交易安定性、实现社会秩序治理、降低交易成本。同时,社会信用体系甚至将政府自身纳入其掌控范围之内,使执法者本身也受到监视,从而消解了有权者和无权者的界限,亦即政府和公务员将受制于算法本身。[xlii]

社会信用体系通过国家权力介入取代监控资本主义,在一定程度上公开私人控制下不透明的算法控制,并将社会信用系统打造为技术公共基础设施,利用国家力量来弥补个人在数据收集、分析能力方面的不足。亦即,社会信用系统应当建构为数字资本主义和监控资本主义的监督者,以维护被置入黑箱社会民众的基本权利,以弥补因知识和权利的结构性不对称使人们无法了解黑箱社会危害而形成的不足。同时,由于信用数据公有化将断绝监控资本主义赖以获利的基础,招致西方数字资本主义极力反对,为保护其对信用数据的垄断控制,只能斥责中国的社会信用体系为“数字极权主义”,却无视监控资本对数据本体的强权控制。

如果放纵数字资本主义实现其政治目标,将极大增强其利用新货币基础设施获利的能力,而不是为已在数字世界中权利失衡的网络参与者增加权利和自由。为此,数字社会主义必须以消除新型社会不平等为己任,社会信用体系要成为数字资本主义和监控资本主义的监管机制。

我国数据驱动的社会信用体系如果圆满建成,那将只需要少量精英来管理算法规则,就可以极大地重新集中力量,因此一旦中国的实验成功,将会成为其他国家的榜样。[xliii]然而,实现该目标重要一步是用西方话语体系解构社会信用制度,以获得西方社会的认可和尊重,基于福柯理论的算法行政对数字人格的解析可以担此重任。


三、数字人格:社会信用体系的全新治理工具

(一)数字人格的生成

数据资本主义使销售实现从“我有什么”到“你需要什么”转向,大规模收集信用数据导致制度化事实迅速积累,数据经纪、数据分析、数字挖掘、专业人员、数据资本组合成强大的网络效应。基于个人信用的数字化全球架构将有界组织的电子文本转变为一个智能的、跨界的数字化“生物”。[xliv]这种以个人信用为衡量基准的“生物”被人格化,并脱离个人实体成为网络中的交易工具(如蚂蚁信用),逐渐取代要式契约在网络世界中日渐风靡。

数字化“生物”的日益工具化导致其成为数字经济交易和线下交易必不可少的环节,它可以将社会空间转变成一个计算形式,设计新颖的人格和身份形式。[xlv]基于算法对数据本体的个人先前行为轨迹进行数字化描摹并进行信用评级,由此生成的数字化个人镜像,进而数据控制者基于数据本体的“形象”展开商业交易或行政管理,笔者将该“形象”称之为“数字人格”。数字人格系数据控制者利用数据本体的数字轨迹,通过算法描摹合成数字化人格“画像”后所形成的量化数据配置文件,以便基于其政治、商业、社会和法律上的行为来进行评级。[xlvi]这对数据本体而言具有被动性,个人只是数据的生成者、提供者,并非数字人格的控制者、获益者。通过量化分析方式,数字人格意在勾勒出数据本体在社会活动中的可信任程度,用以判定其是否为潜在消费者,因而数字人格具有可预测性。据此,数字评分和审查机制已经从衡量可信度转向预期行为人潜在的交易价值。可知,数字人格类似于数字货币,是基于个人声誉的新型动态交换工具。

数字人格不同于数字公民。数字公民系通过使用数字技术来体现人们在社会中的角色,是通过各种数字媒体将社会和政治实践扩展到在线环境的方式。因此,数字公民是将权利和义务扩展到数字领域的新问题,其与现实公民身份直接相关联,均为自身权利义务的载体。与之相反的是,数字人格是数据控制者以个人过往的数字轨迹生成的数字图像取代这些图像所要代表的现实,生成“纯事实”的配置文件,可以“观察”、预测甚至修改个人未来的行为模式。进而,数字人格成为数据控制者的新型权力,是针对数据本体(公民)权利义务进行控制的工具。

随着网络技术、视频数位技术等科技的发展,数据化个人轨迹变得可识别、可收集、可保存、可检索、可整合和可共享,任何人或事的相关过程均可以以数字化的方式重现。这意味着现在的人可以看到过去的“自己”,也使得过去的“自己”处于开放社会中任何人的“观察”之下,甚至导致信息收集者和分析者比本人还要了解“自己”。人体内部和外部的栖息地充满数据,为观察、解释、交流、影响、预测以及最终改变整个行为提供根本的分析机会,这对数据本体而言具有不可逃脱性。实体人格是不可视的,系模拟化的存在,同时具有人身依附性,由本人拥有相关权利。与之相反,数字人格是可视、可计量、可排序、可修改,其已脱离本体而存在于数字世界,由数据控制者拥有相关权利,数据本体因数据分散、微量而无法与数据平台抗争。监控资本主义正是基于信息不对称对数据本体为所欲为,攫取巨额新型利益,由此产生数字世界不平等的根源。

最终,随着数字社会(如物联网)建构的不断深入,数字人格从虚拟行为转移到实际行为,由此生成新的获利机会,信用数据正是该过程的润滑剂。因此,现实本身正经历着虚构变形,现实被数字化为商品和货币,并重生为数字化行为———数字人格,这使人作为主体(法律主体)在数字世界逐渐消失,取而代之的是信用系统下的数字化镜像。传统法律在该空间失去作用力,社会信用体系的合法性危机由此而来。

(二)社会信用体系下数字人格的衡平功能

西方国家基于数字资本主义和监控资本主义建构的金融信用体系是封闭、私有、局部、小规模和逐利化的,因此对数据本体的数字人格描摹是残缺、偏私和扭曲的。与之相反,我国社会信用体系是开放、公有、整体、大规模和非逐利的,其对数据本体的描摹具有整体性、全面性和客观性,并且可以实现全息化。由此,我国社会信用体系下的数字人格将成为一种全新的治理工具。然而,基于信用数据私有化,西方国家无法在数字资本主义和监控资本主义的控制下建构社会信用体系。如果我国顺利建成,将彻底从技术上颠覆西方国家现有的治理体系。落后的危机感正是西方社会对我国社会信用体系进行诋毁、诟病的真实根源。

监控资本主义下私人数据控制者掌控数字人格的目的在于牟利,这使得数字人格与个人隐私权之间产生张力。[xlvii]然而,社会信用体系的收集信用数据不是要侵蚀隐私权,而是通过集体公开的方式重新分配它们,以此实现资源分配平等化,允许个人参与并控制自己的命运。因此,社会信用体系下收集信用数据具有正当性,不会侵犯隐私权,是政府通过社会信用体系给每个个人发放一张“数字身份证”,赋予其在数字社会中的行为能力,成为技术公共基础设施的重要成果。

信用数据私有化下数字人格系监控资本主义的牟利工具,由此将产生新型社会不平等,无数字人格或数字人格不完整的主体在数字环境下将被限制或剥夺其生存、发展空间。同时,私有化数字人格总体是以数据提取的目标决定一切。这被视为监控资本主义反民主的另一面特征。然而我国社会信用体系是由政府提供的中立第三方平台,这使监视资本与社会成员在该平台上对就业、消费建立新的联结,可以防止私人控制下资本利益的贪婪扩张,进而维护民众的数字化权益。数字人格不再依赖私人提供数字化评价,改由政府提供统一社会信用,这有助于限制私人监控资本的过度逐利行为,形成全新的社会利益平衡。

因此,面对私有化数字人格生成的“黑箱社会”,其唯一的治愈路径为建构公有化的社会信用系统,实现信用数据对社会公开透明。亦即,我国社会信用体系下政府要成为公众数字人格的保护者、新型数字人格争议的调停者,而非与数字资本的合作者。我国必须警惕因公私合作而导致社会信用体系被数字资本绑架,因此保持社会信用体系的公有性、独立性尤为重要。

(三)社会信用体系下数字人格的预测功能

随着算法技术发展,依据元数据识别行为或活动的模式越来越有助于预测未来的行为,这种活动预测被定位为“生命挖掘”的特例,系“提取”在线生活中数据本体留下的数字轨迹来收集有用的知识。[xlviii]亦即,在算法控制下的数字人格具备预测功能,这是监控资本主义不断投资于挖掘信用数据的原动力。

在监控资本主义下,基于数据化个人轨迹生成的信用数据由数字系统的控制者(私人)拥有,而提供数据的本体无法占有、控制或处分相关数据。数据控制者运用大数据和算法,对数据本体的个人轨迹实施各种评价用以获取信用数据。由此,这种基于大数据运用算法生成的人格评价与数据本体相脱离,成为数据控制者财产的一部分。数据控制者对数据本体提供元数据进行加工后,由此生成的信用评级在实质上系对数据本体人格进行的“再评价”,成为数据本体参与数字社会活动的通行证。一旦监控资本主义掌握数字人格的预测功能,将成为其攫取数字红利的基本工具。基于金融信用体系进行的社会资产分配作为监控资本主义的延伸,从宏观层面看数字人格破坏了市场与国家之间的历史关系,从微观层面看数字人格的存在使公司与员工、政府与民众之间漠不关心,彻底疏远,不再受传统互惠关系的影响。由此,监控资本主义对数据人格预测功能的利用走向社会治理的反面。

相较于西方金融信用体系利用残缺不全的数字人格作为逐利工具不同的是,社会信用体系生成的数字人格系去中心化模式下的新型治理工具。在社会信用体系中,数字人格的权利主体不再具有单一性,而是多元复合体(数据本体、私人控制者、政府等)。基于信用评级的奖励和惩罚,数字人格刺激并反应出全新的生活世界。[xlix]社会信用体系提供了一种全面事实和遵守事实的新制度,其预测功能生成一种新型的自动化权力运作机制,取代原有法制和社会信任作为人类社区基础。基于数字人格的预测功能,由此产生完全不同于现行法律社会的财产和契约制度的财富分配机制,成为全新的市场分配机制。为此,社会信用并非简单的守法或守约,而是数字化治理工具。

事实上,数字人格的预测功能意味着社会治理机制的范式转化。数字人格具有独立性,不管数据本体的理解力、意志力和表达能力如何,“权力”的运作不再围绕其能力的判断,而是经算法预测生成的“形象”(作为潜在的守法者、欺诈者、消费者、恐怖分子和潜力巨大的学生等),形成面向未来的算法治理。西方金融信用体系因其生成的数字人格具有残缺性,无法运用到面向全社会的治理。与之相反,我国数据驱动下社会信用体系生成的数字人格系全息化的数字镜像,其公开性、公有性和可预测性使数字人格成为面向全社会的治理工具,由此成为算法行政的载体。


四、算法行政:规训权力的法律规制

社会信用体系的法律制度建构,必须厘清该制度内部权力的构造,才能明确必须采用法律进行规制的对象。目前,国内外多数研究是以社会信用体系对隐私权侵害或信用惩戒的合法性为对象展开,却没有触及推动社会信用体系权力运行的内核———算法行政,由此导致研究失焦。事实上,基于算法行政生成的规训权力才是社会信用体系真正需要法律进行规制的对象。为此,只有认清规训权力的本质,才能展开对社会信用体系的法理基础展开研究。

(一)算法行政下规训权力的作用

基于对个体在时间、空间、行动轨迹的全方位监督,使个体产生驯顺性和实用性而达到高效控制,形成福柯所说的“规训”(discipline)。[l]福柯的全景敞视原理则是某种贯穿于人们日常生活中的普遍状态,该原理被西方学者用作批判监控资本主义反民主的工具。进而,与监控资本主义单方面控权不同的是,社会信用系统的公开性使得社会多元主体均有机会监视对方,各方主体均成为监督者,完全契合全景敞视原理下的规训社会。社会信用体系由此产生正当性和公平性。

通过收集、访问、分析、存储和控制信用数据,可以实现对用户的生活、思想和身体进行空前的洞察,从而生成全息化数字人格。不管愿意或者不愿意,基于大数据的算法正在把所有社会成员的个人数据轨迹描摹为全景图谱,形成对每个人的信用评级。进而,数字人格成为参与线上、线下活动的“入场券”,社会信用正在把数字人格推向行政活动(如许可)的前置程序,系对行为人进行资格审查的必备要件。信用评级机制的存在意味着人们需要对自身是否存在违规行为而不断自我检查,并在数字算法的审查下“生产”自身的正常状态。为此,算法行政是通过比较行为与算法选择的奖惩之间相关性来生成对自我执行的激励,进而基于信用数据的算法替代政府执行法律来实施奖惩,从而有效降低执行成本。

在社会信用体系中,国家通过算法控制摆脱传统法律行政为基础的规制手段,而以个性化的数字人格作为权力运作基础。同时,借助于现代通信网络技术的发展,社会信用体系超越了全景敞视主义下中心化监视机制,数字人格可以在区块链技术下完全实现去中心化,并在人工智能主导支持下自动实现实时全景监视。[li]为此,在社会信用体系下,行为人需要连续不断地对自己行为加以监督,唯恐在什么时候受到窥视,从而导致社会信用评价的下降,最终形成自我监管的社会结构。因此,社会信用体系的奖惩机制本身已构成规训,进而在算法控制下规训权力将自动发挥作用。

在数据本体的数字人格被分级后,社会信用体系“将个体对象化,成为可以进一步操练和训练之物。”[lii]当选择的成本可以强加给个人时,就生成规训(如不良的信用评级增加借贷的成本)。当数字人格选择指向特定目的或方面并转向政策实施时,就会产生控制权。数字人格成为在社会信用体系中规训权力的载体,其本身亦成为政府治理数字资本主义和监控资本主义的有力工具。当个人被记录在案时,这将使信用数据转换为适用于非公开专业评比的个案中。[liii]亦即,基于数字人格,社会信用体系的权力运作方式被转化为福柯描述的矫正训练模式和被规训的社会,形成自我规范的有序国家,算法行政由此发挥作用。

(二)数字人格成为规训权力的载体

与算法治理相比,传统基于法律法规和司法系统所做裁决(即对现实的法律建构)是低效、迟缓的。同时,算法治理是没有主体的,使用个人数据和超个人模式运行,而且在任何时候都不会要求主体自负。相较于传统法律治理,算法治理不允许主观化过程。基于算法治理生成的数字人格具备以上法律特性。亦即,数字人格是基于纯粹事实性来创造时间、空间和(司法)场景的意思表达。在社会信用系统中,基于数字人格的意思表达重新获得了自治,社会成员可以在其中协商和辩论规范,在(法律)主体可以实现的情况下,建立自己的动机,并通过语言互相呼唤,为个人和集体的个性化创造了机会。[liv]社会信用系统中数字人格的这些特性与传统法律体系的既有模式和特征背道而驰,这使算法行政所生成的规训权力呈现出全新法律现象。

算法行政使我们能够以一种彻底重塑未来社会形象的方式将社会和政治规范嵌入社会信用系统。基于算法行政的有效运行,数字人格成为规训权力的载体,具体体现在以下三个方面:

一是把数字人格作为低成本方式获取经济增长所需可靠资源的工具。通过社会信用体系,政府与企业可以以低成本的方式获取社会成员的信任度,有效降低社会运作的经济和政治成本,增强社会成员对某一社会组织的驯顺性和实用性。亦即,社会信用体系使得政府或企业以低成本方式获得其所需的高度顺从的个性化、精准化对象,这是获取可靠资源的前提和基础,数字人格把特定社会组织与未来可预期经济增长粘合起来。

二是基于数字人格建构社会化的公正、理性的利益均衡体系。社会信用体系是以大数据为基础实现公开化、可视化、定量化、精准化和即时化的治理机制,实现了从法律行政框架下形式平等转向算法控制下的实质平等。这使得基于算法生成的数字人格具有相对客观性和公正性,规训权力在不同主体之间生成完全不同于契约的约束关系,同时使得某些群体(消费者、经营者)依附于另一些群体(网络平台)。社会信用体系基于信用数据公有化断绝监控资本主义的嗜血性,从而使社会成员相互之间形成利益分配的动态均衡,最终实现社会整体的稳定性。

三是把数字人格作为归化社会成员的科学手段。基于算法的数字治理是后现代的监管机制。与传统监管以对人体内在或外在惩罚为对象不同的是,社会信用监管依赖规训权力,基于此形成的算法行政是一种通过算法评价来实现内外结合、集奖惩一体的资格化管制。政府运用规训权力,通过对社会成员数字人格的不断测量、评估、诊断,从而实现社会分层治理,对守信的合规者进行奖励,对失信的违规者实施矫正、治疗,使之规范化。由此,社会信用体系在数字驱动下所生成的数字人格成为数字社会治理范式转化的科学载体。

由上可知,社会信用体系在某种程度上实现了边沁对“全景敞视监狱”的理想建构,这对“任何一个社会控制者充满吸引力,这种机制相对廉价,可增强控制大规模人口的权力,并控制公众的反叛”。[lv]如果算法行政在我国获得成功,它将彻底改变治理理论,并有可能成为发展中国家组织的框架。[lvi]

(三)算法行政下法治的作用空间

在数字时代,社会(无论如何构成)更加需要法律的规范和叙事来管理数据系统操作的使用,并保护数据生成本身的完整性。[lvii]这表明数据驱动的信用体系本身具有一定的脆弱性,需要法律的增强保护。同时,算法行政虽然是相较于法律行政而存在,但并非是超脱于法治的。为在社会信用体系中建立与算法行政相匹配的法治框架,首先需要确定的是法治作用空间,这取决于算法治理的法律规制对象。然而,基于不同阶段的算法治理生成的法律规制对象是不一样的。因此,确定算法行政的法治作用空间需要与监控资本主义下的法律规制对象展开对比才能显现。

在监控资本主义下,因数字环境的分散性、无边界性使得国家难以识别相同的地缘政治标记(例如领土和主体),而无法从中定义主权者和受权者的作用和权力。结果,数字时代正在模糊公民与国家之间的权力区分,数字环境已经成为未知的政治领域。在各国政府利用其自身的数字工具(例如大数据、数字监视和算法)以维持数字时代对民众权威的同时,公民也在使用新的数字工具来组织、沟通和挑战超出国家权利范围的主张和方法。然而,尽管公民确实拥有更强大的工具来影响变革并利用新的政治和社会权力,但随着监控资本主义与国家权力的勾连合作,公民权利也面临着前所未有的威胁,最终数字技术造成有利于国家的权力不平衡。与西方学者指控我国社会信用体系将威胁基本公民权利,可能造成新形式的社会不平等不同的是,监控资本主义才是真正的民主与法治的破坏者。因此,在信用数据私有化背景下,监控资本主义的贪婪逐利性才是法律的规制对象。

相较于监控资本主义,社会信用体系的法律规制对象与之完全不同。事实上,国家培育数据和实施数字法规的动机不仅是确保权力,更是维持数字时代(利益平衡)相关性的一种手段。[lviii]福柯认为,国家的生存取决于治理术的艺术,是国家努力培养忠诚、服从公民的战术手段,为了行使和维持权力,国家必须使用一系列战略控制技术。[lix]进而,基于算法行政建构的社会信用体系成为国家纠正监控资本主义的技术手段,在这样背景下,社会信用体系生成的数字人格成为数字社会分散的权力回收到国家控制的重要工具。社会信用体系通过量化来规范行为是规训权力的运作基础,由此建立一种新的、可量化排序的数字人格,用以捕捉和展现美德并确定其在社会上的整体价值,通过算法行政的引导逐步形成“诚信文化”氛围,最终以确保对国家的忠诚和服从以及公民之间的信任。[lx]

因此,社会信用系统是具有可比性、基准化的量化系统。这种量化机制解决了一系列评估(人类行为和生产)的困难,成为一种构建具有(理想)协商常规值的对象的方式。亦即,社会信用系统中的量化逻辑创建了认知社区并启用了人类评估过程,而算法理性则完全免除了创建任何类型的社区、组织解释或评估过程的负担。[lxi]

为达成以上目标,算法行政将传统法律结构作为基准,与基于信用数据评级和自由裁量指导系统的管理方法相结合,在合规与合作基础上实现治理,而传统语言和宪法形式通过复杂的官僚机构与司法机构和人民代表机构交织在一起的政治政府可能不再特别重要。[lxii]因此,社会信用体系中法律的规制对象已经转化为规训权力建构本身,法律制度应当围绕政府利用数字人格进行算法治理的合法性、正当性展开,由此生成算法行政的法治化空间。


五、数字行政法:社会信用体系法治化的新路径

社会信用体系发展出来的算法行政将为法治发展开辟一个新的但很大程度上仍是尚未探索的领域。目前,多数学者仍以传统法律框架为分析工具,进而推演出社会信用体系诸多与现行法治原则相悖的结论。[lxiii]虽然有学者将之拓展到政府规制工具层面,但是囿于文本主义的法律视角仍无法契合基于数据驱动的社会信用体系本质。[lxiv]事实上,在算法行政下,操作社会信用系统的人承担着传统行政法上行政主体的角色,法律的功能也从命令和服从的方法转变为遵从和激励的系统。由此,算法行政将成为数字社会中新型行政法的法理基础,未来数字行政法将成为大数据时代法治建设领域全新的行政法学科分支。

(一)算法行政的法理基础:问责制治理

新的和不断变化的数字力量彻底颠覆传统管理规则和法律规范。国家和政府在功能上面临挑战,比如政府社会化(公私合作)、国家角色转换(国家演化为算法提供者、掌控者和监管者等多元化身份的综合体)等。同时,法律的原则性、不确定性下的个性化控制被大数据下量化统计的全面控制替代,执法者的法律解释功能被算法控制取代。

在这样的背景下,社会信用体系表现为一种等级和判断(奖惩结构)的规训权力,并以目标数据收集、专有算法以及奖惩协调机制为基础。进而,算法行政将外在的命令系统转变为社会成员内在的自我控制系统,并通过自我反省文化规范的重建,生成内生的行为约束,由此颠覆旧的法治结构。传统法律框架是以执法机关为中心而建构,以国家的强制力保障实施。与此不同的是,在被算法控制的社会网络监督中,社会信用体系依靠社会成员“被观看”的感受形成的自我问责压力,系规训权力而非国家强制力的威胁或作用,从而摆脱权力中心化下的法律管制。

社会信用系统建构起全新的开放式治理场域,这种现代权力运行机制有别于以国家强制力为后盾的双向关系型法律控制模式,进而基于精确统计量化而形成算法行政下多面向的信用治理模式。亦即,基于数据-算法-后果模式下的信用评级裁量决策系统取代法律-行为-后果模式下的法律构成要件分析框架。社会信用的生成源自数据提取,是单向的自我问责过程,而非基于双向法律关系。为此,基于数字人格的单向问责机制使双向的法律关系理论不再适用于该过程。

进而,法治正朝着通过发展个人和企业的合规实践而实施的数据驱动系统发展。由此带来的后果是,监管治理的推动机构似乎不是基于法治的政府,而是基于问责制的治理。[lxv]在问责制治理下,行为的合法性评价被转化为对数字人格的数据收集(在恒定和实时的基础上)、数据分析(按收获顺序排序)、针对目标的算法(从顺序到后果)以及基于评估决策的奖惩系统,这是一种从法治走向到评估和问责的过程。[lxvi]通过数字人格分析将立法的影响与问责制相结合成为算法行政的外在表现形式。在此视角下,社会信用体系是针对数字人格的问责机制,通过算法分析下自反式操作进行管理,将社会、经济、道德、文化、政治或宗教目标整合到数字人格中的全新治理形式。亦即,数字社会的法治已经转向对算法行政的规制。

从发展趋势看,社会信用体系强制实施以行为标准为基础的问责制,很可能会将公法前沿(包括宪法和法治)的重点转移到算法分析上,由此需要一种新的语言来构成这些新兴的控制结构。[lxvii]事实上,“算法治理”“数字人格”、“算法行政”等词汇恰好因应法治重构下法律术语的变迁,由此构成数字行政法的生成基础。

(二)建构数字行政法的必要性

基于数字驱动的社会信用体系将重新塑造数字社会的法律逻辑,就像工业资本的法律逻辑塑造农业社会的法律制度一样,由此挑战法治国既有的法律原则。事实上,这种挑战外在表现为基于法律行政建构的传统行政法在数字环境下的不适应性,原因在于算法行政基本特性与传统行政法不兼容。这些特性主要表现为以下五个方面。

一是技术化。数字人格的生成对社会经济、政治、文化产生独特的影响,尤其是对法律制度构成根本性挑战,以至于提出质疑:当人们拥有传感器和反馈机制时,为什么要依靠法律?如果要采取政策干预措施(使用当今的流行语是“基于证据”和“以结果为导向”),那么技术将提供帮助。[lxviii]因此,在算法行政下,数字人格不再只是政府的“手段”,已经变成了政府本身,亦即通过法律增强的技术已成为自身表达法律的手段。虽然法律和法规的控制要素是基于对权力的命令服从,但社会信用和评级系统中规训权力的控制要素却是基于评级、激励和惩罚,行政裁量也被压缩到功能化算法系统的内部。“只有从规范主义向系统功能主义的视角转换,才能从根本上消解裁量基准与个别情况考量之间存在的悖论,使裁量基准获得规范正当性,个别情况考量也由此在双重偶联性结构中得以自我确证”。[lxix]进而,诸如公法下滥用自由裁量权之类的事项很可能会转化为市场滥用和背离算法完整性原则,这将成为数字行政法的基本原则之一。

二是公法化。数字领域中的任何行为都必须遵守个人登录所在的各个民族国家的社会和政治规范。[lxx]然而,因数字人格的控制者不同,其法律规制路径各异。在监控资本主义下私有化数字人格是私权力,其法律规制核心是数据本体隐私权保护,适用私法框架。然而,在社会信用的体系中,公有化数字人格却表现为公权力,对其规制适用的法律框架是公法体系。在不久的将来,数字行政法将会以新型的国家权力运作模式而在宪法框架下形成全新的学科,算法行政将成为公法领域法理基础的新型理论。

三是聚焦于修改权。数字人格作为规训权力的治理工具,生成一种全新的权力形式。在该形式中,契约和法律被基于算法的数字人格奖惩体系所取代。既有研究把由此产生算法的解释问题归入算法解释权并探讨其构成,然而这是远远不够的。[lxxi]因为在社会信用体系中的法律内涵已经发生重大变化,数字人格的修改权将成为权力控制者的交易品。为此,在数字人格的所有权与数据本体分离的前提下,我国对社会信用系统的研究应当聚焦于赋予数据本体的访问权、修改权,尤其是要提供正当程序保障。这是因为,正当程序“直接体现法治政府对行政权力公正行使的最低限度”。[lxxii]这将成为未来数字行政法权力配置和审查的核心要素。

四是控制数字资本主义和监控资本主义。数据驱动的社会信用体系生成数字人格已经成为数字资本主义和监控资本主义攫取高额利润的新工具。然而,我国目前已有的法律规范对此均没有相关规定,导致数据控制者和数据本体权利失衡,由此生成的法律真空亟需填补。数字行政法将填补该空白,传统的比例原则将在该领域发挥新的作用空间。

五是需要制定民众数字人格权利法案。目前各国均在大力考虑制定数字领域立法,以平衡数字时代数字公民和政府的权利和义务,意图确保互联网仍然是不受管制的网络。然而,在数字人格私有化下,这几乎是天方夜谭,不受控制的数字资本只会与政府联手合作,最终侵害不具备专业知识的普通民众。如果国家的数字实践没有适当的法规约束,则无法保障民众监督或制度透明,最终有可能导致规训权力的滥用。为此,纠正此问题的最佳方法是使数字权利立法现代化,颁布数字人格权利法案,保障信用主体的合法权益。

基于算法行政的以上特性,有必要在传统行政法外建构全新的数字行政法。

(三)数字行政法的可行性

实施社会信用体系的目的应当是让社会更具生产力。监控资本主义认为,数字人格应当采取私密方式,并通过包括空间、时间以及规范化评估在内的微小细节而得以运作时,它将变得更具有生产性。[lxxiii]但这仅在以私人为特定主体的局部、个体范围内是有效的,一旦面向全社会时,因不同数字人格控制者之间存在利益冲突,反而成为社会发展的阻碍。因此,社会信用体系的先进性恰恰在于其社会化、公开化、公有化,由此破解监控资本主义下的黑箱社会,这将构成数字行政法的政治经济基础。[lxxiv]

从发展过程看,数字行政法意在实现数字人格法治化,其可行性体现在以下三方面:

一是规训的功能社会化转换,各种机构被要求生产而非压制社会现象。算法行政下的法律制度建构旨在为提高生产力所需的驯顺性人力资源,不是将其惩戒后排除出社会,而是让其能更好的融入社会生产。数字人格由此成为数字社会的生产工具。

二是基于规训机制形成一个公开化监视网络。这使得社会信用监管者能够进入以往传统权力所无法企及的“私人”领地,将行为人的私人空间(包括心理状态、行为道德等)统统纳入社会信用系统的监管之下。社会信用体系是通过信用数据公有化生成集体民主下的数据公开模式,由此民众充当执行或监管所需数据的积极贡献者。同时,集体公开消除了西方社会基于隐私的特权阶层,满足全景敞视主义下的监管公开化,算法技术的发展可以使人人成为他人数字人格的观察者、执法者、裁判者。

三是信用数据公有化下国家对规训机制的控制。社会信用体系由国家建构的层级化评级机制是等级监视,通过持续不断对等级进行评估和分类来实现目标,由此置换了传统以国家强制力为后盾的传统法律控制模式,以“非命令”控制导入新型权力关系。[lxxv]社会信用体系以一种全新的、不以传统法律为基础的“法律”形式出现,使整个网络化社会成为“善良灵魂”(守信者)的生产场所,同时也是改造恶行(失信者)的“监狱”。在这里,大数据取代传统的档案、案卷,区块链技术、人工智能取代传统行政管理,算法控制取代司法审判。社会信用评价将人们的过往行为物化为数字人格,进而人们将仰赖数字人格这一数字化“身份证”生活在数字社会中。


结语

我国数字驱动的社会信用体系已在全球范围内产生重大影响。本文基于福柯治理理论,揭示出算法行政有别于传统行政下基于法律规则的治理体系,但其法治化路径目前仍是未知领域。本文基于数字人格进行初步探索,并建议发展数字行政法是社会信用体系法治化的现实路径,但具体的法律制度建构仍有待于进一步研究。

注释:

[i]参见《国务院办公厅关于加快推进社会信用体系建设构建以信用为基础的新型监管机制的指导意见》(国办发[2019]35号)。

[ii]参见Loubere et al.,“The Global Age of Algorithm:Social Credit and the Financialisation of Governance in China”,In Made in China:AQuarterly on Chinese Labour,Civil Society,and Rights Vol.3,No.1,2018,pp.38-43.

[iii]参见Mario T.,“The Social Credit System and Governmentality in China”,Access November 18,2019.https://soziologieblog.hypotheses.org/11485.

[iv]参见Wong et al.,“We’re just data:Exploring China’s social credit system in relation to digital platform ratings cultures in Westernised democracies”.Global Media and China Vol.4,No.2,2019,pp.220-232.

[v]参见王瑞雪:《政府规制中的信用工具研究》,载《中国法学》2017年第4期。

[vi]参见沈岿:《社会信用体系建设的法治之道》,载《中国法学》2019年第5期。

[vii]参见刘艳红:《大数据时代审判体系和审判能力现代化的理论基础与实践展开》,载《安徽大学学报(哲学社会科学版)》2019年第3期。

[viii]参见国务院《社会信用体系建设规划纲要(2014-2020年)》(国发[2014]21号)。

[ix]参见《国务院办公厅关于运用大数据加强对市场主体服务和监管的若干意见》(国办发[2015]51号)。

[x]参见Backer,Larry C.,“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”,Access November 18,2019.https://ssrn.com/abstract=3209997 or http://dx.doi.org/10.2139/ssrn.3209997.

[xi]参见Bevir&Mark,“Rethinking Govemmentality:Towards Genealogies of Governance”,European Journal of Social Theory Vol.13,No.4,2010,pp.423-41.

[xii]参见Horkheimer&Max,Eclipse of Reason,London,Continuum,2004,p.26.

[xiii]参见Moulier-Boutang Yann,Cognitive Capitalism,Cambridge,Polity,2011,p.128.

[xiv]参见Hardt et al.,Assembly.Oxford:Oxford University Press,2017,p.213.

[xv]参见Berardi&Franco,And:Phenomenology of the End,South Pasadena,CA:Semiotext(e),2015,p.316.

[xvi]参见Sarah M.,“West Data Capitalism:Redefining the Logics of Surveillance and Privacy”,The Governance of Digital Technology,Big Data,and the Internet:New Roles and Responsibilities for BusinessV Vol.58,NO.1,2019,pp.20-41.

[xvii]参见Zuboff S.,“The secrets of surveillance capitalism”,Access November 18,2019.http://www.faz.net/aktuell/feuilleton/debat-ten/the-digital-debate/shoshana-zuboff-secrets-of-surveillance-capitalism-14103616.html.

[xviii]参见Fuchs et al.,“Introduction:Big Data Capitalism-Politics,Activism,and Theory”,in:Digital Objects,Digital Subjects:Interdisciplinary Perspectives on Capitalism,Labour and Politics in the Age of Big Data,London,University of Westminster Press,2019.pp.1-20.

[xix]参见Lazzarato&Maurizio,“Signs and Machines:Capitalism and the Production of Subjectivity”,South Pasadena,CA:Semiotext(e),2014,p.25.

[xx]参见赵青新:《开放式信息应用能否带来多边互赢?---读〈黑箱社会〉》,载《时代金融》2016年第7期。

[xxi] Zuboff&Shoshana,“Big other:surveillance capitalism and the prospects of an information civilization”,Journal of Information Technology Vol.30,No.1,2015,pp.75-89.

[xxii]参见Foster et al.,“Surveillance Capitalism”,Monthly Review,2014,p.89.

[xxiii]参见Backer,Larry C.,“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997 or http://dx.doi.org/10.2139/ssrn.3209997.

[xxiv]参见Rouvroy A.,“The end(s)of critique:data-behaviourism vs.due-process”,in et al.(ed.)“Privacy,Due process and the Computational Turn.Philosophers of Law Meet Philosophers of Technology”.Abingdon:Routledge,2012,pp.163-196.

[xxv]参见Mark Bevir,“Governance,Encyclop?dia Britannica”.Accessed November 30,2019.https://www.britannica.com/topic/governance.

[xxvi]参见Bevir&Mark,“Rethinking Govemmentality:Towards Genealogies of Governance”,European Journal of Social Theory Vol.13,No.4,2010,pp.423-41.

[xxvii]陈培永:《福柯的生命政治学图绘》,中国社会科学出版社2016年版,第113-114页。

[xxviii]参见Rouvroy A.,“The end(s)of critique:data-behaviourism vs.due-process”,in et al.(ed.)“Privacy,Due process and the Computational Turn.Philosophers of Law Meet Philosophers of Technology”.Abingdon:Routledge,2012,pp.163-196.

[xxix]参见Rouvroy A.,“The end(s)of critique:data-behaviourism vs.due-process”,in et al.(ed.)“Privacy,Due process and the Computational Turn.Philosophers of Law Meet Philosophers of Technology”.Abingdon:Routledge,2012,pp.163-196.

[xxx]参见Rouvroy A.,“The end(s)of critique:data-behaviourism vs.due-process”,in et al.(ed.)“Privacy,Due process and the Computational Turn.Philosophers of Law Meet Philosophers of Technology”.Abingdon:Routledge,2012,pp.163-196.

[xxxi]参见周佑勇:《智能技术驱动下的诉讼服务问题及其应对之策》,载《东方法学》2019年第5期。

[xxxii]参见Rose et al.,“Governing the Present:Administering Economic,Social and Personal Life”,Cambridge,UK:Polity,2008,p.230.

[xxxiii]参见Nuno R.,“Algorithmic Governmentality,Smart Cities and Spatial Justice”,Accessed November 30,2019.http://www.jssj.org/article/gouvernementalite-algorithmique-smart-cities-et-justice-spatiale/.

[xxxiv]参见Walters&William.“Some Critical Notes on‘Governance.”Studies in Political Economy 73(Spring/Summer).Accessed November 30,2019.http://spe.library.utoronto.ca/index.php/spe/article/view/5728.

[xxxv]参见Lemke&Thomas,“An indigestible meal?Foucault,governmentality and state theory”,Scandinavian Journal of Social Theory 8(2),2007,pp.43-64.

[xxxvi]参见Berardi&Franco,And:Phenomenology of the End,South Pasadena,CA:Semiotext(e),2015,p.316.

[xxxvii]参见Harkens A,.“The ghost in the legal machine:algorithmic governmentality,economy,and the practice of law”,Journal of Information,Communication and Ethics in Society,Vol.16 No.1,2018,pp.16-31.Accessed November 30,2019.https://doi.org/10.1108/JICES-09-2016-0038.

[xxxviii]参见Lucas D,.“Algorithms,Governance,and Governmentality:On Governing Academic Writing”,Science,Technology,&Human Values Vol.41,No.1,2016,pp.17-49.

[xxxix]参见Sabrina et al.,“Data Privacy:Definitions and Techniques”,International Journal of Uncertainty Vol.20,No.6,2012,pp.793-817.

[xl]参见The Economis,t“Test of Character”,2016a.Accessed November 30,2019.https://www.economist.com/news/finance-and-economics/21707978-how-personality-testing-could-help-financial-inclusion-tests-character.

[xli]参见Backer,Larry C.,“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997.

[xlii]参见[英]安妮·施沃恩、史蒂芬·夏皮罗:《导读福柯〈规训与惩罚〉》,庞弘译,重庆大学出版社2015版,第124页。

[xliii]参见Loubere et al.,“The Global Age of Algorithm:Social Credit and the Financialisation of Governance in China”,In Made in China:AQuarterly on Chinese Labour,Civil Society,and Rights Vol.3,No.1,2018,pp.38-43.

[xliv]参见Foucault,M.,“The Birth of Biopolitics:Lectures at the College de France 1978-79”,New York:Palgrave MacM illan,2008,p.30.

[xlv]参见Miller&Peter,“Governing by Numbers:Why Calculative Practices Matter”,In The Blackwell Cultural Economy Reader,edited by Ash Amin&Nigel Thrift,Oxford:Blackwell Publishing Ltd,2004,pp.179-189.

[xlvi]参见Denyer,S.,“China wants to give all of its citizens a score-and their rating could affect every area of their lives”.Accessed November 30,2019.http://www.independent.co.uk/news/world/asia/china-surveillance-big-data-score-censorship-a7375221.html.

[xlvii]参见李川:《个人信息犯罪的规制困境与对策完善---从大数据环境下滥用信息问题切入》,载《中国刑事法杂志》2019年第5期。

[xlviii]参见Weerkamp&M.de Rijke,“Activity Prediction:A Twitter-based exploration”,SIGIR Workshop on Time-aware Information,Portland,2012.Accessed November 18,2019.http://wouter.weerkamp.com/downloads/taia2012-activity-prediction.pdf.

[xlix]参见刘艳红:《侵犯公民个人信息罪法益:个人法益及新型权利之确证---以〈个人信息保护法(草案)〉为视角之分析》,载《中国刑事法杂志》2019年第5期。

[l]参见[英]安妮·施沃恩、史蒂芬·夏皮罗:《导读福柯〈规训与惩罚〉》,庞弘译,重庆大学出版社2015版,第94-95页。

[li]参见刘艳红:《人工智能法学研究的反智化批判》,载《东方法学》2019年第5期。

[lii]参见[英]安妮·施沃恩、史蒂芬·夏皮罗:《导读福柯〈规训与惩罚〉》,庞弘译,重庆大学出版社2015版,第115页。

[liii]参见[英]安妮·施沃恩、史蒂芬·夏皮罗:《导读福柯〈规训与惩罚〉》,庞弘译,重庆大学出版社2015版,第118页。

[liv]参见Backer,Larry C,.“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997.

[lv] [英]安妮·施沃恩、史蒂芬·夏皮罗:《导读福柯〈规训与惩罚〉》,庞弘译,重庆大学出版社2015版,第123-124页。

[lvi]参见Backer,Larry C.“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997 or http://dx.doi.org/10.2139/ssrn.3209997.

[lvii]参见Backer,Larry C.“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997 or http://dx.doi.org/10.2139/ssrn.3209997.

[lviii]参见Owen,T.,“Disruptive Power:The Crisis of the State in the Digital Age”,Oxford University Press.,2015.Accessed November 30,2019.http://uk.businessinsider.com/home-secretary-amber-rudd-real-people-dont-need-end-to-end-encryption-terrorists-2017-8.

[lix]参见Foucault,M.,“The Foucault Effect:Studies in Governmentality”.The University of Chicago Press.Chicago:Global Times,In“China moving toward fully developed credit systems”,.Access November 18,2019.http://www.globaltimes.cn/content/1052634.shtml.

[lx]参见Lucas D.,“Algorithms,Governance,and Governmentality:On Governing Academic Writing”,Science,Technology,&Human Values Vol.41,No.1,2016,pp.17-49.

[lxi]参见Desrosières,A.,“Governing by the Numbers,Statistical Argument II”,Paris:Ecole des Mines Presses,2008,p.109.

[lxii]参见Backer,Larry C.“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997 or http://dx.doi.org/10.2139/ssrn.3209997.

[lxiii]参见沈岿:《社会信用体系建设的法治之道》,载《中国法学》2019年第5期。

[lxiv]参见王瑞雪:《政府规制中的信用工具研究》,载《中国法学》2017年第4期。

[lxv]参见Backer,Larry C.“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997 or http://dx.doi.org/10.2139/ssrn.3209997.

[lxvi]参见Backer,Larry C,.“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997.

[lxvii]参见Backer,Larry C.“Next Generation Law:Data Driven Governance and Accountability Based Regulatory Systems in the West,and Social Credit Regimes in China”.Access November 18,2019.https://ssrn.com/abstract=3209997 or http://dx.doi.org/10.2139/ssrn.3209997.

[lxviii]参见Morozov&Evgeny,“The Rise of Data and the Death of Politics”,London,The Observer Online,2014,p.68.

[lxix]周佑勇:《裁量基准个别情况考量的司法审查》,载《安徽大学学报(哲学社会科学版)》2019年第5期。

[lxx]参见Verkaik,R.“Illegal Downloading:What Happens if You’re Caught?”.Accessed November 30,2019.http://www.independent.co.uk/life-style/gadgets-and-tech/features/illegal-downloading-what-happens-if-youre-caught-1736013.html.

[lxxi]参见张恩典:《大数据时代的算法解释权:背景、逻辑与构造》,载《法学论坛》2019年第4期。

[lxxii]周佑勇:《行政法基本原则研究》,法律出版社2019年版,第289页。

[lxxiii]参见[英]安妮·施沃恩、史蒂芬·夏皮罗:《导读福柯〈规训与惩罚〉》,庞弘译,重庆大学出版社2015版,第125页。

[lxxiv]参见周佑勇:《论智能时代的技术逻辑与法律变革》,载《东南大学学报(哲学与社会科学版)》2019年第5期。

[lxxv]参见[法]米歇尔·福柯:《规训与惩罚》,刘北成等译,三联出版社2019年第5版,第220页。

作者简介:虞青松,法学博士,东南大学法学院讲师。

文章来源:《法学论坛》2020年第2期。

    进入专题: 社会信用体系治理   数字资本主义   监控资本主义  

本文责编:陈冬冬
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 宪法学与行政法学
本文链接:https://www.aisixiang.com/data/121226.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统