丁晓东:算法与歧视——从美国教育平权案看算法伦理与法律解释

选择字号:   本文共阅读 1716 次 更新时间:2017-12-21 22:11

进入专题: 平等保护   法律解释   教育平权案  

丁晓东  

摘要:  本文借助对美国教育平权案件的分析,思考了算法的伦理基础与法律解释的基本原理。通过对若干美国大学招生政策中的算法的分析,可以发现算法并非一种完全价值中立的活动,算法总是隐含了价值判断。法律解释应当反思算法的伦理基础,而不应当盲目信任或依赖某种算法。同时,应当发展一种基于技艺的法律解释方法,这种方法可以运用某种算法,但法律解释方法应当将算法和特定历史传统与语境相结合,在特定的历史传统与语境中寻求弥合社会分歧、引领社会共识的法律解释方法。

关键词:  算法;歧视;平等保护;法律解释;技艺


在大数据来临的时代,算法(algorithm)已经极大地改变了我们做出决定的方式,越来越成为人们关注的问题。如同大数据专家、《大数据时代》一书的作者舍恩伯格所说,大数据的特征是追求效率,而不是绝对精确;追求的是相关性,而不是因果性,在现代社会,大数据和算法结合已经颠覆了传统的决策方式。[1]在这种背景下,基于大数据的算法就成为一个问题。大数据除了带给我们更有效率和更具相关性的判断之外,其公平性或正当性的基础何在?尤其在涉及到公共机构使用大数据和算法的情形下,我们更要问,基于某种算法的大数据使用是否具有正当性基础或伦理基础?[2]

这并不是容易回答的一个问题。除了伦理与公平问题的复杂性之外,另一个难点在于算法的专业性和不透明性。对于很多企业而言,算法往往被当做商业秘密加以保护,人们往往很难理解算法的实际运作过程,例如人们往往很难理解某新闻App为何会推送其某条新闻,某购物网站为何会推荐某些产品;而对于很多公共机构而言,其算法也常常并不公开(这本身也是一个值得探讨的问题)。算法的专业性与不透明性为人们思考算法伦理问题设置了很高的门槛。

本文选取了另一条道路,本文通过探讨美国的教育平权案来探讨算法伦理问题。在本文选取的几个案例——Grutter案、Gratz案和Bakke案中,我们可以清晰地看到美国大学在录取招生时采取了何种算法,而且可以结合美国联邦最高法院的相关讨论来分析这些招生政策中算法的合理性。无疑,这些案例发生在大数据概念提出以前,而法院对于这些问题的讨论也没有使用诸如“算法”或“算法伦理”这样的术语。但另一方面,这些案例无疑使用了大量的数据,采用了不同的算法,而且,法院对于招生政策合宪性与正当性的讨论本质上也正是对算法伦理问题的讨论。在这个意义上,借用美国教育平权的相关案例来讨论算法伦理,可以帮助我们更为深刻地理解算法伦理的相关问题。

同时,在本文看来,通过讨论美国的教育平权案和相关伦理问题,我们可以更为深刻地理解法律解释问题。在本文所涉及到的若干美国教育平权案中,其中涉及到招生政策是一个算法问题,同时也是一个法律解释问题,因为这些案件的核心争议就是这些案件中的政策和算法是否符合美国宪法与法律的规定。

在进入正文讨论之前,有必要非常简单地介绍一下美国教育平权的历史背景。众所周知,美国在南北内战后虽然解放了黑奴,但对于黑人的歧视与隔离并没有消除。直到1954年,在“布朗诉教育委员会案”(Brownv.BoardofEducation)案中,美国最高法院才废除了“隔离但平等”的法律教义,认定对某个种族进行区别对待违反了美国宪法的第十四修正案。其后,经过六十年代的民权运动,很多美国大学在招生中采取了增加黑人等少数族裔的教育平权政策或纠偏政策(affirmative action)。这些政策一方面得到了一些人的支持,因为其具有增加少数族裔比例,改变少数族裔社会境况的作用。但另一方面,这一政策也被认为对白人和亚裔存在不公平,是另一种形式的肤色歧视,并因此受到了很多人的抵制。本文要讨论的几个案例正是在这一大的背景下发生的。


一、相似的案件、不同的判决


2003年,美国联邦最高法院审理了两个著名的教育平权案件:Grutter v. Bollinger案和Gratz v. Bollinger案。在Grutter案中,一位名为Grutter的白人起诉密歇根法学院,认为其招生政策违反宪法第十四修正案的平等保护以及1964年民权法案中不得基于种族进行歧视的规定。因为在密歇根法学院的招生政策中,除了考虑本科成绩、LSAT成绩、推荐信、社会活动等表现之外,该政策还允许考虑学生的种族因素;该政策主张,应当录取“相当数量(critical mass)”的少数族裔学生,从而实现法学院生源“多样性(diversity)”的目的。对于这种招生政策,此案中的原告Grutter认为,这种政策使得某些少数族裔“比其他不太受待见的群体具有明显高得多的录取机会”,因而显然违反了平等保护和种族中立的原则。

而在Gmtz案中,争议的核心则是密歇根大学本科招生政策是否违反宪法第十四修正案的平等保护。根据密歇根大学的本科招生政策,大学申请者可以因为某些原因而获得加分,例如可以因为是密歇根居民而加10分,因为是校友子女加4分。而如果申请者恰好属于黑人等某些族裔的话,则可以加20分。在这一招生政策下,一般来说分数将决定申请者的命运,学校将根据申请者的分数而将申请者归类为被直接录取、延迟录取还是直接拒绝。但同时,录取审查委员会仍然有权将一些具有鲜明特征的个人挑选出来,并且进行不考虑分数的综合比较。对于密歇根大学的这种给某些族裔统一加分的录取政策,原告Gmtz认为,这违反了宪法第十四修正案的平等保护要求。

对于这两个案件,美国联邦最高法院首先认为,密歇根法学院或密歇根大学本科所希望实现的多样性目标可以被视为宪法上的“压倒性利益(compelling interest)”,[3]可以允许学校为实现这一利益而考虑种族因素。其次,美国联邦最高法院认为,应当对学校政策进行“严格审查(strict scrutiny)”,以确保这种政策符合“严格限定(narrowly tailored)”的条件。[4]

经过审查,美国联邦最高法院对两个案件做出了不同的判决。在Grutter案中,最高法院认为,密歇根法学院的招生政策符合“严格限定”的要求,并没有违反宪法第十四修正案的平等保护;而在Gratz案中,最高法院则认为,密歇根大学的本科招生政策不符合“严格限定”的要求,因而违反了宪法第十四修正案。

是什么原因使得法院得出了相反的结论呢?分析两个案件的判决书,可以发现法院做出判断的主要依据在于招生政策是否足够“个人主义”。在Grutter案中,奥康纳所撰写的多数意见认为,法学院的招生政策是高度个人主义和综合性考虑的;法学院并没有要求以“配额(quota)”的方式每年招收固定“比例”的少数族裔的学生。相反,对于种族因素的考虑只是以一种附加(aplus)因素的方式起作用。虽然它要求保证每年能够招收“相当数量”的少数族裔学生,但“相当数量”只是希望某些族裔的学生不会感到孤立,并不意味着一定要实现一定的数量或百分比。从历届招生的情况来看,非裔、拉丁裔和印第安裔美国学生的比例一直在浮动,并不固定。法院因此认为,法学院的招生政策是根据个人来进行综合考虑的,种族并没有成为一个决定性的因素。[5]

而在Gratz案中,法院的多数意见认为,给某些少数族裔加20分,这是一种非个人主义的做法。即使录取复查委员会对所有达到最低录取线的人进行不考虑分数的个体性的综合考虑,也不足以改变其非个人主义的性质,因为大多数的录取仍然是根据分数而做出的。在这种20分的加分政策下,种族已经成为录取中的一个“决定性因素”。[6]而奥康纳的配合意见也指出,Gratz案中通过自动加分而进行排名的录取政策是一种排除“个体化评估申请者的多样性贡献”的做法,和Grutter案中更为个人主义和综合性考虑的做法截然不同。[7]

Grutter案和Gratz案的法院意见是对早先Bakke案中Powell法官意见的重新确认。[8]正是在Bakke案中,Powell法官确立了对平权行动的严格审查,允许将大学的多样性视为压倒性利益,并且将招生政策是否足够“个人主义”视为能否通过审查的重要因素。有趣的是,在这个案件中,Powell法官同样对比了两种招生政策。一种是该案中所涉及的加州大学戴维斯分校医学院的族裔配额政策,将16%的招生名额分配给某些弱势群体和某些少数族裔。另一种则是哈佛学院的综合考虑申请者的招生政策,在该政策中,种族将被视为“附加因素(plus)”。Powell认为,这两种制度具有本质上的不同,前一种政策是非个人主义的,违反了宪法的平等保护,而后一种政策则是个人主义的,虽然考虑了种族制度,但并不违反宪法第十四修正案。[9]


二、算法视野下的平等:法院意见的数学误区


在上文提到的几个案件中,法院都提到,个人主义的招生政策增加了每个人被平等对待的机会,使得种族因素在招生录取中不再起决定作用。在Bakke案中,Powell法官提到,哈佛学院的个人主义招生政策可以更加灵活(flexible),可以把许多因素都纳入综合考虑,例如“杰出的个人才能、独特的工作或服务经历、领导潜力、成熟度、表现出来的同情心、和穷人交流的能力、或者其他被认为重要的特征”。[10]因此,这种政策更加平等,对申请者更加一视同仁。虽然有的申请者可能因为其他族裔的种族加分而落选,但这种政策并不会提前排除他。如果他落选,这仅仅意味着“他的综合性资格并没有超过其他申请者。”就录取过程来说,因为他的资格已经被公平和竞争性地加以评估了,所以并不违反宪法第十四修正案的平等保护。[11]

为了说明这一点,Powell法官还特意举了一个例子:有三位申请者,其中A是黑人,其父母是成功黑人物理学家,他自己也在学术方面非常有潜力;B是在贫民区长大的黑人,其父母是半文盲,B的学术成就要差一些;C是白人,具有超凡的艺术才能。Powell指出,在戴维斯分校医学院的招生政策中,由于存在一个针对弱势群体及少数族裔的配额,当A、B和C这三位申请者竞争同一个名额时,A将几乎被铁定录取,而B和C被录取的机会则几乎为零。但在哈佛的政策中,如果只有剩下的一个录取名额,个人主义的招生政策则可能使得C有相当的几率击败A和B而被录取。因为在个人主义的综合考虑之下,如果学校发现C的确有相当惊人的艺术天赋,那么学校完全可能会忽略种族因素,舍弃黑人申请者A和B而录取白人申请者C。据此,Powell法官认为,哈佛大学的招生政策“可能在有些时候和种族相关,但并不由种族所决定”。[12]

Grutter和Gratz案中的多数意见延续了这种推理逻辑。在Grutter案中,多数意见认为,密歇根法学院个人主义的衡量使得法学院可以综合考虑申请者,使得种族因素并未成为一个决定性因素。一个相关的证据是,法学院常常会录取一些学分绩点和LSAT分数低于少数族裔的申请者,拒绝一些学分绩点和LSAT分数都高于录取线的少数族裔。[13]而在Gratz案中,多数意见则认为,给某些族裔加20分的政策使得种族成为了一个决定性因素,使得那些超过最低录取线的少数族裔申请者几乎铁定能被录取。[14]而且,多数意见再次以Powell提到的三位申请者作为例子。认为即使申请者C拥有“媲美莫奈或毕加索的‘卓越艺术才能’,他也不过只能最多获取5分”,而同时“每一个代表性不足的少数族裔申请者,包括申请者A和申请者B,都可以加20分”。[15]当只有一个名额的时候,A肯定会被录取,其被录取机会接近100%,因为20的加分再加上其本身足够优秀,这将足以保证很高的分数。而白人C则根本就没有被考虑的机会,其被录取机会几乎为0。法院认为,在非个人主义的招生政策中,黑人A肯定被录取,在个人主义的招生政策中,白人C则至少有被录取的机会,这种概率的对比说明种族因素在两种政策中具有不同程度的影响。

美国联邦最高法院的法官们对于招生政策或算法的分析具有合理性吗?初看上去,这种分析似乎非常符合我们的直觉。因为在个人主义招生政策的算法中,个人似乎更少受到种族因素的影响。通过个人主义的招生政策和算法,似乎可以增加每个人被平等对待的机会。

然而这仅仅是第一直觉。仔细分析法院对于招生政策中的算法的论证,可以发现Bakke案和Gratz案的多数意见对于算法的认识存在基础性错误。多数意见认为,在A、B、C这样一个想象的例子中,黑人A在统一加分制的算法下被录取的机会几乎为100%,白人C则为零,而在个人主义的算法下,白人C卓越的艺术才能会使得黑人A和白人C都有机会被录取,这说明种族因素在个人主义的算法中不是决定性的。但是,我们必须记得,无论是统一加分式的算法,还是个人主义式的算法,其本质并无不同,其目的都在于增加黑人等少数族裔的人数,两种算法都必须增加黑人等少数族裔的录取比例,减少白人和亚裔的录取比例。而个人在多大程度上受到种族因素的影响,本质上在于某种招生政策或算法希望在多大程度上对某些少数族裔进行倾斜。在A、B、C的例子中,其原理亦是如此。如果倾斜程度不大,那么即使在统一加分制的算法下,黑人A被录取的概率也不会增加太多。同理,如果倾斜程度够大,那么即使在个人主义的算法中,黑人A被录取的概率也会极大地增加。

法院在Gratz案中提到,法学院常常会录取一些学分绩点和LSAT分数低于少数族裔的申请者,拒绝一些学分绩点和LSAT分数都高于录取线的少数族裔,希望以此说明个人主义的招生政策或算法就更不看重种族因素。但这种论证也存在根本性的问题。因为这些绩点和分数低于少数族裔的申请者很可能恰恰是某些方面具有特殊才能的白人学生,而被拒绝的绩点和分数都较高的少数族裔很可能是其他方面都表现平平的黑人学生。在个人主义的招生政策或算法中,法学院完全有可能更多地考虑种族因素,以多样性的理由录取一些成绩特别差但其他方面杰出的黑人学生。

综上所述,从算法的角度来说,我们无法证明个人主义的招生政策或录取算法就更少地考虑种族因素。种族因素在招生政策中究竟起到了多大作用,这取决于学校在招生过程中的权衡,例如赋予附加因素(plus)的权重或加分的额度,而不取决于某种招生政策是否采取了个人主义的进路。

现实社会的情况也证明了这一点。在2003年最高法院给出Grutter案和Gratz案的判决之后,所有的美国高校都遵循了最高法院的判决,采取了个人主义的招生政策,但种族因素在高校招生中依然扮演了重要角色。一个近期的例子是,在2014年的美国大学本科录取中,一名名为库瓦斯·厄宁(KwasiEnin)的黑人申请者历史性地被八所常春藤大学同时录取,成为了各大新闻追踪的热点。但看他的各项成绩,其实并不能算非常优秀。他就读于一个普通高中,成绩排名11,LSAT成绩2250分,并且只获过一些校内荣誉。[16]这样的申请条件如果放在白人或亚裔群体中,并不见得有多么突出。但由于黑人申请者普遍条件较差,这已经足以让他出类拔萃,保证他被顶尖名校录取。

事实上,在Grutter案的反对意见中,伦奎斯特就不无尖刻地指出,密歇根法学院所谓的“相当多数”的招生目标其实只不过是一个“幌子(sham)”,其目的同样是为了增加某些族裔的百分比。[17]通过对密歇根法学院历年的招生数据的考察,可以发现,从1995年到2000年间,某些少数族裔被录取的比例和这些少数族裔占据申请总人数的比例非常接近。因此,密歇根法学院虽然声称意在实现生源的多样性和某些族裔的相当多数,但从实际效果上来说,这种做法其实与配额政策或加分政策并无本质上的不同,都是一种平权保护(affirmative action)的手段,都意在提高某些族裔尤其是黑人的录取率。[18]


三、不可能的任务:为何不存在价值中立的平等算法


如果说在几个案件中法院多数意见犯了算法认知上的错误,对于何种算法更为平等做出了错误的判断。那么随之而来的问题是,是否存在一种价值中立的平等算法,或者说存在宪法和法律平等保护的“唯一正确答案”,以供法院来遵循或借鉴呢?[19]通过分析各派法官的法律意见以及学者的分析,我们将会发现,这是一个不可能的任务。

我们来看各方的观点。在保守派法官看来,平权保护对于种族的区分和考虑违反了宪法第十四修正案的平等保护要求。首先,他们认为,宪法第十四修正案不仅保护黑人,而且也保护白人。在Bakke案中,Powell指出,对于宪法第十四修正案的解释不能做僵化的原旨解释,因为第十四修正案虽然因为黑人问题而被制定,但它所用的术语都是一般性的,[20]白人也同样应当受到第十四修正案的同等力度的保护,针对白人的种族区分和种族考虑也应当适用严格审查的标准。[21]而对于历史上的社会歧视,Powell指出,社会歧视是一个“难以界定的有可能溯及遥远历史的伤害概念(amorphous concept of injury that may be ageless in its reach into the past)”,[22]他援引之前几个最高法院判决中的多数意见,认为不能以一般性的矫正历史上的社会歧视的理由来进行种族区分。[23]

保守派法官还指出,平权行动虽然具有矫正种族不公的作用,但也不可避免地带来一些不容忽视的问题。第一,平权保护会牺牲某些无辜的白人的利益,这些白人的祖先或许曾经对黑人实施过不公,但他们自身并不是这些不公行为的施加者,要求他们承担这种历史的责任并不公平。[24]更何况,这些被牺牲的无辜的白人中有很多本身也是社会中的一般家庭出身,本身并没有享受太多的社会资源。第二,平权保护还可能使公共政策的制定陷入种族政治的陷阱,缺乏对公共利益的考虑,[25]如果平权行动演变为一种身份政治,那么其他族裔的人也可能会进行效仿。这样,整个社会将甚至有被撕裂的可能。[26]第三,如同托马斯等法官在很多判决书中一再指出的,平权保护会给某些族裔打上耻辱的烙印,平权行动会使得社会相信,即使这些种族在未来取得成功,也会被认为这个种族的天资或勤奋程度上不如其他族裔,其成功仅仅是因为受到了特殊照顾。[27]

自由派法官则持有基本相反的立场。首先,他们指出,以种族的理由对平权行动进行严格审查,这不符合对宪法第十四修正案的正确解释,因为平权行动虽然也考虑种族因素,但毕竟和美国历史上的种族歧视具有完全不同的性质。在Bakke案中,布伦南法官的反对意见就指出,平权行动中利益受到损害的是白人群体,但白人群体并没有像黑人那样“经历过有意的不平等对待的历史,也没有在政治上被贬低以至于需要对他们在多数主义政治中进行特别的保护”。[28]因此,对其进行严格审查完全是不合理的。他认为,在分析种族区分和种族考虑的政策时,必须考虑这些政策的意图。在戴维斯分校医学院的招生政策中,其意图并不是为了歧视某个种族,而是为了“矫正过去的社会歧视(societal discrimination)”。因此,对于这种不是为了刻意贬低某个种族的政策,显然使用种族因素是符合第十四修正案的。[29]而在Grutter案中,金斯伯格法官则更是从当前社会的无意识歧视和不平等的现实出发,论证平权行动的合理性。她引用琳达·克雷格(LindaKrieger)的研究,指出当前美国社会中仍然广泛存在有意识的种族歧视和无意识的种族歧视。[30]而在现实世界中,某些少数族裔在教育机会上要远远落后于其他群体。例如,在公共教育中,绝大多数的黑人孩子和西班牙裔孩子上的都是少数族裔占多数的学校,而这些学校所能获取的教育资源比其他学校要差很多。[31]

在学术界,这种自由派的看法更是占据了绝对的主流,保守派法官所谓“无视种族(color-blinded)”的平等立场受到了自由派学者一轮又一轮的攻击。在Bakke案的前两年,面对最高法院逐渐采取的保守主义态度,欧文·费斯(Owen Fiss)发表了一篇著名的论文,提出了反种族屈从(anti-subordination)和反种族区分(anti-classification)两种平等观。[32]在他看来,宪法第十四修正案应当采取反种族屈从的平等保护,而非采取反种族区分的平等保护。费斯在耶鲁大学法学院的同事瑞瓦·西格尔(RevaSiegel)也指出,将平等保护解释为无视种族或种族中立,这实际上是一种固化社会种族不平等的法律解释,和历史上曾经将种族隔离解释为“隔离但平等”的法律解释具有类似的效果。[33]而有的学者则更加直接,直斥所谓的“无视种族”是另一种形式的种族主义。[34]

综上所述,对于何谓黑人等少数族裔和白人之间的种族平等,自由派和保守派存在着根本性的分歧,[35]不可能找到一种完全客观平等的算法。在保守派看来,平等保护必须是无视种族的,[36]这是对于布朗案所确立的宪法平等原则的最佳阐释。但在自由派看来,平等并不意味着种族中立和不考虑种族,因为历史和社会上广泛存在的种族不平等是一个不容回避的现实,在这种情况下,一味地强调种族中立,这和鸵鸟将头埋进沙子一样自欺欺人。[37]

而如果考虑亚裔的情况,我们会发现更难找到平等保护的“唯一正确答案”。在美国高校招生的历史中,亚裔和黑人一样,都遭受了不平等的待遇。按说,如果平权行动适用于黑人,那么基于历史矫正的理由,平权行动也应当适用于亚裔。但是由于亚裔的天赋、努力以及对教育的重视,亚裔在成绩等申请条件上要远高于黑人甚至白人,这使得亚裔往往成为大学招生的牺牲对象。[38]亚裔的录取人数往往被限定在一定比例,要进入同样水平的大学,亚裔往往需要远高于其他族裔的申请条件。亚裔不但没有像黑人那样享受平权行动的照顾,甚至遭受了比白人还更明显的平权行动的不利影响。[39]如果站在亚裔的角度思考,无论是平权行动还是非平权行动,无论是自由派的法律理论还是保守派的法律理论,可能对亚裔都是不公平的。[40]

或许有人说,这种绝对平等的算法可以在罗尔斯的正义理论中找到。既然平等和公平理论很难取得共识,那么大概唯一的方法就是设想一种“无知之幕(veilofignorance)”之下的公平,将每个人的社会地位、阶级出身、天生资质、智力水平、政治经济状况都统统抹去,设想一个没有个人身份属性的个人所选择的社会。[41]而由于这个没有身份属性的个人有可能成为白人,也有可能成为黑人、亚裔或其他种族,因此这个人必定会选择一种较为平等或公平的招生制度,而不会倾向于某个特殊的种族。通过消除人们的身份而消除人们的偏见,这或许可以实现对于平等的“重叠共识”。

但悖论的是,罗尔斯理论世界的完美恰巧源自于他对现实世界的回避,[42]在现实世界中,人们不可能通过消除自己的种种身份而消除伽达默尔所谓的“前见”。[43]不同身份和立场的群体往往容易站在不同的角度看待平等问题,并且会将这种不同见解反应到对于宪法平等条款的解释上。[44]关于平权行动的争论就是一个典型的例子,如果从各自的立场上去看,就会发现各方可能都倾向于认为自己受到了不平等对待,更需要“平等保护”。这就像在分蛋糕的情形中,如果各方都对自己所分到的蛋糕不满意,认为应当多分一些,那么再怎么重分蛋糕也不可能让所有的人满意。在这个意义上,试图寻找一种平等保护的“唯一正确答案”或完全客观公平的算法,的确是一种不可能的任务。[45]


四、法律解释的技艺:重思平权案判决


行文至此,本文的分析似乎有些让人绝望:美国最高法院不仅在宪法第十四修正案的解释与推理的过程中犯了错误,而且最高法院事实上没有矫正的机会——因为根本不存在正确答案,任何算法都存在不平等的伦理问题!

但在得出这个令人沮丧的结论之前,我们有必要再次分析美国种族与宪法平等问题的复杂关系,通过这种分析,我们或许可以重新思考美国最高法院对于相关平权案例的判决。

首先,正如前文所分析的,美国的宪法平等问题从一开始就是一个种族问题。当我们深入到美国宪法的历史和传统中,我们会发现,从普莱西案到布朗案,种族问题特别是黑人问题一直是宪法所关注的核心议题,直到今天仍然如此。虽然在民权运动之后,性别平等也成为了宪法第十四修正案所保护的范围,但这并没有改变种族问题在宪法与宪法理论中的中心地位。[46]同样,经济与社会不平等的议题也从来没有成为美国宪法与法律的核心议题。[47]

或许正是因为宪法和种族平等的密切联系,很多人也反过来将种族问题完全视为一个宪法问题。从历史上看,这种分析也不无道理。正是历史上美国宪法与法律对于奴隶制和种族隔离的认可,在司各特案中将奴隶解释为财产,[48]在普莱西案中将“隔离但平等”解释为合宪,[49]造成了黑人在历史上的悲剧性命运。也正是布朗案对于“隔离但平等”原则的废除,[50]吹响了黑人民权运动的号角。[51]可以说,在历史上,宪法与法律在黑人的命运中扮演了关键性的角色,对黑人的命运具有决定性的影响。

但在今天,种族问题在多大程度上仍然是一个宪法与法律问题,宪法与法律能够在多大程度上解决种族问题,却是一个值得反思的问题。一方面,如同上文所说,宪法与法律如果允许平权行动等政策来矫正历史所遗留的种族不平等,通过为黑人提供更多的社会上升渠道,这自然能从整体上改变黑人的处境,并且为这个群体树立榜样,激励年轻一代奋发向上、改变现状。但另一方面,如果我们平心静气地去思考黑人问题,而不是站在美国保守派或者自由派的任何一方去分析,我们会发现当代的种族问题更多是一个文化与经济问题。经过奴隶制、种族隔离和六十年代的激进运动,黑人等少数族裔已经在经济上处于社会底层,而且已经形成了一种散漫和缺乏自我约束的文化。在黑人区的街角,我们随处可见那些穿着破牛仔裤唱着Rap的黑人青年;在犯罪率方面,黑人也要远高于其他族裔。而相比之下,亚裔等某些族裔则信奉勤奋和自律的价值观。亚裔学生历来被公认为是最勤奋的,而再穷的华裔家庭也往往会将孩子的教育视为整个家庭的头等大事。或许很大程度上是因为这种文化上的原因,在经历了这么多年的平权行动之后,黑人仍然落后于其他族裔,而同样是起点较低并且饱受平权行动之害的亚裔却在逐渐改变自身的地位。

在此,我们很难去揣测这些高坐在审判席上的大法官们是否意识到了这种黑人文化问题。但可以确定的是,这一问题虽然在局外人看起来像房间里的大象(elephantintheroom)一样明显,但在美国的政治语境中,这一问题却是一个无法公开讨论的禁忌,一张没有人敢捅破的窗户纸。一旦有人提出或暗示这一事实的存在,就很可能会被贴上种族歧视的标签。[52]

从学术的角度来说,或许有人会抱怨这种“政治正确”缺乏智识上的真诚,在有的人看来,这甚至会显得有些虚伪,[53]但从一个社会的话语实践的角度来说,这种“政治正确”却具有维持黑人群体自尊的重要作用。如果整个社会过于直接地指出黑人在文化上缺乏自律、过于散漫,整个黑人群体就有可能被进一步打上某种耻辱烙印。长此以往,黑人群体则可能会被进一步边缘化,从而引发一部分黑人群体的自暴自弃。而在整个黑人群体看不到希望的情形下,黑人群体则有可能诉诸独立或暴力来反抗主流社会。[54]这显然是一个谁都不愿意看到的结局。

从这种微妙的种族关系出发,我们可以发现,美国联邦最高法院对相关算法做出了错误的判断,但却悖论性地展现了高超的法律解释技艺,对平等保护做出了最好或最不坏的解释。

一方面,最高法院通过Bakke、Grutter、Gratz以及2013年的Fisher案,[55]维持了平权行动的合宪性,从而为矫正种族不平等和维持黑人上升渠道提供了可能。如同自由派法官所说,矫正种族的不平等,为黑人提供社会上升渠道,这对于社会整合黑人群体具有重要作用。[56]而保守派的法官虽然并不喜欢平权行动,但他们也大致接受了平权行动的合宪性。毕竟,正是Powell这样一个保守派大法官在Bakke案中以多样性的理由通过了对平权行动的审查。而在Grutter、Fisher案中,虽然联邦最高法院偏向保守派的法官人数要多余自由派,但联邦最高法院仍然维持了Powell在Bakke案中对于教育平权行动所进行的宪法解释。可见,在平权行动的合宪性问题上,最高法院的自由派和保守派法官都作出了审慎但肯定的回答。

另一方面,联邦最高法院仍然坚守了表面上的形式平等,将平等保护等同于反歧视,[57]这在一定程度上维持了社会的共识,避免了“受害主义思潮(ethosofvictimology)”的泛滥。[58]因为一旦宪法大开平权保护之门,允许所有政策以历史不公的名义去“翻历史的烧饼”,那么有可能任何一个群体都会声称自己是历史的受害者,并且可能将这种不公追溯到遥远的过去。[59]对于黑人群体来说,这尤其是一个严重的问题。如上文所分析的,在经历了民权运动之后,黑人已经形成了一种散漫和缺乏自律的文化,一旦碰到具有种族问题的场合,就会习惯性地以种族原因来看待问题,而不是从自身身上去寻求原因。如果大开平权保护之门,欢迎任何形式地对于黑人群体的倾斜保护,这就可能会变相地鼓励黑人群体更加专注于历史而非当下,更加习惯性地以历史上的不公来为自己所有的问题辩解。对于黑人问题的解决,这种看似帮助黑人的政策有可能起到意想不到的反面效果。

正是在这种既要矫正,又要形式平等的不可能任务中,我们才能体会美国联邦最高法院提出的“多样性”理由的精妙。对于以多样性的理由来认可平权行动的合宪性,很多学者都指出,这不过是最高法院认可平权行动的一个借口或幌子罢了,多样性并没有改变平权行动对黑人倾斜保护的实质。[60]但必须指出的是,这种借口或幌子具有社会感受的重要作用。通过援引多样性这一从“言论自由”原则中推衍出来的压倒性利益,平权行动这一政策看上去更像是为了实现一个大学学术自由的公共政策问题,而非为了实现对黑人倾斜保护的问题。在多样性的掩护和包装之下,平权行动并没有对法院希望维护的形式平等原则造成重大伤害,也没有向黑人群体传达一个鼓励他们专注于过往的信息。

同样,最高法院所提出的个人主义的要求也体现了美国联邦最高法院高超的法律技艺。如同上文所详细分析的,通过附加因素考虑种族的招生政策或算法虽然会在同等程度上牺牲白人的利益,增加黑人的利益。但从社会心理和个人感受的角度来看,这两种政策或算法却大有不同。相比之下,个人主义的算法对于黑人的偏向要更为隐蔽,并不像配额或统一加分的方式那样赤裸裸地显现出对黑人的倾斜。这样,不仅仅大学招生政策的公平性可以被更好地维护,而且黑人群体的尊严也可以更好地被顾及。[61]在个人主义的算法下,由于对于黑人的倾斜性录取并不非常明显,打在黑人群体上的所谓“耻辱烙印”的问题将多少能够被缓解,社会会更倾向于认为,黑人是通过公平竞争而非倾斜保护而被录取的。[62]


五、结语与启示


通过对美国教育平权案进行分析,我们可以在算法与法律解释问题上,包括对在中国语境下思考算法与法律解释获得多重启示。

首先,如同上文所指出的,算法并非如我们所想象的那样,是一种完全价值中立的科学活动或数学活动。[63]相反,算法总是蕴含着价值判断,总是与特定的价值立场相关。对于算法,我们有必要时刻反省和重思其背后的伦理基础,避免某些不正当的算法。在当前中国社会的各种算法中,这一问题尤其值得关注。很多算法的设计都隐含了歧视与不公,而有的算法则更是隐藏了利益集团的操控。对于这些算法,我们有必要打破算法的黑箱操作,[64]使得算法更符合中国社会的伦理基础与价值基础。

其次,既然算法总是与特定的价值立场相关,那么法律解释就不能盲目依赖某种算法,不能将法律解释视为独立于现实世界的科学活动或数学活动。相反,正如上文所分析的,法律问题往往深深地植根于一个国家的政治传统,法律解释必须在一国特定的历史传统与语境中进行。这一点对于中国也不例外。在对中国法律上的平等保护问题进行解释的时候,必须同样注意中国的历史传统与语境。离开了这种传统和语境,盲目照搬西方的法律解释进路,或者以一种全新的算法或科学来建构中国的平等权,可能都会产生水土不服的效果。

以高校招生中的平等问题为例,美国最高法院的宪法解释之所以能够发挥作用,一个重要的原因就在于其高校招生具有很高的公信力。因此,即使高校采取个人主义这种主观性较强的招生政策,申请者也不会对高校录取的公平性进行怀疑。至少,他们不会怀疑高校招生中的大规模腐败。而在中国,公信力仍然是各个高校的稀缺品,普通民众对于高校招生中的公平性一直持有高度的警惕和怀疑。在这种背景下,如果贸然借鉴或移植美国高校的招生政策,就有可能造成适得其反的效果。且不说在这种主观性较强的招生过程中高校的确存在很多腐败和不公,即使高校真的实现了招生过程的问心无愧,完全根据考试的综合素质或特长来进行录取,这种政策可能也未必能够赢得社会的信任和认可。[65]相反,中国的高考制度虽然具有各种各样的缺陷和问题,但对于维持教育的基本公平,维持社会对于教育公平的基本信念,却仍然起着“定海神针”般的作用。可以预见的是,放弃高考制度将带来灾难性的影响,且不说一时半刻难以找到替代性的招生制度,就是以社会对于教育公平的信心来说,也会造成难以估量的冲击。[66]

再次,对于算法的黑箱问题。从总体上看,要坚持算法的公开性与透明性,因为算法的公开性有利于公众参与,避免算法的黑箱操作。但另一方面,在某些情况下,算法的不透明性也可能发挥正面作用。正如本文的研究所表明的,如果算法运用合理,不透明的算法可以弥补社会裂痕,维持社会共识。而在中国社会的实践中,也已经有不少案例充分发挥了不透明的算法的正面功能。例如,对于贫困学生补助的,有的大学采取了以学生在食堂的消费情况为评定依据的算法,这种算法既相对有效地确定了贫困学生的群体,又避免了贫困学生公开“比穷”、伤害贫困家庭孩子自尊心等问题。

最后,本文的分析也提示我们采取一种基于技艺的法律解释方法。[67]法律解释方法一直是法律理论的核心问题之一。从立法解释、文本解释、体系解释到原旨主义、活宪法主义、活原旨主义,[68]法律解释理论层出不穷,每种理论都试图提出一种相对价值中立和客观性的法律解释方法。基于主题原因,本文无意对这些法律解释方法的优劣进行一一分析,[69]但本文的研究表明,真正高超的法律解释方法或许不在于追求完全价值中立或客观的解释方法,而在于寻求能够弥补裂痕、引领共识的法律解释方法。这种类似于技艺或艺术的法律解释方法或许无法满足一些人对于法律的完美想象,但却是法律解释应当追寻的方向。[70]

注释:

[1]See Viktor Mayer—Sch?nberger and Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, Work and Think, New York: Houghton Mifflin Harcourt Publishing Company, pp.34—70.

[2]关于算法伦理的讨论,参见Felicitas Kraemer, Kees Overveld Martin Peterson,“Is There an Ethics of Algorithms,”,Ethics & Information Technology, Vol.13, No.3,2011, pp.251—260; Mike Ananny,“Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness”,Science Technology & Human Values, Vol.41,No.l,2015, pp.93—117; Can E. Mutlu,“Of Algorithms, Data and Ethics :A response to Andrew Bennett”,Journal of International Studies, Vol.43, No3.2015, pp.998—1002; Brent Mittelstadt, Patrick Alio, Mariarosaria Taddeo, Sandra W?chter &. Luciano Floridi,“The Ethics of Algorithms :Mapping the Debate”,Big Data and Society, Vol.3, No.2,2016,pp.l —14; S Nyholm J. Smids,“The Ethics of Accident—Algorithms for Self—Driving Cars: An Applied Trolley Problem,” Ethical Theory & Moral Practice, Vol.19, No.5,2016,pp.l —15;Caitlin Lustig, Katie Pine, Bonnie A. Nardi, Lilly Irani, Min Kyung Lee,“Algorithmic Authority: The Ethics, Politics, and Economics of Algorithms that Interpret, Decide, and Manage”,34th Annual CHI Conference on Human Factors in Computing Systems, availableat https://www.cs.cmu.edu/~mklee/materials/Publication/2016-CHI-algorithm_panel.pdf,最后访问日期:2017年5月25日。

[3]将学校招生多样性视为压倒性利益,这是遵循Bakke案的先例,在Bakke案中,Powell法官认为,宪法第一修正案隐含了学术自由,而大学招生希望生源多样化,这可以被视为是一种学术自由的体现,因而多样化可以被视为宪法上的重大利益。参见Regents of University of California v. Bakke,438 U.S.265(1978), at 312.

[4]对所有种族区分都必须适用严格审查,这是Adarand案所确立的先例,见Adarand Constructors, Inc. v. Pena,515 U.S.200,at 224.

[5]See Grutter v. Bollinger,539 U.S.306(2003),III, B.

[6]See Gratz v. Bollinger,539 U.S.244(2003),at 272—274.

[7]See Ibid.,at 277.

[8]Bakke案的法院意见极其复杂,没有多数意见,但Powell所撰写的单独意见书常常被认为是权威法律。

[9]See Bakke, supra note 3,at 316—317.

[10]Bakke, supra note 3,at 317.

[11]See Bakke, supra note 3,at 318.

[12]Bakke, supra note 3,at 324.

[13]See Grutter, supra note 5, at 308.

[14]See Gratz, supra note 6, at 247.

[15]Gratz, supra note 6, at 273.而即使B和C有可能被录取复查委员会进行个人主义的综合比较,这也无济于事,因为这种个人主义的考察只是规则的例外。

[16]http://edition.cnn.com/2014/04/01/us/new-york-student-accepted-ivy-league/最后访问日期:2016年10月8日。

[17]See Grutter, supra note 5,at 383.

[18]See Grutter, supra note 5, at 384—385.

[19]德沃金认为,通过对法律的整体性阐释,可以发现法律解释的“唯一正确答案”,关于“唯一正确答案”的理论,参见Ronald Dworkin,“No Right Answer,” in P. M. S Hacker &. Joseph Raz (ed.),Law, Morality,and Society: Essays in Honour of H. L. A. Hart, Oxford: Clarendon Press,1977, pp.58—84.

[20]如果考虑到八十年代后原旨主义解释作为保守派的圣经,作为保守派的Powell法官在意见书中反对原旨主义解释,这多少有些讽刺。

[21]See Bakke, supra note 3,at 293.

[22]Bakke, supra note 3,at 307.

[23]See Wygant v. Jackson Bd. of Ed.,476 U.S.267(1986),at 276; City of Richmond v. J. A. Croson Co.,488 U.S.469(1989), at 496-498.

[24]See Richard D. Kahlenberg, The Remedy; Class, Race, and Affirmative Action, New York: Basic Books,1996,p.44.

[25]See David A. Strauss,“Affirmative Action and the Public Interest”,Supreme Court Review, Vol.1995,1995, pp.1-43.

[26]西格尔教授将这种论点归纳为“巴尔干化(Balkanization)”的危险,参见Reva Siegel,“From Colorblindness to Antibalkanization: An Emerging Ground of Decision in Race Equality Cases”,Yale Law J ournal, Vol.120,2011,pp.1278-1367.

[27]See Mary Kate Kearney,“Justice Thomas in Grutter v. Bollinger: Can Passion Play a Role in a Jurist7 s Reasoning”,, St. John ’s Law Review, Vol.78,2004, p.33.

[28]Bakke, supra note 3,at 358;布伦南的这一理论源自卡洛琳案的注脚四,参见United States v. Carolene Products Co.,304 U.S.144,152 n.4(1938).

[29]See Bakke, supra note 3,at 325.

[30]See Linda Hamilton Krieger,“The Content of Our Categories: A Cognitive Bias Approach to Discrimination and Equal Employment Opportunity”,Stanford Law Review, Vol.47,1995,p.1164.克雷格认为,人们的认知过程会倾向于把人进行分类,并且在此过程中形成对某类人群的偏见和无意识的歧视。因此,应当假定偏见和无意识歧视的存在,而不是假定不存在歧视意图。

[31]See Grutter, supra note 5,at 345.

[32]See Owen M. Fiss,“Groups and the Equal Protection Clause”,Philosophy & Public Affairs, Vol.5, No.2,1976, pp.107-177.

[33]See Reva B. Siegel,“Why Equal Protection No Longer Protects: The Evolving Forms of Status — Enforcing State Action”,Stanford Law Review, Vol 49,1997,pp.1111—1148.

[34]See Eduardo Bonilla—Silva, Racism without Racists: Color — Blind Racism and the Persistence of Racial Inequality in the United States, Lanham, MD: Roman and Littlefield,2d ed.,2006,p.19.

[35]保守派与自由派的分歧不仅仅局限于种族因素这个议题,在涉及到平等问题的诉讼资格、压倒性利益等方面,二者均持有不同的观点。关于诉讼资格的分歧,参见Gmtz案中斯蒂文斯大法官的异议意见, Gratz, supra note 6,at 282—291.关于压倒性利益的分歧,Grutter, supra note 5,at 351—358.

[36]语出哈兰大法官在普莱西案中的异议,“我们的宪法是无视种族的(color-blind)”。参见Plessy v. Ferguson,163 U.S.537(1896),at 559.

[37]因此,自由派认为,真正的种族中立必须要直面种族问题,“要超越种族主义,就必须先考虑种族”。参见Bakke, supra note 3,at 407.

[38]近期加利福尼亚州争议巨大的SCA-5法案,就是这种限制亚裔入学比例,提高非裔和西班牙裔的一个例子。虽然这个法案暂时被搁浅,但在大学招生政策中,普遍存在着类似的潜规则。

[39]2010年,Maclean杂志发表了一篇文章,认为加拿大的学校招录亚裔学生太多,应当仿效美国的精英学校对亚裔人数进行限制,此文引起了巨大的争议。但的确说明了美国高校中对于亚裔学生的不平等待遇。参见http://www.macleans.ca/education/uniandcollege/too-asian-2/,最后访问日期:2016年10月8日。

[40]See Harvey Gee,“Changing Landscapes: The Need for Asian Americans to be Included in the Affirmative Action Debate”,Gonzaga Law Review, Vol.32,1997,pp.621—644.

[41]See John Rawls, A Theory of Justice, Cambridge, Massachusetts: The Belknap Press of Harvard University Press,1971, p.302.

[42]当然这种理论的完美也仅仅是相对的,罗尔斯的理论同样受到了来自社群主义、马克思主义、女权主义等理论的批评,参见Michael Sandel, Liberalism and the Limits of Justice, Cambridge: Cambridge University Press,1982; Robert Paul Wolff, Understanding Rawls: A Critique and Reconstruction of A Theory of Justice, Princeton: Princeton University Press,1977; Susan Moller Okin, Justice, Gender, and the Family, New York: Basic Books,1989.

[43]参见(德)伽达默尔:《真理与方法》(下卷),洪汉鼎译,上海译文出版社1999年版,第678页。

[44]理论争议决定了法律争议的不可避免,参见Ronald Dworkin, Law’s Empire, Cambridge: Harvard University Press,1986, pp.4—44.

[45]See Michael S. Moore,“Metaphysics, Epistemology, and Legal Theory”, Southern California Law Review, Vol.60,1987,pp.453—506.

[46]另一点可以说明种族问题核心地位的是,在对待性别区分的案件中,法院使用的是中等程度的审查,而非类似种族案件中的严格审查,参见Cmig v. Boren,429 U.S.190(1976).

[47]尽管有学者曾经提到利用这一条款来保护穷人和矫正经济上的不平等,参见Frank Michelman,“The Supreme Court,1968 Term—Foreword: On Protecting the Poor Through the Fourteenth Amendment”, Harvard Law Review, Vol.83,1969,pp.7一59.

[48]See Dred Scott v. Sandford,60 U.S.393(1857).

[49]See Plessy v. Ferguson,163 U.S.537(1896).

[50]See Brown Brown v. Board of Education,347 U.S.483(1954).

[51]See Bruce Ackerman, We the People: The Civil Rights Revolution, Cambridge, Mass: Harvard University Press, pp.229—342.

[52]只有虎妈这样的亚裔可以凭借自己少数族裔身份来隐射不同族裔在文化上的优劣,但即使是虎妈,也不可能直接对黑人族裔进行直接点名。参见Amy Chua & Jed Rubenfeld, The Triple Package: Hozv Three Unlikely Traits Explain the Rise and Fall of Cultural Groups in America, New York: Penguin Press,2014.

[53]参见苏力:“《波斯纳文丛》总译序”,《环球法律评论》2001年第4期,第500—505页。

[54]在六七十年代,诸如黑豹党(Black Panther Party)等政治团体的运动已经诉诸武力,但由于民权运动的系列成果,这种运动最终逐渐衰落。

[55]Fisher案对德克萨斯州的平权行动进行审查,以发回重申为最终裁决,在意见书中法院维持了Grutter案中所确立的标准,参见Fisher v. University of Texas at Austin,133 S. Ct.2411(2013).

[56]See Bakke, supra note 3,at 401—402.

[57]See Fiss, supra note [32], pp.107—109.

[58]See Richard A. Epstein, Forbidden Grounds: The Case Against Employment Discrimination Laws, Cambridge, MA: Harvard University Press,1992,p.533.

[59]有意思的是,在Grutter案中,奥康纳的多数意见希望平权行动只持续25年。S? Grutter, supra note 5, at 343.

[60]See Sandy Levinson,“Diversity”,University of Pennsylvania Journal of Constitutional Law, Vol.2,2000,pp.577—578; Jed Rubenfeld,“ Affirmative Action”,Yale Law Journal, Vol.107,1997,p.471.

[61]在Bakke案中,虽然一些自由派的法官不承认种族配额政策和个人主义考虑的政策有本质上的不同,但也承认了个人主义的政策可能更容易为公众所接受。参见Bakke, supra note 3,at 379.这从另一个侧面说明了两者的确在宪法语境中具有不同的效果。

[62]See Mark Tushnet, “Clarence Thomas’s Black Nationalism”, Howard Law Journal, Vol.47,2004, p.338.

[63]See Felicitas Kraemer, Kees Overveld Martin Peterson, supra note 2,at 251—260.

[64]See Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money, Cambridge, Mass: Harvard University Press,2015.

[65]波斯纳曾经指出,统一性的规则虽然具有僵化或不尽合理的坏处,但相比起合理性的考察,其问题在于会提供更多自由裁量的空间和腐败的机会,因此他建议发展中国家更多地使用规则,参见(美)波斯纳:《法理学问题》,苏力译,中国政法大学出版社2002年版,第54-78页。

[66]因此,在另一篇文章中,我以教育平等的原则对现在高校实行的自主招生政策提出了质疑,参见丁晓东:“探寻反歧视与平等保护的法律标准:从‘差别性影响标准’切入”,《中外法学》2014年第4期,第1080-1096页。

[67]本文的另一个结论是,我们必须重新在柏拉图的意义上理解法律的本质,将法律视为一种表象(appearance)来进行研究和思考。当然,囿于本文的篇幅,对此不再仔细展开。

[68]原旨主义与活宪法主义是美国宪法解释理论中一对针锋相对的解释方法,参见丁晓东:“宗教视野下的美国宪法解释——评巴尔金的《活原旨主义》”,《政法论坛》2015年第5期,第173-183页。

[69]对于这些法律解释模式的优劣,博比特教授曾有过精彩的分析,参见Philip Bobbitt, Constitutional Fate: Theory of the Constitution, New York: Oxford University Press,1982.

[70]这种作为技艺的宪法解释理论多少有些类似于毕克尔教授的理论,在《最不危险的分支》中,他提出以审慎和德性来指导宪法解释的理论,将最高法院视为引领社会德性共识的机构,对此的分析,参见Alexander Bickel, The beast Dangerous Branch: The Supreme Court at the Bar of Politics, Indianapolis: Bobbs -Merrill,1962。但不同于毕克尔的是,本文并不认为作为技艺的宪法解释总是需要寻求共识,在某些情况下,一个分裂的宪法判决或许更加能够展示宪法解释的技艺。

作者简介:丁晓东,法学博士,中国人民大学法学院助理教授。

文章来源:《中外法学》2017年第6期。



    进入专题: 平等保护   法律解释   教育平权案  

本文责编:陈冬冬
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 宪法学与行政法学
本文链接:https://www.aisixiang.com/data/107393.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统