崔之元:人工智能与公共管理研究——技术可能性、议题重构和治理创新

选择字号:   本文共阅读 1832 次 更新时间:2020-06-30 13:37

进入专题: 人工智能  

禹信   崔之元 (进入专栏)  

一、引言

人工智能作为计算机科学领域的一个分支,近年来的技术革新和产业应用已经将其提升到了“一般性技术”的地位。各个学科、各个领域不仅在实践层面,更是在理论层面开始探讨人工智能技术对于人类社会形态的变革性影响与作用,以往局限于特定专业人士的讨论也随之得到了更多跨学科的关注与聚焦。公共管理学科领域也不例外。基于政府治理的人工智能应用[1]以及人工智能应用本身所引发的治理需求[2]这两个视角,公共管理领域的学者表现出了对于人工智能的极大兴趣,对公共管理未来治理体系和治理能力创新提出了诸多分析与判断。

但另一方面,跨学科研究在促进对于特定社会现象更丰富、深入理解的同时,也可能陷入“跨”而不“融”的局限。公共管理领域对于人工智能的关注,虽然有助于弥补计算机科学研究难以注意到人工智能在公共部门领域应用可能遭遇的挑战以及人工智能应用本身伴随的治理风险的不足,但公共管理研究者对于人工智能技术原理和应用逻辑的不熟悉,则可能使得相关问题的分析陷入自说自话的想象,缺乏坚实的理论和实践基础。具体而言,已有研究往往将人工智能视为既定技术类型,假定人工智能技术的外生性,认为人工智能技术能够超越乃至取代人的主体性,并推动一个信息更为精确、决策更为智能的新型社会形态的形成。在此前提假设下,部分研究认为新计划经济、透明社会、算法社会正在形成,另外的研究则聚焦在此前提下所出现的隐私权保护、算法歧视风险、社会福利再分配等议题。

上述观点都在有意无意中继承了技术决定论的思维,认为“给定时期内只有唯一一种有效率的技术”[3],该技术又必将导致某种社会形态的形成,而我们只能在该社会形态下讨论新的制度构建以保护传统公共价值。但事实上,不仅仅是技术的应用和产生影响的过程是政治性的,技术的形成过程也是政治性的。历史上对于数控机床和纺纱机的技术形成过程的研究便是例证。相关研究曾指出,数控机床有两种可能的程序编制法,而自动化走锭纺纱机也并不必然被工厂主所吸纳并因而作为排挤工人的手段。对于数控机床而言,虽然工程师可以一开始就给机器编制好统一程序并因而实现了管理者对劳动过程的彻底控制,但“录制加重放”的编程方式仍然给予了熟练工人很大的自主性,这两种方式分别被不同的政治环境所采用并因而产生了不同的历史后果;[4]对于自动化走锭纺纱机的应用而言,特定政治环境下成熟男工人在管理生产过程中的不可替代性仍然使得工厂主并不一定采纳自动化工具。[5]

如果认识到技术形成过程中的这种政治性,那我们便应该放弃历史必然论的思维方式,并有可能在刚开始就推动相关利益体涉入技术演变和应用进程以平衡公共利益,而不是在二次分配中再通过政府管理或政策管制的形式加以干涉。具体到人工智能与公共管理的研究而言,我们便应该在技术形成和应用的过程中就意识到人工智能技术演进的开放性和多元性,避免形成人工智能必然将导致特定精准化、自动化、智能化社会形态的机械思维。只有在此基础上,我们对于公共管理相关问题的讨论也才能更具理论启发意义和实践指导意义——这也正是本文所试图完成的任务。

本文将从讨论人工智能的不同技术可能性入手,在此背景下分析公共管理领域研究纳入人工智能的必要性,进而梳理相关议题、提出政策和制度创新的思路与方向。

二、人工智能发展的不同可能性

根据人工智能技术实现方式的不同,人工智能一般被划分为符号学派、联接学派、进化学派、类推学派和贝叶斯学派等不同技术流派。[6]在现代人工智能60余年的发展历史中,受益于发展条件成熟程度的不同,各个技术流派在不同时代相继取得了主导地位。例如上个世纪六七十年代机器定理证明的发展使得符号学派成为主流,而八九十年代专家系统的流行则推动了联接学派的发展。近年来,以深度学习技术的突破和大数据环境的形成为前提,建立在概率统计基础上的机器学习技术实现了性能上的突破并因而得到了普及应用。

从技术实现方式的角度对于人工智能的上述分类,固然有利于打开技术黑箱进而更为准确地把握技术实现逻辑,[7]但对于公共管理领域的研究而言,这还不足以支撑围绕人工智能到底将对人类社会带来何种变革影响的讨论。具体而言,技术流派的分类仍然暗含了人工智能的技术决定论思想,没有指出人工智能技术与人类社会的相互影响关系,因而也不能为人工智能技术演进过程的政治经济分析提供空间。研究视角不足带来的直接问题是难以全面理解人工智能技术发展的不同可能性,过于简化地认为人工智能将取代各类复杂的社会行为并自然带来数字化、自动化、智能化的社会形态。但另一方面,人类社会的历史演进从来不会单方面决定于技术因素,人工智能本身也将嵌入到社会进程之中并受到其他因素的影响。正因为此,认识到不同社会因素影响下人工智能发展过程及结果的不同可能性,才应该成为公共管理学者讨论人工智能的起点和前提。

事实上,这一问题又可被具体化为“强人工智能是否可能实现”这一简洁命题。[8]如果接受“强人工智能”纲领,那么人工智能取代类社会便成为必然趋势,而如何推动技术发展与应用也便成为公共管理和公共政策应该关注的核心议题;反之,如果怀疑“强人工智能”论点,认为人工智能的发展和应用存在多种可能性,且将伴随着政治经济因素的不同而发生变化,那么公共管理和公共政策的讨论则自然应该纳入更多非技术因素并保留更多制度和政策创新的空间。

正是因为认识到人工智能发展是否具有多种可能性(也即“强人工智能是否可能实现”)这一问题的重要性,早在上个世纪末各领域学者便对此展开了较为丰富的讨论,较有代表性的是英国数学物理学家罗杰- 彭罗斯1989 年出版的人工智能科普读物《皇帝新脑——有关电脑、人脑及物理定律》。[9]强人工智能的支持者认为人类社会可以且必将由人工智能所取代,现代人工智能的发起者之一马文- 明斯基甚至认为,“人类本质上就是机器”;但另一方面,彭罗斯则对此持强烈怀疑态度,并从数学、物理学、生物学等多个角度对此问题展开了科学批判。

从数学视角来看,强人工智能支持者的观点可以等效为普适图灵机的必然存在,而彭罗斯却从哥德尔不可能定理证明了一般形式化系统的不可能,从而否定了前者的必然性。具体而言,算法、图灵机或者普适图灵机是强人工智能实现的基础,其甚至也可被视为强人工智能的核心。因为正如图灵本人所言,任何硬件达到一定程度复杂性和灵活性的机器,都等效于其他同类机器,而实现这种等效性的关键就是作为接口的软件(或算法)。另一方面,图灵机的设计目的并非是制造一台机器(电脑),而是为了解决数学领域被称为“判决问题”的一个范围广阔的系列命题,即“是否存在能在原则上一个接一个解决所有数学问题的某种一般的机械步骤”,后者即被称为“普适图灵机”。但彭罗斯却指出,1931 年哥德尔不可能定理指出了“数学真理的概念不能包容于任何形式主义的框架之中,而是某种超越纯粹形式主义的东西,其处于超越人为构造框架之外”。这不仅证明了数学意义上的不可计算性,也实际上宣告了普适图灵机的破产。

从生物学和物理学视角来看,彭罗斯的分析主要聚焦于对于“意识(或精神)”本质的探究。强人工智能的支持者认为,因为人脑可被算法化,所以感情、意识、精神这些被认为是人类特殊性质的“东西”都可被算法化。在他们看来,基于大脑的生物学模型,可将大脑神经元的信息传递与处理等效为一台超级计算机数字信号的传递与处理。但在彭罗斯看来,这样的假设并不成立。一方面是因为神经元的相互连接会随时间不断改变,在生物学上这又具体是指不同神经元的突触结实际发生联络的地方经常改变;另一方面,突触结释放神经传递物质有时并不发生在突触裂,而是进入一般的细胞之间的液体,以影响非常远处的其他神经元。前者与不确定性有关,而后者则表明了大脑活动的整体性(非局域性)。彭罗斯进一步指出,这种不确定性和整体性又与物理学领域的量子理论紧密相关。在其看来,“意识(或精神)不可能是经典世界的一部分,必须以某种方式依赖于对经典物理的特殊的偏离,而这更可能体现为量子世界”。就后者而言,其实际上包含两个过程:首先是由决定性的薛定谔方程所控制的演化过程,此时不存在任何不确定性或随机性;而当“进行一次测量”时,便将量子效应放大到了经典水平,从而引入了不确定性和概率,也就改变了规则。由此,彭罗斯再次反驳了强人工智能支持者的观点,论证了通过算法模型来全面模拟人脑的不可能性。

正如引言部分所指出,公共管理领域围绕人工智能的已有研究,大都暗含着强人工智能的前提假设,以及认为人工智能将自然带来精准化、自动化、智能化的必然结果。彭罗斯的严谨论证,不仅否定了该假设的科学性,其也反过来证明了人工智能发展的多种可能性。需要指出的是,本文之所以详尽引述彭罗斯的论证过程,则是试图同样以自然科学的客观论证而非社会科学的规范论证来说明强人工智能这一假设的不合理性,从而为后文进一步打开公共管理研究的思路奠定基础。另一方面,如果接受人工智能发展具有多种可能性的前提,接下来的问题便在于如何重新调整公共管理领域研究人工智能的议题空间,跳出技术决定论的思维局限并通过更大范围、更多形式的制度或政策创新引导人工智能走向公共利益最大化的方向。

三、人工智能与公共管理研究的议题空间重构

伴随人工智能技术的普及应用,公共管理领域的相关研究近年来也呈快速增长趋势,诸多学者开始讨论人工智能带来的社会变革以及不同领域的治理应对。综合来看,已有研究大致可分为“人工智能的治理”和“基于人工智能的治理”两大方向,前者聚焦人工智能发展和应用本身所引发的治理问题(例如算法歧视、虚假内容治理等),后者则关注传统公共管理议题借用人工智能技术所带来的变革和影响(例如人工智能推动下腐败、扶贫、公共服务等领域的治理变革)。

尽管已有研究在人工智能与公共管理的交叉领域做出了颇多努力,但基于强人工智能的前提假设仍然限制了公共管理研究议题的范围及其分析视野。

一方面,“人工智能治理”相关研究的基本出发点是将人工智能视为新的外生性技术权力,并在此前提下讨论其进入现有社会结构后引发的变革影响与治理应对。例如算法歧视、虚假内容治理的相关研究,大都将技术作为独立主体考察其对于既有社会秩序的影响,并在假定技术本身不会发生变化的情况下考虑相应的治理变革,但这一研究思路相对忽略了人工智能技术形成和应用过程中的治理可能性。

另一方面,“基于人工智能的治理”研究,同样是假定了人工智能将实现人类社会自动化、智能化变革的必然趋势,并在此前提下讨论现有治理理念、方式的改革与创新。例如人工智能推动下的智慧城市、智慧社会研究,大都以实现城市治理、社会治理的自动化、智能化变革为目标而强调相应技术环境、制度环境的建设与统一,但却同样忽略了人工智能本身发展的多种可能性以及在此基础上建设多元化、个性化城市治理、社会治理机制与体系的可能性。

正因为此,在放弃强人工智能的假设并认识到人工智能发展存在多种可能性的前提下,我们有必要重新反思公共管理领域人工智能研究的议题空间。从个体、组织、全球三个层面,本文提出公共管理领域围绕人工智能的研究议题重构的三个重要方面。

首先,在个体层面,应当从“人工智能如何取代人”向“如何实现人机协同进而释放人的生产力和创造力”的转变。这一命题也可转变为“我们究竟需要一个什么样的人工智能问题”的研讨。麻省理工大学经济学家阿西莫格鲁在与其合作者的近期文章中,指出我们需要的是能够提高人类生产率的人工智能,而不是不断追求自动化并最终取代人的人工智能。[10]阿西莫格鲁的观点实际上指出了当前围绕人工智能的大多数讨论所忽略的重要一点,即我们要发展什么样的人工智能?此处的重点并非是从伦理挑战、安全风险等治理视角出发的对于负责任、可靠的人工智能的追求,这样的分析视角仍然是将对于人类活动的功能性替代作为发展人工智能的目的,只不过需要确保安全、可靠而已——而阿西莫格鲁等人更为关注的则是人工智能本身的功能、价值与发展方向。事实上,“自动化”的发展导向反而可能限制了人工智能对于人类社会的潜在贡献,以及对于整个人类社会生产力的潜在提升。以教育为例,人工智能的发展应用不在于替代教师而成为新的知识传授者,更可能通过自动收集、分析学生信息而成为教师提供个性化教学、学生形成自主学习的帮手。类似的,在医疗行业,人工智能同样有利于医生、护士更好地医治、护理病人,而非替代人工。在这两个场景下,人工智能的研发和应用重点,便不是如何将人类工作标准化、数字化并进而自动化、智能化,而是探索更有效的人机合作的方式,以最终释放出人的生产力和创造力。

第二,在组织层面,应当从“聚焦当前具有优势地位的垄断性人工智能平台治理”向“去中心式、开源式、合作社式等更为丰富的组织形式的治理议题”的转变。技术创新推动组织形式变革历来都是理论研究的焦点议题,蒸汽机革命催生的福特制大工厂、信息革命推动下形成的后福特生产模式,都是组织变革的典型例证。人工智能作为新一轮技术革命的核心推动力,当前研究一方面聚焦其对于既有组织的变革影响(例如人工智能背景下的数字政府建设),另一方面则关注新兴组织形式的发展与风险(例如建立在智能推送技术基础上的新媒体平台)。这两方面研究都尤其重视以数字平台形式存在的组织模式创新。数字平台是互联网时代的主要组织形式,平台所有者通过占有“瓶颈”资源调动其他参与者的生产动力和生产能力,在打破传统组织边界的同时也主导了利益分配格局。[11]尽管不同应用场景下数字平台“瓶颈”资源的具体内涵不同,但其一般都围绕核心算法和数据库而展开。当前占据主流地位的人工智能技术正是建立在对大量数据进行机器学习的基础上,这又进一步强化了数字平台的垄断优势。基于此种现实情况,公共管理领域围绕人工智能背景下组织形式变革的相关研究更多聚焦数字平台的治理问题,并形成了以数字平台为中心的治理框架与政策设计。但值得注意的是,基于大数据的机器学习技术只是众多人工智能技术的一种,快速迭代的技术创新可能在较短时间内消弭数字平台累积的垄断优势,而人工智能技术发展与应用的多种可能性同样决定了组织形式变革的多种可能性。正因为此,将公共管理的研究对象从数字平台扩展为更为丰富的其他组织形式,尤其是人工智能背景下涌现的新的组织形态,在当前同样显得非常重要。具体而言,与区块链技术相结合的去中心化组织形式[12]、继承开源社区发展理念的开源人工智能平台[13]、参与者共同占有“瓶颈”资源而非私人占有的平台合作社式组织,[14]都是现实中不断涌现但却被理论研究所忽略的重要事实,理应被纳入到人工智能背景下公共管理领域的组织研究。

第三,在全球层面,应当从“将人工智能视为第四次工业革命核心技术要素的国别竞争视角”向“互联互通、共建共享的全球治理合作视角”的转变。尽管现代人工智能已经经历了60 余年的发展历史,但直到2016 年之后,全球各国才相继在国家战略层面出台相关公共政策以促进人工智能的快速发展。[15]就各国战略的比较分析来看,大都将人工智能视为第四次工业革命的关键,强调掌握核心技术、占据产业链优势地位的国别竞争性。但值得注意的是,与前几次工业革命的核心技术不同,人工智能发展的不同可能性决定了其具有开放性和不确定性的特征。一方面,建立在大数据汇集与分析基础上的机器学习技术需要全球数据的互联互通,开放性人工智能平台不仅成为当前主流厂商的共同选择,也是人工智能技术快速发展的必然要求;另一方面,人工智能作为一般性通用技术的变革潜力,将使得不确定的治理风险迅速外溢并成为全球各国都需面对的普遍性政策挑战,当前开源人工智能算法导致的虚假内容治理问题便是典型案例。正因为此,在肯定国别竞争视角必要性的同时,全球层面针对人工智能的公共政策应同样重视全球治理的合作视角,既通过互联互通实现人工智能的共赢发展,又通过共建共享推动风险治理的制度协同。事实上,如果考虑到人工智能技术在打破语言、地域障碍方面的积极作用,人工智能发展及其对于人类社会的影响将体现为一种全球现象而非国别现象,由此也再次证明了全球治理合作议题的重要性。

在接受人工智能发展具有多种可能性基础上的三方面议题重构,其本质上都是对于技术决定论的否定,更多强调人类自身以及人类社会活动的产物(包括组织、制度等社会现象)对于人工智能发展及其社会变革过程的影响,这同时也可被视为人工智能时代人文主义的回归。[16]

数字技术迅猛发展下的人类社会,正面临着对于人类自身理智能力的巨大挑战与质疑,既可能对于技术优越于人的现状束手无策,也否定人类本身可能随着技术变化而同步发展的可能性。所谓人工智能时代的人文主义,不仅要求人工智能的发展为了人类利益,其同时还要承认人类自身伴随人工智能进步而不断发展的可能性与必要性。但值得注意的是,人文主义的回归并非必然,其仍然需要治理环境的变革以提供动力和支撑。

事实上,产业界对于自动化技术的热衷、市场主体对于社会效益的忽视、提升人类生产率的人工智能技术所需要的配套技术的复杂性,都可能阻碍人文主义的回归,而这也正是人工智能议题需要被纳入公共管理研究范畴、进而推动公共政策建构和变革的原因所在。

四、人工智能与公共管理研究的三重创新

公共管理领域的人工智能研究大都落脚在制度变革或政策优化层面,以期对相应实践有所启示。就具体内容而言,已有研究关注到了普及人工智能教育、完善人工智能社会治理、构建人工智能司法体系、推动人工智能伦理共识、加强人工智能全球治理建设等多个方面,较为完善地覆盖了公共管理的各个领域。

但正如前文所指出,已有研究对于强人工智能及其必然导致精准化、自动化、智能化社会形态的暗含假设,忽视了人工智能发展的多种可能性,进而限制了在更大程度上释放人工智能潜力并使之服务于“人”的发展这一最终目的的治理创新空间。

另一方面,人工智能带来的变革性影响不仅意味着我们需要对现有制度或政策进行调整,其更意味着要打破现有制度或政策框架以在诸多空白领域实现治理创新。

举例而言,在人工智能普及应用之前,技术在人类社会仅仅扮演着工具的角色,工具背后的发明者和使用者才是承担权利和义务的主体;但人工智能技术却从根本上改变了这一传统理念,其应用过程可能独立于发明者和使用者的客观事实决定了需要从根本上创新现有治理体系和机制。

考虑到人工智能技术本身的发展和应用仍在过程当中,本文并不致力于就具体制度或政策提出改革建议,而将重点放在推动治理创新的思路与方向,以期进一步推动理论研究和治理实践的思想解放。本文将从学科、制度、政策三方面对此展开论述。

第一,学科创新应在推动跨学科深度融合的基础上,围绕人工智能技术发展和应用形成新的研究对象、研究问题和研究框架,以更好揭示人工智能的发展特征和规律,从而为治理创新奠定理论基础。赫尔伯特-西蒙在《人造物的科学》一书中曾提出:“自然科学是关于自然物体与现象的知识,是不是有一种‘人造物’科学,研究人造物和它们的现象?”[17]西蒙提出的问题,在人工智能快速发展的背景下更显示出其迫切性和必要性。

人工智能的特殊性在于其存在“算法黑箱”现象,即使代码编写者也无法解释人工智能算法做出特定决策或形成特定结果的全部原因;同时,人工智能在其应用过程中还会不断收集环境数据并更新其计算模型,而这同样脱离了其生产者的理解和控制范围。

上述两方面因素都决定了人工智能技术本身存在着特定的行为特征和规律,人类程序员没有也不能事无巨细地规定好人工智能技术的每一个步骤和行为——正是在此意义上我们才称之为人工智能的“主体性”。为更好推动治理应对以确保人工智能的安全、可靠发展,我们必须首先理解人工智能作为“主体”的行为特征与规律,而这便不仅需要计算机科学领域的相关知识,更需要社会科学尤其是公共管理领域的特定知识——因为前者只能给出人工智能代码的编写逻辑,而只有后者才能通过政策实验、社会调研等方式揭示人工智能最终体现出的结果及其对于人类社会的影响。这不仅证明了人工智能背景下公共管理研究的必要性,更在客观上要求跨学科真正融合的学科创新的重要性。也只有在学科创新的基础上,我们才能进一步推动制度创新和政策创新。

第二,制度创新应跳出传统理论框架,在人工智能发展的多种可能性基础上探索多元化的制度设计思路。每一项制度规则的设计都是建立在特定理论框架的基础之上。例如知识产权制度便是假定通过将人类知识结晶以排他性的产权方式界定并保护起来能够激励不同主体的创新积极性,从而不断丰富并提高人类社会的知识水平;但这一理论框架并非完美,排他性的产权界定限制了人类知识的自由流动和传播,从而可能影响后来者在前人基础上的累进式创新,开源软件的发展便是最佳例证。事实上,开源软件的成功并不完全取决于技术层面,更重要的制度层面的创新与突破。正是意识到了排他性产权界定的弊端,开源软件的早期推动者创造了被称为“一般公共许可”的制度安排,以“许可”的形式要求所有使用开源软件成果的代码同样要保持开源性质,从而确保程序员能够在不担心其成果被他人占有的情况下保持对于开源软件的持续贡献。与开源软件的案例类似,当前以机器学习为主流的人工智能技术同样依赖开放式的数据汇集与分析,如何形成类似于“一般公共许可”的制度创新,可能是推动人工智能技术快速发展的关键所在。同时,如果考虑到人工智能并不仅仅是统一、标准式地自动化或智能化替代,而是存在多种发展可能性,那么在不同应用环境、服务不同人群时的多元化制度设计便可能显得更为关键。

第三,政策创新应重视人工智能发展对于政策环境和政策条件的改变,进而在此基础上重新评估各类政策的必要性和适用性。相比于制度规则,公共政策更为灵活且对于执行力的要求更高,因此在其制定过程中需要紧密结合政策适用环境和条件而统筹考量。伴随着人工智能对于人类社会形态的改变,之前适用的政策可能变得无效,而之前不适用的政策反而可能迎来新的机遇。人工智能背景下的政策创新,便应该注意到技术发展对于政策环境和条件的冲击,并在此前提下重新探讨各类政策的必要性和适用性。以就业领域的公共政策为例,传统就业政策更多关注技能培训、社会保障等旨在为劳动者提供底线保证的政策选择,但人工智能对于传统就业体系的普遍影响乃至对于劳动价值本身的冲击,都使得传统就业政策的思路、工具存在失效风险,而原本受到较大质疑的“基本收入”政策却可能迎来新的机会。“基本收入”是指政治共同体(如国家)向所有成员不加任何限制条件地支付一定数额的收入,以满足其基本生活需求。[18]传统环境下,基本收入政策普遍存在“养懒汉”的质疑而未得到广泛应用;但另一方面,基本收入政策同样可能因为解决了人的生存担忧而推动其更自主的选择工作偏好以释放其创造力。后者的重要性在人工智能推动劳动性质变革的背景下更为凸显,这也因此可能改变基本收入政策的执行绩效。近年来,芬兰、瑞士以及美国部分地区频频开展基本收入政策的全民公投或实验,也体现了类似趋势。

上述三方面治理创新中,学科创新是制度创新和政策创新的基础,只有清楚揭示人工智能的发展特征和规律才可能打开制度创新和政策创新的空间;对于后两者而言,其重点并非是寻找之前所不曾有过的制度和政策设计思路,而是在理解人工智能发展多种可能性的前提下,进一步探索制度和政策的多种可能性。从这一角度来讲,本文所提出的治理创新建议,其价值也不在于具体制度和政策内容的启示,而是试图推动相关理论和实践以更为开放的态度面对新技术带来的变革与影响,在不拘泥于特定技术种类必然带来特定社会形态的僵化思维下,实现更大程度的思想解放。

进入 崔之元 的专栏     进入专题: 人工智能  

本文责编:yangjiaxin
发信站:爱思想(https://www.aisixiang.com)
栏目: 科学
本文链接:https://www.aisixiang.com/data/121893.html
文章来源:本文转自《中国行政管理》,2020年第3期,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统