摘要：随着人工智能技术的发展，其所伴生的伦理问题引发越来越广泛的关注，成为一项复杂且紧迫的课题。一些学者开始脱离传统的人本伦理范式，将技术人工物纳入伦理体系，并尝试建构“人工道德主体”，以平衡科技与价值之间的关系。其中，机器智能化的演进趋向为人工道德主体的建构提供了可能性；技术理性引发的伦理困境凸显了其必要性；伦理学的“物转向”趋势则从理论层面为人工道德主体的建构提供了一定的支撑。基于此，学者们依循着不同的理论旨趣和实践策略，为建构人工道德主体提供了三种代表性进路——以“人—技术关联体”为核心的关联式进路、以算法转换为核心的嵌入式进路和以机器自主学习演化为核心的生成式进路。对人工道德主体的理论构设无疑具有潜在的伦理意义，但也面临着价值排序、道德归责、技术可行性以及资本逻辑渗透等诸多局限。在当前的技术条件下，综合考量人工道德主体的理论构设与实践限度，可尝试将技术人工物定位为一种“不完全”道德主体，以期在技术赋能与伦理约束之间维持必要的张力。
关键词：技术人工物；人工智能；道德主体；人工道德主体
在人类社会漫长的发展进程中，“技术人工物”（technological artifacts）作为“通过技术实践活动而生成的存在物”，通常被视为价值中立的“工具”。然而，20世纪50年代以来，随着计算机技术和现代信息技术的发展，技术人工物愈发趋向于自动化、智能化。现如今，能够在一定程度上模拟人类智能的“人工智能”（Artificial Intelligence）被设计出来，使得部分技术人工物具备了一定的自主性、生成性和意向性。技术的进步有利于人类社会的发展，但在道德实践中，却衍生出诸如算法歧视、数字规训以及安全事故等诸多问题，对传统伦理造成了一定的冲击。鉴于此，一些学者对人与技术人工物的伦理关系作出了深入思考，使机器伦理、人工智能伦理研究逐渐兴起，并引起了人们的广泛关注。其中，部分学者基于机器的自主性、意向性和智能性，尝试引入“人工道德主体”（Artificial Moral Agents，AMAs），使“‘技术人工物’······有了全新的伦理意蕴”。“人工道德主体”的构设无疑为智能时代的伦理治理提供了一种新的可能。然而，就现阶段而言，以人工智能为代表的技术人工物能否构成独立的道德主体（moral agents），仍是一项充满争议的话题。对这一议题的回应，构成了当前科技伦理治理的重要维度。因此，有必要在对人工道德主体出场逻辑与理论进路进行深入探究的基础上，厘清其成立的可能性与局限性，把握其在现实道德实践中的边界与定位，以探索科技时代伦理治理的可能路径。
一、人工道德主体的出场逻辑
在人们的日常认知中，“人”似乎是无可争议的道德主体，“道德的主体，也只应是一定的人或一定的由人所组成的团体、集团、阶级等”，“技术人工物”则仅仅作为人类认识和改造世界的工具而存在。然而，随着现代科技的发展，机器智能化程度不断提升，其所引发的伦理问题也持续显现，并在一定程度上推动了现代伦理的物转向趋向，使技术人工物被赋予了超越工具范畴的伦理意蕴，具备了成为道德主体的潜质。
（一）技术驱动：机器智能化的演进路向
劳动创造了人本身，使人类从自然界中分化出来。真正的劳动“是从制造工具开始的”。工具作为“最古老形态的技术人工物”，是技术人工物的核心样态。人类的劳动实践往往是通过一定的技术人工物即技术工具来实现的。可以说，技术人工物既是劳动实践的产物，也是人类进行劳动实践的重要手段，推动着人类社会的发展进步。与此同时，技术人工物的样态与功能也随着社会的发展和文明的进步，经历着由简单到复杂的历史演进。正如马克思所揭示的“机器发展的进程”那样——“简单的工具，工具的积累，合成的工具；仅仅由人作为动力，即由人推动合成的工具，由自然力推动这些工具；机器；有一个发动机的机器体系；有自动发动机的机器体系”。
在人类诞生之初的原始社会，技术人工物的主要形态表征为手工工具以及简单的机械装置或器具。人们以岩石为材料打磨石器，创造出技术人工物的原始形态，用以满足生产和生活的需要。进入农业社会后，青铜器、铁器等逐步取代了石器，成为技术人工物的主要形态，各种工具与器械的结构愈发复杂、种类愈加繁多、功能日益增强，推动着生产力的不断发展与人类社会的持续进步。随着前两次工业革命的爆发，人类进入工业社会，由热力或电力等驱动的、具备一定自动化程度的、结构更为复杂的动力机器逐渐上升为技术人工物的主要形态，承载着发展社会生产力的重要功能。到了20世纪50年代，信息技术的蓬勃发展促使技术人工物进一步走向自动化和智能化，催生出以计算机、人工智能等为代表的智能人工物。
伴随着机器的智能化演进，技术人工物由最初对人类体能的延伸扩展至对人类智能的延伸，甚至在一定程度上具备了自主性和意向性。以埃吕尔和温纳为代表的技术自主论者由此认为，“技术循着它自己的路线前进”，并将技术隐喻为“有感觉、能思考、做决定、发命令的主体”。基于此种理解，部分学者开始考虑技术人工物具备“道德自决性”和“道德意向性”的可能性，并尝试将其纳入道德主体的范畴。早在20世纪之初，卡雷尔·恰佩克在科幻话剧《罗素姆万能机器人》中初次使用了“机器人”这一概念，用科幻想象的方式赋予其人类的智能和情感，并设想了其对人类社会的冲击。为避免机器人对社会可能造成的不利影响，阿西莫夫在其科幻小说中提出了“机器人学三定律”，将之纳入人类社会的伦理体系，被后来的众多学者和科学家所认同。
如果说恰佩克和阿西莫夫对机器伦理的考量还处于以文艺创作形式展开科幻想象和技术预见的层面，那么现代人工智能的发展则使这种考量愈发贴近现实。计算机科学和人工智能领域的先驱艾伦图灵探讨了机器模拟人类思维的可能性，并设计出“图灵测试”用以评估机器系统是否能够具备真正的智能，奠定了人工智能兴起的基础。1956年，以“机器模仿人类智能”为主题的达特茅斯会议召开，其间首次使用了“人工智能”这一概念，标志着“人工智能”的正式诞生。经过之后数十年的发展，人工智能迅速崛起，逐渐由弱人工智能走向强人工智能，成为现代前沿科技的典型代表，被广泛运用于教育、医疗、交通等众多领域，产生了自动驾驶、ChaiGPT、Sora等诸多实用技术。以人工智能为代表的现代科技的发展一次次冲击着人类的传统观念。计算机深蓝（Deep Blue）、AlphaGo等人工智能体在“人机大战”中屡屡战胜人类，使人们发现技术人工物似乎有了不逊色于人类的智能；有着逼真表情、能够与人交流。并且具备一定自主学习能力的机器人索菲亚被沙特阿拉伯授予了公民身份，使机器人获得了与人类同等的公民权利；ChatGPT和Sora不仅具备语言理解能力，而且极富创造力，有着模拟人类思维和真实物理环境的能力，引发了人们的广泛关注。
在人工智能技术的加持下，技术人工物借助强大的算力、复杂的人工神经网络和出色的深度学习能力，似乎获得了类似于人脑的思维能力、行为决策能力和价值判断能力。面对日益自动化、智能化的技术人工物，人们在惊奇之余，也对其在社会伦理体系中的身份和地位产生了疑问和争论。不同于将技术人工物排除出道德主体的传统观点，有学者认为现代人工智能的发展似乎“消除了生命体与非生命体的区分”。他们或从行为主义、或从具身主义出发，认为心灵或生命意识似乎已不再是构成道德主体的必要条件，并基于现代人工智能系统所展现的拟人特征，主张将其纳入道德主体的范畴。还有学者认为，即使当前技术人工物的道德主体地位尚未被认可，但随着人工智能技术的进一步发展，或许可以使其生成同人类无异的意识和感知能力，从而使技术人工物获得成为道德主体的条件。
（二）伦理需求：工具理性下的道德危机
科技是人类认识世界和改造世界的重要工具，是“在历史上起推动作用的、革命的力量”。同时，“技术依赖于工具理性，是合理化的一部分”。自工业革命以来，科学技术以极为迅猛的速度发展，人类由此建构起了现代化的工业文明，给人类社会带来了巨大的福祉。然而，与现代化工业文明相伴生的，不仅有科技力量的彰显，还有工具理性的极端化和片面化发展。由于工具理性的片面发展所催生的一系列科技伦理问题，影响着人们的日常生活，冲击着传统的道德观念，并使得传统道德图式中鲜少涉足的人机关系问题愈发显现。
在现代工业文明的建构过程中，无所不包的理性逐渐膨胀为衡量一切的唯一标准，成为一种“理性霸权”，“宗教、自然观、社会、国家制度，一切都受到了最无情的批判；一切都必须在理性的法庭面前为自己的存在作辩护或者放弃存在的权利。思维着的知性成了衡量一切的惟一尺度”。同时，理性内部愈发演变为相互对立的两个方面：在休谟那里表征为实然与应然的对立，在康德那里表征为必然与自由的对立，韦伯将之称为“工具的合理性”与“价值的合理性”之间的对立，形成了“真与善、科学与伦理学分离”的局面。特别是随着科学技术逐渐成为社会发展的主导力量，“科学世界观的精神越来越多地渗透进私人生活和公共生活之中，渗透进教育、培养、建筑以及按理性原理而形成的经济社会生活之中”，技术人工物所意涵的工具理性也在西方的资本逻辑下被近乎无限地放大，成为现代化工业文明的主流思维方式。与之相对的，则是代表着“伦理的、美学的、宗教的或作任何其他阐释的”价值理性的日趋衰微。在科学主义者的视野中，工具理性成为有效性和普遍性的唯一标准，价值问题则被排除在知识的范围之外，丧失了其合理性、客观性和现实性。由此，理性不单极端化为一种霸权，更是片面地蜕化为一种工具理性霸权。
在工具理性霸权的裹挟下，可计量的“效用”被固化为人类实践活动的首要驱动力，作为造福人类手段的科技上升为目的，而本应作为目的的人则被贬低为工具和手段，“甚至他的心理特性也同他的整个人格相分离，同这种人格相对立地被客体化，以便能够被结合到合理的专门系统里去，并在这里归人计算的概念。”马尔库塞更是直言，在发达工业社会中，“科学—技术的合理性”已成为社会控制的新形式，而道德和精神上的价值则由于难以计量，无法从科学理性中推导，从而丧失了其普遍的有效性和现实性，致使人成为“单向度的人”社会成为“单向度的社会”。在这种单向度的社会中，人与技术人工物之间的对立关系被放大，人们在确立自我为价值主体的同时，却将包括他人、自然等在内的他者一律视为客体，并将其物化成一种“工具性”的存在。由此，当科技越是发展，人们就愈发感受到自己在成为自然主人的同时也被异化为物的奴隶，成为机器般被宰制和压迫的对象。正如马克思所说，“技术的胜利，似乎是以道德的败坏为代价换来的.....我们的一切发明和进步，似乎结果是使物质力量成为有智慧的生命，而人的生命则化为愚钝的物质力量。”有鉴于此，一些学者们开始尝试突破单一的人类视角，将技术人工物等非人类（non-humans）实体纳入道德共同体之中，甚至赋予其一定的道德主体地位，以应对工具理性膨胀所引发的道德危机。
（三）理论转向：伦理领域的物转向趋向
所谓伦理学的物转向趋向，“意味着其摆脱人类中心主义，关注物的伦理性”。在科技尚不发达的传统社会，通过简单的技术实践所创造的人工物并不具备复杂的结构系统，人们极少会考虑其行为或意识问题，鲜少将之置于伦理视阈内进行考察。直至工业革命后，现代意义上的机器产生并逐渐上升为技术人工物的主要形态。然而，机器的资本主义应用使其被片面地发挥为工具理性的物质载体，其作为“人的本质力量对象化”的人本内蕴则被忽视，消解着人的主体价值，引发了诸多伦理问题。20世纪后，随着现代科技的发展，技术人工物不断趋向于自动化和智能化，与其相伴生的异化问题也愈加凸显，引发了越来越多学者的重视。鉴于此，部分学者开始重新审视技术人工物的伦理属性，在原有的工具性之外，对其价值负载性作出了考察，使其身份由纯粹的技术工具转变为行动者，促使伦理学在一定程度上呈现物转向趋向。
在近现代科学技术兴起之前，思想界的传统向来是贬斥“物质”而弘扬“精神”。如亚里士多德，“其作品卷帙浩繁，几乎涉猎了现代学科各门类，但作为哲学考察对象的物却不易断定”。亦如康德的义务论、休谟的情感论、边沁的苦乐原理等近代主流伦理流派对道德主体的形塑，同样大都基于理性、情感、嗜欲、心灵、意志等精神层面的要素，在一定程度上忽略了身体、物质等要素。可以说，长久以来，“‘物’始终被隐藏着。一直到现象学的兴起，‘物’受到的关注才逐渐表现出来。”胡塞尔以其现象学的先验还原法，强调以对现象的描述、分析为起点，力求使其本来的面目得以显现，由此提出了“面向事物本身”的主张，开启了当代思想界“物转向”的肇端。海德格尔沿袭胡塞尔的方法，将现象学引向了存在与时间的维度，并在其中对物作出了更为丰富的探讨。在胡塞尔和海德格尔的影响下，哲学领域发生了物转向趋向。随着现代科技的不断发展，这种趋向又被辐射至伦理领域，形成了维贝克的“道德物化”哈拉维的“同伴物种”等理论。
伦理领域的物转向趋向在对传统人文主义的反思中，试图破除以人为中心的伦理观念，重构人与非人类的关系，思考不同行动者在技术语境中的道德地位。作为科技时代新兴的文化思潮，呈现物转向趋向的伦理学在本体观上摒弃了传统形而上学将人的本质固化的观点，在对“人”的解构和重塑中跳出了以人为“万物之灵”的窠臼，认为人是同其所处环境共同演进的生成性存在，并且正从自然进化走向人工进化；同时，突破了主体哲学二元对立的思维，重新审视人与非人的关系，在对人类中心主义的超越中，将科技社会看作是“一个人类的力量和非人类的力量（物质的）共同作用的领域”，进而以去中心、网络化的共生关系消弭了人与非人之间的界限，描摹出一种“自然—人—技术”异质杂糅的道德主体景观，构成了科技时代道德主体建构的积极探索。
二、人工道德主体的理论构设
鉴于当前科技社会的发展状况，为确保技术人工物的安全可控，人们开始注重以伦理等手段对其进行规制。然而，技术人工物的伦理治理是一个极其复杂的问题，仅仅将道德责任的承担者归结为技术人员，极可能造成伦理治理的滞后性。质言之，面对一系列技术失控的风险，现代社会对伦理治理的前瞻性、敏捷度等方面提出了更高的要求。为此，部分学者基于机器的自主性、意向性和智能性，试图超越以心智、理性、情感等为核心的传统人本主义道德立场，转而以外部关联、规则内化、能力演化等方式赋予技术人工物某种程度的道德主体性，使其成为“道德上值得称赞的行动者”，以寻求针对技术人工物伦理治理的可能路径。
（一）关联式进路：道德主体的复合形塑
人工道德主体建构的关联式进路，主张以一种去中心化的思维方式，形塑人类与技术人工物同等的道德地位，使二者相互结合，共同构成关联性的道德主体。此进路摒弃了主客对立的二元论思维，反对技术工具论，强调技术的能动性及其内在价值，试图赋予技术人工物以道德属性来弥合人与非人之间的鸿沟。持此论者认为，在技术语境中，道德主体性并非人类固有的、排他的本质属性，而是可以在特定的人机交互网络中动态生成；同时，并不要求技术人工物必须具备意识、情感或自由意志等传统道德主体的核心构件，而是强调技术人工物可以通过与人类的联结而共同构成一个分布式的道德主体系统。其中，最具代表性的理论是拉图尔的“行动者网络”和维贝克的“道德物化”。
拉图尔以“广义对称性原则”消融了人与非人的对立，将其交织共构为联合的“行动者”（agent），并赋予技术人工物与人类“同等的尊严”，指明二者在道德领域“不可分割地混杂在一起”，强调“道德的法则在我们的心中，但也在我们的器具之中”。维贝克吸收了拉图尔的理论观点，以人与非人的交互为前提，认为“道德并非纯粹是人类的事务，而是人一技术关联体的事务”，并提出构成道德主体的两个标准——具有“形成意向的能力”和“实现意向的自由”。维贝克认为这种“意向性”存在于人与非人的混杂中，是一种“复合的意向性”，强调技术人工物在与使用者的相互影响中发挥着道德引导和调节的作用，进而将人与技术人工物共同塑造为关联性的道德主体。他们强调，可以通过诸如限速器、节能装置等技术设计，围绕特定的情境赋予技术人工物一定的决策权和行动能力，使其得以承载某种价值导向，作为道德行动者参与道德实践，辅助人类完成具有道德意涵的决策。如此一来，道德主体性便被分布到由人类和技术人工物共同构成的行动者网络之中，使得技术人工物呈现类似人类主体的道德行为能力，成为塑造社会道德现实不可忽视的力量。
可以说，在人工道德主体建构的关联式进路下，道德主体性并非先验地存在于抽象的人性之中，而是通过人类、技术人工物以及外部环境等各种异质性行动者之间的交互实践而共同生成的。道德主体也由此被视为一种关系性的、情境依赖的、由多元行动者共同构成的复合体。关联式进路下的人工道德主体超越了传统个人主义的道德主体观，基于技术人工物在特定关系网络中所承担的道德功能及引发的道德效果，将之纳入道德主体的范畴，为技术语境中道德责任在人类与机器关联结构中的界定和分配提供了新的思路，在一定程度上回答了高度自动化、智能化的技术社会中“谁在行动并承担相应责任”这一时代问题，为技术设计和伦理实践提供了新的视角。
（二）嵌入式进路：道德规则的算法转化
人工道德主体建构的嵌入式进路，是基于数字技术的进步和机器智能水平的提升，试图以一种技术化的路径，通过伦理学家和技术专家的合作设计出“可以转换为算法的规则”，将人类社会既有的道德规范以指令输入的方式嵌人技术人工物之中，使之能够识别并执行相应的道德规则，以此提升技术人工物的价值敏感度，并形成对技术人工物的道德约束机制，从而创造出具备一定道德判断能力和道德行为能力的人工道德主体。
阿西莫夫在其所提出的“机器人学三定律”中，要求将机器人设计为必须遵守一系列伦理准则的存在，便是对这一进路的早期构设。现代信息技术和人工智能的发展进一步提高了在技术人工物中嵌入道德的可能性，促使人们以更加现实、严谨的姿态对其开启探讨，并在实践中尝试以技术手段将伦理准则转化为算法规则。Orchestro.AI公司创始人谢卡尔·纳塔拉詹提出“天使式人工智能”的设计理念，设想在人工智能中嵌入“道德脑区层”（MCL）、关怀网络（CareNet）、人类信号情报（HSI）等技术组件用以模拟人类道德。我国于2023年发布的《人工智能伦理治理标准化指南》中，同样对人工智能伦理治理的技术路径作出了指导，其中涉及“伦理嵌入技术”，即“将价值设计、隐私、公平、可持续等符合伦理准则的技术框架与路径采用嵌入方式加入技术模块”。
在对技术人工物进行伦理嵌入的过程中，首要环节在于“找到一个明确、客观的伦理基础——使伦理在原则上是可计算的”。为此，研究者们基于对功利论、义务论、德性论等主流伦理体系的分析与综合，试图找出较为普遍和抽象的原则，并从这些原则中推导出更加具体的准则，将之嵌入不同领域的技术人工物之中。如在自动驾驶领域，有学者通过分析、批判传统功利主义算法的“损害的最小化”原则，提出“最大化最小值”的算法设计作为应对“电车难题”的最佳技术方案。而对技术人工物进行伦理嵌入的核心环节，在于增强技术人工物的价值敏感度。“价值敏感设计是一种将伦理嵌入人工智能设计的高效方法”，亦即在对技术人工物的整个设计过程中，以一种有原则的、全面综合的方式来考量人类价值，并通过技术架构、交互界面和制度安排等方式，使其能够明确识别并有效整合多元利益相关者的价值诉求，创造出具备道德敏捷性的人工道德主体。对技术人工物进行伦理嵌入的落脚点，则在于以有效的算法设计保障技术人工物的道德执行能力。人工道德主体的道德能动性体现在对预设伦理规则的忠实执行上。质言之，建构人工道德主体的嵌入式进路强调算法设计的现实规范力，要求通过道德内置的方式使技术人工物成为能够切实承载和践行特定道德规范的行动者。
由此，人工道德主体建构的嵌入式进路通过一系列有意识的伦理规则设计、价值敏感设计以及道德执行设计，将人类社会的道德规范和价值准则以算法的形式编写入技术系统内部，转化为技术人工物可识别、可交互、可执行的符号，使其具备践行道德的能力，以此实现其道德主体性。
（三）生成式进路：道德能力的培育演化
人工道德主体建构的生成式进路，依托于人工智能技术的突破式发展以及机器深度学习能力的不断增强，主张在设计者的训练与引导下，以一种具身范式，在技术人工物与环境的动态交互中发挥其强大的深度学习能力，不断吸收和鉴别道德知识，形成自主的道德感知能力，并将这种感知通过道德行为反馈给环境，从而使其道德主体性得以演化生成。近年来，以ChatGPT为代表的生成式人工智能取得重大突破，更是提高了这种思路成为现实的可能性。
生成式进路的理论基础主要植根于具身认知理论和进化论伦理学。具身认知理论强调认知（包含道德认知）并非孤立的大脑活动，而是“具身的行动”，源于主体与环境的具身互动，“与身体构造和身体活动具有深刻连续性”。基于此，在对人工道德主体的建构上，有学者认为“具身塑造了意识，人工智能的道德主体性与具身密不可分”。技术人工物通过信息收集等方式对环境进行感知与交互，使其“身体”成为道德学习不可或缺的载体。每一次与物理世界或人类社会的交互与反馈，都为其提供了理解道德情境、评估行为后果的原始数据。进化论伦理学则提供了一种更为宏观的视角，突出道德是人类社会在长期历史进程中适应环境、协调群体利益的产物，具有演化的特征。人工道德主体建构的生成式进路借鉴此观点，认为“按照生命演化史上其他生命，特别是人类的进化模式，作为生命的人工智能的演变不应是奇点式突变，而应是渐进式进化”，试图依此为技术人工物设计道德能力的演化路径。
质言之，该进路认为人工道德主体的建构并非一蹴而就，而是如同生物体的进化一般，需经历一个在复杂环境中不断学习、适应、修正的培育过程。其中，人工道德主体自我生成的关键主要包含了两个方面。一是赋予技术人工物以学习机制和适应能力，使其具备较高程度的智能化特质。瓦拉赫和艾伦强调了机器的深度学习能力：“无论是自然演化还是人为构建，人工道德主体都需要具备学习其所属场域规范的能力”；弗洛里迪与桑德斯则将其总结为“交互性”“自主性”和“适应性”：“（可以）同其所处的环境相互影响”，“可以在不受外部直接影响的情况下调整自身状态”，“能够依据经验和环境的反馈来调整自身行为”。二是建构人工道德主体生成的环境因素，要求设计者以情境模拟取代单纯的程式嵌入，通过模拟各种具体的道德情境，以弥补设计上可能存在的缺陷，使技术人工物能够在自主学习的基础上，在同环境的持续交互中逐步习得道德判断的规则，优化道德行为的策略，进而在经验的积累中实现道德能力的自主演化，成长为能够自主应对复杂环境的人工道德主体。
可以看到，不同于静态的人机关联或规则内嵌，人工道德主体建构的生成式进路聚焦于技术人工物自身道德能力的动态演化，尝试通过特定的设计和训练，为具备复杂人工神经网络和深度学习能力的高级人工智能培育出应对复杂道德情境的能力，引导其始终服务于科技社会的持续健康发展，在人工智能时代无疑具有重要的理论潜力。
总体而言，学者们对人工道德主体建构的探索，源自技术与价值失衡境遇下对科技发展不确定性的忧思。他们试图赋予技术人工物以价值意涵，将道德因素整合到其系统之中，以塑造其执行道德的能力。这预示着我们在技术与价值的融合上迈出了重要一步，对科技时代伦理治理体系的建构具有深远的影响。他们针对科技时代技术人工物智能化、类人化等新特点，在审视和更新传统伦理观念的基础上，提出其作为道德主体的可能性，以一种全新的视角提供了处理人机关系、应对科技风险的方法策略。同时，将道德考量整合到系统设计之中的理念，在实践层面也得到了借鉴，如自动驾驶汽车的道德算法设计、医疗诊断程序的敏感信息保护等，在一定程度上提高了机器的道德敏感性，消弭了科技的负面效应，促使其对人类社会产生更加积极的道德影响。
三、人工道德主体的实践维度
虽然人们对人工道德主体的建构作出了诸多探讨，但就当前而言，将技术人工物纳入道德主体的范畴依然面临着诸多现实挑战。不同道德理念之间的价值排序难以调和，人机协同系统中的道德责任归属模糊不清，现有技术难以设计出能够完全适应复杂道德情境的技术人工物，以及资本与技术合谋可能催生的伦理异化风险，共同构成了人工道德主体建构的制约因素。
（一）伦理冲突：多元价值之间的排序困境
构建人工道德主体的首要难题在于多元价值之间的排序困境。在现实社会生活中，多元价值冲突导致的“道德困境”（moral dilemma）本就普遍存在，“存在着多种固有的价值，其中一些价值在原则上，常常也在具体情境中相互冲突（一个熟知的例子是自由与平等之间的冲突），人们很难在它们之间作出抉择。”不同的伦理理论、不同的文化环境，乃至不同的个体之间，均有可能秉持着不同的道德观念。如何为技术人工物选择、整合这些道德理念，无疑是一项极其复杂的议题。
在价值多元化的现今社会，诸如德性论、功利论、义务论等多种伦理范式并存，对于“善”的定义及实践要求存在诸多分歧，所秉承的道德理念和行为准则也往往是迥异甚至相悖的。其中，功利主义从趋利避害的自然本能出发，认为“趋乐避苦是人的本性，追求快乐是人的一切行为的最终目的”，进而将“最大多数人的最大幸福”作为基本准则，追求结果的最优解，却在实际决策中可能忽视个体权利；义务论认为“有理性的造物”“凭借其自由的自律而是那本身神圣的道德律的主体”，将能否认知和践行普遍的道德律视为能否成为道德主体的必要条件，却极易陷入形式化僵局；而德性论依赖主体情感与良知，要求以主体的道德自觉来实现对美德的追求，显然难以转化为可编程的行为准则。这些理念的冲突，在人工系统中往往难以通过简单的计算或选择来实现调和与兼容。
此外，不同文化之间的差异也会加剧价值排序的困难性和复杂性。伦理道德作为“物质行动的直接产物”，是现实生活“在意识形态上的反射和反响”。受地理环境和社会历史条件的影响，不同地区的人们在长期的物质生产与社群交往中所积淀下来的生产方式、生活方式以及思维方式均存在一定的差异，形成了不同的文化心理和价值观念。由此，在不同的社会条件和文化背景之中，人们对于集体与个人、隐私与安全、效率与公平、自由与秩序等价值选择的优先级存在着显著差异。一种文化背景下被视为保障公共安全的必要监控措施，在另一种文化背景下则可能被视作对隐私的严重侵犯。同时，具体到每个个体，“每个人的道德观念都是社会的从而是人所处的客观社会地位、社会关系决定的”，不同的人往往秉持着不同的道德理念，所作出的道德选择通常是基于情境与情感的综合判断，即便是最高级的技术人工物系统，受限于规则与数据的有限组合，依旧难以形成一套普遍适用的、能涵盖所有道德情境的价值序列。价值排序的冲突性与不确定性，极有可能导致人工道德主体在复杂情境中作出有争议的决策，成为其获得广泛道德认可的重要阻碍。
（二）归责争议：伦理道德责任的归属问题
技术人工物是否具备道德主体资格，是机器伦理领域争论颇为激烈的议题。而这一争论的焦点之一，又在于人类与机器之间道德责任的归属问题。传统伦理学强调责任主体需具备自由意志、内在意向性及独立的行为能力。而当技术人工物被赋予一定的自主性和技术意向性之后，责任的界定便变得异常复杂。
在人工智能技术成熟之前，人们通常是将机器行为的后果归责于其制造者、经营者或操作者，但随着人工智能技术的发展，特别是机器自主学习能力的提升，人们已然无法对其行为作出充分地预测和掌控，进而导致了人类与技术人工物之间“由传统责任归属观念所无法弥合的责任鸿沟（Responsibility Gap）”。现如今，围绕机器行为的道德责任归属问题，有学者将其总结为三种主要观点，即“责任主体一元论”“责任主体二元论”以及“人工智能自我责任论”。其中，“责任主体一元论”认为，全部的道德责任均应由人类来承担：“责任主体二元论”认为，人类与技术人工物应共同承担道德责任；“人工智能自我责任论”则认为，作为高度智能化的技术人工物，高级人工智能具备道德感知力和道德决策力，它们所产生的道德责任问题应由其自身来承担。
这一系列理论争议在机器伦理领域的具体道德实践中，集中体现为人机协同系统之中责任归属的模糊性。一方面，由于人机协作系统的复杂性，其所作出的道德决策往往是企业、工程师、用户及机器等多元主体混合“意向性”共同作用的结果，若将责任完全归因于设计者、制造者或使用者，可能陷入责任稀释以及治理滞后的困境。尽管在当前的道德实践中，对科技工作者提出了“负责任创新”的要求，力求让人类为技术人工物的行为兜底，但在诸如自动驾驶安全、算法偏见、大数据杀熟等具体道德情境中，仍然很难将伦理责任归结甚至窄化到某个技术人员或团队身上。另一方面，若将技术人工物纳入责任主体的范畴--无论是让其作为独立的责任主体，抑或是让其同人类共建分布式责任网络，均有可能削弱技术人员对科技发展的监督意愿，使其“合理化了自身在算法劳动过程中的‘去伦理化’”，进而陷入“有组织的不负责任”状态。
（三）技术局限：现实道德情境的应对难题
尽管当前以人工智能为代表的技术人工物已展现出了一定的道德推理能力，但现实道德场景的复杂性构成了其成为独立道德主体的关键制约。道德“从根本上讲是一种社会意识形态，它归根结底是社会经济关系的反映”。也就是说，道德并非源自先验的本能、嗜欲或情感，而是生成于生产交往实践中所结成的各种社会关系，并受这一系列社会关系的制约。现实社会关系往往是复杂的，这在很大程度上决定了道德情境的复杂性。人们在具体的道德实践中，往往是基于一定的社会关系，在一定的道德情境中作出道德决策或道德判断，“对或错、善或恶，在相当大的程度上是由客观情境决定的”。这便要求道德主体不仅应具备一定的道德知识，还需理解具体情境的特殊性及其中所涉及的复杂道德关系。
人类在复杂情境中的道德判断，往往需要依赖自身的情感能力以及相关的道德经验。而以现阶段的科技发展水平来看，技术人工物虽能在特定场景下做出某些道德性行为，但这本质上是算法驱动的结果，它们并不具备人类特有的自由意志、情感直觉与道德反思能力，缺乏真正意义上的内在“德性”，很难形成对道德情境的完整感知，无法真正理解各种复杂社会关系背后的情感与价值内涵。同时，受技术力所限，对机器系统的道德感知设计、价值敏感设计等方面的技术尚不成熟，在对机器系统进行道德训练时，也往往难以穷尽道德实践中的所有情境，导致其难以普遍适应人类社会的各种道德场景，特别是在面对新、异案例时表现尤为脆弱。这种缺陷导致技术人工物在需要柔性调节或情感介入的场景中表现出较强的机械性与片面性，一度出现自动驾驶汽车安全系统失灵、聊天机器人教唆用户自杀等案例。此外，部分具有复杂神经网络的技术人工物虽具备一定的精准决策能力，但黑箱特性使其作出道德判断的依据无法被清晰追溯。当系统基于大数据自动生成道德决策时，仅依靠技术手段或强制监管通常难以验证其逻辑合理性，也难以对其进行具有针对性的修正。这种算法的不透明性和不可解释性，无疑制约着技术人工物作为道德主体的可靠性与适应性。
“奇点理论”的提出者库兹韦尔在其著作《机器之心》中预测，到2029年机器将会拥有心灵、情感和欲望，就目前来看，这显然是难以实现的。正如我国《人工智能伦理治理标准化指南》中所指出的，就当前而言，“无论是伦理符合设计技术或是监管技术，均处于起步阶段，将伦理技术系统性融入人工智能创新还没有成熟的方法论。”
（四）异化处境：资本、技术合谋的伦理风险
现代科技的研发与应用往往需要大量的资金投入。而技术与资本的耦合，则可能会使人工道德主体的建构面临异化风险。在西方主导的现代化进程中，“追逐利润的资本与追求效率的技术之间存在着内在的天然联系”，资本需要借助技术来获取更高的利润，而技术则需要依靠资本来获取经费支持、实现成果转化，由此形成了资本与技术紧密结合、相互依赖的事实。特别是20世纪50年代以来，科学、技术、生产一体化的趋势愈加显现，使资本愈发“为了生产过程的需要，利用科学，占有科学”。技术与资本的耦合在一定程度上构成了产学研结合的纽带。然而，技术研发的资本依赖性，却也可能会导致技术人工物的设计目标偏向以增殖为唯一“生活本能”的资本逻辑。当资本逻辑渗透到技术意向性之中，便可能会使人工道德主体的构设被迫让位于利益最大化原则，进而造成新的伦理失范风险。这同样是需要警惕和规避的。
质言之，在资本与技术合谋的境遇中，由资本驱动的技术研发及应用，往往优先追求效率和利润，而非伦理价值或公共福祉。当资本逻辑主导技术发展的方向时，人工道德主体的伦理内核便可能被资本的增殖本能所侵蚀，从而背离其伦理设计的初衷，使其从潜在的道德行动者异化为资本增殖的工具。特别是在数智时代，建构人工道德主体的现实梗阻，在一定程度上便是源自数字资本主义所形塑的异化处境。作为信息时代西方资本主义所衍生出的新样态，数字资本主义以表面上自由、平等、开放的数字文明，掩盖了资本逻辑宰制下的伦理异化。具体而言，其一，数字资本主义在对技术人工物的算法设计中，虽然会作出一定的伦理考量，但这些伦理考量极易被资本意志所裹挟，致使其在道德决策中隐含功利主义偏好，并以数据监测、算法推荐、信息茧房等更加隐蔽的方式输出消费主义价值观。其二，数字资本主义在对技术人工物的道德训练中，可能会限定于特定利益群体的视角，造成基于算法偏见的伦理偏差，在一定程度上固化社会的不平等。其三，数字资本主义在对技术人工物伦理标准的制定上，凭借其垄断优势，主导着机器系统伦理框架的技术标准，形成对社会价值观的控制，并在“普世性”的包装下经由数字殖民不断推广其知识霸权，扩大着数字鸿沟。以此观之，技术与资本的合谋构成了人工道德主体建构的重要阻碍，其影响不仅“局限于数字化世界于数字技术人工物本身”，使其面临着异化处境，而且可能加剧社会价值冲突与伦理风险，成为资本权力扩张的隐形推手。
当前人们已然意识到了规范技术资本的必要性。为避免技术人工物特别是人工智能的伦理风险，在全球范围内《人工智能法案》《人工智能公约》《人工智能伦理问题建议书》等诸多政策文件陆续出台，世界各国也作出一系列顶层设计、制度安排，制定了相应的政策法规，希望以此来规制技术资本的运营。然而，这些治理框架在执行层面仍面临严峻挑战。资本的逐利本性与全球技术竞争的压力，往往导致合规成本被规避或外部化，特别是跨国科技巨头凭借其技术与资源优势，或通过游说影响政策走向，或在监管宽松的地区部署具有争议性的系统致使伦理审查流于形式。此外，现有法规多侧重于事后追责与风险控制，对于如何实现伦理价值与商业目标的协同，仍缺乏成熟的操作指引和激励机制。这意味着，单纯依靠外部规制难以彻底消解资本逻辑对人工道德主体建构的异化作用。也正因此，以有效的制衡机制防范资本逻辑的渗透，依旧是当前建构人工道德主体的关键所在。
四、余论：必要的张力——技术人工物作为一种“不完全”道德主体
在科技时代，套用传统的道德观已然难以充分解决技术与价值的失衡问题，这一点已是学界的共识。同时，对道德实体范围的扩展也在一定程度上获得了学界的认同，形成了由人类、自然存在物以及技术人工物联合构成的道德共同体。但应以何种立场建构科技社会的道德体系，成为学者们争论的关键。部分学者通过对人本主义的彻底反叛，尝试在道德领域“去人类中心化”，将技术人工物纳入道德主体的范畴，以此来重建科技时代的道德秩序；也有学者对此提出了反对和质疑，认为现代社会对价值的排斥恰恰是由于科技发展中人本维度的缺失，指出其根源在于资本逻辑和科学主义等因素，而非人本主义的立场本身，人类需要做的是对人本主义进行改良和重建，以更好地发挥人在道德领域的主体性用更负责任的态度引领科技社会的发展。
面对这些争议与分歧，我们可以肯定的是，人类具有自我意识和自由意志，并且能够进行自由自觉的生产和交往实践，具有几乎毫无争议的道德主体地位，在当前的科技伦理治理中理应承担主要责任。而就技术人工物而言，一方面，其作为人类劳动实践的产物，是人的身体器官的延伸，更是人的本质力量的对象化，与人类有着天然的联系。在科技不断发展的今天，技术人工物愈加自动化、智能化，并被赋予了一定的技术自主性、技术意向性以及道德感知力，可以在某种程度上作出道德判断、执行道德指令、实施道德行为，具备成为道德主体的潜质。但另一方面，当前技术人工物在道德实践中依旧存在诸多局限，其所具备的道德感知力和道德判断力是建立在技术设计或算法规则基础上的，而非基于自我意识，难以形成真正的道德情感；其自主性和意向性不是基于自由意志的道德意向性，并不具备自主承担道德责任的能力；其执行道德行为的能力也非建立在自由自觉基础上的道德实践，难以应对复杂的道德情景。如此看来，我们虽然不能忽视将技术人工物引人道德领域的意义，但也不能模糊责任归属，将技术人工物视为完全自主的道德主体。这便要求我们在科技社会发展中注重伦理规范、强化伦理设计，使技术人工物能够作为“不完全”的道德主体，引导和辅助人类的道德行为，以保持当代社会在技术赋能与伦理约束之间的必要张力。
