内容提要：众所周知，欧盟《人工智能法案》已于2024年8月1日正式生效了。该法案是全球首部全面监管人工智能的法规，标志着人类在规范人工智能方面迈出了重要一步。欧盟尝试通过一套分类系统来保护人的基本权利，使其免受日益强大的人工智能所带来的风险。该法案将人工智能模型分为四个风险类别，即不可接受的风险、高风险、有限风险和最小风险。被归类为不可接受风险的人工智能系统将被彻底禁止，如工作或教育场所中的情感识别系统、社会评分系统等。该法案还规定，禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。
毋庸讳言，欧盟《人工智能法案》代表着人类社会对人工智能的规制立场，堪称人类法律理性在人工智能问题上的规范表达。该法案不但没有赋予人工智能法律主体地位，而且对之实施了系统性的严格规制，对人工智能的戒备之心可谓跃然纸上。然而，当下我国还有学者公开呼吁人工智能法律主体化，认为赋予人工智能法律主体地位是对人工智能发展趋势的尊重，是满足未来社会多元化的客观需要。其实，从后果主义视角来看，此等主张亦未必适当。后果主义乃是一种道德哲学观，它认为行为的道德属性取决于行为所导致的后果。后果主义道德哲学提醒我们：在人工智能法律主体化问题上应当保持足够的冷静审慎，严防人工智能对公民健康和社会安全造成不必要的威胁。
一、物性的人工智能可否理解法律主体背后的人性
在智能方面，新一代生成式人工智能已然达到了惊世骇俗的地步，它可以基于算法、模型、规则等生成文本、图片、视频、代码等内容。相比于传统的人工智能，生成式人工智能不但能够按要求对输入的数据进行处理，而且可以学习和模拟事物的内在规律，从而自主创造出新东西。
然而，不管多么先进的人工智能，它们终究都只是硅基物而非犹如人类的碳基生物，它们身上有的只是物性，而不可能具备人性。拥有让人类膜拜的计算与记忆能力，能够深度和自我学习，这只代表着人工智能具备高超的工具理性，并不意味着人工智能具有像人类一样的自我意识与主体意识，能够综合各种理性、非理性的意识和能力，形成具有显著计划性和连贯性的行动，进而确立起自己的独特性人格。实践经验表明，人工智能只是一种工具理性的硅基存在，它没有碳基生物的肌体，更匮乏综合各种情感和技能的自我意识。人类赋予各种社会组织人格化的法人地位，盖因作为法人的社会组织是由自然人为特定目的集合而成，它们具有自己的独立意志，属于一种目的性和自律性存在。而人工智能在终极意义上都只是一种工具性存在，属于人类制造的一种物。身为物的人工智能自然不知独立意志为何物，更缺乏目的性和自律性，故而，无需亦不应当将之法律主体化，人为地赋予它法律主体地位乃是对其物性的否定，势必会给人类自身带来一系列不良后果。
追根溯源，法律乃是人类自律意志的产物，正是自律意志使人类意识到必须通过法律来实现惩恶扬善——惩人性之恶、扬人性之善。没有人性之恶及其衍生出来的种种暴行，人类社会就未必需要法律。人性之恶实乃法律起源的必要条件。在法律形成过程中人性之善扮演着重要的角色，堪称法律发展的内在动力。借助于性善和性恶这两个镜头就可以更好地透视法律。所谓法律主体指的就是能够运用、实施法律的人格体，主要包括自然人和法人。运用法律也好，实施法律也罢，作为法律主体首先得理解法律，尤其能够领悟法律身后所蕴藏的人性。人工智能只有物性，它没有自我意识，根本参不透人性善恶。哪怕最高级的人工智能也不可能对人间善恶作出自己的独立判断，更不可能直接对人类表达自己的法律诉求。总之，法律主体是由人性演化而来的一个法律概念。物性的人工智能理解不了人性，不会明白法律主体对它意味着什么，把法律主体地位强加于它，对它无益，对人类却有害。
二、法律主体化的人工智能能否与人类和平共处
一旦人工智能享有法律主体地位，这对于它与人类的关系来说，将会是一种颠覆性的变革，其后果不可谓不严重。获得法律主体地位的人工智能是否能接受像过去那样任由人类摆布，在与人类关系中它还能否继续保持原来的客体角色，凡此种种都是大有疑问的。
如果人工智能真的像自然人那样成为法律主体，它就由物性机器转化为一种法律上的人格人了，就不再属于人类可以恣意役使的工具，而变为一种目的性存在，在人格上具备与人类平等的主体性地位。可想而知的是，被赋予法律主体地位的人工智能，可以且一定会对人类说“不”，就像孩子成年后对父母说“不”一样。那么，问题来了，可以对人类说“不”的人工智能，还能与人类和平共处吗？答案当然是几乎不可能。既然如此，人类为何要竭尽心智并耗费大量人力物力，去制造一种注定会对自己说“不”的人工智能呢？不宁唯是，由于人工智能无论是信息的记忆与储存功能，还是运算能力都可以秒杀人类，如果人类与人工智能为生命、财产、自由而发生纠纷甚至战争，人工智能降服人类就不是什么科幻电影如《终结者》中的情节，而是一种可以真切预见的现实后果了。
不难推断，人工智能法律主体化之日，必将是种种凶险与灾难降临于人类社会之时。如此一来，人类制造人工智能无异于为自己打开了一个“潘多拉魔盒”。这不就是人类聪明反被聪明误吗？想想此等后果，真叫人不寒而栗。可以说，赋予人工智能法律主体地位无异于人类自掘坟墓。如果有一天人工智能真的智能到足以“亲自”主张自己拥有法律主体地位，我们人类就应当立即停止研发和制造此等类人化的人工智能。人类不应被科技制造的日新月异冲昏头脑，应当在狂热面前保持坚定的冷静与理性。人类必须明白：任何时候都应当严禁制造一个可以对自己“不”的新型物种，包括人工智能。无论置身于何等境况，人类都不应试图把自己变成另一种更富有神性的高级存在，即创造一个比自身还智能的具有主体性的生命，活生生把自己推入受制于他者的无底深渊。
肯定论者强调，人工智能成为法律主体并不意味着它必须与自然人一样，它所能享有的只能是有限人格，即在承认人工智能可以享有财产权、能够作为创作主体的同时，仍应认可其归属于人类这一客体属性。但笔者认为，其一，这种主体、客体二元一体的设想在理论上不可能，一半主体、一半客体的人工智能实属不伦不类之怪物；其二，即便可能，当作为财产权主体的人工智能与人类发生财产纠纷时，人类该何去何从呢？在争夺财产权方面，人类是人工智能的对手吗？概言之，人工智能一旦主体化了，它与人类的关系就发生了根本扭转，两者势必难以和平共处，屈从于人工智能将恐怕是人类的宿命。
三、人类该如何面对法律主体化的人工智能
在人类面前，法律主体化的人工智能将不再是一种工具性的客体存在。该如何应对享有同等法律主体地位的人工智能，成为摆在人类面前的一道难题。对于作为客体的人工智能，人类可以随心所欲，把它扔进粉碎机里彻底消灭都无所谓。但在人工智能实现法律主体化后，形势随之大变，人类再也不能像以前那样不受制约地任意处置它。人类能否适应人工智能由客体转为主体的巨变，此诚典型的后果主义问题。
从法理上说，拥有法律主体地位的人工智能不应该只是被动的法律接受者，它们要参与立法，与人类享有同等的立法权，此乃法律主体地位的应有之义。依据民主立法的立法原理，具有法律主体地位的人工智能参与立法，乃是其一项基本权利，也是人类不能不接受的“法律主体逻辑”。果真如此的话，不仅是现行的刑事和民事责任体系要不要重构的问题，只怕整个法律体系及其立法精神，都不得不面临着脱胎换骨般的艰难转型，其对人类固有的法律观念和立法技术所带来的冲击之大堪称前所未有。
毕竟，人工智能是比人类“聪明”得多的新型物种，它有哪些需要和欲望、珍重什么样的道德观念、对自由与财产持何种立场，凡此种种，当下人类都是懵懂无知的。更为棘手的是，如果在诸多的需求与观念方面，人工智能与人类之间格格不入、水火难容，那该如何消除彼此之间的分歧？人类与人工智能最终能否达成妥协性方案？如果达成了，最终是人类受委屈多一点，还是人工智能让步多一点？无论如何，诸如此类的问题对人类提出了史无前例的巨大挑战。可想而知，人工智能法律主体化之日必将是人类中心主义终结之时。人类通过制造人工智能来“亲手”终结人类中心主义，这里面的反讽意味有多大事小，人类能否承受这种“终结”的后果则事大。
迄今，即便是最先进的人工智能也不具备情感、直觉和情绪，而恰恰是它们构成了法律主体的必备要素。质言之，人工智能法律主体化仍是人工智能未来发展趋势的一个“远虑式”想象，绝非已然摆在我们面前的一道难题。如何生产更多更好的人工智能，以便把人们从繁重、机械或危险的劳动中解放出来，依然是不容回避的“近忧”。关于人工智能诚然要有“远虑”，但更要有“近忧”。在涉及人工智能的知识产权、隐私权保护等领域，需要法律人去化解的“近忧”不胜枚举。努力消除此等“近忧”，应当是呼吁人工智能法律主体化的前提条件。
刘练军，东南大学法学院教授
来源：《法治周末报》
