郑玉双:脑机接口技术的伦理挑战与法理应对

选择字号:   本文共阅读 36 次 更新时间:2026-05-27 06:57

进入专题: 脑机接口   计算伦理  

郑玉双  

 

【摘要】脑机接口技术是医疗人工智能应用的前沿技术,具有巨大的健康潜力,同时引发伦理挑战和法律规制难题。脑机接口技术的伦理挑战源于脑器官和脑神经的伦理和人格内涵。由于脑机接口技术将神经活动加以计算化,对人的主体性和人格状态造成冲击,从而引发伦理不确定性和责任难题,体现为技术失控、伦理悬置和法律的空心化等形态。从法律角度回应和化解这些难题,应当以计算伦理为引导,准确界定脑机接口技术对人格的重构意义,并进行相应的制度设计,强化伦理审查。随着脑机接口技术的快速发展,其伦理挑战将围绕着数据问题而展开,因此应当识别神经数据、神经信息和神经隐私的伦理内涵,并基于吸收原则证成脑机接口用户的认知自由等新兴权利,从而为脑机接口技术的发展确立规范边界。

【关键字】脑机接口;计算伦理;神经数据;神经信息;神经隐私

 

2025年以来,人工智能技术不断取得巨大突破,具身智能和脑机接口技术成为产业界和学术界关注的热点。从技术发展史来看,具身智能和脑机接口技术的理念早已被提出,但由于技术进展缓慢,无法真正落地。在第四次科技革命的驱动之下,社会实现智能化转型,这些技术不再是科幻,而是已经或者即将成为现实,脑机接口技术的发展和应用更是日新月异。脑机接口(Brain Computer Interface,BCI)是利用特定介质直接或者间接介入人脑获取神经信号并转码,从而驱动人的外部行动的技术应用。这项技术的健康应用前景巨大,可以用来辅助多种肢体类疾病和语言类疾病的治疗。由于人脑内部结构的复杂性,脑机接口技术需要借助高度精准的材料来获取人脑神经元信息,同时需要借助强大的算力才能进行有效解码和驱动。因此,只有在人工智能技术的支持之下,脑机接口技术应用才具备可行性。2024年初,科学技术部在官方网站发布《脑机接口研究伦理指引》。2025年7月,工业和信息化部等七部门联合发布《关于推动脑机接口产业创新发展的实施意见》,针对脑机接口的科技在研发和产业布局进行政策引导。这些动向表明脑机接口技术发展前景巨大,但与此同时,其伦理难题和法律挑战也不容忽视。正如人工智能技术的发展路径一样,脑机接口技术在发展过程中也会引发新兴伦理挑战,而且伴随着数据和信息权利保障、法律责任认定等难题。本文将基于法律在化解科技伦理难题方面的优势,对脑机接口技术的伦理挑战和法律规制问题进行探讨。

一、脑机接口的技术图景与伦理挑战

(一)人脑的技术图景

脑部神经活动是具有特殊意义的生理现象,神经活动具有物理和功能意义。人脑是人的神经中枢,人类活动由脑部发出信号,在身体中传递,从而驱动人的意识和身体反应。人类无法完全理解人脑运行的原理,但基于人脑的生理性构成,可以大概描述出人脑运行的复杂性和精密性。人脑活动是神经元的活动集合。人脑是一个由数百亿个微型处理单元(神经元)通过电—化学信号相互连接构成的、具有高度可塑性的动态复杂网络。这个网络具有极高的自我完成度,尽管每个单元的功能不尽相同,却能够协调一致地执行特定指令。这个网络通过特定环路的协同放电,实现了从感知到思维、从情感到行为的所有高级功能。它既构成了人的意向性和能动性的物质基础,提供了理解人格和人类实践活动之意义的质料,也持续被人们的经验和行为所塑造。

同时,神经活动具有多变性和不确定性。一方面,我们无法彻底掌握神经活动的原理,只能借助神经科学最大程度地展示神经活动的深层逻辑。另一方面,神经活动受外在环境的深刻塑造,既包括人自身的身体状况,也包括外在的自然和社会环境。环境会影响神经活动的特征,甚至引发神经机能的异常,从而造成疾病,比如脑瘫和失语症等。

正是由于人脑对于人的健康、生命和社会生活的重要性,人类从未停止过探索人脑奥秘的脚步。神经科学通过大量的成果揭示神经元活动的运行机理及其与人类意识之间的关系,试图寻找人类意识和认知过程的产生载体。尽管这仍然具有奥秘性,但这一探索启发了现代人工智能的发展,尤其是推动了深度学习理论的产生。人脑的层次化信息处理方式(如视觉皮层对图像的逐层抽象)启发了卷积神经网络(CNN)和递归神经网络(RNN)的设计,推动了计算机视觉、自然语言处理等领域的技术突破。随着现代医学和精密仪器的发展,人们能够对脑部的生理活动进行精确观察并治疗相关的脑部疾病。现代心理学和药理学也借助对脑部神经活动的观察而不断调整自身的理论模型,针对抑郁症和神经分裂症等作出更为科学的诊断。

同时,基于技术对人脑的深度透视和剖析,关于人脑的伦理学争论也不断涌现。福山认为,科学不断取得进展,增添了我们对于人类行为根源和大脑的知识,也让我们有能力去操控它们。齐泽克的立场则更为极端,他认为脑机接口技术抹除了主体“生而为人的内核”,消解了个人的自我体验。这些观点持有比较消极的论调,但大多数学者没有如此悲观,而是警惕脑机接口的伦理挑战。一方面,技术发展让我们认识到人脑不仅仅是一个人体器官,而且具有更深刻的伦理意义。脑科学家福克斯将人脑视为承载人格的独特物,是“受社会、文化和历史塑造的器官”。在他看来,人脑在人际交往中承担着主体间性的角色,因此人脑不仅是一个生物器官,更是一个人格载体。另一方面,由于人脑是人的思想、情绪、记忆和认知的核心处理器,所以人脑表现出天然的计算性,甚至可以被视为一种有机计算机。因此,随着人工智能技术的发展,人脑和科技之间的亲缘性越来越强,脑机接口登上舞台也是一种必然。

尽管技术发展不以解决所有伦理问题为前提,但关于人脑的伦理争论的确是脑机接口技术发展的人文底色。技术发展不单纯是工具理性的提升,更是人文价值的重构。在这种情况下,脑机接口技术的伦理性具有两面性。

第一,脑机接口的典型特征是干预,即从外部对神经活动进行干预。这是技术对人的身体完整性的外部介入,因此会引发人的身体与外部介质之间如何协调的伦理问题。在以往的技术发展过程中,这个问题并不突出,比如近视眼需要通过眼镜进行矫正。脑机接口技术所引发的伦理问题主要在于,外部技术的介入影响了自我认知,确实会带来自我认同问题。技术使用者会将自身视为技术嵌入的存在,技术使用者的“自我”与世界的关系会因为技术的介入而发生变化。

第二,脑机接口技术具有积极的建构性。人脑不仅是一个纯粹的人体器官,也具有建构性。尤其是人借着人脑理解世界,世界在某种意义上是建构在人脑之中的。人以具身性方式与世界互动,脑机接口强化了人的具身性,尤其是对接受脑机接口技术的主体来说,在一定意义上恢复了主体的具身性。因此,对脑机接口技术的伦理反思不能仅限于这项技术潜在的一些风险,比如对使用者隐私的侵犯等,还应进入这项技术应用背后探讨其对人的身体伦理之基本原则可能带来的冲击。

因此,脑机接口技术首先会冲击人的主体性,这也正是福山的主要担心之处。人是行动的主体,在产生意图之后,由意图驱动人的外在行为,意图与行为之间存在因果上的一致性。比如我想开车去购物,那么我大脑中产生的开车去购物这一意图就会驱动我开车的行为。意图和行为之间的关系也是动态的,我在开车过程中可能会播放音乐,也可能临时改变主意到另外一家超市。虽然如此,但意图和行为之间始终存在着一致的关联。脑机接口的介入改变了人的主体性状态,即出现了主体性延展,人的意图和行为之间加入了介质,导致主体性的延伸。

脑机接口技术也带来了脑机或者人机的全新关系,改变了人脑的技术处境。在传统脑科学中,人们只是借助功能性磁共振成像(FMRI)等工具观测脑神经活动,而脑机接口技术将计算性维度嵌入人脑活动之中。这种应用具有革命性意义。此处以情感脑机接口技术为例进行分析。情感脑机接口技术目前仍处在探索之中,但人工智能已经对人的情感世界产生实质影响,“成为我们的动作、语言、情感和社会生活的编导、导演”。情感脑机接口技术属于研发的高阶层次,如果能够成功,则意味着这项技术的完全成熟。

人脑不仅是人的理性的载体和输出端,也是人的情感的源头。人基于对外部世界的理解而产生出特定的情感表达。然而,人的情感毕竟不同于人脑的神经元活动。捕捉人的情感的难度更大。克服这一难题需要关注情感脑机接口应用的三个新的特征:建构性、模型化和计算性。

首先,情感是人基于对外界环境或自身处境的认知而表达出的特定反应性态度,是一种具有多面向的复杂反应。虽然情感可以通过人的情绪或语言表达出来,但情感不同于人的想法或意念。想法或意念可以通过捕捉神经元活动而被识别出来,但情感具有即时性和模糊性,无法被准确地捕捉。基于神经科学和心理学的研究成果,可以通过对人的情感进行类型化建构,比如将人的情感表达进行颗粒度分类,通过区分颗粒度密度对人的情感进行转化,以这种建构性的方式介入人的情感世界。

其次,在建构性基础上,借助机器学习方法,可以对人的情感进行建模,将人的情感反应的不同阶段模块化,通过模型化运行对人的情感进行编码、识别和追踪,从而实现情感的可视化和可分析性。

最后,计算性指的是在人工智能技术的支持下,通过深度学习和情感计算,对人的情感反应进行转译,生成交互性情感表达。这意味着情感可以被信息化和数据化,人的身体存在受到技术进一步的影响。

虽然当前神经科学和计算机科学的结合还未能提供对人的情感进行建模和计算的可行路径,但如果情感计算和转码能够实现,则人的主体状态和能动属性将会受到重大冲击,尤其是会面临着AI共情的一系列伦理挑战,比如情感同质化和钝化等。尽管脑机接口技术对人的认知和情感的影响是渐进发生的,但从伦理角度反思其未来影响,并通过法律进行预防性应对,是面对科技巨变的应有姿态。

(二)脑机接口技术的伦理挑战

目前,学界对于脑机接口技术的伦理挑战已经作了大量探讨。由于技术伦理实践的复杂性和伦理原则本身的争议,有一些伦理挑战并非脑机接口技术所独有,比如脑机接口增强的问题。有学者认为,脑机接口会增强人的记忆能力,从而引发身份认同问题。这一判断混同了脑机接口使用者自身的认知体系与技术服务者所提供的智能增强。虽然二者并非界限分明,但技术服务者的智能计算能力不能被当成使用者的构成部分。因此,认知或者记忆增强问题不能被视为脑机接口技术自身的伦理挑战。

本文将脑机接口技术的伦理挑战界定为前沿技术的伦理不确定性难题和道德责任的技术冲击,具体体现为人的主体性和人的能动性实践所面临的危机。而造成这些危机的根源在于人脑的计算性。伦理不确定性难题可理解为传统伦理原则的失效。第四次科技革命的实质是人的主体性地位的改变,这种改变由科技对人的物理性存在的渐进式冲击到革命性重构所推动,科技革命的每一次纵深推进都会改变人的主体行动方式和人格状态。主体行动方式的改变体现在思想方式的深度冲击、行动方式的选择以及模式被智能化改造等方面,如自动驾驶汽车和具身智能体的“自主决策”改变了人的决策方式。人格状态体现为数字技术带来人的能动性的变化,这种变化进而催生出“数字人格”,传统人格和数字人格的叠加使得人的人格状态更为复杂。人的主体行动方式和人格状态的改变使得传统伦理原则失效,传统伦理原则无法应用于人与技术之间,而脑机接口技术加剧了第四次科技革命的伦理不确定性难题。不同于基因编辑和具身智能等技术在功能意义上对人行动的改变,脑机接口技术是对人脑的嵌入。人脑作为人性载体,与人格密切相关。脑机接口技术使人脑所承载的人格意义通过直接的技术嵌入的方式传达出来,这会带来脑部信息完整性、神经活动连续性以及心理活动连续性的问题。道德责任的技术冲击体现为脑机接口技术带来主体性边界的消解、控制力的转移和认知模式的变化。传统个体主义的道德责任归结失效,分布式道德责任出现,个体责任承担模式转向人机共同责任范式。

脑机接口技术对道德责任的冲击源自于技术所带来的心身分离。前科技时代对人的理解的既有模式是把人看作心身合一的主体,心身合一意味着我是以我的身体作为具身载体的行动者,心灵驱动身体行动,我既是行动者,也是责任者。而脑机接口带来了心身分离的难题,心灵借助技术转化而驱动身体,在物理和因果链条上产生断裂。技术的普遍应用及其扩张对伦理学的挑战体现在两个方面:一方面,技术伦理学面临正当性难题,技术伦理学从以设计为中心转向以人—技关系为中心,技术伦理不再是设计伦理,而是人—技伦理,既关乎人如何对待技术,也关乎技术如何对待人。技术本身包含着规制力量,因此我们不能单纯地把技术当成客体。另一方面,对技术进行伦理分析的价值被悬置,传统价值找不到好的切入点。如果说价值实践体现出事物对人们的善好意义的话,那么脑机接口技术的价值需要一个新的分析框架,以承载这种技术应用中的价值评估问题。

脑机接口的伦理挑战需要从法律角度予以应对,但这种应对不仅仅是法律规制的问题。技术规制是20世纪的公共实践主题,但在第四次科技革命背景之下,技术发展更应聚焦如何与技术共存的命运性主题。脑机接口技术融合了神经科学、心理学、人工智能等前沿性理论与应用,其技术应用不仅涉及研发主体的行为准则、技术风险防范、技术应用中的行为归责等,更涉及技术应用所带来的人—技之规范状态的变化,尤其是法律规范在应对技术应用的挑战中的价值语境的变化。脑机接口技术引发神经权利(如认知自由、精神隐私权和人格完整权)的证成难题,但这些权利在技术应用中难以独立界定,因为神经活动一旦被技术读取和处理,便融入脑机交互的网络,形成人格共建格局,稀释了传统权利的防御性机制。

脑机接口等技术展现出科技发展和治理的三角困境:一是技术失控,脑机接口技术与智能计算的融合,将计算黑箱带入到大脑读取之中,导致双重黑箱,削弱了人对技术的控制能力;二是伦理悬置,脑机接口技术的应用过程带来了不同于普通数据实践和模型处理的新伦理问题,身体的延展性和人格的可塑性带来道德责任归结难题和法律评价的不确定性;三是法律空洞的实践态势,即法律的空心化,技术的涌现与法律的追求之间存在着天然的紧张,技术的自运行与进化对社会所带来的改变(智能社会、互联社会)与法律的运行机制存在不对应关系,法律规制无法完全应对现有的技术难题。

基于这种治理困境,本文接下来将主要从法律视角切入脑机接口伦理困境的解决。法律并不总是化解技术之伦理困境的最佳方式,却是最独特的方式。法律兼具价值性和制度性。法律作为价值性的存在既包含价值,又在其实现过程中呈现出独特的价值属性。法律的制度性体现在能够释放出新技术形态中的制度面向,从而以制度方式化解技术规制的难题,比如挖掘人工智能算法的制度面向而对算法规制形成有效约束。法律解决技术伦理难题的潜在空间主要体现为,法律可以在内部创造特殊的解决方案,以化解科技所带来的价值问题。未来法律需超越简单规制,致力于与技术融合创建新规范空间,探索融合于科技本身的技术逻辑和法律规范外的一套新的规范模式,为新兴科技提供更有效的解决方案。

二、脑机接口技术伦理挑战的法律应对

脑机接口技术应用带来的法律问题存在不同的层次。目前,大致可将其区分为价值问题和规范问题。价值问题主要涉及对这项技术应用所引发的价值难题的反思性应对。比如,脑机接口是否构成对使用者自由意志和自主权的挤压与侵蚀;脑机接口技术对使用者神经活动的抓取和监测,是否构成对使用者生活隐私的介入;使用者在脑机接口技术的辅助下作出的决策,在道德上是否仍然可被视为完全由个体作出的决策。

规范问题主要涉及脑机接口技术在应用过程中所面对之挑战的社会和法律应对方式。在当前技术发展如此迅猛的背景之下,新兴技术的规范应对不仅仅体现为法律问题,也是一项重要的社会议题。因此,只从法律角度对技术应用进行制度设计或规制并不足够。一方面,脑机接口技术的研发和应用是一个涉及多个领域的复杂社会安排,既需要多个学科的共同参与,也需要确立各种形式的标准,如相关的医学判断标准、产品质量标准等。基于立法成本的考量,法律无法对脑机接口技术应用的全部过程进行法律化处理,必须借助多元规范和标准的力量。另一方面,脑机接口技术的应用会对既有法律适用造成冲击。例如,侵入式脑机接口会对使用者造成身体或精神伤害,使用脑机接口的人也可能会因操作不当或技术故障而对他人和环境造成伤害。既有侵权法和刑法理论也许能够提出应对部分情形的解决方案,但难以应对脑机接口技术带来的全方位挑战,特别是难以应对技术深度介入人脑决策过程后所引发的复杂情形。在这种情况下,新兴科技对社会观念和伦理判断的影响和冲击也应当成为法律制度设计要考虑的重要内容。

在这个意义上,脑机接口技术所带来的伦理挑战与法律应对形成了一种相互映照的关系,在人工智能技术所改变的社会框架之下推动了人类健康前景的改善,也提出了全新的待决命题。本部分将从两种视角来回应脑机接口技术目前所带来的技术、伦理和法律方面的全新冲击与挑战。

(一)脑机接口技术的人格意义

脑机接口技术是新兴科技的一种应用形态,但比起基因编辑技术等新兴科技形态而言又具有一些鲜明的特色。如前所述,脑机接口技术是对人脑的介入,而人脑又是人体的神经中枢,是人的实践活动的起点。人的生理性改变并不一定会带来人格意义上的变化,即使对人体进行基因编辑,尤其是进行疾病治疗意义上的基因编辑,人的人格状态也不会发生改变。例如,一个癌症患者接受了基因治疗而得到治愈,即使其基因序列和突变能力得到改变,但他作为一个独立人格主体的地位并未被撼动。然而,脑部的技术介入不仅意味着人的生理状态的变化,而且带来了人脑的活动方式和相应的规范意义的变化。这些变化产生了新的法律问题。

一方面,使用者的法律主体地位和意义发生了改变。人基于个人意志做出的行为的法律意义一部分来自于人的主体性,即行为是反映主体意图并带来现实世界的变动的能动活动。人的主体性使得人的意志与外部世界实现意义关联,从而能够进行伦理评价和法律归责。脑机接口技术对脑部进行生理性干预,对人的主体地位带来影响。个体在生活体验上受到冲击,“脑机接口设备对主体负面情绪的强大抑制能力,稀释了生活体验的真实性,这会影响主体的自主思维和自主行动”。情感脑机接口会加剧这种疏离感。

另一方面,人脑活动的规范性空间因为技术的介入而得到扩展,引发规范性分层的难题。传统的规范性观念建立在人的意志与外部活动的因果一致性基础上。人的脑部活动是瞬息万变和千差万别的,但我们可以统一用人的意识或主观状态来界定人通过神经活动而表现出的意向性(intention)。然而,随着脑机接口技术实现对人脑活动的辅助性或者深度协助,人的意识的规范性出现分层。人的意识既包括基于脑部自然神经元活动的驱动,也包含技术对人脑的空间延展。对于这种规范性分层的实践意义,可能存在两种理解方案。一种方案认为,既然人脑活动的原理是人们无法完全理解的,那么介入智能技术的脑部活动依然无法让人们完全掌握,所以脑机接口技术的应用不会带来新的规范性问题。另一种方案则主张,人类意识的外部化和智能化延展了人的意识空间,同样也改变了人和世界的外部关联方式。人的神经活动的外部编码在计算技术的支持之下对人的意识进行了模型化改造,因此人脑的规范意义必然会发生改变。

笔者认为,第二种方案更加符合脑机接口技术的实践,也能够帮助我们更好地理解脑机接口技术的伦理和法律挑战。传统人格观念奠基于人的主体独立性和自主性,脑机接口技术的规范性分层赋予了人格观念新的内涵。尽管人的意识如何产生这个问题仍然是未解之谜,但人脑与意识之间的微妙平衡被脑机接口技术打破。泰格马克指出,意识是信息处理过程的结构。尽管未能就这一认识达成共识,但这一观点表明意识是可被转化和延展的。脑机接口技术给使用者带来了知识论和控制论意义上的突破。在知识论意义上,普通人借助后天知识训练而将对外部环境的理解转化为行动意图,脑机接口使用者则是通过知识嵌入的方式完成其行动。尽管行动意图仍然是使用者产生的,但这种意图的呈现和外显是借助算法对神经活动的解码和智能编码而完成的,算法发挥了知识辅助和增强的作用。在控制论意义上,脑机接口技术既辅助使用者实现了对外部行动的控制,也借助一套算法的控制机制帮助使用者具备了控制能力。

在这双重意义的叠加之下,脑机接口使用者的主体状态受到了脑机接口技术的实质改造,不再是纯粹意义上的行动主体,而是人机交互意义上的行动主体。这种人机交互不是简单的机器辅助,比如由生成式人工智能辅助知识创造,而是机器逻辑的深度嵌入,因此也是人格意义上的更新和扩展。这一扩展被脑机接口所带来的身体边界的延伸所强化。由人的意志所驱动的传统人格图景被机器嵌入甚至主导的新兴数字人格图景所替代。

(二)应对脑机接口技术挑战的制度设计

尽管由于脑机接口技术尚未进入商业化应用,这些伦理问题究竟会在实践中产生哪些具体困扰,我们尚不得而知,但目前在研发阶段,一些法律问题已经暴露出来,有必要通过及时的制度安排加以回应。

首先,脑机接口技术的发展不能仅靠算法和模型自身的优化,也需要大量的临床数据的支撑。当前,癫痫、帕金森病、阿尔茨海默病等神经相关疾病的群体人数也比较多,脑机接口技术应用具有广阔的市场需求空间,在受试者类型的广度上也存在优势。然而,由于技术研发者和病患之间存在信息不对称,病患对技术原理和潜在风险无法充分掌握,因此在临床试验过程中应当确定更加清楚和具有可操作性的知情同意规则。知情同意规则在当前的个人信息保护中已经成为制度共识,但这一规则的适用在实践中面临挑战。其主要体现在,个人信息的流通语境在不断发生变化,信息所有者和信息收集者之间的权利结构失衡,信息所有者的知情同意的效力与其对自身信息的控制无法匹配,导致实践中反复出现知情同意弱化、个人信息不断被滥用的问题。

在脑机接口技术的临床试验中,除了推动知情同意规则的落实,还应该辅之以不间断的伦理评估,在受试者和研发者之间形成有效的伦理对话机制。目前的科技伦理审查机制尚不能充分应对脑机接口技术在临床试验中可能出现的各种潜在风险。2025年9月公布的《生物医学新技术临床研究和临床转化应用管理条例》第3条规定:“本条例所称生物医学新技术,是指以对健康状态作出判断或者预防治疗疾病、促进健康为目的,运用生物学原理,作用于人体细胞、分子水平,在我国境内尚未应用于临床的医学专业手段和措施。”根据这一规定,脑机接口技术属于生物医学新技术,但不同于作用于人体细胞、分子水平的普通技术,其伦理色彩更为浓厚,与人体健康和生命福祉的关联性更强。因此,以现有法律法规为基础,专门针对脑机接口技术的临床试验制定相应的法律规范,具有现实必要性。

其次,由于脑机接口技术是对人体的直接医学干预,因此应当受到医学伦理的严格审查和评估。为了避免伦理审查流于形式,必须对脑机接口技术的研发进行实质伦理审查。在实质审查中,对脑机接口技术对人的主体性究竟会产生何种影响进行评估,需要一种多学科的视角。哲学和伦理学对人的主体性状态的理论阐释需要与神经科学和计算机科学关于人脑的决策过程的研究相结合。举例来说,情感是人表达自身主体性的一种重要方式,但神经活动障碍者无法通过有效的情感表达来彰显其主体性,情感脑机接口有助于补齐患者的情感缺失,帮助其实现情感完善。然而,相比于人的意识活动,情感表达更加不易确定。虽然当前研发者通过算法优化和模型训练已经能够提升机器读取人的情绪变化的稳定性能力,但准确识别脑机接口技术给受试者带来的是情感辅助还是情感操纵,需要确立更具有操作性的规范。在情感问题上,法律实现有效干预的空间较为有限。有效的路径是实现情感判断、技术创造和法律评估的有机结合。人的情感判断借助技术编码而具备了可计算性,计算技术有助于赋予人的情感以理性色彩,但应当防止情感的完全代码化,保留情感的自主运行空间。法律法规无法对情感的代码化作出全方位规定,因为脑机接口技术日新月异、不断更新,法律无法完全追踪技术发展的步伐,但可以在研发阶段通过规范的完善来发挥防范作用。临床试验毕竟不同于大规模商业化应用,应当让法律成为脑机接口技术试验的潜在情感风险的“急刹车”机制。

最后,人工智能技术在脑机接口中的应用拓展了数字技术的适用空间,增加了数据和信息的类型,同时也给数字法律制度带来了新的挑战。随着人工智能技术应用范围的扩大,各种新型数据和信息不断涌现。在医疗领域,人工智能技术辅助医疗诊断和药物开发的能力不断提升,新型数据不断累积。脑机接口技术将人脑活动中的脑电图或者脑磁图转化为可被存储和加工的数据集。随着这类数据的累积,数据保护和使用的规范问题就会成为一项重要议题。目前,脑机接口临床试验仍然存在局限,数据量较小,因此还不足以构成严重的数据侵权问题。但技术发展会以指数级速度运行,脑机接口技术在不远的将来会实现质的突破。这项技术和人工智能技术的叠加之处在于以数据作为最终驱动力,因此数据问题将成为法律治理的关键问题,也是伦理问题的主要载体。

三、脑机接口技术治理的法理前瞻

脑机接口技术在伦理上的挑战不仅是一个伦理论辩的问题,更是一个社会治理的问题,也是法律应对的重要领域。科技治理并不总是能够有效地化解伦理难题,但只有借助有效的治理框架和制度举措,才能缓解社会对技术发展的伦理焦虑。脑机接口既需要实现技术上的突破,包括提升信号解码的能力,研发更加高效的尖端材料,以及进行更好的产业谋篇布局等,也需要在治理上形成有效的框架,通过法律将之确定下来。在脑机接口技术的治理中,数据是技术研发和应用的关键资源,因此是法律制度应对的核心关注。如克劳福德所言,“多年来数据积累的实践促成了强大的数据提取逻辑,这种逻辑现在是人工智能领域运作的核心特征”。这并不是说其他问题不重要,比如生产对人脑造成最小伤害的侵入式材料是重要的,但通过产品质量法可以为解决这个问题提供规范依据。人脑数据不同于获取这些数据的材料。由于脑机接口技术成功的关键在于将人脑的神经元活动转化为有效的数据,并且这项技术以后所引发的伦理担忧也主要和数据技术相关,因此法律应对的主体内容也应该围绕数据问题而展开。

(一)脑机接口的数据治理

脑机接口的数据问题首先涉及定性问题。脑机接口将产生海量数据,从这些数据中可以解读出关于人脑活动及其传达的意识和思想的信息。而使用者对个人信息的汇集和识别使得个体隐私暴露在危险之中。我们需要对数据、信息和隐私这些概念作出清楚的区分。

脑机接口数据指的是,通过脑机接口获取人的脑部神经元信号活动,通过数字化形式加以转化、储存和加工后用以驱动外部活动的符号化记录。脑机数据大多是对人的脑部神经活动的记录,因此脑机数据也可称为神经数据,目前在性质上属于医疗数据。脑机数据具有可识别性和可推断性。

信息与数据很多时候并不容易区分,但在脑机接口引发的数据治理中,有必要对神经信息和神经数据作出明确界分。在信息时代,信息的概念内涵变得多元且充满歧义,信息获取、传输和解读的活动已经被纳入深度算法化的塑造过程。因此,信息包含着意义空间,应当区别于单纯存储形态的数据。神经信息是通过神经数据对神经活动进行描述和创造性加工之后所形成的对个人意识和思想的呈现,是对人脑中高度复杂的思考和推理活动的外部展示。只有借助精密模型和精准计算才能将神经数据转化为神经信息。当然,这只是一个分类学上的区分,在具体的实践中,精确地区分神经信息和神经数据比较困难。在神经数据和神经信息的基础上,个人在神经领域的隐私也具备了独立意义。然而,神经隐私具有独特性,不同于人在其他数字领域所享有的隐私。隐私通常指的是个人自主生活的不可干预性和不可侵入性。随着数字技术的普遍应用,隐私的内涵已经发生改变。

有学者提出场景论的隐私观,即基于不同场景中所涉及的个人人格利益而划定隐私的边界。场景论的隐私观具有一定解释力,但在神经隐私这个问题上显得捉襟见肘。

一方面,传统隐私并不包含对个人精神世界的保护,只有个人通过文字或者表达将自己的思想和意念清楚地表达出来,才可以主张隐私权并得到保护。脑部隐私突破了这一概念限制。脑机接口技术成功的关键在于,对人的最为复杂、类似黑箱的脑部神经活动以清晰、系统和有效的方式加以外部呈现,并借助智能化处理而转化为驱动外部行为的指令。在这个过程中,虽然人的思想和意念最终成为外部活动和轨迹,但人的脑部活动通过技术而被获取和敞视,人脑被纳入到人机协作框架之中,既产生了脑身分离,也实现了神经活动的实体化。在这个过程中,不仅人的外部表现性活动成为计算对象,人的思想世界也需要不断被解码和转化,人的脑部数据也需要反复不断地加工和更新。按照传统隐私观,脑机接口技术的介入使得个体隐私不复存在。

另一方面,隐私所承载的个体行动意义和边界在脑机接口技术应用中也发生了变化。传统意义上的隐私强调人在人格上的空间阻断,个体拥有不受外部介入的独享空间,或未经同意不得擅自介入个人生活的防范空间。因此,个人隐私具有较强的人格性,与信息和数据存在不同。三者的保护也可以采取分而治之的路径,形成定位不同的法律规范。然而,脑机接口技术应用改变了这一传统区分,带来了隐私边界的变化和隐私类型的多元化。脑机接口技术设备对脑部的介入本身并不带来隐私问题,但一旦从人的脑部读取活动信号,则构成对人的人格空间的直接介入,并通过转码将人的思想世界外部化。这种技术应用方式直接冲击了隐私的传统物理基础,也模糊了隐私与数据和信息之间的界限。在传统上,并非所有的个人信息都属于隐私,因为个人拥有大量的公开信息。但在脑机接口问题上,从脑部活动提取和转化而成的信息本身就具有很强的人格属性。即使使用者知情且同意,脑部隐私也不同于一般隐私,个体无法完全让渡对自身隐私的掌控,知情同意存在限度,脑部数据使用和信息处理需要受到更为厚重的伦理约束。例如,在刑事诉讼场景中,主动侵入式脑机接口生成的数据是否能够作为刑事证据,将是这一技术成熟之后必然面对的实践难题。这些数据具有强大的客观性和证明性,但又受制于程序正当的限制。对于这些数据的使用是否能够超越当事人的知情同意,需要进行前置性程序规则的完善设计。

据此,既有的数据和信息法框架在脑机接口技术治理上存在局限,需要作出调整,从数据和信息保护机制转向神经计算伦理的构建。这种治理转型需要从以下三个方面展开。

第一,在脑机接口技术广泛应用的背景下,脑机数据和信息的治理重点不在于保护,而在于利用。这种利用的核心原则在于伦理先行、兼顾效益。伦理先行强调的是,脑机接口技术首先是一种伦理实践,其对使用者主体性和人格性的影响和重塑将伴随着技术发展和成熟而不断深化。技术治理需要在进行充分伦理和价值论辩的基础上进行。伦理论辩既涉及对脑机接口技术全过程的伦理评估和审查,也涉及如何通过法律规则来确认伦理审查的效力。数据活动对人的人格状态所产生的实质影响、对人的尊严地位的冲击、对人的责任边界所产生的扩展等,都需要纳入伦理审查的考量之中。

第二,脑机接口技术的规制需要在当前的数据和信息法体系的基础上开展,但仅凭法律规范不足以解决数据保护的难题。如前所述,个人隐私的边界会伴随脑机接口技术对人脑解码能力的提升而发生变动。个人隐私究竟如何划界,取决于使用者对脑机活动的参与程度、信息传输和技术解码的能力等。大量脑部数据无法解码,但可能承载个人隐私,对这些隐私进行特别保护并无必要。脑机接口技术将带来一种特殊的隐私存在状态:个体、技术开发和服务商将共享对个体隐私的支配权。尽管借助技术手段可以实现个人隐私对服务商的脱敏,但毕竟个体隐私的载体发生了变化,相应的隐私规范也应调整。既有隐私保护规则并不能适用于这种新型的动态式共享隐私情形。化解这一难题的出路在于,将关于脑机协作的伦理规则和法律规则融合,并辅助以相应的计算规范。例如,可以通过设计一些标准,计算使用者的真实意图与外在的行为表现的匹配度,以及在这个过程中使用者脑部数据被加工和转化的程度,并设置特定的函数关系来反映个体隐私的量化层次,从而对数据和信息的加工使用形成整体性判断。通过伦理规则、法律规则和计算规则的三方用力,突破隐私保护的困境。

第三,脑机接口技术应用涉及医疗、产品责任、数据保护等多个领域,随着技术不断普及,其立法问题会成为治理的一项重要议题。由于脑机接口技术的伦理挑战与法律挑战并存,法律规制跨越公法和私法等多个领域,专门制定统一的法律进行规范的路径并不可行。由于这项技术所引发的实践困境大多与数据问题相关,因此可以在数据和信息相关法律规范的基础上进行整合,并辅之以面向特定问题的专门立法。脑机接口技术将会推动人工智能法律实践走向深化。举例来说,随着人工智能技术在社会生活中的应用场景的拓展,其归责难题也不断凸显。自动驾驶汽车解放了人的双手,但对于如何确定其碰撞事故的民事和刑事责任难以构建清晰的标准,在类似电车难题的场景之中更是如此。具身智能体将能够在人机互动的框架中基于一定的自主性执行特定任务,但也由此引发行为结果如何归责的难题。生成式人工智能的迅速普及也引发著作权侵权问题,即由大模型针对原有版权的数据进行训练之后而生成的相似性作品,是否属于传统意义上的著作权侵权。

这些归责难题形态不一,但背后贯穿着一种相似的逻辑:技术对人的能动边界的拓展和替代,是否最终仍然由人来承担行为后果?脑机接口技术的归责问题具有独特性,因为智能算法并未完全脱离人脑,而是和人脑共同发挥作用。然而,这也导致人的个体责任消散,分布式责任出现。化解这种分布式责任难题,有助于为解决其他类型的人工智能归责难题提供参考。目前,学界已有一些伦理学讨论回应这一难题。基于脑机接口的计算伦理,这一难题的化解需要综合考虑脑机接口技术介入人的主观决策的程度。在应用初期,受解码能力的限制,人的身心分离并不突出,则应由个体承担相应行为的道德和法律责任。但随着脑机接口技术的深度应用,人脑的编码性和计算性属性得到强化,人的主体性被嵌入到脑机理性之中,如此便需要根据数据利用的内在结构而构建一种人机共担的责任模式,并据此设计相应的法律应对方案。

(二)脑机接口新兴权利的证成

科技进步改变了人的处境和互动关系,尤其是将机器维度纳入到社会生活之中,对人的主体性和能动性造成冲击。在这些挑战面前,一种应对策略是提炼新的权利类型来保护人们在科技冲击下的利益主张。脑机接口技术将人脑敞视在外界之中,并将人的脑部神经活动纳入到数字化框架和网络之中,产生了新的权利增长点。因此,学者们围绕着脑机接口技术提出了各种新兴权利主张,以此来防范技术风险和实现技术善治。早在脑机接口技术还处于设想阶段时,就有论者提出应对神经科技挑战的神经权。随着这项技术的发展,与神经相关的权利开始为人们所熟知,相应的权利主张也愈发多元,比如精神健全的权利和心理连续性的权利等。

然而,新兴权利理论在应对这些挑战上存在困难。一方面,新兴权利理论目前在法理学上存在争议,有很多主张否认新兴权利的存在。另一方面,无论是生成式人工智能还是脑机接口技术,其对既有权利体系造成的冲击有轻有重,有一些传统权利可以在新形态下焕发“新意”,有一些权利则具备了更为全备的新兴形态。本部分将论证,新兴权利的证成应当遵循吸收原则,即如果一种新兴技术所产生的新兴利益主张可以被既有权利所吸收,那么就应当在既有权利框架下保护这种利益。如果新兴利益主张无法被充分吸收,或者吸收之后的保护成本依然很高,则应当将这种新的利益主张作为一种新兴权利加以对待。

目前,关于脑机接口的新兴权利类型大致可被区分为两类。第一种新兴权利类型的确与传统权利存在关联,比如神经数据权、神经信息权和神经隐私权等。这些权利属于既有权利在神经领域的具体体现,虽然属于新的利益类型,而且其内涵有更重的伦理分量,但本质上仍然属于其原初权利。按照前述,神经隐私权属于隐私在人的脑部世界中的特定利益的呈现。这种隐私权仍然不能脱离数字隐私权所指向的核心,即人在数字空间中不受反向支配和宰制的主张,但必须呈现出人脑所承载的更加厚重的伦理分量。因此,对神经隐私权的保护重点不在于确立神经隐私权作为一种新兴权利的地位,而是恰当地对待和尊重这种隐私权,“需要保护的利益仍然是个人的信息自主权,精神隐私权的提出只是再次确证了信息隐私的自主性前提”。人的神经隐私权所强调的并不是神经领域的不可侵入性,而是在多方主体的共享结构之中对个体脑部世界呈现和转码的克制性。这并不意味着脑机接口技术不能介入个体精神和思想世界,而是在技术应用中获得使用者的充分信任。

此外,神经活动的可监测性和可转码性使得人在脑部产生了比较独特的人格利益主张,神经隐私权和信息权具有了权利独立的潜在空间,但要使得这种独立人格权益被证成为某些具体的权利仍面临以下难题:一是神经活动的分离和独立问题。脑部活动是大脑神经元的信号传递和网络协同活动,是人的身心活动的组成部分。神经活动的分离主要得益于脑机交互,脑机交互将神经活动外展,从而实现人的“神经互联”“万脑互联”。技术的介入使得人的神经活动不再纯粹,脑机交互的活动导致无法把个人的神经活动单独区分出来。二是技术使用者的人格共建问题。传统人格具有独立性和区分性,且依赖于人身;数字人格具备了延展性,由数字技术所支撑。脑机接口技术实现了人格由内而外的贯通,思想与行动的内外共振,形成了“人格共建”的格局,人格的独立性难以论证。智利《神经权利法案》第4条指出:“禁止使用任何系统或设备,无论是神经技术、脑机接口还是其他,其目的是侵入性或非侵入性地获取神经元活动,有可能损害人的心理和精神连续性,即他们的个人身份,或有可能削弱或损害他们的自由意志或决策能力的自主性。”这一规定是全球范围内为数不多的对神经权利作出规定的正式法律规范,但并不足以支撑起神经权利的独特性,自由意志和决策能力仍然可以被其他人格权利所吸收。

第二种新兴权利类型则涉及信号传输、解码转化过程中所引发的问题。这些问题在技术不成熟时不会暴露出来,但一旦技术成熟,则会立马凸显出来,比较典型的是脑机算法对人脑的反向支配。脑机接口技术越成熟,就意味着脑机算法对人的神经活动进行解读和反馈的能力越强,也就产生了算法对人的意念和想法进行支配的可能。人的认知自由和神经自由不同于一般意义上的自由。在日常实践中,即使人的意志受到外在环境的影响,甚至可能会处在胁迫之下,但其做出的行为与自身意志之间也存在一致性。脑机接口参与到使用者的认知和意识活动之中,与人形成交互,使得使用者的认知活动处于一种前所未有的状态之中,外在技术转化为内在的认知构成,“读心”成为现实。这种技术对人的认知的影响完全不同于外在的引诱、操纵或者误导对人所产生的影响,人的认知自由具有了独特的利益形态。

根据上述分析,人的神经认知自由与神经信息权等权利类型存在不同,应当被视为独立的权利主张。通过保护人的认知自由权,可以有效地为技术开发者的研发行为划定边界。同样,认知自由权的证成也是基于计算伦理。在计算范式之下,人的认知和自由思考不再是大脑内部的推理和决断,而是外部符号、编程和模型所驱动的计算过程。认知自由权的确立是为了让人的精神世界可以免于计算化和模型化的完全宰制,因为脑机接口技术能随时检测人的思想活动。脑机接口技术展现了计算化的优势,但也会带来技术失范的风险。认知自由权能够在人的认知自主和机器理性之间达成一种平衡,以免技术发展的强势地位迅速冲击人的主体性。当然,这种平衡难以通过法律规范的形式予以明确规定。在计算伦理理念的指引之下,合宜的方式是赋予权利以特定的计算属性,并设计可计算的阈值来确定认知自由权是否处于危险之中。这并不是说权利就是一套计算公式,而是要借助计算理性,将技术使用者、开发者、医疗服务商和产品生产者等复杂的主体放置在一个可受约束的行动框架之中,从而将权利保护落在实处。

结 语

虽然脑机接口技术在几十年前就已经进入科学家的设想之中,但其只有在算法爆发的数字时代才可能成为现实。这项技术不同于普通的人工智能算法应用,而是直接进入人脑这个最为复杂的器官之中。传统信息技术会引发数据和隐私问题,也会对人的主体性造成冲击,但脑机接口技术以深度嵌入的方式冲击了人的人格边界、主体自由和责任结构。尽管这项技术尚未完全成为现实,而且从产业发展进程来看,其技术突破的难度要远远大于普通人工智能应用的技术突破难度,但其巨大的医疗健康应用前景和复杂的伦理挑战使得法律上的未雨绸缪变得必要。本文对脑机接口技术在实践中可能引发的技术失控、伦理悬置和法律空心化难题进行了呈现,并针对这些问题探索了可行的解决方案。不同的技术在应用中会出现不同形式的失控状况。随着数字技术的不断升级和突破,算法和脑神经读取技术的深度融合所产生的结果可能与人们的预期形成偏差,或者超出人们的掌控和管理范围。为了应对这种失控危机,我们应当通过确立负责任的技术设计原则来约束脑机接口技术开发和应用的全过程。脑机接口技术引发的伦理悬置亦不同于普通的数字技术的伦理挑战。这项技术直接对人的认知和意识产生影响,亟需构建新的伦理框架和原则加以妥善回应。积极的前瞻式法律治理方案是回应其伦理挑战的有效方式,也是化解法律空心化难题的迫切要求。尽管法律无法完全应付技术发展中的各项难题,但调动伦理和法律的互动空间,以计算伦理作为指导,通过巧妙的伦理、法律和技术的融合能够为脑机接口技术治理提供支持。权利观念固然重要,但新兴科技带来了复杂的权利挑战。澄清权利的边界,确立神经权利的内涵,有助于让脑机接口技术得到规范发展。

【作者简介】

郑玉双,男,法学博士,中国政法大学法学院教授,博士生导师。

    进入专题: 脑机接口   计算伦理  

本文责编:SuperAdmin
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 法学 > 理论法学
本文链接:https://www.aisixiang.com/data/176488.html
文章来源:本文转自《齐鲁学刊》2026年第1期,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2025 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统