【摘要】生成式人工智能使个人信息删除权陷入行使困境:一方面,个人信息一旦经过语料训练嵌入模型结构,便与模型深度耦合,难以被彻底删除;另一方面,即便删除了原始数据,模型仍可能基于“记忆”生成相关信息,使得法律上的“删除”无法实现“被遗忘”目的。这一困境是立法选择与技术变革共同作用的结果。“删除本质论”将权利的核心权能限定于“删除”这一单一行为模式,而大模型的技术架构使该履行方式难以实现其规范目标。回溯权利本源,个人信息删除权旨在实现“被遗忘”,以删除为核心的权利定位偏离了这一初衷。理应以“被遗忘”为规范目标,重塑个人信息删除权的权利内涵,使其从单一的删除请求转变为由“删除权”与“限制权”组成的复合权利架构:前者旨在删除数据,后者则旨在限制数据的访问、使用、生成和传播。“限制权”更加契合大模型的技术特性,也更有助于权利目标的实现,为平衡个人权益和模型提供者利益提供了有效的替代路径。与此相应,大模型提供者的法律义务亦应转向“删除”与“限制”并举的双重结构,即在应用层延续删除义务、在基础模型层转向限制义务。
【关键字】生成式人工智能;大模型;个人信息删除权;被遗忘权; 限制权
引言
个人信息删除权是个人信息权利体系中的“王牌权利”,在全球范围内引发了广泛的立法回应与理论争鸣。这一权利使自然人得以请求信息处理者删除其个人信息,行使“后悔权”和“改变主意的权利”。[1]借此,自然人得以获得“遗忘过去,重新开始”的机会,摆脱因错误信息发布或断章取义的报道所带来的困扰,避免在网络环境中被永久性地评价和伤害。[2]正因为承载着这些功能,个人信息删除权与隐私权、名誉权等人格利益密切相关,对于维护数字时代人的尊严与自主性至关重要,并由此超越一般个人信息保护范畴,成为国际人权法中被广泛认可的概念。[3]然而,这项承载着重要人格利益的权利,正面临着技术变革带来的严重冲击。
我国《民法典》第1037条、《个人信息保护法》第47条、《网络安全法》第43条以及《未成年人保护法》第72条等法律明确规定了个人信息删除权的权利内涵以及信息处理者所应承担的法律义务。然而,生成式人工智能的出现使这一权利陷入了“删除困境”:一方面,个人信息一旦经过语料训练嵌入模型结构,便与模型深度耦合,导致在技术上难以删除;另一方面,即便删除了原始训练数据,模型仍可能基于“记忆”推断生成相关信息,使得法律上的“删除”行为无法实现“被遗忘”效果。如何在大模型时代重构该权利的实现路径,已经成为亟待破解的法律与技术难题。对此,有观点认为,大模型在语料训练阶段已进行匿名化处理,因此,个人信息删除并非真问题。然而,这一主张值得商榷。技术上的“匿名化处理”不等于法律上的“匿名化”。研究表明,即使使用最先进的技术对文本进行匿名化处理,大语言模型仍能推断出许多包括位置和年龄在内的个人属性。[4]
我国的个人信息删除权在制度设计上深受欧盟《通用数据保护条例》(General Data Protection Regulation,以下简称“GDPR”)中被遗忘权的影响。然而,两者并不能简单等同,其功能定位与规范旨趣存在差别,学界对于“两者之间谁是手段、谁是目的”亦尚存争议。这一悬而未决的争论,恰恰构成了破解“删除困境”的关键:若“删除”本身为权利本质,则删除一旦陷入技术上不能,权利便随之落空;若“删除”仅为手段而“被遗忘”为权利本质,则删除不能并不等于权利落空,仍可经由其他路径实质性地兑现。因此,在大模型时代重新审视个人信息删除权与被遗忘权之间的关系,不仅关系到该权利的现实效力,也直接影响如何在技术快速发展的背景下有效平衡大模型提供者的利益与信息主体的合法权益。
既有研究在这一问题上尚存缺口。在《个人信息保护法》出台之前,相关研究多以立法论视角探讨权利本身的正当性与规则设计,并围绕删除权与被遗忘权的关系展开争论;[5]在《个人信息保护法》出台之后,研究重心转向以法律解释与适用为目标的解释论。[6]然而,无论立法论还是解释论,大多预设了个人信息可定位、可删除的传统互联网场景,因而难以回应大模型场景下“信息无从定位、删除难以实现”所带来的新问题。本文即以此为问题意识,追溯个人信息删除权的权利本源,探究其权利本质,厘清其与被遗忘权的关系,并在此基础上重释个人信息删除权的权利内涵,为破解大模型时代的“删除困境”提供理论依据和实践路径。
一、个人信息删除权的既有制度安排与实现困境
生成式人工智能对个人信息权利保护提出了深刻挑战。[7]个人信息删除权的行权困境,并非孤立的技术现象,而是特定立法选择与技术演进之间结构性张力的必然结果。在制度层面,我国在权利本质的三种学说中作出了以“删除”为核心的立法选择,而这一选择恰与大模型参数化、不可逆的技术机理产生了深层错位,导致大模型语境下权利的实现困境。
(一)个人信息删除权的制度选择
回溯个人信息删除权的制度生成脉络,围绕其本质属性,学界存在三种代表性立场。第一种观点是“同一论”,认为个人信息删除权与被遗忘权仅称谓不同,其“在内容上完全重合”,[8]两者可视为同一概念。第二种观点是“删除本质论”,认为被遗忘权的感性色彩太浓,[9]在两者之间,被遗忘权的实质是删除权,“删除”是权利的本质。例如,有观点指出“删除权是根本,被遗忘权是补充”[10]“被遗忘权的概念并不能反映该权利的本质,改为删除权更为妥当”[11]“所谓被遗忘权的实质就是删除权”[12]。第三种观点是“被遗忘本质论”,主张区分权利的工具价值与目的价值,“被遗忘”是权利的本质与权利行使的目的,而“删除”则是“实现被遗忘”的手段。[13]
我国立法者在本土化过程中最终采纳了接近“删除本质论”的立场。《民法典》第1037条以“删除”作为请求权的核心内容,《个人信息保护法》第47条亦以“应当主动删除”与“有权请求删除”为基本表述结构,从而在实证法层面将该项权利的核心权能限定于对个人信息的“删除”这一单一行为模式之上。这一立法选择构成了后续讨论的制度起点,亦是理解大模型时代“删除困境”何以发生的关键前提。
应当承认,以“删除”为核心权能的立法选择在传统互联网平台场景下具有相当的可操作性与制度合理性。在传统互联网平台的信息处理模式中,个人信息以集中、可定位的方式存储于平台数据库之中,每一项个人信息均对应着特定的数据条目,删除请求能够精准对应到具体的存储位置,处理者通过执行删除指令即可在事实上阻断该信息的后续访问、调用与传播。在这一场景下,“删除”作为手段与“被遗忘”作为目的之间维持着稳定的对应关系,立法所设定的履行方式与其所追求的规范目标之间并不存在落差。
然而,当个人信息处理的业态载体由传统互联网平台转变为大模型时,这种“手段—目的”的对应关系发生了断裂。断裂的根源在于,传统立法所预设的“信息以可定位、可删除的形式存在”这一隐性前提,在大模型的技术架构下已不复成立。在大模型中,个人信息不再以集中、可定位的数据条目形式存续,而是以一种深度融入模型自身的方式参与到信息处理过程之中。由此带来的规范后果是,立法者所设定的“删除”这一履行方式,与立法者所追求的“使个人信息脱离处理者支配范围”这一规范目标之间,丧失了原本稳定的对应关系。个人信息删除权由此陷入一种特殊的“删除悖论”,即立法所设定的履行方式无法实现其所追求的规范目标,权利在规范上虽然存在,在事实上却无从兑现。
(二)个人信息删除权实现困境的具体表征
1.行权前提的缺失:信息主体知情权的落空
个人信息删除权的有效行使以信息主体对其个人信息的收集与处理情况充分知情为前提。然而,在生成式人工智能场景中,模型透明度普遍不高,[14]知情权难以真正落地。
模型训练阶段具有高度的隐蔽性,信息主体既无法预知其个人信息被纳入训练集的风险,也缺乏事后验证的渠道。训练数据集中可能包含着亿级规模的碎片化个人信息,且来源庞杂、更新频繁。要求开发者在训练前精准定位每一位信息主体并履行《个人信息保护法》第17条规定的告知义务,在技术上几近不可能,在经济上亦不具有期待可能性。此外,鉴于大模型主要依赖网络爬虫技术获取海量公开数据,依据《个人信息保护法》第13条第1款第6项,在合理范围内处理此类“已公开个人信息”可豁免“同意”程序,这在一定程度上加剧了知情困境。
在模型应用阶段,信息主体的知情权同样难以得到保障。大模型的用户数量庞大且主体类型高度多元,其生成内容具有显著的不可控性和外溢性。一旦模型在推理与生成过程中输出涉及特定个人的信息,现有技术机制通常无法向该信息主体发出通知,也缺乏识别、追踪或反馈渠道,导致个人对其信息被生成、使用乃至传播的全过程完全不知情。知情权在应用阶段的缺失,不仅使信息主体无法及时行使删除权,也进一步加剧了其在生成式人工智能环境中的结构性弱势,使个人在信息时代的权利主体地位被进一步削弱。
2.权利实现的障碍:信息删除的技术难题
与传统互联网平台的信息存储逻辑不同,生成式人工智能通过海量数据训练将离散的个人信息内化为参数表征,导致“删除”在技术上难以实现。
其一,训练语料层面的“可定位删除”往往难以成立。生成式人工智能依赖大规模数据集进行训练,个人信息的相关数据记录可能分散在多个数据库、日志文件和备份系统中,无法根据命令检索特定信息,[15]导致难以定位需要删除的个人信息。[16]更为重要的是,大模型的技术本质是从数据中习得概率分布与逻辑规律,而非对原始数据的简单存储。这意味着,大模型算法可能仅从数据中学习,并不保存原始数据,从而导致没有数据可删除。[17]
其二,信息内嵌导致“删除数据”并不等同于“消除影响”。与传统数据库中“删除记录即清除信息”的逻辑不同,个人信息在训练过程中会被向量化并内嵌进模型参数,经过多轮迭代形成复杂的统计关联与特征表征,深度耦合于神经网络结构之中。这意味着,个人信息的影响并不依存于某条可定位的原始数据,而是分散地固化在参数空间内。因此,仅从训练集中移除某一条个人信息,既无法回溯性地消除其在既往训练中已然形成的参数影响,也不能确保模型此后不再复现该信息。研究表明,在模型容量较大、训练样本重复出现或被给予特定提示的条件下,模型仍可能逐字复现训练语料中的内容。[18]即便删除原始数据,这种已被习得的复现能力仍可能保留,导致模型在技术上难以实现对已学习个人信息的彻底清除。
其三,若追求“彻底删除”以阻断模型的生成能力,将面临难以逾越的技术与成本障碍。一方面,模型的行为由训练生成的参数权重决定,数据与参数深度耦合,强制删除特定数据可能破坏参数间的联动效应,进而引发不可预测的性能波动,其效果如同从大脑中抹去一段记忆,后果难以预测。[19]另一方面,虽然重新训练模型可以从根本上消除该信息的影响,但其所需的算力与能耗成本极其高昂,[20]在实践中不具备现实可行性。正因如此,现有技术条件下的“彻底删除”往往陷入无法落地的困境。多主体、规模化的删除请求也会对大模型提供者造成沉重的合规压力。大模型往往涵盖海量的个人信息,一旦信息主体同时提出删除请求,提供者不仅需逐一处理并核实这些请求,还要确保模型在调整后仍维持稳定性。这将显著增加计算、工程与维护成本,使大模型提供者难以承担相应的处理负担。
其四,用户与大模型的交互过程可能形成“删除循环困境”,进一步提升删除成本。在模型应用阶段,用户可能提交新的个人信息,这些新信息会被模型自动嵌入并用于后续的迭代训练。[21]这意味着,即便删除用于模型训练的原始数据,这些新输入的数据仍会在模型中形成新的隐性表征和推断能力,导致信息泄露风险和删除难度循环上升。
综上,大模型时代的“删除困境”深刻揭示了现行法律规范与新兴技术之间的结构性张力。《个人信息保护法》第47条第2款虽然为“技术上难以实现”设立了例外条款,但该豁免行使以“停止除存储和采取必要安全措施之外的处理”为前提。在生成式人工智能场景中,大模型提供者往往难以满足这一要求,个人信息一旦被参数化吸收,便不可控地参与模型推理,停止处理在技术上几乎不可能实现。因此,“技术上难以实现”不能成为拒绝履行删除义务的合理依据,更不能成为规避责任的当然理由。正如有学者所言,删除权作为一项新制度,其设计应随着技术的发展不断完善,[22]以回应大模型时代技术内在的不可逆性与高耦合性。
二、回归个人信息删除权的“被遗忘”本质
立法将删除权的核心权能定位于“删除”,但这一权利在大模型的参数化架构下陷入履行不能,其原本承载的规范价值因此被架空。破解之道不在于强行维系一种技术上无法兑现的履行方式,而在于厘清这一履行方式背后究竟意欲实现何种规范目的。立足于现行法“删除权”的规范文本,通过解释论使其回归“被遗忘”的规范本质,并在“删除”难以实现时以“限制处理”作为替代性履行方案,即可在新的技术条件下重新激活该权利对“被遗忘”目的的实现能力。
(一)权利本质之辨:“删除”还是“被遗忘”
围绕个人信息删除权与被遗忘权的关系,学界存在“同一论”“删除本质论”与“被遗忘本质论”三种代表性观点。本文赞同第三种观点“被遗忘本质论”,即在“删除”与“被遗忘”之间,“被遗忘”是权利的本质与目的,而“删除”仅是实现“被遗忘”的手段之一。这一判断不仅关乎术语之辨,更直接决定了大模型时代权利重构的方向。若以“删除”为权利本质,则当删除在技术上不能实现时,权利便随之落空;若以“被遗忘”为权利本质,则在删除路径受阻时,仍可通过限制处理、阻断访问等多元手段实现规范目标。为厘清这一本质,下文将从语义维度与意义维度两个层面展开分析。
1.语义维度:“擦除”与“删除”的概念差异
从语义层面看,我国法律所规定的个人信息删除权与欧盟GDPR中的被遗忘权在概念上并不完全一致。根据我国现行法律,个人信息删除权是指个人请求信息处理者删除其个人信息的权利。《民法典》第1037条明确规定:“自然人发现信息处理者违反法律、行政法规的规定或者双方的约定处理其个人信息的,有权请求信息处理者及时删除。”《个人信息保护法》第47条进一步扩展了删除权的适用范围,规定信息处理者在五种特定情形下需主动删除个人信息,同时赋予个人请求删除的权利。学界主流观点也基本上将个人信息删除权等同于删除个人信息的权利。[23]相较而言,GDPR第17条则使用“擦除”(Erasure)和“被遗忘权”(Right to be Forgotten)作为核心术语,而非“删除”(Delete/Remove)。其区别在于,“擦除”并不必然要求删除数据。例如,在“谷歌西班牙案”中,欧盟法院仅要求谷歌公司移除指向相关报道的搜索链接,而未要求报纸删除原始报道,从而以限制传播方式而非删除原数据的方式实现“被遗忘”目的。[24]这一案例表明,“擦除”可以通过阻断公众获取信息的路径实现,而并不必然要求删除数据本身。从法律发展历程来看,无论是1995年的《数据保护指令》(Directive 95/46/EC),还是GDPR,欧盟始终使用“Erasure”而非“Delete/Remove”。这一术语选择并非偶然,而是欧盟数据保护立法内在逻辑的外显。“删除”(Delete/Remove)在语义上指向对特定数据载体的物理清除,其规范预设是“信息以可定位的条目形式存在”;而“擦除”(Erasure)的语义重心则落在“使信息不再可被获取、不再产生效果”这一结果状态之上,并不以清除原始载体为必要。换言之,“删除”描述的是一种行为,“擦除”指向的是一种效果。立法者在术语上的审慎取舍,为“断开链接”“限制访问”等多元实现方式预留了制度空间。正因如此,欧盟法院在“谷歌西班牙案”中才能在不要求删除原始报道的前提下,仅凭移除搜索链接即认定“擦除”目的已然达成。“擦除”与“删除”之间这种微妙的差别,构成了理解个人信息删除权与被遗忘权关系的关键。遗憾的是,国内既有讨论将GDPR第17条中的“Right to Erasure”直接翻译为“删除权”,在一定程度上遮蔽了其中蕴含的“被遗忘”的价值面向,也导致了在应对大模型等新场景时,因拘泥于“删除”而陷入权利的行使困境。
2.意义维度:人格自由发展与社会再融入
从意义维度看,回溯被遗忘权的历史起源,可以发现这一权利从未局限于单纯的信息删除,而是承载着人格自由发展与社会再融入的深层价值。尽管学界常以“谷歌西班牙案”作为该权利的实证法起点,但其规范内核可追溯至20世纪初美国的“梅尔文诉里德案”。[25]在该案中,电影《红色和服》以加布里埃尔·达利的真实姓名呈现其早年的不堪经历。然而,达利早已脱离那段过往,她不仅结婚生子,而且建立起了新的家庭与社交关系,实质性地完成了身份的重塑。基于对家庭隐私与平静生活的保护,其丈夫梅尔文提起诉讼。加州上诉法院支持了梅尔文的主张,认为在无正当理由的情况下揭露其妻子过去是不当的,并强调无论一个人过去如何,其在重新过上正常生活后有权享受幸福,免受人格、名誉和社会评价上的伤害。[26]这一经典判例深刻揭示了被遗忘权最初的价值基石,即保障个人摆脱不具有公共利益的个人过往经历的束缚,使其能够自由地重塑社会身份并重新融入社会生活。在这一阶段,被遗忘权的核心功能虽主要体现为名誉保护,旨在防止既往事件在缺乏必要性时被“翻旧账”式地重新曝光,但其旨趣从一开始便超越了物理层面的“删除”行为本身,而是指向了维护人的尊严、自主性以及恢复社会关系能力的终极目标。随着互联网技术的兴起,这一源于判例法的价值理念逐步被制度化为欧盟语境下的法定权利,并不断演进以适应数字时代的新型风险。
被遗忘权不仅是数字时代信息自决权的防御式体现,更是隐私权保护的重要方式。在传统隐私权框架下,隐私权的保护重点在于防止隐私信息被非法获取和披露。然而,数字技术的发展使得个人信息的公开频率和程度显著提高。许多人主动在社交媒体上分享私密信息,这种行为虽然是自主选择的结果,却可能带来长远的负面影响。传统的隐私权保护已无法应对这种新挑战,保护需求正在从“防止泄露”扩展为“允许删除”。在这种背景下,个人信息删除权赋予自然人重新私密化已公开个人信息的权利,[27]不仅延续了隐私保护的价值基础,也在动态的数字环境中提供了新的保护机制,特别是在公开信息对个人生活或发展造成不利影响时,意义尤为突出。
综上,从权利的语义和意义分析来看,“删除”始终只是实现“被遗忘”的一种技术路径,而“被遗忘”才是权利的核心本质。正如“谷歌西班牙案”所示,断开链接即可实现“擦除”效果,被遗忘权从来不以删除数据为唯一方式,而是旨在恢复个体对自身信息暴露程度的控制,使其得以摆脱过往信息的持续困扰。若仅将被遗忘权理解为删除个人信息,难免过于狭隘,既无法准确体现其在数字时代的规范内涵,也不足以回应个人在算法环境中对尊严维护、名誉修复与社会再融入的现实需求。而且从权利的实现机制来看,大模型场景下的“被遗忘”不宜被理解为对信息的彻底删除,而应更多体现为对相关信息的访问权限、使用场景等的“可控化安排”。这一转向与当前数据治理领域由强调“排他性所有”转向“安全可控使用”的范式转变,[28]在法理逻辑上具有深刻的内在一致性。
(二)“被遗忘”本质的实现:删除权与限制权的复合权利架构
“个人信息保护法以保护个人信息权益与促进个人信息的合理利用为目的”[29],在大模型技术架构下,个人信息删除权的行使面临着不可逾越的技术瓶颈与高昂的合规成本,因此有必要回归“被遗忘”的权利本质,并以此重塑个人信息删除权的权利内涵。以实现“被遗忘”为最终规范目标,个人信息删除权的构造应当突破传统物理层面的单一“删除”模式,扩展为涵盖“删除权”与“限制权”的复合性权利架构。具体而言,“删除权”旨在彻底删除数据;“限制权”则在前者难以实现时,通过限制对数据的访问、使用、生成与传播,成为实现“被遗忘”的“新型保护路径”[30]。
1.限制权的内涵阐释
“限制权”并非全新的制度创设,而是植根于我国既有法律实践的规范概念,具有深厚的本土制度资源。其规范脉络可循着一条由侵权救济手段渐次升格为法定权利的演进线索加以把握。限制性处理措施的雏形早在2010年实施的《侵权责任法》第36条中即已显现。该条规定“网络用户利用网络服务实施侵权行为的,被侵权人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施”。其中,相较于直接清除内容的“删除”,“屏蔽”和“断开链接”体现的是对信息可见性和可获取性的限制,属于典型的限制性救济路径,从而在制度起点处便为信息保护提供了“删除”之外的工具选项。[31]这一规则随后为《民法典》第1194条、第1195条所承继和细化,进一步明确了“通知—必要措施”的适用要件与责任分配。至《个人信息保护法》第44条,限制性保护完成了从手段到权利的关键跃升。该条规定个人“有权限制或者拒绝他人对其个人信息进行处理”,从而将限制性措施从被动的侵权救济手段升格为主动的法定权利。由此可见,从《侵权责任法》的救济性措施,到《民法典》的规则细化,再到《个人信息保护法》的权利确认,限制性处理在我国法律体系中已积累起层次清晰、可资援用的规范资源。正是这一本土脉络,使大模型场景下引入“限制权”既回应了技术治理的现实需求,又具有坚实的规范基础。
从比较法的角度看,欧盟GDPR对“限制权”作出了较为明确的制度安排。紧随第17条“擦除权”(被遗忘权)之后,GDPR第18条确立了“限制处理权”(Right to Restriction of Processing),明确赋予数据主体在特定情形下请求数据控制者停止或暂缓处理其个人数据的权利。具体而言,当个人数据的准确性尚需核实、处理行为的合法性存在争议、数据虽已无继续处理之必要但仍为数据主体主张法律请求所需,或数据主体提出异议并等待控制者合法理由的验证时,数据主体均可以要求对个人数据的处理加以限制。[32]该制度设计旨在作为第17条“擦除权”的补充路径,使个人在不适宜或无法要求彻底删除数据的情况下,仍能通过限制访问、使用或进一步处理的方式实现对其信息权益的实质保护。同时,这也为数据控制者在面对复杂合规场景时,提供了一种比“一删了之”更具弹性和操作性的中间方案。
具体而言,当大模型因参数化机制导致删除陷入“履行不能”时,“限制处理”应被理解为“删除”义务的替代性履行方式。尽管《个人信息保护法》将第44条与第47条并列,但在大模型语境下强调二者的功能耦合,有助于在“可删除”与“难删除”的二元技术现实之间,提供一种更具操作性的制度衔接与合规缓冲空间。在大模型语境下,“限制权”的规范构造可进一步细化为由限制访问、限制使用、限制生成、限制传播构成的四维权能体系。一是限制访问,侧重于“存储层”的权限管理,旨在对涉及个人信息的原始语料、向量数据库及模型参数建立严格的访问控制机制,确保相关主体仅在合规授权范围内方可访问相关数据。二是限制使用,侧重于“处理层”的行为规范,强调对个人信息在模型预训练、微调及推理环节的处理进行约束,防止信息在缺乏必要性时被过度使用或滥用。三是限制生成,侧重于“输出层”的结果阻断。这是针对生成式人工智能特性的核心权能,要求通过关键词过滤等技术手段,抑制模型在生成内容时推断、重现或关联特定的敏感个人信息,从而在输出端实现“被遗忘”。四是限制传播,侧重于“流通层”的风险控制。其着眼于阻断个人信息在模型生态中的扩散链路,防止未经授权的数据通过API调用、插件交互或数据共享协议被二次利用或在第三方应用中扩散。就规范依据而言,上述四维权能中的限制访问、限制使用与限制传播,可分别对应《个人信息保护法》第4条所列举的存储、使用与提供等处理活动;限制生成虽以生成式人工智能特有的内容输出为对象,但模型依据个人信息进行推断、重现并向用户呈现相关内容的过程,本质上仍属对个人信息的使用与提供,故同样落入“处理”的范畴。由是观之,“限制权”的四维构造均可在第44条“限制处理”的框架内获得实证法支撑,而非逸出现行法之外的全新创设。
2.限制权的补充性与必要性
在规范与技术的张力中,引入“限制权”是破解个人信息删除权行权困境的必由之路。作为删除权的必要补充,限制权通过限制数据的访问、使用、生成与传播,在不触及模型核心结构的前提下,为信息主体提供一种更具可操作性的权利保障路径,兼具技术可行性与制度正当性。例如,在大语言模型中限制调用特定敏感词汇,可避免生成包含用户隐私的内容,而无需删除相关训练数据。这种不删除原始数据但阻断其影响的模式,实质上是在“绝对化的物理清除”与“无所作为的放任”之间的有效平衡,既避免了因强制重训模型带来的畸高社会成本,又在功能上实现了对个人信息权益的实质性保护,体现了信息治理中的比例原则。[33]
从规范履行的法理逻辑看,引入限制处理作为删除义务的替代履行方式,具有正当性基础。当法定义务的原定履行方式因客观技术原因陷入履行不能时,若存在能够实现同等规范目的的替代方式,不应使义务人因履行方式的客观障碍而当然免责,亦不应使权利人因此丧失救济。这一“功能等同”的思路在我国法律体系中已有体现,例如《民法典》第1195条在网络侵权救济中将“删除、屏蔽、断开链接”并列为“必要措施”,这正是承认在删除不可行时,屏蔽、断开链接等限制性措施可作为“功能等同”的替代履行方式。在大模型场景下,将限制权确立为删除权的替代实现路径,正是这一法理逻辑在个人信息保护领域的延伸。
从比例原则的角度审视,限制权的引入亦具有正当性。比例原则要求权利保护手段在适当性、必要性与均衡性之间取得平衡。在大模型场景下,强行要求删除往往意味着重新训练整个模型,或破坏既有参数结构,前者所需算力成本动辄以千万美元计,后者则可能引发不可预测的性能损坏,二者均面临手段与目的的严重失衡。相较之下,限制权通过对访问、使用、生成与传播路径的精准阻断,既能在功能上满足信息主体的“被遗忘”诉求,又能以最小代价实现保护目标,契合比例原则中“最小损害”之要求。值得回应的一种质疑是,限制权是否会以“灵活性”为名稀释删除权的保护强度,沦为大模型提供者规避责任的制度避风港。对此,须从两个层面加以约束:其一,限制权的适用以删除在技术上难以实现为前提,大模型提供者负有举证责任,须证明已穷尽合理技术手段仍无法实现删除,从而避免“履行不能”沦为“不愿履行”的托辞;其二,限制措施的内容并非任意的,而须以可验证的客观标准为约束,在效果上达到与删除“功能等同”的水准。需要进一步明确的是,构成限制权适用前提的“删除履行不能”,不应取决于提供者主观的成本核算,而应依比例原则予以客观判定:唯有在彻底删除于技术上确无可能,或其所需的算力、工程与重新训练成本,相较于该删除在限制措施之外所能增添的边际保护已显著失衡时,方可认定删除义务陷于履行不能,进而转入限制化替代履行。据此,触发替代履行的并非删除成本之“高”,而在于其相对于边际保护增益的“失衡”;单纯的商业不便或一般性合规负担,尚不足以构成免除删除义务的正当理由。换言之,限制权并非删除权的“打折版”,而是删除权在新技术条件下的“等效版”。所谓“功能等同”,并非主观评价,而须以可观测、可复现的指标予以检验。在限制措施施加后,模型针对该信息主体的定向查询乃至诱导性提示,均不应重现指向该主体的特定个人信息;其在统计意义上的重现概率,应被压制至与原始数据已被彻底删除时大致相当的水平。唯有满足此种可验证标准,限制权方能被认定为删除义务的有效替代,而非保护强度的实质性减损。
从权利诉求来看,限制权更贴近信息主体在数字时代的实际需求。许多情况下,信息主体的核心诉求往往不是彻底删除数据,而是切断数据与自身的关联,数据是否仍由处理者存储和使用,反在其次。[34]例如,患者通常并不反对其医疗记录被继续保存,真正介意的是这些数据被用于广告推送、用户画像或商业交易。对此,限制数据的使用、生成与传播路径,恰能以最低的技术成本回应这种需求。相较于动辄耗费巨额成本的模型重训,通过设置关键词过滤、禁止调用特定特征参数、限制推理输出等方式即可有效落实保护目标,从而提供一种成本更低、可行性更高的合规方案。
从制度运行看,限制权并非替代删除权,而是作为其重要补充,构成“刚柔并济”的双重支柱。删除权仍在数据集可定位、可追溯的传统互联网场景中发挥核心作用,而在数据深度嵌入模型参数、删除代价极高且技术不可逆的大模型环境下,限制权则展现出更强的灵活性与制度适应性。二者的差异决定了各自的应用场景,其互补关系使得个人信息保护得以在技术可行性与权利保障之间取得动态平衡。
通过限制权的并行设计,可以更加系统地回应大模型带来的个人信息侵害风险,使权利得以在技术可行的框架内实现其所追求的“被遗忘”目的。这一制度构造展现了人工智能治理从单一、刚性的规则模式转向弹性化的路径选择,为大模型时代个人信息保护的制度创新开辟了新的空间。此种权利重构不仅为信息主体提供了更具适应性的保护机制,也在技术与法律之间形成良性互动,深刻契合了“赋能型人工智能治理”[35]的基本理念。
三、复合权利架构下大模型提供者的法律义务配置
作为个人信息删除权内涵重塑的逻辑延伸,大模型提供者的法律义务亦需进行同步调整。前文对删除权的内涵重塑,从“删除”转向“限制”,并非权利的消解,而是权利实现方式在大模型场景下的合理转换。然而,权利的实现不能仅停留在规范层面的重新解释,必须转化为大模型提供者可操作、可验证的法律义务。对此,宜采取渐进式[36]、分层化的构造理路,区分模型应用层与基础模型层:在可以实现删除的应用层,继续适用删除权;在难以彻底删除的基础模型层,则转向限制权,以实现对信息主体“被遗忘”诉求的实质回应。
模型应用层与基础模型层的划分并非纯粹的技术分类,而是建立在数据状态与处理可控性差异基础上的规范性区分。在应用层,用户输入的对话记录、提示词及历史会话以可定位的形式存储于交互日志数据库中,其状态与传统互联网平台中的个人信息高度类似,删除指令可精准对应到具体的存储位置;而在基础模型层,个人信息已被参数化吸收,与模型权重深度耦合,呈现出“无法定位—无法分离—无法清除”的特征。这种“可控性”差异,决定了义务履行方式的差异,即应用层延续传统的删除义务模式,基础模型层则转向限制处理的替代履行模式。
(一)删除权下大模型提供者的法律义务
尽管提供者难以从已完成训练的大模型中彻底删除特定的个人信息及其隐性影响,但在模型应用层,用户与模型交互时的输入数据与日志记录完全具备可管理性。因此,为保障用户删除权的有效行使,大模型提供者应构建应用层的“可控删除”机制。
首先,大模型提供者应履行“便捷删除”的设计义务,优化交互界面的权利行使流程。鉴于用户与生成式人工智能交互的过程同时是个人信息被收集的过程,提供者应通过“隐私设计”理念优化产品架构。具体而言,在交互界面显著位置设置“删除历史记录”“一键清除会话”等功能选项,使用户能够快速、明确地提交删除请求,并确保系统能够即时予以响应。
其次,大模型提供者应提供“阻断训练”的选择机制,赋予用户对数据用途的控制权。为防止个人信息被“内化”为模型参数,大模型提供者应开发并提供“非持久化会话”或“不学习模式”。在用户启用该模式后,系统应仅在内存中临时处理数据以完成推理任务,不得将交互内容保存至持久存储或用于后续的模型优化与迭代训练。这种数据隔离机制能够从源头上切断个人信息进入模型“长期记忆”的路径,增强用户对自身数据的实质控制力。
最后,大模型提供者应承担“透明化”的说明义务,制定并公开数据删除的技术规范,建立透明的申诉与反馈机制,并在隐私政策或用户协议中明确数据删除的技术标准与操作时限。例如,明确承诺交互数据将在会话结束后保留不超过特定时限(如30天)、删除请求生效后数据将从分布式存储节点及备份系统中彻底擦除且无法恢复等。此外,针对因技术故障导致的删除失败或数据残留情形,大模型提供者应设立便捷的救济渠道,确保用户知情并能获得有效反馈。
(二)限制权下大模型提供者的法律义务
“限制权”是以删除权的“被遗忘”目的为统摄,在大模型难以删除或删除成本显著失衡时,对删除权的实现结构作出的解释论重构。其核心逻辑在于“义务转化”,即信息主体仍以删除请求为权利主张,处理者则以限制访问、限制使用、限制生成与限制传播等限制性处理措施作为删除义务的替代履行方式,以获得与传统互联网平台“删除”相当的保护效果。
鉴于生成式人工智能具有规模化与自动化特征,个人信息风险已不再只是个别主体与特定处理者之间的点状纠纷,而更可能表现为跨主体、跨场景、持续累积的结构性风险。仅依赖个体事后逐案主张删除、更正或限制处理等权利,难以有效回应这种整体性风险。[37]相应地,个人信息保护机制也有必要在个体权利救济之外,进一步引入前端性、系统性和整体性的治理安排。因此,限制权下大模型提供者的法律义务必然呈现“一般性义务+个案请求”的双层结构:一方面,提供者应在系统设计与持续运营层面预置限制能力,承担限制数据访问、使用、生成与传播的一般性义务;另一方面,当删除请求被触发且提供者能够证明删除在现阶段难以实现或成本显著失衡时,应启动限制化替代履行程序,将一般能力转化为面向特定信息主体、特定场景的个案响应机制。
1.限制访问权能下的数据访问控制义务
为实现限制访问权能,大模型提供者负有建立访问控制与权限治理体系的义务。大模型提供者应构建多层次的访问控制机制,通过多因素身份验证等方式强化访问安全,并严格遵循最小权限原则,使访问权限与身份角色精确匹配,从源头减少个人信息的不当暴露。鉴于行业内出现的内部人员滥用权限导致模型遭恶意篡改的事件,[38]大模型提供者还应强化内部权限管理,通过物理隔离与逻辑隔离技术将个人信息与其他数据特征分区存储和处理,降低“局部失守—整体暴露”的连锁风险。此外,大模型提供者应配置实时监测与日志审查机制,对访问行为进行持续监控,在出现异常访问或未经授权尝试时及时触发预警,并记录完整日志用于后续审查与责任追究。
2.限制使用权能下的数据处理约束义务
在数据使用环节,大模型提供者负有对个人信息处理行为进行约束与可证明化管理的义务。大模型提供者应在训练阶段坚持数据最小化原则,仅收集和使用实现模型功能所必需的最低限度数据,例如在语音识别模型中仅提取语言特征,而不保留与身份相关的背景信息或情绪信息,以减少不必要的个人信息处理并降低潜在泄露风险。在数据使用过程中,大模型提供者还应通过匿名化等技术对个人信息进行处理,防止模型在推理时重新识别具体个人,如金融风控模型在信用评分中加入噪声以避免敏感数据被反向推导、医疗模型通过将身份信息与病历数据分离计算降低再识别风险。此外,大模型提供者应依据业务需求实施场景化权限管理,对不同应用场景设定精准的数据使用范围,例如自动驾驶模型在特定训练情境中仅需分析道路和车辆动态信息,而无须获取车主或乘客身份数据。通过数据最小化、匿名化处理及场景化权限管理等措施,大模型提供者能够有效缩减个人信息的使用范围,在保障模型性能的同时强化用户信息保护。
3.限制生成权能下的结果阻断义务
在结果生成层面,大模型提供者负有防止模型生成、推断或重现敏感个人信息,以及生成指向自然人的不实事实陈述的义务。这是针对生成式人工智能特性的核心义务,因为生成式人工智能具有强大的推理与内容重构能力,其输出不仅可能涉及敏感个人信息,还可能“一本正经地胡说八道”,[39]生成带有事实外观的虚假信息,对个人权益造成更大侵害。需要注意的是,侵犯信息权益并不以生成内容的真实性为要件,错误信息往往比准确信息更具危害性。实践中已有典型案例,例如2023年4月,ChatGPT错误指称法学教授乔纳森·特利性骚扰并虚构新闻报道,[40]深刻揭示了算法“幻觉”可能带来的声誉损害,也体现了在生成环节强化安全控制的必要性。为此,大模型提供者需在生成阶段构建“技术—管理”双重阻断体系:在技术层面,部署系统化的过滤与审查机制,利用关键词匹配、语义分析及上下文理解技术对输出内容进行实时监控与拦截;在管理层面,参照欧盟《人工智能法》第9条关于风险管理体系的要求,将数据生成纳入全周期风险控制框架,通过对抗测试、红队评测等方式持续验证与纠偏,避免结果阻断机制因模型迭代而失效。行业实践表明,主流平台如OpenAI已将分类器、推理模型及哈希匹配等多重自动化系统深度嵌入生成流程,以有效降低生成违规内容的风险。[41]为确保上述措施的透明度与可问责性,大模型提供者还应制定并公开生成过滤机制的技术标准与安全协议,在隐私政策中明确敏感信息识别原则与过滤流程,为用户信任和争议解决提供内部机制。
4.限制传播权能下的扩散抑制义务
如果说限制生成义务针对的是有害内容“是否被产出”,那么限制传播义务则进一步指向内容产出之后“如何被扩散”。在信息传播阶段,大模型提供者负有阻断个人信息在模型生态中扩散的义务。需要澄清的是,该义务并不要求大模型提供者控制信息在全网范围内的全部流转,而是要求其在可控范围内构建一套有效的“传播抑制机制”,以降低模型输出经复制、转发、二次利用等行为而放大名誉侵害、隐私暴露与虚假信息扩散的风险。鉴于生成内容一旦进入流通链条便会迅速外溢、难以追回,该机制的落实宜沿“事前标识—事中阻断—事后追溯”的传播时序依次展开。其一,事前的来源标识。大模型提供者应落实生成内容的显著标识要求。我国现行《互联网信息服务深度合成管理规定》与《生成式人工智能服务管理暂行办法》已明确要求对人工智能生成内容进行显著标识,以发挥“生成来源与真伪判断双轨并行”[42]的作用。标识并不减少传播的数量,而是降低虚假内容在传播过程中被采信的程度,使受众得以审慎对待指向特定个人的生成内容,从而在传播链条的源头抑制其潜在危害,并为后续溯源与处置提供识别基础。其二,事中的扩散阻断。当信息主体发现模型已输出涉及自身的不当内容时,大模型提供者应提供便捷的举报、删除与申诉入口,使其得以及时主张权利。接到请求后,大模型提供者不仅应在输出端撤回或屏蔽该项内容,更应同步采取防止再次生成的措施,例如将相关内容纳入屏蔽词库或调整过滤规则,避免同一内容因模型的生成机制而被反复产出。其三,事后的留痕追溯。大模型提供者应建立完整的操作日志保留与追溯机制,对生成内容的输出记录、用户的删除请求及其处置结果予以留存。这一机制既便于信息主体核验其请求是否得到落实,也可在争议发生时证明大模型提供者已履行必要的注意义务,从而在权利救济与责任认定两个层面提供支撑。
5.更严格的数据安全保护义务
在限制权框架下,即使个人信息被限制访问、使用、生成和传播,其隐性特征仍可能残存于模型的参数空间与推理过程中。大模型的参数化学习机制意味着数据即使不被外部调用,其统计特征与语义关联仍可能在模型内部以权重形式存在,并在特定提示下被间接激活。这种隐性风险,使得单纯依赖限制措施不足以完全阻断潜在的泄露风险。因此,大模型提供者必须承担比传统平台更严格的系统性数据安全保护义务。这要求在大模型预训练、微调及推理的全生命周期中实施系统性安全管理。为降低参数与数据的泄露风险,应融合多种隐私增强技术,利用同态加密与多方计算保障推理过程的机密性,部署差分隐私通过噪声扰动平衡数据可用性与安全,并实施严格的数据清洗与去标识化机制以防御重识别攻击。[43]在模型架构与推理链条中植入安全控制点,防止内部“记忆”在外部恶意请求中被意外触发,并通过定期的安全审计、攻击模拟及模型反推测试等方式,动态检验模型对敏感信息的潜在暴露能力。唯有建立在此基础上的系统性安全防御与动态评估机制,前述的各项限制性义务才能获得稳定的底层技术支撑。
6.删除请求的限制化替代履行义务
上述义务构建了系统层面的“一般性限制能力”,旨在通过预防性治理降低规模化侵权风险。然而,删除权本质上是一项个体性权利,当特定信息主体提出删除请求时,大模型提供者还应将系统的一般能力转化为面向该主体的个案响应,启动限制化替代履行程序。该程序的规范要义在于,针对特定信息主体与场景,通过可核验的替代措施实现“被遗忘”效果。具体流程包括:一是接收与身份核验,提供统一入口并核验请求人身份,明确删除请求所指向的对象信息及其与模型处理活动的关联;二是范围界定与可行性评估,区分训练阶段、推理阶段、外部插件与记忆模块等不同环节,评估可删除性与限制措施的可实施边界,并以比例原则确定措施强度;三是围绕访问、使用、生成、传播四个环节,选择并实施最小必要的限制措施组合,如权限冻结、拒答与脱敏、传播抑制等,确保实质降低对相关信息的可识别重现风险;四是反馈与留痕,向请求人说明已采取的限制化替代措施与适用范围,完整保存处理日志与证据以备审计;五是复核与救济,设置申诉与复核机制,并对措施有效性进行持续监测,防止限制失灵导致信息再次重现。
通过上述双层义务结构,本文所列限制访问、限制使用、限制生成、限制传播等义务被定位为删除权限制化履行得以成立的制度与技术前提,其以一般性的能力建设方式服务于对规模化侵权风险的“预防性治理”[44];与此同时,限制化替代履行义务则确保删除请求在特定对象与特定场景中真正产生效果,从而在规模化风险治理与个体权利救济之间形成有效衔接。
结语
个人信息删除权的提出,源于数字时代“记忆与遗忘”的深刻反转。在传统社会,信息的记录和留存成本高昂,人们渴望“被记住”;到了数字时代,记录和留存成本降低,人们反而更加渴望“被遗忘”。于是,人类社会也从追求记录的文化,转变为一种追求删除的新文化。[45]然而,以生成式人工智能为代表的大模型的出现,使这一权利陷入行权困境。面对这一挑战,破解之道不在于固守一种技术上已然失效的履行方式,而在于回到权利的初衷:“删除”从来只是手段,“被遗忘”才是目的。一旦确认这一点,删除在技术上的不能便不再等同于权利的落空:在法律维度,权利得以从单一的删除请求,扩展为“删除权”与“限制权”并举的复合架构,在彻底删除受阻时,仍可经由限制数据的访问、使用、生成与传播,实质性地实现“被遗忘”;在技术维度,“机器不学习”等新型技术的兴起,[46]正使“被遗忘”从法律宣示,转变为可设计、可验证、可治理的工程能力。法律的规范重构与技术的能力演进由此相向而行,共同为“被遗忘”的实现开辟道路。就规范落实而言,“限制权”的实证法基础已存于《个人信息保护法》第44条,经由解释即可与第47条相衔接,余下的工作在于将其转化为可操作、可裁判的规则。宜由网信部门以部门规章和监管指引等方式,细化限制访问、使用、生成、传播的分层义务,并把“功能等同”落实为可验证的技术与操作基准。至于法律修订,则可俟条件成熟后再行推进。归根结底,在数字时代,为每个人保留一片“被遗忘”的空间,意味着承认人有权与过去和解、重新开始。这既是对人的尊严与自主性的尊重,也是对数字科技异化发展的边际约束。[47]
【作者简介】
付新华,北京交通大学法学院副教授,法学博士。
【注释】
[1]See Cécile De Terwangne, The Right to be Forgotten and the Informational Autonomy in the Digital Environment, European Commission Joint Research Centre, Report EUR 26434 EN, 2023, p.7.
[2]See Jo?o Alexandre Silva Alves Guimar?es, Preserving Personal Dignity: The Vital Role of the Right to be Forgotten, 1 Brazilian Journal of Law, Technology and Innovation 1, 184(2023).
[3]《剑桥新人权手册:承认、新颖、修辞》已将该权利纳入其中,See Andreas von Arnauld, Kerstin von der Decken & Mart Susi (eds.), The Cambridge Handbook of New Human Rights: Recognition, Novelty, Rhetoric, Cambridge University Press, 2020, p.287—310.
[4]See Robin Staab et al., Beyond Memorization: Violating Privacy via Inference with Large Language Models, Published as a conference paper at ICLR 2024, p.3.
[5]参见郑志峰:《网络社会的被遗忘权研究》,载《法商研究》2015年第6期,第50—60页;刘文杰:《被遗忘权:传统元素、新语境与利益衡量》,载《法学研究》2018年第2期,第24—41页。
[6]参见程啸:《论〈个人信息保护法〉中的删除权》,载《社会科学辑刊》2022年第1期,第103—113页;王利明:《论个人信息删除权》,载《东方法学》2022年第1期,第38—52页。
[7]参见张欣:《生成式人工智能的数据风险与治理路径》,载《法律科学》2023年第5期,第103—105页。
[8]参见刘文杰:《被遗忘权:传统元素、新语境与利益衡量》,载《法学研究》2018年第2期,第29页。
[9]参见郑志峰:《网络社会的被遗忘权研究》,载《法商研究》2015年第6期,第59页。
[10]薛丽:《GDPR生效背景下我国被遗忘权确立研究》,载《法学论坛》2019年第2期,第102页。
[11]郑志峰:《网络社会的被遗忘权研究》,载《法商研究》2015年第6期,第59页。
[12]程啸:《论〈个人信息保护法〉中的删除权》,载《社会科学辑刊》2022年第1期,第105页。
[13]参见段卫利:《被遗忘权的概念分析——以分析法学的权利理论为工具》,载《河南大学学报(社会科学版)》2018年第5期,第20页。
[14]斯坦福大学基础模型研究中心设计了一个基础模型透明度指数的评分系统,评估了公司如何构建基础模型、如何运作以及如何在下游使用等透明度的100个不同方面,结果显示GPT—4的透明度指数为48%,亚马逊的Titan Text模型的透明度指数只有12%。See Katharine Miller, Introducing the Foundation Model Transparency Index, Stanford HAI (Oct. 18, 2023), https://hai.stanford.edu/news/introducing—foundation—model—transparency—index.
[15]See Anna Popowicz—Pazdej, Why the Generative AI Models Do Not Like the Right to be Forgotten: A Study of Proportionality of Identified Limitations, 15 Adam Mickiewicz University Law Review, 227(2023).
[16]参见林北征:《没有删除,只能遗忘:AI大模型个人信息删除义务的解释与重构》,载《西安交通大学学报(社会科学版)》2024年第6期,第154页。
[17]See Luciano Floridi, Machine Unlearning: Its Nature, Scope, and Importance for a “Delete Culture”, 36 Philosophy & Technology 42, 42(2023).
[18]See Nicholas Carlini et al., Quantifying Memorization Across Neural Language Models, Published as a conference paper at ICLR 2023, p.1.
[19]See Meem Arafat Manab, Eternal Sunshine of the Mechanical Mind: The Irreconcilability of Machine Learning and the Right to be Forgotten, arXiv (Mar. 6, 2024), https://arxiv.org/abs/2403.05592.
[20]据报道,训练一个GPT—3级别的大模型耗电量超过1200兆瓦时(MWh),相当于约120个美国家庭一年的用电量。See Climate Impact Partners, The Carbon Footprint of AI, Climate Impact Partners (Oct. 28, 2025), https://www.climateimpact.com/news—insights/insights/carbon—footprint—of—ai/.
[21]参见张欣:《生成式人工智能的数据风险与治理路径》,载《法律科学》2023年第5期,第46页。
[22]参见王利明:《论个人信息删除权》,载《东方法学》2022年第1期,第51页。
[23]参见王利明:《论个人信息删除权》,载《东方法学》2022年第1期,第38页;程啸:《论〈个人信息保护法〉中的删除权》,载《社会科学辑刊》2022年第1期,第103页。
[24]See Case C—131/12, Google Spain SL v. Agencia Espa?ola de Protección de Datos (AEPD), ECLI: EU: C: 2014: 317(ECJ Grand Chamber May 13, 2014).
[25]See Jo?o Alexandre Silva Alves Guimar?es, Preserving personal dignity: the vital role of the right to be forgotten, 1 Brazilian Journal of Law, Technology and Innovation 1, 173(2023).
[26]See Court of Appeal of California, Fourth District. Melvin v. Reid, 112 Cal. App. 285, 297 P. 91(1931), 291.
[27]参见段卫利:《被遗忘权的概念分析——以分析法学的权利理论为工具》,载《河南大学学报(社会科学版)》2018年第5期,第23页。
[28]参见付新华:《从所有权到使用权——欧盟〈数据法案〉与数据治理范式革新》,载《法治社会》2024年第5期,第29—40页;付新华:《论数据治理的使用权范式》,载《中外法学》2024年第6期,第1584—1600页。
[29]程啸:《论为履行法定义务所必需的个人信息处理活动》,载《当代法学》2024年第6期,第32页。
[30]李扬:《生成式人工智能指令输入者权的创设逻辑》,载《当代法学》2026年第2期,第58页。
[31]《侵权责任法》第36条列举了删除、屏蔽、断开链接等三种措施,但并未指明针对何种行为采取何种措施,而且也不限于所列举的三种措施,究竟采取哪种措施需要根据在具体的事件中是否能够制止侵权行为而定。参见张新宝、任鸿雁:《互联网上的侵权责任:〈侵权责任法〉第36条解读》,载《中国人民大学学报》2010年第4期,第23页。
[32]See Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016, General Data Protection Regulation (GDPR), Article 18.
[33]参见王丽洁:《个人信息处理中比例原则审查基准体系的建构》,载《法学》2022年第4期,第49—63页。
[34]See Cécile De Terwangne, The Right to be Forgotten and the Informational Autonomy in the Digital Environment, European Commission Joint Research Centre, Report EUR 26434 EN, 2013, p.9—10.
[35]参见张吉豫:《赋能型人工智能治理的理念确立与机制构建》,载《中国法学》2024年第5期,第61—81页。
[36]对于人工智能治理不宜操之过急或者“一刀切”,参见付新华:《人工智能统一立法宜缓行》,载《东方法学》2025年第3期,第17—30页;付新华:《全球人工智能立法的多元趋势与中国模式》,载《交大法学》2025年第6期,第70—71页。
[37]关于大数据时代个人数据规制模式从个体主义向整体主义转型的论述,参见齐英程:《数据公地悲剧的法理破解——迈向整体主义的个人数据规制模式》,载《法治社会》2024年第5期,第41—52页。
[38]参见《深度剖析:字节跳动大模型训练被实习生“投毒”事件》,载53AI网2024年10月20日,https://www.53ai.com/news/finetuning/2024102081496.html.
[39]参见支振锋:《生成式人工智能大模型的信息内容治理》,载《政法论坛》2023年第4期,第42页。
[40]See Jason Nelson, ChatGPT Wrongly Accuses Law Professor of Sexual Assault, Decrypt (Apr. 8, 2023), https://decrypt.co/125712/chatgpt—wrongly—accuses—law—professor—sexual—assault.
[41]See OpenAI, Transparency and Content Moderation, (May 4, 2026), https://openai.com/transparency—and—content—moderation.
[42]参见张凌寒、贾斯瑶:《人工智能生成内容标识制度的逻辑更新与制度优化》,载《求是学刊》2024年第1期,第115页。
[43]See Biwei Yan et al., On Protecting the Data Privacy of Large Language Models (LLMs) and LLM Agents: A Literature Review, 5 High—Confidence Computing 2, 100300(2025).
[44]关于风险社会和科技领域的预防性治理,可参见黄文艺:《论预防型法治》,载《法学研究》2024年第2期,第22—25页。
[45]See Luciano Floridi, Machine Unlearning: Its Nature, Scope, and Importance for a “Delete Culture”, 36 Philosophy & Technology 42, 1(2023).
[46]近年来,科技界提出的“机器不学习”(Machine Unlearning)为个人信息删除权的技术实现提供了具有启发意义的新思路,参见H. Zhang, T. Nakamura, T. Isohara & K. Sakurai, A Review on Machine Unlearning, 4 SN Computer Science 4, 337(2023).
[47]参见付新华:《个人信息权的权利证成》,载《法制与社会发展》2021年第5期,第139页。