作者：周陈，上海政法学院上海司法研究所讲师，硕士研究生导师。
来源：《北京工商大学学报（社会科学版）》2026年第4期
摘要：作为新型监管科技，人工智能在赋能金融监管范式转型的同时，可能诱发金融智能监管失序的风险。法治是技术创新与风险防控的平衡器，可为金融智能监管配置权力资源、弥合信任差距、提供规范视野。当前，人工智能的技术应用与金融发展目标之间存在适配困境，致使金融智能监管在权能配置、实施效能与规则体系等方面存在明显短板，亟待法治的系统性回应。金融智能监管法治保障的底层逻辑在于推动技术治理与法律治理的协同，构建认知交互与双轨归责的法治主体论、决策矫正与自制控权的法治行为论以及技术向善与社会本位的法治价值论。在此基础上，可搭建全方位、多层次的规范架构，完善准入备案、伦理审查、风险控制、责任追究、部门协作等五大规则体系，以法治引领人工智能在金融监管领域守正创新。
关键词：人工智能；金融监管；决策矫正；技术治理；法律治理
党的二十大报告提出,要加强和完善现代金融监管。2024年11月21日,中国人民银行等七部门联合印发的《推动数字金融高质量发展行动方案》进一步指出要提升金融监管数字化水平,并重点强调加强智能分析工具研发,提升风险监测预警和识别研判能力。作为引领新一轮科技革命和产业变革的关键数字技术,人工智能正深刻重塑金融监管范式,推动其由传统人力驱动向智能化、数字化转型。例如,中国证监会近年来陆续开展的资本市场“人工智能+”“数据要素×”等专项行动便是金融智能监管的生动实践。然而,在提升金融监管风险预警及早期干预与处置能力的同时,人工智能自身固有的技术复杂性、算法黑箱性、数据依赖性等特征,也使其在应用中不可避免地暴露出潜在风险。法治作为技术创新与风险防控的平衡器,以其价值理性引导人工智能守正创新并弥补技术局限,可防范人工智能在金融监管应用中的失序隐患。如何在法治轨道上推动人工智能赋能金融监管,确保金融智能监管始终服务于实体经济、维护金融稳定以及保障金融消费者合法权益,已成为建设金融强国与推进金融法治现代化亟待回应的重大课题。
一、人工智能赋能金融监管的时代呼唤:法治与新型监管科技的耦合
人工智能驱动的新型监管科技为金融监管效能提升注入革新动能。法治作为上层建筑可锚定金融监管制度经纬,是时代赋予金融监管的必然要求。
(一)法治配置金融智能监管的权力资源
合理配置权力资源是法治国家的重要任务。法治可确立金融智能监管的法律地位,并统一权力行使的标准。
第一,法律可确立人工智能作为新型监管科技的法律地位。法律可明确人工智能在金融监管活动中的角色定位,保障其在运行中于法有据。2018年,中国人民银行等部门发布的《关于规范金融机构资产管理业务的指导意见》及配套指引将人工智能作为实施“穿透式监管”的核心手段,运用于强制数据接入、实时智能分析、智能研判下的监管干预等场景。在此基础上,若由法律授权监管机构运用人工智能系统开展监管工作,将进一步丰富金融监管权力的法治工具内涵。
第二,法律可固化金融智能监管权力运作的实践成果。过去,依赖人工开展的反洗钱核查、非法集资防范等工作效率低、响应慢。为此,《中华人民共和国反洗钱法》《中华人民共和国反电信网络诈骗法》等法律鼓励并支持监管机构应用人工智能等监管科技。伴随人工智能技术的成熟,监管机构已能利用人工智能实时分析交易数据,自动识别风险、及时推送预警,并依法联动触发相应的冻结处置。实践成果通过法律的进一步确认与规范,促使金融智能监管的技术进步始终沿着法治轨道前行。
第三,法律可确立金融智能监管权力行使的统一标准。当前,各地已积极通过人工智能赋能金融监管,如北京的“风控驾驶舱”、深圳的“灵鲲”金融安全大数据平台、上海的“照夜清”等智能监管应用相继落地。人工智能在有效提升风险精准预警与防范能力的同时,存在技术标准不统一、数据规则不衔接等问题,极易导致监管碎片化。2022年中国人民银行等四部门联合印发的《金融标准化“十四五”发展规划》,明确要求加强人工智能在金融监管中的应用研制和有效应用。法律可通过确立统一的数据与技术共享标准打破监管碎片化困境。
(二)法治弥合金融智能监管的信任差距
法治是构建人工智能监管信任体系的关键纽带,既为被监管主体提供稳定、明确的行为预期,又有效弥合监管双方存在的技术鸿沟,从而显著提升金融智能监管的权威性与公信力。
第一,法律可强化人工智能模型的可解释性。模型的可解释性不仅是技术透明化的内在需要,也是实现算法问责、彰显程序正义的法治路径。欧盟《人工智能法案》明确要求相关主体对算法的设计目的、运行逻辑、数据来源、决策机制及潜在风险等内容作出充分说明与披露。被监管主体据此能够清晰预见并理解监管的技术依据与规则逻辑,有效缓解金融机构对智能监管应用的信任顾虑,显著提升监管行为的正当性与可接受度。
第二,法律可降低人工智能迭代引发的监管失灵风险。从传统数据分析到深度学习与大模型,智能监管系统的穿透识别与自动干预能力呈指数级增强。但与此同时,监管科技的快速迭代与“黑箱”特性,极易令监管机构陷入“科林格里奇困境”。法律的本质是普适性与一般性,因此,法律能够超越底层技术局限,提前确立普遍适用的价值导向与安全底线,应对技术快速演进带来的不确定性,保障人工智能应用安全可控。
第三,法律为人工智能监管决策注入程序正当性。人工智能形成的监管结论本质上是数据驱动的技术判断,其权威性并非源自技术本身,而是依托法律构建的正当程序。2025年,全国网络安全标准化技术委员会等部门发布的《人工智能安全治理框架》2.0版构建了覆盖模型算法、安全性能与应用场景等维度的测评体系。法律可将人工智能系统纳入法治监督体系,使其技术研判具备程序理性与合法性,进而从高效分析工具转化为具有约束力的监管决策。
(三)法治提供金融智能监管的规范视野
法治可为人工智能在金融监管领域的应用提供一套刚柔并济的规范体系,使之在风险防控与鼓励创新之间取得平衡。
第一,法治可凭借刚性约束防范金融监管工具的越界风险。例如,在金融智能监管的数据收集与处理环节,技术工具极易越过边界,过度抓取金融机构的商业秘密或客户的个人金融信息。对此,中国主要依托《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)等法律及《生成式人工智能服务管理暂行办法》等规范性文件对其进行规制,尚未充分考量人工智能作为自动化监管工具所引发的权力扩张与边界模糊问题。法律可通过设定禁止性规范与强制性义务,为人工智能监管工具的运用划定明确的行为禁区。法定的数据安全保护义务构成防止金融监管职能扩张的“负面清单”,迫使监管主体“收敛”不必要的数据采集措施,以制度刚性抵御智能监管工具向市场主体私权益领域的过度渗透。
第二,法治以其柔性引导功能推动形成包容且适应技术发展的监管逻辑。现代法律体系不仅聚焦于划定行为禁区、明确合规红线,更依托“促进型立法”理念,积极营造有利于人工智能融入金融监管的制度环境。例如,越南《人工智能法》第22条设立了国家基金为人工智能发展提供资金支撑,重点激励人工智能在金融监管等政务领域的赋能应用,助力技术与监管工作的深度融合。法律还可以在金融智能监管试点中确立包容审慎原则,预留制度容错空间,配套完善风险隔离机制。在具体实践中,中国香港地区推出了“监管沙盒聊天室”等创新机制,有效凝聚各方参与积极性,推动金融监管部门与创新主体对接协作,形成符合监管要求的技术解决方案。借助“沙盒”这类受控实验环境提前化解潜在争议,法治的柔性功能显著降低创新试错成本,实现监管双方合作共赢。
二、人工智能赋能金融监管的现实挑战:智能应用与金融发展目标的适配困境
习近平总书记指出,“人工智能带来前所未有发展机遇,也带来前所未遇风险挑战”。智能监管与金融发展若出现不适配,将损害金融消费者和投资者的合法权益,难以有效防范、化解及处置金融风险,甚至可能引发全球性金融治理困境。面对日趋复杂的国内外金融环境,法治能够引领金融监管格局的智能化转型,有效回应金融发展面临的变革与挑战。
(一)金融智能监管的权能配置失范:金融权益保护理念模糊
金融消费者和投资者作为金融市场的重要参与主体,其信心状况直接关系整个金融系统的稳定。随着人工智能技术在金融监管中衍生出数据过度采集、算法歧视等新型风险,金融市场中固有的信息不对称问题将进一步加剧。在数智化转型中,监管权能配置缺乏正确的约束与激励导向会导致监管行为与金融权益保护目标相脱节。
法治本应发挥“防御性”的约束功能,为智能监管权力的行使确立基本价值指引。例如,比例原则要求智能监管行为与目标相称,优先采用对各类主体权益影响最小的监管方式。新加坡金融管理局 (MAS)在《人工智能(AI)风险管理指南》咨询文件中引入风险重要性评估机制,明确监管强度应与人工智能应用的实际风险水平相适应。然而,由于缺乏对监管工具的统一立法规制,中国金融智能监管实践尚未将《个人信息保护法》第6条确立的“最小必要原则”深度嵌入智能监管逻辑,目前存在监管机构信息采集范围无序扩大的风险,隐私侵害风险难以从源头防范。
法治的介入亦应发挥积极性的赋能作用,即通过明确立法授权,强化智能监管在维护市场公平方面的应用目标。金融科技与金融业务的结合使交易结构更为复杂、隐蔽,法律可授权监管机构依托人工智能对金融消费行为采取系统性监测与模式分析,确保技术运用真正服务于权利保障。例如,美国《多德—弗兰克华尔街改革和消费者保护法案》(Dodd-Frank Wall Street Reform and Consumer Protection Act)依法授权金融消费者保护局(CFPB)利用数据分析和自动化工具监测金融机构,处置不公平、欺骗性或滥用性金融行为。在国内的基层实践中,贵阳市观山湖区人民检察院联合多部门运用“金融犯罪风险防控AI楼宇系统”实现对非法集资等风险的前端预警。但是,由于监管工具缺乏顶层设计授权,金融智能监管系统缺乏迭代升级的制度支撑与数据协同依据,无法有效甄别市场操纵、内幕交易等隐蔽复杂的资本市场违规行为,难以聚焦于金融消费者与投资者权益保护,致使市场环境的净化面临实质性阻碍。
(二)金融智能监管的实施效能偏差:金融稳定价值目标弱化
金融稳定涵盖金融机构、金融市场与金融基础设施三个层面,是金融领域的头等大事。人工智能虽显著提升监管效能,但其算法黑箱、系统宕机等隐患亦可能诱发金融风险,亟待法治提供稳定制度支撑,引导智能监管精准服务于金融稳定目标。
第一,在金融机构层面,金融智能监管未能有效夯实机构稳健运营基础。现代金融机构业务嵌套深、风险隐蔽性强,监管部门运用知识图谱、大语言模型等智能技术,虽在一定程度上提升了对金融机构风险的早期识别能力,但在智能监管实施过程中仍存在明显偏差:部分监管模型被过度侧重用于合规检查,对底层资产风险、资金流向异常的识别较为滞后。并且,智能监管因缺乏明确的法治规范,容易导致数据调取混乱、算法审计缺失,既可能因过度监管侵犯金融机构合法权益,又可能因监管缺位放任机构违规运营,弱化金融稳定的根基。
第二,在金融市场层面,金融智能监管未能有效防控市场异常波动风险。监管机构依托大模型理论上可毫秒级捕捉内幕交易、市场操纵等市场违规行为,且已有大模型接入交易所监管系统搜集违法违规线索,及时验证市场交易策略与评估市场风险。但是,如果监管机构过度信赖人工智能工具的数据训练结果,缺乏明确的法律规则指引人工智能的合理规范使用,一旦人工智能对引起市场波动的原因与性质界定错误,将会导致监管机构误判风险,加剧社会恐慌。
第三,在金融基础设施层面,金融智能监管系统存在安全风险隐患。支付和清算等基础设施是金融体系的大动脉,智能监管所依赖的大模型与算力枢纽已成为新型关键基础设施。但是,部分监管系统缺乏统一安全规制,未对系统可靠性、冗余备份等作出规范,一旦受到网络攻击即存在宕机风险。因此,人工智能系统服务的可靠性与连续性问题所引发的技术性风险较为明显,会对金融基础设施的稳定性造成威胁。
(三)金融智能监管的规则体系缺位:金融全球治理秩序失衡
当前,利用人工智能提升风险监管能力已成为趋势,但全球金融智能监管仍处于探索阶段,尚未形成得到普遍认可的国际规则体系。金融智能监管规则体系的缺位导致金融全球治理各自为政,加剧全球金融智能监管的碎片化,严重阻碍跨境金融风险的协同共治。
一方面,规则体系缺位导致跨国智能监管互信不足、数据共享受阻,亟待搭建制度桥梁破解困境。当前,“数据主权”冲突与管辖权争议频发的根源在于缺乏统一的国际规则指引,各国陷入技术封锁与政治博弈。在涉外法治框架中推动建立智能监管体系,不仅具有破除排他性合作壁垒的重要意义,更能极大地提升应用人工智能防范系统性风险的协作效率。
另一方面,规则体系缺位不利于中国提升智能监管国际话语权。面对部分区域性立法试图通过“规则输出”主导全球监管格局的态势,法治体系的完善是一国从“跟随规则”向“参与制定规则”转变的必然选择。2025年4月,中国人民银行等部门印发的《促进和规范金融业数据跨境流动合规指南》为跨境监管提供了安全高效的合规路径,展现了中国的治理优势。未来,若将此类具有确定性的法治经验转化为国际规则,将有力支撑中国监管机构深度参与全球金融监管科技标准的制定,最终提升全球金融智能监管体系的协调性与公正性。
三、法治保障金融智能监管的底层逻辑:技术治理与法律治理的协同
人工智能技术拓展了金融监管的治理视野,提升了履职能力。但是,针对数据与算法的技术治理手段难以适配传统的金融治理逻辑,即压实“监管人”主体责任的治理行为及其法律价值导向。为此,亟须确立一套前瞻性的法治论纲,推动技术治理与法律治理实现深度协同。
(一)认知交互与双轨归责的法治主体论
在哲学界,“技术有灵论”将技术说成是有感觉、能思考、做决定、发命令的独立主体,以警示技术的主体性觉醒可能会对人类构成威胁。主体性的生成源于技术系统对人类认知交互模式的复刻,正如人作为社会性动物,通过与外部环境的互动不断重塑其认知与行为。按照人工智能认知的演进规律,人工智能已跨越对信息的基础感知阶段,逐渐具备因果推理能力,并将成长为具备人类级理解力的社会智能系统。有的人工智能系统具备机器学习的非显著式编程特征,即人类无需定义所需任务的具体执行步骤,而是让计算机依靠数据自动学习并掌握经验来完成任务。在监管语境下,这使得传统的人工监管权力部分让渡于“算法权力”,人工智能系统在实际监管中获得了相当程度的自主空间。人工智能系统不仅是基于监管规则、历史案例与机构报表等静态数据的信息处理器,它还可依托自动抓取数据并分析,深度融入真实的金融市场,理解复杂金融活动并预测风险变化。因此,人工智能与监管机构之间已不再是单纯的工具从属关系,在实际运行中已展现出主体交互性。
当人工智能辅助甚至替代人类执行金融监管任务时,技术所呈现的主体交互性易使传统法律体系陷入“机器代人”的责任主体界定困境。由于人工智能既无独立的财产可供承担赔偿责任,亦无实体的人身自由可供法律强制剥夺,它不应具备法律意义上的人格性。法治保障的首要逻辑在于防范责任分散,必须将宏观层面的终极公共行政责任锚定于金融监管机构。作为“最终看门人”的监管机构应对引入并依赖人工智能系统的整体监管后果负责,而不能以“算法黑箱”或“技术开发外包”为由逃避维护金融发展的法定职责。需要注意的是,监管机构对外承担兜底责任不意味着其对内要替所有的技术故障或数据违规行为负责。为防止具体运行过程中的责任虚化,法治还应穿透技术表象,在微观操作层面构建一套内外并行的双轨制过错分担架构。在内部责任轨道上,严格压实监管机关内部的层级治理与特定执行岗位的问责链条。在外部责任轨道上,依据过错归责与过罚相当原则,区分监管机构的审慎使用与合规审查责任、技术提供商的算法稳健性与产品瑕疵责任,以及被监管金融机构的真实数据提供与配合义务,确保技术应用链条上的每一方主体都承担相应的法律后果。
(二)决策矫正与自制控权的法治行为论
随着监管方式从传统的“人为判断”向“机器决策”转变,金融监管的法治行为逻辑面临着全新挑战。当前,人工智能的自动化决策相当程度地依托预设代码与历史数据的概率推演。当监管机构在决策过程中过度信赖甚至盲从模型输出时,这将引发算法黑箱与技术偏见所带来的系统性决策失误。因此,在探讨金融智能监管的行为规范时,应审视“谁来做决策”这一重要命题。人工智能虽能高效完成标准化、流程化监管任务,却难以突破固有算法局限,既易隐匿其内部隐含的歧视问题,也无法灵活适配各种复杂金融场景。比如,不同规模金融机构间差异化监管、跨领域嵌套交易的结构性风险以及新型金融业态下的非标准化交易风险,人工智能均难以妥善处置。任何高风险的智能监管决策都不能走向完全脱离人类控制的机器自治。为了防止算法决策绝对化并确保决策的公正性,监管自动化必须遵循人机协同的混合范式。人工智能在执行风险预警与早期干预等任务的同时,必须保留并强化以人为主体性的价值判断与最终决策权,通过对人工智能决策采取必要的人工矫正与释明,防范技术暴政风险,杜绝监管责任真空。
正如荀子所言,“制天命而用之”,人应驾驭工具而非为工具所制。在明确了决策主体后,还须进一步回应“权力如何受控”之命题。基于“没有免费午餐”定理,技术赋能在带来治理红利的同时,必然衍生出利益博弈与法律规制的对价。在技术与资本深度融合的背景下,监管机构对第三方技术提供商有着深度的信息与决策依赖。监管机构若听之任之,第三方则凭借筛选数据的“隐性权力”形成数据垄断,严重异化金融监管权力的公共属性。“政府也要守法,这是法治的真谛!”在法治政府理念下,任何权力的行使皆应受制约,监管机构运用人工智能须严格践行“控权”逻辑。为确保监管主体性不因技术介入而退场,必须坚守权力法定、权责一致与程序正当等公法底线,具体可沿以下三个方面展开。(1)技术应用前提法定。人工智能的部署须以法定职责与正当目的为前提,核心算法的设计、参数设定与模型选择应遵循公平、非歧视等法律原则,并接受严格的伦理与合规性审查。(2)技术决策过程透明可控。监管系统应建立有效的技术审计与人工干预机制,当算法输出存在明显不公或错误时,监管人员有权中止、修正或否决其结论,坚决避免技术架空人类的最终判断权与裁量空间。(3)问责机制与救济途径明晰。当系统决策造成损害时,应确保责任能够精准追溯到具体主体,明确技术开发者、部署方和最终决策者的权责边界。同时,必须为权利受影响方提供申诉、复核等便捷有效的法定救济渠道,确保技术始终处于法治的框架与人类的监督之下。
(三)技术向善与社会本位的法治价值论
“离开了明智就没有严格意义的善,离开了道德德性也不可能有明智。”人工智能在金融监管中的应用绝非价值无涉的工具,其底层模型架构、数据特质与算法逻辑不可避免地潜藏并固化着特定的利益倾向与价值立场。为避免人工智能技术异化导致价值失范的风险,法治保障体系亟须确立“技术向善”的内在价值锚点。所谓“向善”,要求超越传统的技术中立论,把“以人为本”作为终极尺度,将人类的全面发展与社会福祉实质性地内化为科技创新的要求。现代金融治理理念应突破唯效率导向的工具理性局限,向捍卫公平、透明与人类尊严等价值理性跃升。只有在理念源头上将“向善”的伦理基因注入人工智能技术设计与应用的全生命周期,金融智能监管才能真正服务于人,落实数字时代科技伦理的责任担当。
当人工智能技术深度嵌入金融体系时,其引发的非线性次生风险已远超单一个体的权利范畴,将触及国家经济安全与社会整体结构的稳定。与单纯强调统一标准与算法逻辑的形式正义不同,数字时代金融监管的法治逻辑更应转向关注数字弱势群体的实质正义。这意味着,评价人工智能作为监管科技正当性的标准应是其应用结果是否可真正服务于防范系统性风险、促进资源普惠配置等“社会本位”的宏观目标。同时,为了避免上述价值理念沦为空洞口号,应将它们转化为防止技术狂飙的现实约束,具体而言如下。(1)鉴于算法“黑箱”导致决策逻辑难以直观洞察,必须构建标准化评估工具。深度学习的高维非线性特征使得输入与输出的映射关系难以溯源。因此,风险评价必须超越主观感知,依托客观、可量化的指标穿透技术壁垒,实现实质层面的价值对齐。(2)鉴于软法规范与伦理倡导缺乏强制拘束力,必须推动伦理审查机制的建立。仅靠行业自律极易因软法的先天缺陷导致规则虚置,唯有将柔性的道德倡导上升为刚性法律义务,才能促使技术主体彻底实现从“不作恶”的主动承诺向“不可为”的规则认同转变。(3)鉴于人工智能技术具有非线性演进与快速迭代特征,必须建立动态监督与响应机制。为弥合静态成文法与动态技术演进之间的鸿沟,唯有依托具备持续感知与敏捷治理能力的监管体系,方能在复杂的演化环境中实时纠偏并化解未知风险。
四、法治保障金融智能监管的规范架构:建设全方位多层次的智能治理体系
波普尔曾说,“人的因素在社会生活中和一切社会建构中终归是不确定的和捉摸不定的成分”,这一论断同样适用于当下的人工智能技术。面对人工智能技术给金融监管生态带来的高度复杂性与未知风险,法治应以确定性的规则体系去回应技术演进的不确定性。因此,有必要通过制度化、体系化的规范建构对金融智能监管加以引导,构建全方位、多层次的金融智能治理体系,为人工智能赋能金融监管规范运行提供风险可控的制度基础。
(一)金融智能监管的准入备案规则
准入备案规则作为人工智能进入金融监管领域的第一道门槛,旨在将抽象的法定监管权转化为具象的风险防范机制,其可由负面清单、备案制、监管沙盒试错等规则组合而成。
第一,建立精细化负面清单规则。负面清单以禁止性规范为依据,划定高风险人工智能技术的范围。例如,需要禁止算法黑箱程度过高、无法采取合规审计的人工智能决策模型,以及对金融市场稳定构成威胁的人工智能监测技术等,从源头上杜绝因技术不确定性引发的风险。同时,应建立动态更新机制,在真实但受限的市场环境中测试技术,及时将成熟技术移出清单,将新型风险技术纳入禁止范围,既守住安全底线,又为合规创新保留空间。
第二,建立规范化监管备案规则。采用备案规则而非审核规则,可以适配人工智能技术迭代快的特性,避免审核制的冗长流程滞后于技术发展。建立规范的备案流程,当务之急是明确备案主体及其权责。例如,中央监管机构可负责跨境资金监测、系统性风险防控等宏观审慎领域人工智能工具的备案;省级监管部门负责区域性风险识别模型等本地化工具的备案;基层监管机构则针对辅助性监管工具完成简易备案,如聚类投诉分析系统。同时,还应对需要备案的内容加以明确,从而确保备案不流于形式,具体内容应包括但不限于算法核心逻辑说明、训练数据来源以及风险评估报告等关键材料。
第三,建立本土化监管沙盒规则。在人工智能作为金融监管工具大范围推广前,监管者需要先在可控的市场环境中设立测试区域,允许在不违反现有法律法规的前提下对其开展测试性监管活动。监管沙盒的设置既能避免不成熟技术盲目推广引发的监管风险,又能通过透明化流程增强被监管主体对人工智能监管工具的认可。具体规则的设计可借鉴新加坡金融监管沙盒的容错阈值设计与证监会专项试点经验,实行自愿申请和择优入选的机制,优先吸纳服务科技金融、绿色金融、普惠金融、养老金融、数字金融“五篇大文章”和具备技术创新性且风险可控的人工智能监管工具。测试期限一般为六至十二个月,复杂场景可延长至十八个月。测试结束后,通过评估的应用可以正式接入监管体系,未通过的需限期整改或退出。
(二)金融智能监管的伦理审查规则
伦理审查规则是技术向善与社会本位价值理念的规范表达。人工智能技术革新不仅重塑行业格局,更反映出社会对效率、公平、责任等伦理的深刻考量。因此,应当通过法治手段确保技术应用符合伦理要求,防止因算法偏见或设计缺陷引发整个金融体系的连锁反应⑤。
第一,构建标准化伦理评估工具。为实现对人工智能监管工具的伦理合规性校验,需要打造统一的伦理量化指标和操作流程,确保伦理要求贯穿技术应用始终。(1)在数据采集环节,人工智能工具研发者应严格评估数据收集范围是否与监管目的直接相关,核查训练数据来源的合规性、多样性与真实性,防范过度采集非必要信息及数据污染引发的伦理风险。(2)在模型训练环节,需要嵌入检测指标,设置不同群体占比、敏感特征权重等量化标准,自动识别并拦截包含性别、地域、行业歧视倾向的训练数据,避免算法放大不公平因素。(3)在决策输出环节,针对信贷审批、保险定价、市场准入等敏感监管场景,设定合理的差异阈值。当不同类型被监管主体的监管结论偏差超出阈值时,可以借鉴英国信息专员办公室(Information Commissioner’s Office)的实践,设置人工复核与纠偏工作,作为防范技术偏见与决策异化的安全底闸⑥。
第二,推动伦理审查立法进程。为化解监管科技与金融科技的冲突矛盾,回应金融监管中算法透明、算法公平等伦理要求,立法机关应当将人工智能技术的伦理治理要求系统纳入金融监管规则体系。在现有人工智能治理框架基础上,需要建立针对金融监管场景的管理制度,具体可以结合证监会现行备案管理要求,将人工智能监管工具的伦理合规列为内部备案通过、年度审查的必要条件,申请机构需在备案材料中说明算法公平性保障、数据合规使用等伦理相关内容。
第三,建立动态的伦理监督与响应机制。(1)在监管机构内部设立独立的伦理审查委员会,负责对已部署的人工智能监管模型进行定期的伦理审查,具体可参考欧盟现行模式:持续收集、记录并分析系统全生命周期性能数据,从而持续评估合规性,并对严重事件设置强制报告与纠正机制。(2)建立人工智能风险动态监测仪表盘,对相关指标进行实时监控。实现有效及时的监控需要设定科学合理的指标,实践中可以将“推翻率”作为预警伦理风险的关键指标,即人工复核者否定或修正人工智能决策的比例。通过分析“推翻率”及其背后的原因,可识别人工智能决策偏倚风险并评估人机协同决策的有效性。
(三)金融智能监管的风险控制规则
风险控制规则是金融智能监管的“安全阀”。当金融智能监管出现风险异常时,通过预设机制可以及时拦截、处置,避免风险扩散。
第一,构建全流程风险管控机制。首先,在设计开发阶段,应严格遵循最小必要的数据使用原则,避免过度收集非必要信息,同时,需要建立数据清洗标准,防范数据污染引发的模型偏差。其次,模型上线前必须通过安全测试,需设定算法稳定性、抗攻击能力、容错率等量化指标,未达标的模型不得投入使用。随后,在部署运行阶段,建立实时监控台账,对跨境资金监测、系统性风险预警等关键场景,设置全天候动态监测机制。最后,在迭代退役阶段,规范模型更新与下线流程,若迭代则需进行风险评估与测试,若下线则必须完成数据安全销毁、操作权限回收和遗留风险的全面排查,形成风险的闭环管理。
第二,设计四级分类的应急机制。为实现监管资源的最优配置,提升执行的可操作性,实现风险的“早发现、早处置”,有必要对人工智能工具风险实行分级处置。比较法视野下,欧盟通过《人工智能法案》开启了以风险程度为标准的分级监管,其将风险划分为“无风险、低风险、高风险、不可接受风险”四级。四级框架已然成为国际金融机构合规运营的重要参考⑨。结合域外经验和中国实践,中国可依风险危害程度划分出一般风险、较大风险、重大风险、系统性风险四级监管。(1)对一般风险,由人工智能系统自动调整参数。(2)对涵盖算法逻辑异常、单一领域监管误判集中爆发等较大风险,由系统自动触发熔断。(3)对网络攻击、模型被恶意篡改、引发区域性金融市场波动等重大风险,启动人机协同模式。(4)对系统性风险,立即启动跨部门应急响应。在应急处置方面,按权限分级划分处置责任,基层监管人员负责一般风险的核查与处置,专业风控团队统筹较大风险与重大风险的应对,系统性风险则启动跨部门联席会议机制协同处置。该机制与中国金融科技发展规划的安全要求高度契合,能为金融稳定提供坚实保障。
第三,建立人工智能的动态优化机制。应当吸纳一批金融、技术、法律等领域的复合型人才,负责风控规则的执行、监督与解释。还需聘用专业风控团队,专注于人工智能监管工具的风险监测与应急处置,定期开展安全渗透测试,防范技术层面的潜在风险。此外,应当建立熔断事件复盘迭代机制,对每一次熔断触发的风险事件进行深度分析,总结模型设计、流程管控、应急处置等环节的经验教训,将相关结论纳入人工智能监管工具的优化升级方案,确保风控规则始终保持适应性与有效性。
(四)金融智能监管的责任追究规则
问责的最终目的是构建一种规范治理的常态,以便于未来能够依据经验结果对责任方和受影响者采取有效行动,在预防意义上避免出现特定行为或造成特定影响[20]。构建贯穿系统开发、部署、使用的问责链,需要确保人工智能的监管决策在每一环都有明确的责任主体。
第一,明确外部责任与内部责任并行的双轨制权责体系。外部责任主要面向监管链条中的三类主体,即监管机构、技术提供商以及金融机构。这三方之间分别构成行政法律关系、合同法律关系与合规责任关系,构成包含三元主体的外部责任结构。与此同时,内部责任体现为监管机关内部的层级治理与岗位责任体系,部门负责人、业务主管等为主管责任主体,具体执行人员为直接责任主体。双轨结构实现了对外法律责任与对内行政问责的分层归置,使监管科技场景中的责任能够在不同维度得到准确识别与规范化处理,避免责任悬空或责任过载。
第二,确立法律责任认定标准。在双轨责任体系明确之后,责任认定必须依据不同责任轨道分别确立法律标准,明确过错归责的责任认定规则,以及“预防性问责”“过程控制”的问责导向。(1)关于外部责任。监管机构的责任认定重点在于其是否履行了必要的审慎使用义务、技术验证义务以及决策中的人机区分义务;技术提供商的责任认定以合同约定义务、产品瑕疵标准、算法稳健性和安全性要求为主;金融机构的责任认定则应聚焦其是否履行了内控义务、外包风险管理义务与信息报送义务。(2)关于内部责任。认定主管人员承担责任应侧重审查其在制度设计、流程监督和风险防控过程中是否尽职尽责;认定执行人员承担责任需判断其操作是否遵守规程,是否存在疏忽、怠于履职或未按要求报告风险等具体行为。
第三,规范内外部问责程序与责任承担方式。(1)应明确问责的启动与调查程序。调查程序由监管机构依职权或依据举报、风险事件等线索触发,并由独立的技术与法律专家小组基于操作日志、算法审计报告等客观证据进行核查。在调查过程中,还需同时保障涉事主体的听证与申辩权利。(2)设置有针对性的责任承担方式。对于外部责任,由行政监管、民事赔偿、市场约束协同处理,具体的责任承担方式包括责令责任方进行技术整改、处以罚款、业务准入限制以及承担民事赔偿责任;对于内部责任,则由行政机关对内进行追责,加强内部履职管理,对履职不力、疏于监管的相关管理人员依法依规作出人事处分。同时,应当通过公开人事处分决定和持续跟踪评估整改情况,确保处分落实到位,并为被问责主体提供法定救济途径。
(五)金融智能监管的部门协作规则
金融治理通常具有很强的外部性和公共属性,这决定了金融智能监管无法依赖单一部门独立推进。部门协作可以通过横向协同的治理架构,打破金融、网信、工信等部门的监管壁垒,形成治理合力,为人工智能赋能金融监管提供组织保障。为实现这一目标,需要确立如下部门协作规则。
第一,明确主责部门与决策权限。为克服“政出多门”与监管重叠的问题,必须确立以金融监管部门为核心的主责体系,建立常态化决策协调机制。建议中国人民银行、国家金融监督管理总局、中国证券监督管理委员会等机构在内部设立专门的金融科技与监管科技职能部门,统筹本领域人工智能监管工具的开发、测试与应用,主导相关风险评估与合规检查。在此基础上,还需定期就跨领域监管政策、技术标准统一、重大风险研判与应对等议题开展协商并凝聚共识,形成具有约束力的顶层指引,确保各部门在协同治理时步调统一。
第二,实现信息互通与数据共享。在保障数据安全与合规的前提下,按照《国务院办公厅关于深入推进跨部门综合监管的指导意见》“推进监管信息互通共享”“打通数据壁垒”的要求,推动建立统一的监管数据分类分级的共享目录与标准接口。细化监管机构与网信、工信等部门的协作边界,统筹兼顾公共利益、第三方技术企业收益、被监管机构合规,并要求网信部门负责监督人工智能数据的安全使用,保障数据共享能够安全进行。
第三,设立联合监测与处置机制。为应对政府内部产生的风险,需要加强风险隐患跨部门联合监测,并针对问题线索推进跨部门联合处置。(1)由金融监管部门牵头,会同网信、工信部门,构建金融监管人工智能风险的联合监测预警模型,明确预警指标和标准,依托现代化基础设施完成跨部门数据共享,实现风险动态监测。(2)由金融监管部门负责进行内部隐患排查,包括算法黑箱、决策失范、权限越位、数据使用不规范等,网信部门、行业协会重点排查数据泄露、算法滥用、模型偏见、信息安全漏洞等外部风险隐患,并收集金融机构的一线反馈线索。所有线索统一由金融监管部门汇总后分办转办,同时,还需明确办结时限,以督促相关部门及时进行调查处理。
