魏婷婷 余丽:ChatGPT影响国际数据生态安全治理

选择字号:   本文共阅读 15594 次 更新时间:2023-05-11 23:46

进入专题: ChatGPT   数据生态安全  

魏婷婷   余丽  

 

ChatGPT是指以ChatGPT技术(即生成式人工智能技术)为基础的一系列互联网工具,可衍生出具备数字内容孪生能力、数字编辑能力及数字创作能力,并基于人类反馈的强化学习应用范式。ChatGPT能够采集、加工、升华人类知识与人工内容,产出可以匹配与满足用户需求的数字内容,并成为一种智能式的认知理解模式。ChatGPT具有和任何技术工具一样的中性特征,但在国际数据生态安全治理视域下,ChatGPT被国家行为体使用,就成为国家行为体在国际无政府状态下追求权力和利益的信息工具,即具有了“非中性”作用。其主要表现在两个方面:一是算法技术强国基于ChatGPT技术,利用算法优势实施政治干预,借助对信息流的掌控权对他国进行观念渗透;二是受算法能力差异的影响,发达国家与发展中国家之间的经济鸿沟将进一步拉大,彼此间军事实力的差距也会扩大。质言之,ChatGPT“非中性”作用的实质,就是国家行为体在虚拟的网络空间利用新技术工具进行的权力较量、安全博弈和利益争斗,将会对国际数据生态安全治理产生深远影响。

基本路径

ChatGPT作用于国际数据生态安全治理主要有个人、国家和国际体系三个路径。

在个人层次,能够颠覆用户传统认知,干预用户决策行为,减弱用户个体特性。ChatGPT技术对人类的选择与行动的重塑是多种因素共同作用的结果,并且能够在用户体验的过程中颠覆用户的传统认知。ChatGPT机器人可以对用户提出的复杂或抽象的问题进行智能加工处理,为用户决策行为节约时间进而提高效率。但与此同时,也会降低用户决策行为的主观能动性。在特性行为方面,此前的互联网用户对于某一问题的认知程度取决于其信息检索能力的强弱。一般而言,检索能力越强,其接触的信息也会越多。然而,在ChatGPT技术应用后,由于其相对于传统网络检索工具的优势,用户往往有可能将其作为单一的检索工具,而基于同一数据库所生成的回答将产生对于同一问题的同一答案,进而“抹杀”用户个性。

在国家层次,能够影响外交政策制定、改变文化传播逻辑,科技公司权力的增强减弱了国家对其的控制权。由于ChatGPT技术的发展,在叙述和分析事件时,民众不再单纯听取外交决策者的意见。相反,外交决策者开始重点关注民众在网络空间的意见表达。基于集体行动的逻辑,人们在使用ChatGPT技术时,人性更自由且更大胆,乃至跨过安全底线。同时,在信息媒体的刺激下,某一特定公司创造的新技术可以传播到世界各地。由此,基于次国家行为体的身份立场,这将引发国家与其他行为体的权力分配问题。在传统意义上,人工智能工具一般会被放置于国家利益与安全的整体语境下运作,国家可以对其行为进行有效管控。然而,在ChatGPT的运行过程中,其数据库的内容构成、运行语境等会根据用户个体与互联网整体数据进行实时更新,在此过程中,其所属科技公司,如OpenAI将获得更为直接的对数据的控制管理权。

在国际体系层次,能够推动权威水平分布、更改国家实力标准、创造新型经济模式、呼吁相关法律更新。以往,互联网视域下全球权力的分布模式,以互联网技术的强弱进行垂直性排序。然而,伴随着ChatGPT技术的广泛应用,国际权威结构有可能呈现从垂直性排序向水平性排序转变的态势。同时,无论哪种类型的技术平台,均体现出创作者自身的特点。一个以英语创造为特点的机器学习程序,反映着其所处环境的文化价值、思维方式与政治观念。换言之,以美国为代表的西方社会的傲慢与偏见,将同样出现在ChatGPT输出的内容之中。由此,霸权主义国家具备将聊天机器人作为一种意识形态工具的能力与意图,用以巩固其政治、军事等领域的优势。因此,需要新的国际规范对ChatGPT及相关行为做出限制,明确行为边界。

蝴蝶效应

ChatGPT作用于国际数据生态安全的蝴蝶效应主要表现在个人、国家和国际体系三个方面。

从个人层次看,数据安全观念更开放、数据共享行为更普遍、数据上传体量更庞大。在ChatGPT的使用过程中,用户更可能倾向于贡献出自己的数据,以提高ChatGPT的使用效率与智能性,对该技术的信任与依赖会产生出更为开放的数据安全观,产生更具安全风险的数据分享行为。ChatGPT技术具有明显的相对优势以及广阔的适用范围,虽然其可以为个人与群体的数据决策行为提供新手段、新工具,但根据ChatGPT的运行逻辑,用户使用ChatGPT的过程也是将个人或群体的数据信息上传至其数据库的过程。用户使用ChatGPT越久,ChatGPT对于用户的了解越深,有可能加剧数据泄露的风险,继而影响个人数据安全乃至国家的数据生态安全。

从国家层次看,保密数据泄露的危险性增加,政治文化传播风险更大,科技公司权威性更为凸显。一旦ChatGPT在外交政策领域被广泛使用,其“双刃剑”作用不容忽视。一方面,它可以为制定更适合本国国情、更贴合国际形势的外交政策提供大量分析数据,但我们应该看到,大量相关数据上传至ChatGPT的数据库中,会加剧数据泄露等数据安全负面现象破坏性的广度和深度,危害国家数据生态安全。另一方面,在ChatGPT协助制定外交政策的过程中,具有创新性的深度挖掘技术,将在很大程度上提升相关信息的搜集效率与挖掘力度。然而,一国政府的一些难以被发现的保密性数据亦有可能被其他国家通过ChatGPT对全互联网实时数据的动态挖掘能力发现,从而危害国家数据安全。

从国际体系层次看,国家数据权力更分散,国际数据权力更集中,整体安全态势更严峻。在当前国际社会各行为体可以使用ChatGPT技术及其数据库的前提条件下,ChatGPT有望改变此前国家在互联网领域权力分布的衡量标准,在数据安全领域亦是如此。ChatGPT起到了分散国内数据权力的作用,科技公司的数据权力增大,国家数据权力则相对削弱,国家在数据安全领域的绝对权威下降。目前,ChatGPT技术由科技公司掌握,但OpenAI公司在法律意义上仍受美国政府管辖,因此,ChatGPT技术也成为美国在数据安全领域的一大权力来源,美国对该领域权威的绝对掌握,将对其他国家的数据生态安全构成极为不公平的负向影响。

中国方案

一个国家的发展同数据安全密切相关,尤其是在当前互联网技术全面普及的背景下,国家数据生态安全与国际数据生态安全紧密相连。但是,我们看到,少数国家试图阻止国际社会建立国际数据生态安全治理监管机构的努力。此外,国际数据生态安全治理不仅涵盖名称认证、实体结构和技术编程标准等不同议题,还需对大型跨国科技公司的巨大权力加以规制。总而言之,国际数据生态安全治理不能任由某些国家小群体抑或科技巨头公司的利益摆布。

因此,强化对ChatGPT等新一代人工智能技术相关衍生的社会运行模式及其对中国国家安全影响的动态性、持续性研究,对于进一步提高国家数据安全治理能力,进而捍卫国家数据主权安全,具有重要而深远的战略意义,中国可以从以下几方面予以有效应对。第一,加强顶层设计,从国家战略科技力量的高度出发,统筹新一代人工智能发展的国家战略和规划,发挥新型举国体制的优势,构建科技企业、高等学校、研发机构相协同的产学研创新生态群。第二,在给予大量投资支持的基础上,内培、外引更多人工智能领域的技术人才,并利用好自身市场规模优势,进而寻求人工智能算法新突破,避免受制于人。第三,进一步强化数据安全和算法监管治理体系和治理能力现代化。ChatGPT需要大量的数据,而这些数据的获取与使用是否合理、合法,是否侵害用户的隐私,是否涉及国家安全的敏感数据等,均有待商榷。对此,中国需要在技术保障的基础上强化算法监管,保障数据安全。第四,积极参与国际数据生态安全治理,推动落实《全球数据安全倡议》。中国要避免ChatGPT被国家和非国家行为者操纵成为意识形态传播的工具,并推动达成反映多边意愿、尊重各方利益的全球数字治理规则。

 

(本文系国家社科基金重大项目“大数据主权安全保障体系建设研究”(21&ZD168)阶段性成果)

(作者单位:郑州大学政治与公共管理学院;郑州大学政治与公共管理学院、河南高校新型智库当代资本主义研究中心)

    进入专题: ChatGPT   数据生态安全  

本文责编:SuperAdmin
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 国际关系 > 国际安全
本文链接:https://www.aisixiang.com/data/142747.html
文章来源:本文转自中国社会科学报,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统