张洁凡:关注人工智能生成内容之利弊

选择字号:   本文共阅读 1576 次 更新时间:2023-05-14 10:43

进入专题: 人工智能   ChatGPT  

张洁凡  

 

近年来,随着人工智能领域大跨步向前迈进,大众也不断享受着愈发丰富的多样化、个性化技术红利。人工智能生成内容(AI Generated Content,AIGC)指利用人工智能算法、自然语言处理(NLP)、计算机视觉(CV)等方法,自动生成文本、图像、音频等各类媒介形式的内容,以满足用户的个性化需求。AIGC的发展与应用,在带来便利的同时也使我们面临着一些新的挑战。关注AIGC的利弊,有助于我们审慎对待此类新技术,从而更好地应对挑战。

多维考察

2022年8月,利用人工智能生成的画作《太空歌剧院》在美国科罗拉多州博览会的美术比赛中获得一等奖,引发了各界对AIGC的关注。2022年11月底,人工智能对话式语言模型(Language Model for Dialogue)ChatGPT上线,在发布两个月内全球用户数即突破1亿。在对话中,ChatGPT可以回答用户问题、承认错误、质疑不正确的前提,甚至设计实验、撰写文稿。该模型是AIGC的代表性成果,不仅获得了出众的传播效果,也对科学研究和社会生产生活产生深远影响。无论是绘画类还是对话类的AIGC技术,都迎来了用户的猎奇实践,并向生活各个领域延展。有观点认为,AIGC将对日常应用产生显著影响,其带来的高效生产大量高质信息的能力节省了时间和资源,能够明显地辅助视觉传达与图像开发。

值得注意的是,AIGC并非只能提供绘图或对话功能,而是包含着丰富的模态,由多类技术模型共同支持。作为基本的训练模型框架,自回归模型(ARM)、变分自编码器(VAE)、生成式对抗网络(GAN)、对比语言图像预训练模型(CLIP)、流模型(FBM)、扩散模型(DM)等各自承担着不同的功能和亮点,从而能够实现文本创作、图像创作、视频创作、音频创作、3D创作、游戏开发等,并逐渐呈现多模态扩展。以ChatGPT为例,它是典型的文本生成类模型,集聊天机器人、人工智能创作者、搜索引擎、虚拟助理、语言翻译等功能于一身。在生成内容的同时,它能够智能化匹配用户的价值观及思维模式,这是来自“人类反馈的强化模型”(RLHF)训练的结果。由此又可以看到,AIGC虽然呈现了高度整合的智能策略,但仍建立于机器与人类的交互活动之上。

带来便利

AIGC是连接身体、技术、场景、关系的生产形式,这种精细识别融合了身体特征、生活语境、艺术创作、工业生产及商业营销,其应用场景不断扩容,呈现出与外部环境的智能交互。不少专业人士称,AIGC是“继专业生产内容(PGC)、用户生产内容(UGC)之后的新型内容创作方式”,直言其能够“以人类难以单独完成的数量和速度进行生产,并允许极大程度的一致性和准确性”。

从狭义来看,AIGC重塑了日常生活,创造了与个人经历产生共鸣的新颖体验。它创新了生产赛道,达到了海量数据与算力的集成,增加了身体的沉浸体验,提高了数据输出的速度和质量。并且,它能够从各类媒介形式入手,改造现有的信息生产秩序和结构,实现行业资源的共享与整合。随着各类模型降低了计算的成本以及模型的不断开源,AIGC正在向更多的行业进驻,展示出多模态的落地成长,并不断融入人们的日常生活。

从广义来看,AIGC的推广应用实则是数字化背景下技术领域另一种形式的社会再生产在创造价值。马克思所言的再生产,涉及人及生命的再生产、社会关系的再生产,以及整个自然界的再生产。这些在数字化背景下,都面临着数字化的转型。比如,在AIGC生产过程中,部分个人生产单位正在被逐渐替代,转而以技术、行业、人才配合的社会单位的形式呈现。在此过程中,有关的各行各业都会不断被洗牌。正如马克思所说,“不管生产过程的社会形式怎样,它必须是连续不断的,或者说,必须周而复始地经过同样一些阶段。一个社会不能停止消费,同样,它也不能停止生产”。此间,早期PGC的简单再生产,也走向了AIGC的扩大再生产阶段。

应对挑战

AIGC在促进生产效率提高的同时,也使我们面临着一些新的问题和挑战。或许,在不久的将来,AIGC会占据大众的电子终端屏幕而无孔不入。这个扩散的过程悄无声息,并让很多人都成为猎奇狂欢的一分子。在此过程中,文本、图像等各类内容的生产走向简单化、定制化,AIGC成为一键包装、改造的便利工具,而猎奇愉悦感则可能覆盖人们对技术背后隐私、伦理、算法偏向的关注。并且,基于这种新鲜体验,即使AIGC出错或是不够准确(比如,OpenAI官网就有对ChatGPT可能会生成“看似合理但荒谬”结果的说明),不少人也会展现出极大的包容度而戏谑接受。这可能会降低技术检验的标准,同时也会导致专业创作中透明度的下降与研究成果的泄露。在ChatGPT走红的这段时间,关于论文写作、考试答题、恶搞对话等记录已数不胜数。加之,在受众媒介素养层次不一的数字社会中,如此繁杂的内容真实性无从考证,谣言与版权侵权问题亦无从问责,大量谣言与版权侵权问题容易因此而生。在这个层面上,AIGC存在诸多难以识别的异化趋向。

同时,目前AIGC的应用仍存在不稳定性,这体现在生成内容的质量和准确性可能有所差别。有研究者指出,尽管人工智能有潜力生成与人类书面内容一样准确的科学文本,但在深度和整体质量方面仍存在差距,更可能包含语言冗余和事实问题方面的错误。这类情况在其他AIGC领域同样存在。并且,在与用户自我呈现需求的交叉下,“一键转化”“即时会话”等短生产链优化了用户体验,在一定程度上增加了用户对平台的依赖性,刺激了社交分享欲,但同时也增加了扭曲布迪厄(Pierre Bourdieu)所说“趣味判断力”的可能。而当猎奇狂欢结束、技术底色暂时流失时,数字平台中却很少有人纠正技术遗留的区隔。不仅如此,AIGC对视觉冲击感与道德伦理的边界区分仍不清晰,这也可能带来一些问题。一方面,这可能导致难以避免的价值观偏差;另一方面,这还可能导致视觉环境中真实的外缘愈加模糊。在AIGC开发与规模传播之下,本雅明(Walter Bendix Schoenflies Benjamin)所说的“原真性”或走向式微。

此外,就AIGC本身的技术基础来说,前期模型训练所需的大量数据集,要建立在真实数据之上。但是,在训练过程中仍无法保证数据的安全性与对个人隐私的保护。并且就目前来看,AIGC的出现虽已得到工商界认可,但仍处于试水阶段。伴随着现象级的宣传及社交媒体的裂变传播,AIGC才得以推广。其内容生产类型单一(集中在文本与图像领域)、用户黏性不足(“尝鲜”过后易流失)、生产领域碎片化(图文分离缺乏整合)等问题,都需要在后续的应用中进行克服与改进。

总体而言,AIGC的发展问题背后是技术与人类的关系问题。不论是ChatGPT还是人工智能绘画,要看到技术的发展伴随着媒介、价值和人类生存等方面的变化。人工智能作为一种技术,承担着经济性、社会性等功能,其“延伸”和“截除”或无法避免。不过,人的主动性仍然有用。当新技术贯穿人类从文字、印刷再至电子、网络传播的发展阶段始终,并构建起无数媒介化生存法则时,我们应看到其中的得与失。更重要的是,我们应保持警惕、把握伦理、怀抱希望。

 

(作者单位:中国人民大学新闻学院、荷兰鹿特丹伊拉斯姆斯大学国际社会研究院)

    进入专题: 人工智能   ChatGPT  

本文责编:SuperAdmin
发信站:爱思想(https://www.aisixiang.com)
栏目: 科学 > 科学评论
本文链接:https://www.aisixiang.com/data/142202.html
文章来源:本文转自中国社会科学报,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统