江晓原:担心chatGPT会取代人类进行创作,可能为时过早

选择字号:   本文共阅读 2321 次 更新时间:2023-06-19 09:27

进入专题: ChatGPT  

江晓原 (进入专栏)  

文汇报:

一段时间以来,关于ChatGPT介入各类艺术创作的案例此起彼伏,也引发了人们对于其能否超越从而取代人类从事艺术创作的讨论。如何看待由此产生的各种担忧?

江晓原:

这个问题从人工智能出现的时候大家就提出来了,到目前为止,我既没有看到有人提出新的问题,也没看到ChatGPT在创作上有什么革命,所以我们目前并没有来到一个划时代的节点上。

但我也并不认为,ChatGPT——或者从广义上来说,人工智能——无法代替和超越人类创作。你只需要问从事人工智能研发的人,他们的目的是让人工智能创作出达到跟人类一样好,甚至超过人类,还是要让他们永远超不过人类。我相信所有的从业者都会选择前者,这就是他们从事这个研究的目的对不对?所以余华说的人工智能不会超过作家只是一种自我安慰,你又不是从业者,你怎么知道它会超过还是不会超过呢?

实际上这个问题和我们讨论人工智能的另一个问题直接有关,就是自由意志。通常一个有自由意志的物体,我们才会同意承认它的权利,比如说你会承认一棵树的权利吗?不会,因为你不认为树有自由意志;但我们不会像对待树一样对待家里的猫和狗。我们可以从低等生物到高等生物画一个连续谱,从那一端我们确认它没有自由意志,没有任何权利,到这一端我们人类,那就是人权。现在我们不断开发人工智能,等于推动它在连续谱上从那一端往这一端不断行进,就像电影《流浪地球2》里的摩斯系统,面对同样的问题,它一开始的回答跟结束时的回答就不一样了。这很正常,因为有学习能力的都会这样的。

现在的人工智能已经能够做到这一点了,那你觉得会不会他在什么阶段产生自由意志?你并不知道他会在哪一个瞬间产生自由意志,《西部世界》就是一直在讨论这个问题,那几个机器人本来是供人娱乐的,结果它们开始有自由意志并且付诸行动了。可是自由意志是怎么来的?当初给它们写的程序里肯定没有,也就是自由意志可以从无到有生长出来。同样的,在影片《失控玩家》里,盖原本是一个赛博空间里的人物,后来产生自由意志,不安分了,不肯在赛博空间里当小龙套,要追求女主角了。他的这种念头是怎么产生的?是程序员给他写了一段足够复杂的代码,导致了自由意志的产生,这是电影的解答,不是科学的解答,但是这个解答是有合理性的。就是说一个系统它越复杂,它的可预测性越差,但是这样说还不能直接引导到自由意志,实际上用我的陈述就是说,一个足够复杂的系统里就会产生不测事件,而这些不测事件中就可能包含自由意志,所以你不知道这段网络上的程序,它在什么时候会产生自由意志。

这个问题到现在为止,无论是哲学家还是科学家,没有人能解决,大家都不知道。在现实生活中,因为我们的人工智能也没有复杂到这个地步,我们还不能清楚判断它有没有自由意志。比方说chatGPT,你跟它聊天,它的某些回答看上去像是有自由意志的,但是这个没有确证,你还是不能判断的。如果它有行动能力,它某天做了某件事情,那就有可能是出现自由意志了。

麦克尤恩在小说《我这样的机器》里就开始讨论了一些这样的问题,男女主角买了一个机器人亚当回家,亚当帮他们炒股,让他们过上了富豪的生活,之后发生了两件事:亚当爱上了女主人,亚当自杀了。事实上,这个公司一共开发了25个机器人,它们最终无一例外全都自杀了。为什么?因为所有这些机器人在出厂的时候都被植入了道德戒律,要求它们必须诚实公正。结果它们到了人类家里,发现人类各有各的不道德,于是选择了自杀。当机器人能够判断某种行为道德与否的时候,你觉得这是不是一种自由意志的表现?

文汇报:

艺术创作是一种释放和表达,而创作者灌注在作品中的生命遭遇和体验,反过来也会影响大众对于作品的接受和理解。钱钟书有过著名的表述:如果你今天吃了一个鸡蛋觉得味道不错,你又何必去认识那个母鸡呢?但是,创作者的故事确实会影响大众对于作品的理解、感受乃至共鸣。而面对一部人工智能创作的作品,我们就失去了艺术欣赏的这一个维度,失去了审美链条上的重要一环。这似乎也是很多人认为人工智能无法取代人类进行艺术创作的一个重要理由。

江晓原:

首先,这个审美链条并不会因此出现断裂。你让人工智能在创作一个艺术品的同时,再创作一个关于艺术品的故事不就行了吗?人工智能可以讲一个故事给你听,比真的更感人。实际上我们今天听到的很多关于艺术家的故事都是真伪难辨的。

其次,这个问题很像是图灵测试的另一个版本。图灵测试就是隔着墙跟人聊天,要人判断墙的那边是机器还是人。同样的,如果现在分别由人和AI创作一段乐曲让你听,你能辨别出哪一段乐曲是AI创作的吗?

你之所以认为观赏AI作品会在共鸣感上打折扣,是因为它已经被标注了自己的出身,于是你就先入为主地对它有了偏见。如果把一幅AI创作的绘画放在你面前,但是告诉你是某个当代画家画的,甚至还杜撰一个画家出来,让这个画家以及那些关于他的故事能够被搜索到,你把这些感人的故事附会到你看的作品上,会不会产生共鸣呢?

最后,创作究其本质来说,需要的不过是大脑中的一些信号而已,那些信号人工智能也可以给你。电影《未来战警》(Surrogates)设定在未来世界,每个人都有一个自己的人工智能替身,只要将大脑植入网络,就可以由替身替自己去做任何事。这是2009年的电影,现在看来还是把人工智能看低了,实际上,只要有一定的学习能力,人工智能完全可以拥有主观能动性,然后替你感知世界,替你创作,无论诗歌还是绘画。

所以,还是要绕回到前面说的,所有假定人工智能无法取代人类进行艺术创作的想法,都是基于一个前提,就是人工智能不会产生自由意志。但认为人工智能不会产生自由意志,到目前为止只是一种人类的信念,而没有得到过事实或者逻辑证明。

文汇报:

实际上,人类的很多工作都已经被智能化机器所取代了。但似乎直到人工智能表现出艺术创作方面的能力,才真正引发人类的担忧。这或许是因为,艺术的本质直接指向人类内心和精神,艺术创作由此关乎人的存在。我们讨论人工智能能不能替代甚至超越人类进行艺术创作,其背后真正的问题是,什么才是人类真正无法被替代的部分?

江晓原:

我前面说,每一个人工智能的开发者都会以让人工智能超过人类为目标,所以真正值得追问的是从业者:这个目标是合理的吗?不,这个目标根本就是荒谬的。

我一直认为,人工智能对人类的威胁,分近期、中期、远期三种。近期,造成人类失业;中期,失控并反抗人类;远期是什么?就是它既全能又至善,对人类言听计从,什么都能替人类做,而且做得比人类好,而每一件它们能够比人类做得好的事情,都会消解掉人类的一部分生存意义,包括文学和艺术。而当它们把每件事情都做好的时候,看起来人类能够舒舒服服享乐了,而人类的生存意义也就不存在了。这样的人工智能,是会毁灭人类文明的。

进入 江晓原 的专栏     进入专题: ChatGPT  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 科学 > 科学评论
本文链接:https://www.aisixiang.com/data/143804.html
文章来源:本文转自《文汇报》2023.6.7,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统