江晓原:人机对齐:一道事关人类命运的艰巨难题

选择字号:   本文共阅读 1690 次 更新时间:2024-03-04 14:20

进入专题: 人工智能  

江晓原 (进入专栏)  

在人工智能快速发展并出现越来越多实际应用的情况下,许多从业者和研发者都开始明确意识到危机的临近了。本书作者布莱恩·克里斯汀,通过近百次正式访谈和数百次非正式谈话,行程数万公里,写成《人机对齐》这本聚焦于如何让人工智能学习人类价值观——这是目前在人工智能研发和应用中已经面临的严峻问题——的通俗著作。

按照本书的定义,所谓“对齐问题”(the alignment problem)是指:“如何确保这些(人工智能)模型捕捉到我们的规范化价值观,理解我们的意思或意图,最重要的是,以我们想要的方式行事——已成为计算机科学领域最核心、最紧迫的问题之一。”

本书分为三部分:

第一部分题为“预警”,主要介绍“对齐问题”前沿的一些情况,比如公平问题、错误的规则问题等等。现有的一些人工智能系统已经出现了和人类应有的伦理道德标准(比如不能有种族歧视)明显冲突的情况。而在看起来人类完全有能力掌控其意图的系统中,实际情况也比人们通常想象的要复杂和困难得多。

第二部分题为“自主”,重点是人工智能的“强化学习”,报道了一些最新的研究进展。作者认为“其中有一些经验可以帮助我们理解进化、人类动机和激励的微妙之处,对商业化育儿都有启发。”作者在这部分的态度似乎较为乐观。

第三部分题为“示范”,作者的注意力集中在人工智能安全研究的前沿问题。比如“如何将复杂的自动系统与过于微妙或复杂、无法明确的规范化价值相结合。”

根据书中的介绍,现在美国的司法系统中已经有相当多人工智能系统的应用,比如评估犯人能否假释之类的业务,就会交给人工智能去做,结果出现了非常令人意外的情形:有时人工智能并未像人们所期望的那样公正、那样“不偏不倚”,而是出现了种族歧视(比如对黑人的假释风险评分会高于白人)。又如谷歌的图像识别软件居然将黑人标记为“大猩猩”,谷歌不得不删去“大猩猩”这个标签,导致“任何东西都不会被标记为大猩猩,包括真正的大猩猩”。这些现象都为使用人工智能系统敲响了警钟。

总体来看,本书上述各个部分都由一些尽可能有趣的具体事例来推进叙事,这是欧美畅销书的惯常写法。好处是可以增加阅读趣味,但阅读时需要注意关注叙事主线,避免迷失在各种故事和逸闻趣事中。

如果我们跳出具体的技术问题,以及解决这些问题的具体进展,采用更为宏观的视角来看问题,则“人机对齐”或“对齐问题”可以从根本上近似理解为这样一个问题:用大白话来说,就是怎样防止一个孩子学坏的问题。

自古以来,人类为了让孩子学好,普遍采用了家庭规训、学校教育、司法惩戒、社会宣传……等多种手段,这些手段从深度和广度来看,和迄今为止人工智能研发者在“对齐问题”上所做的努力相比,说是不遑多让,说是有过之而无不及,恐怕很少有人会否认。

但是效果呢?任何时代,社会都无法避免有少数孩子学坏、堕落、沦为罪犯。人类迄今还没有找到保证孩子100%不学坏的有效办法。那么,如果我们将人工智系统能看成人类另一种形式的“孩子”,从业者和研发者们又凭什么建立起一定能够让人工智能系统不学坏的信心呢?

虽然迄今为止,从总体上来说,人类社会并未因为有一部分孩子学坏沦为罪犯而陷于崩溃,因此我们似乎也有可能和某些“学坏”了的人工智能共存。但那是因为迄今所有的罪犯都不是“超人”,他们的恶意尚无法战胜由相对最聪明的那部分人所制定、建立和运行的社会制度。然而人工智能的学习能力是难以预料的,更何况,人工智能的研发者都希望研发出比人类更聪明的人工智能(否则研发人工智能还有多少意义呢),显然,“学坏”了的人工智能将对人类社会形成前所未有的挑战。

如果从这样的视角来读《人机对齐》这本书,我们将获得更大的教益和启发——人机对齐,任重道远,当真是事关人类命运的艰巨难题。

进入 江晓原 的专栏     进入专题: 人工智能  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 科学 > 科学评论
本文链接:https://www.aisixiang.com/data/148356.html
文章来源:本文转自《解放日报》2023年12月23日,转载请注明原始出处,并遵守该处的版权规定。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统