启蒙的终结

——---人工智能意味着人类历史的终结
选择字号:   本文共阅读 1912 次 更新时间:2018-05-19 20:29:46

吴万伟  

亨利·基辛格 吴万伟

 

从哲学上和思想上说,人类社会在任何方面都还没有准备好迎接人工智能的到来。

三年前,在一场跨大西洋议题的会议上,人工智能的话题出现在了议程中。该话题不是我的专业领域,我正准备离开这个专场,已经开始的演讲内容却把我留在了座位上。

发言者描述了很快将挑战国际象棋冠军的电脑程序的工作原理。我感到震惊的是,电脑竟然能够下围棋,围棋比象棋复杂多了。在比赛中,每个棋手要动用180个或181个棋子(取决于他或她执黑还是执白),分别在空棋盘上落子;做出更好的战略决策,通过更有效的控制领地而让对手动弹不得的一方为胜。

发言者坚持认为这种能力不能够依靠编程来实现。他说,他的机器通过练习和训练学会了下围棋。考虑到下围棋的基本规则,电脑和它自己进行了数不清的比赛,从自己的错误中学会改进,并据此优化算法。在此过程中,它的技能已经比人类导师更高。事实上,在那次发言之后的几个月里,一个名为阿尔法狗(AlphaGo)的人工智能编程打败了世界最优秀的棋手,取得了决定性的胜利。

就在我听发言者称赞这种技术进步时,作为历史学家和偶尔从事国务活动的人的经验令我感到忧虑。自我学习的机器是依靠特有的过程获得知识,并将那知识应用在人类理解可能没有办法阐述的某些目的上。人工智能对这种机器的历史产生的影响是什么?这些机器会学习相互交流吗?在新出现的选择项中,人们如何做出选择?人类历史是否有可能像印加帝国在面对他们无法理解和感到敬畏的西班牙文化时走上消亡之路?我们是否处于人类历史新阶段的边缘?

意识到自己缺乏该领域的专业知识和技能,我组织了若干次这个话题的非正式对话,得到了人文和技术领域熟人的建议和合作。这些讨论让我的担忧变得更为强烈。

在此之前,最激烈改变现代历史进程的技术进步是15世纪印刷术的发明,它让经验性知识的探索成为教会教义的补充,理性时代渐渐取代了宗教时代。个人见解和科学知识取代信仰成为人类意识的主要评价标准。信息被储存在越来越大的图书馆中,并得到系统性地处理。理性时代产生思想和行动,而所有这些塑造了当今的世界秩序。

但是,如今在横扫一切的新技术革命的背景下,这个秩序处于动荡之中,其后果我们还无法充分认识到,最后的结果或许是数据和算法驱动下的机器世界,但这个机器并不受伦理道德的约束或哲学规范的管理。

我们生活的因特网时代预兆了一些问题和议题,人工智能不过令其变得更加严峻和尖锐了。启蒙运动寻求的是将传统真理置于解放了的、分析性的、人类理性审视之下。因特网的目的是通过不断扩张的数据积累和操控来验证知识。人类认知已经丧失了个性特征。个人求助于数据,数据变成了王者。

因特网用户强调提取信息和操控信息更甚于将其意义进行语境化或概念化处理。他们很少询问历史或哲学,他们通常要求获得与即刻的现实需要相关的信息。在此过程中,搜索引擎的算法获得了预测个别客户的偏爱的能力,从而能够让算法计算出个人化的结果,并将这些结果提供给其他人用于政治和商业目的。真理变成相对性的东西。信息吞没智慧的风险越来越大。

面对社交媒体潮水般涌来的各种观点的冲击,用户已经没有时间去反省;事实上,很多技术爱好者使用因特网来来回避令他们感动恐惧的孤独。所有这些压力都削弱了刚毅性格,而这是形成和维持坚定信念所必需的品质。坚定的信念只能依靠孤独的跋涉才能获得,而这种跋涉才是创造的本质所在。

因特网技术对政治的影响已经有人特别地表达出来。针对目标微群体的能力已经将从前的优先选择共识进行精细化的分解,将焦点集中在专门化的目的和诉求上。面对缝隙压力(niche pressure)的政治领袖已经被剥夺了思考和反思背景的时间,缩小了他们形成视野和眼光所需要的现有空间。

数字世界强调速度阻碍了人们去反思;它的奖励机制赋予激进分子而不是认真思考者巨大的能量;它的价值观是附属群体的共识形成的,并非依靠自我反省。虽然有种种成就,数字世界面临背叛自己的风险,因为它给人类带来的限制可能比带来的方便多得多。

随着因特网和运算能力的不断增强,大数据的积累和分析变得更加方便,出现了人类理解上前所未有的广阔前景。或许最具重要意义的是制造人工智能的工程---这种技术通过复制人类思维的处理过程而制造和解决复杂的、看似抽象的问题。

这已经远远超过我们知道的自动化。自动化处理的是手段;它通过把所掌握的工具理性化或者机械化而实现事先设定的目标。与此相反,人工智能处理的是目的;它要确立自己的目标。在成就部分由自身塑造这点上,人工智能从本质上说是不稳定的。人工智能体系通过自身的运作,处于不断流动的过程中,因为它不断获得新数据和分析新数据,并在此分析基础上寻求改善和更新。依靠这个过程,人工智能获得了一种从前被认为只有人类才具备的能力。它能做出有关未来的战略判断,有些基于被视为语码(如游戏规则)的数据,有些则基于自身收集的数据(如百万次的比赛循环)。

无人驾驶汽车说明传统的、人类控制的、软件驱动的电脑行动与人工智能寻求探索的宇宙之间的差别。驾驶汽车要求在众多根本无法预测的场景下做出判断,因此根本没有办法预先编程。如果用众所周知的假设案例,这辆汽车必须在杀死爷爷还是杀死孙子之间做出选择,将会发生什么?它会选择杀死谁?为什么?它在试图最优化的选择中要考虑哪些因素?它能解释自己的合理性论证吗?一旦受到挑战,如果能够交流的话,它的真实答案可能是:“我不知道(因为我遵循的是数学原则而不是人类原则)”或者“你不懂的(因为我一直受到特定方式的训练,(点击此处阅读下一页)

发信站:爱思想(http://www.aisixiang.com),栏目:最新来稿
本文链接:http://www.aisixiang.com/data/110027.html
文章来源:爱思想首发,转载请注明出处(http://www.aisixiang.com)。

9 推荐

在方框中输入电子邮件地址,多个邮件之间用半角逗号(,)分隔。

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。

相同主题阅读

Powered by aisixiang.com Copyright © 2018 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号 京公网安备11010602120014号.
易康网