刘永谋:智能革命与身心设计

选择字号:   本文共阅读 25356 次 更新时间:2023-12-09 11:12

进入专题: 人工智能   身心设计  

刘永谋 (进入专栏)  

《孟子·告天下》曰:“人皆可以为舜尧”。传统德治理念认为,如果真的“六亿神州尽舜尧”,理想社会自然到来。新科技的伟力不仅昭示于自然改造中,而是深入到智人的改造中——我称之为自觉的身心设计。智人的身体与灵魂可否用新科技改造,应不应该用新科技改造,又如何用新科技改造?

一、身体与行为的可控

21世纪之交,智能革命方兴未艾,身心设计越来越被接受。为什么?新的观念尤其是“科学人”的崛起,给身心选育到身心设计的转变提供了重要的合理性基础。

21世纪20年代,“所有人都应该被测量、控制和改造”的观念成为智能社会的新人观,以免科学人成为社会效率最后的短板。“科学人”的新观念崛起一言以蔽之:智人并不神秘,不过是“第三种黑猩猩”,而既然黑猩猩可以控制,智人的身体和行为也可以控制。

二、智能革命的新刺激

大规模的身心设计,会随着智能革命开始?一些人认为,智能社会的推进,至少给出3个相互联系的支持身心设计的理由:1)智能社会从AI辅助生存社会走向机器人劳动社会,智人正在成为“无用之人”;2)AI不断“进化”,加剧智人身心的退化;3)未来与硅基生命的竞争中,作为碳基生命的智人处于明显的劣势。在支持者看来,以上3个问题要彻底解决,必须实施建制化的身心设计工程。

智人想在与机器人的竞争中胜出,势必拥抱自觉的身心设计。对于超级AI的出现及其时间点,我并不乐观。智人如今还来得及对机器人发展进行控制,但智人面对的压力并不止于AI,而主要是地球环境的限制和变化。

三、身心设计的乌托邦

21世纪20年代,“残暴智人说”不断给予智人极深的愧疚感和自我否定,进而给驯服人性的尝试提供强大的价值观支撑。旧道德与新知识的碰撞,结果是智人的残暴必将被驯服,极大地提高科学人的道德水平。

科学人对智人肉身改造的目标明确,即朝着更强大的身体机能和能适应更严酷的生存环境的方向前进。更强大的身体机能很好理解,即体力奥利匹克竞赛和脑力奥利匹克竞赛追求的更高、更强、更快和更聪明。于是,人类增强技术开始兴起,激进分子则呼唤人类再造技术。

在乌托邦主义者看来,身心设计造就完美科技智人,为通往理想社会尤其是和谐社会打下坚实的基础。这也意味着:在身心设计中反对竞争、善于合作是最重要的改造标准,机器人劳动社会将因此走向全面人际和谐。

四、警惕身心设计风险

当智能社会发展到机器人劳动社会,适当、适度和有限的制度性身心设计的条件逐渐成熟。此时,科学人实施自觉的自身进化工程,很可能将之纳入功能控制型政府的职责之中,将之视为视为政治经济学问题,以集体的力量向“完美科技智人”跃升。

我所主张的有限技治理论认为,大规模的身心设计存在着巨大的风险,必须要谨慎而逐步的推荐。此种风险来源于2个方面:1)身心设计的目标存在争论,2)身心设计的实施可能走样。

五、结语

身心设计从来就不是纯粹技术问题,而是与制度、价值观和文化的演化密不可分。就目前而言,大规模身心设计的各项条件都没有成熟。如果未来身心设计不可避免,不可贸然轻动,必须在前进过程时刻警惕风险,结合具体的国情,以适当、适度和有限的方式渐进,并在持续及时的反馈过程中不断调整前进的方向,在必要时候及时叫停某些激进措施。

进入 刘永谋 的专栏     进入专题: 人工智能   身心设计  

本文责编:chendongdong
发信站:爱思想(https://www.aisixiang.com)
栏目: 学术 > 教育学 > 心理学
本文链接:https://www.aisixiang.com/data/147863.html

爱思想(aisixiang.com)网站为公益纯学术网站,旨在推动学术繁荣、塑造社会精神。
凡本网首发及经作者授权但非首发的所有作品,版权归作者本人所有。网络转载请注明作者、出处并保持完整,纸媒转载请经本网或作者本人书面授权。
凡本网注明“来源:XXX(非爱思想网)”的作品,均转载自其它媒体,转载目的在于分享信息、助推思想传播,并不代表本网赞同其观点和对其真实性负责。若作者或版权人不愿被使用,请来函指出,本网即予改正。
Powered by aisixiang.com Copyright © 2023 by aisixiang.com All Rights Reserved 爱思想 京ICP备12007865号-1 京公网安备11010602120014号.
工业和信息化部备案管理系统