过去十年里，世界出现了可能影响21世纪发展和走向的两个重大变化，一是地缘政治格局的改变，二是人工智能发展带来经济社会全方位的改变。这两者已然紧密交织叠合在一起，各种竞争对手间的关系更加难以捉摸，未来发展的路径更具不确定性，国家安全面临的风险挑战更加严峻，超出人类认知水平和应对能力的文明级变革更加难以预测和把控，未来世界的走向充满变数。
这里不再回顾人工智能发展的历程，因为人工智能在21世纪的新发展以几何级和爆炸式的方式开局，世界并没有太多适应和调整的机会，就已经随其一起进入了全新的智能时代。见与不见，它就在那里，并开始深入世界运行的方方面面。如果说人工智能极可能是人类历史上最冒险的一次尝试，那么此刻，我们更需要展望未来，站在当下充满不确定性的世界，去思考必定更不确定的未来，提出一个问题：未来的世界将更安全吗？
讨论安全问题，我们常去构建可能的不安全情景，在最不利的情景下去评估保障安全的能力。我们尝试采用这种思维模式，面向未来人工智能时代，思考一些可能的不利假设，提出三个问题：社会阶层分化会更严重并走向极化吗？技术灾难和战争威胁是否无法消除？人性的弱点是否将被放大？
一、假设之一：未来人类社会阶层更加分化
这种假设完整表述为：人工智能时代，人类社会阶层将更加分化，而且这种分化将不受社会治理变革的约束而走向极化。
资本主义使得人和人的关系异化为工具性交换，进而形成系统性阶级分化和社会不平等。人类虽然将从人工智能工具中获得更为便捷的知识和解决问题的能力，但是一部分人类将在资本加持下，在运用人工智能技术进步上走得更远，从而在资本和衍生权力方面得到充分放大，进而加剧了劳动者之间的差异，加剧了劳动成果与劳动回报间的分离，这将是一种加速社会阶层分化的过程。在此过程中，如果人类摆脱不了思维惰性和固执偏见，面对失控的人工智能算法操控，信息茧房效应加剧，不同社会群体更加难以共情、沟通和互信，极端主义在各个领域被放大，必将导致社会观念和政治对立更加极化。
1995年美国芝加哥的高温热浪造成700多人非正常死亡，危机中的隐形杀手直指社会阶层分化所形成的“社会隔离”，独居老年群体、贫困社区的非洲裔居民等，由于事实上长期被物理空间、社会空间、心理空间所隔离，在气象灾害面前凸显极端脆弱性，成为高死亡率的主要因素。那么，人工智能时代将会加剧还是会减轻这种情况？
进一步设想这种情况，社会隔离现象在人工智能时代是否会演变为“数字隔离”？数字隔离至少包括信息阻隔和智能阻隔两方面。信息阻隔是由于算法推送而产生人与人在信息禀赋上的天然差异，智能阻隔是由于资源投入而形成人与人在智能获取使用上的位势差异，当两者成为社会常态，社会隔离的新形态“数字隔离”将根深蒂固，并一步步助推社会阶层的分化走向极化，未来世界的不安全因素也因此增多。
二、假设之二：技术灾难和战争无法消除
这种假设完整表述为：人工智能时代，人类的大多数生存安全条件都将得以增强，安全环境前所未有地改善，但技术灾难和战争风险并不能降低，而后者带来的后果将是毁灭性的。
科技是发展的利器，也可能成为风险的源头。毫无疑问，一方面人工智能对人类诸多方面带来跨越式的进步，诸多科学重大进展都有证据。科学领域权威期刊展示了一些进展，例如，人工智能系统在某些癌症早期识别任务上的表现优于经验丰富的医生；受过训练的人工智能发现了比现有的人类和计算机所设计算法更加有效的矩阵乘法算法；人工智能在气候建模和预测方面的能力已经超越了传统方法，能够更准确地预测极端天气和长期气候变化。人工智能将会给人类生命健康带来前所未有的保障，将在疾病预防和治疗、生态环境监测和治理、重大灾害预警和应对等方面发挥前所未有的积极作用，这将使人类的安全环境前所未有地改善。
然而，另一方面的担忧仍然存在。常态事故理论强调技术主导的复杂系统本质决定了事故将是“常态”而非例外，系统高度的复杂性和紧密的子系统间的耦合决定了事故无法通过常规的优化管理来避免，虽然批评此观点的学者不愿否定技术进步带来的风险管控的进步，但是，未来人工智能驱动的经济社会运行巨系统中，谁能确保人为失误不会出现？谁能确保某些子系统技术事故不会快速演变为系统崩溃式破坏？谁能确保深度隐藏的技术系统缺陷不会突然以独特破坏方式出现？技术灾难风险在未来智能时代仍不可避免，如果说切尔诺贝利核事故的物理影响还能控制在一定地理空间内，人工智能的技术灾难在网络空间的蔓延一定会是全球性的，这种破坏的后果不亚于世界性的战争。
另一种担忧同样存在。让人工智能落入极端主义分子的手中，不负责地部署武器并使用，人工智能在核心特定武器装备上的恶意使用，自主武器系统的管控失效，将对全人类构成更大的威胁。与此同时，人工智能时代的开启刚好与当今世界紧张局势加剧重合，国际关系和地缘关系未来极可能被智能空间重新塑造，算法统治信息下的政治极化加剧，进一步增加了战争的风险。所以，技术灾难和战争风险并不能降低的未来，也不可能将是安全的世界。
就技术领域来说，更不用延伸到对于技术奇点的探讨，人类若无法控制技术奇点的出现，无论是技术自主产生还是人为产生，将会导致未来世界文明变革走向更加不可预测。
三、假设之三：人类自身的人性弱点将被放大
这种假设完整表述为：人工智能时代，人类将无法克服人性中根深蒂固的弱点，这些弱点被智能算法及其驱动的场景所放大，形成新型的群体性弱点，最终为此付出代价。
人性弱点源于进化形成的认知机制并不断塑造人类的心理倾向，当然这也形成了丰富多彩的人类社会和文化。《全球风险报告》2024年报告中，将人工智能相关风险提到了最高级。短期来看，人工智能生成的虚假信息带来的风险呈现出激化社会分裂等显性问题；长期来看，人工智能失控性发展的风险将波及环境生态、地缘冲突等领域。然而，不可否认，人性的弱点，包括贪婪、傲慢、偏见、短视等，在人工智能时代都有可能会无限放大，与上述社会、环境、冲突等问题叠加在一起，极易形成社会生活中的系统性风险隐患。
首先是人类理性思考能力的退化。智能时代信息产生和获取前所未有加速，人类面对信息过载和决策过快，自远古以来在生存和斗争中习得的认知系统在短时间内不可能有实质性的更新换代，但浅表层面的认知强化却已经发生，有研究表明，人工智能的出现使得卡尼曼双系统理论中的系统依靠习惯和情感的快速决策不断强化，需要深思熟虑和逻辑推理的系统却得不到锻炼，这种思考模式在日复一日的训练下，人类距离理性思考只会越来越远。
其次是人类即时满足相关短视行为的激励。强调即时满足的短视行为在远古时期的人类生活中却是提高生存概率的通行之道，人类经历种种教训在漫长的过程中学会克服短视，但人工智能带来的突然改变打破了这种进程，人类的进化速度远远慢于人工智能的迭代，人类将注定被智能算法绑定而染上群体性的信息成瘾，这种即时满足的心理重新构建，激发了人类对待生产生活的耐心阈值全面下降。这样，人类距离卓识远见会越来越远。
最后是人类固执和偏见的强化。人工智能个性化算法推荐无疑放大了每个人的固执与偏见，在技术朝着原有方向越走越远时，与其对抗的措施相比极为乏力。信息爆炸的同时，作用到每个人的却是信息茧房。这个论断在大规模对照试验中已经证实，信息系统性减少和偏差将直接导致偏见固化，这种现象在政治（如美国总统大选）、气候变化、核电站、移民等议题中已经凸显。
当然，人工智能时代人性的弱点很多方面在一定时期必然会被放大，而克服这些弱点的新机制难以在短时间构建起来，因此，我们不得不严肃思考人工智能触发的人性弱点的新形态，否则人类将成为其自身弱点的牺牲品，未来世界的安全将大打折扣。
四、面向未来构建更加安全的世界
如果前面所述的三种悲观的假设都成立，那么我们的后代将会面临一个令人绝望的世界。相反，如果我们能够努力打破这些假设，我们的后代必将生活在一个更加安全的世界，那也将是我们期望的。
我们相信人在改造自然和社会的同时，也在改造自己的思维和能力，人工智能时代所改变的生产力和生产关系，也将带来前所未有的人类潜力的提升，进而创造更高质量的发展机遇和条件。因此，问题的本质不是人工智能带给人类一些暂时的负面作用，也不是人类在智能时代将面临的潜在巨大风险，更不是人工智能将会取代人类，而是我们在人工智能时代，主动做好以人类命运共同体为共识的全球治理体系和能力变革，用好人工智能科技的进步，努力创造更加公平的社会、更加可控的技术和更加向善的人性。
