我要汇报的题目是：有限主义视域下的智能体。
1.何为有限人工智能
在过去的三四年中，我和我的团队聚焦于我所称的AI研究（AI Stuides），即AI及其应用的社会冲击的跨学科人文反思。迄今为止，我们发表相关论文超过五十篇，出版“AI时代三部曲”的前两部《智能革命后的世界：AI技术与人类社会的命运》《AI性别：日常生活的智能跃迁》，分别从宏观社会发展和微观日常生活两个视角来反思智能革命的社会冲击。在此过程中，我们提出完整的有限人工智能理论，并将在专著《控制智能：有限人工智能理论》中详细阐发，该书将在西安交通大学出版社出版。
无论是分析agent还是机器情感，我们都是在有限AI理论指导下进行。因此，首先要简单介绍一下该理论的基本思想。
与不顾一切发展AI的硅谷意识形态不同，我们反对所谓“有效加速主义”，坚持“有限人工智能”的根本理念。我们认为，AI发展利好社会，同时存在各种风险，也当然可能失控。很多人强调人机共生，但人机共生并不等于人机共赢。协同发展的最终结果是什么，我们无法预见，可以称之为“AI的新无知之幕”。不能否认，最终结果有可能是人类在AI时代跌下文明危崖。
“AI宣传术”过于夸大了AI技术发展的好处，而对AI人文审度的重要性轻描淡写。越来越多人讨论智能体（agent）,讨论机器人权利。这说明什么？说明大家开始相信，人和机器人均为agent，机器人也有权利，人只是另一种智能机器。这是将人拉平至机器的高度。必须指出：AI时代最大的问题，不是AI越来越像人，而是人正在变成机器。
因此，AI研究应关注新科技发展的社会冲击，尤其要预测风险、预见问题，提醒社会未雨绸缪，防患于未然，看护社会福祉和公众利益。发展AI应该有所为、有所不为，对AI发展进行全面的、长期的选择、引导和控制。如果怀疑AI的某一发展方向非常危险，就应该停止、转变和重置此种AI发展进路，此即我们所称的“AI发展的有限主义进路”的基本思想。从根本上说，有限人工理论是一种立足国情的、中国特色的、系统化的人工智能治理理论。
AI发展的有限主义进路与AI发展的自由主义进路相对，后者主张有效加速主义、硅谷意识形态，妄图建立AI乌托邦。有限AI理论主张将AI定位为高级工具，而非与人平等的主体。为此，要对AI进行去道德化，即前面所说的人制定规则、机器执行；要对AI进行去意识化，即可能导致机器意识产生的进路，在没有完全应对方案之中，应该全面禁止。当然，在现实中，有限AI理论能否落实，是不是太过理想主义色彩，的确是值得争论的“点”。但是，面对AI竞争，我们必须努力对AI进行控制，而不能轻易放弃，毕竟现在AI还没有意识、没有良心、没有失控。
必须要指出，“AI发展的有限主义进路”并非以人文为名阻碍新科技发展，而是以新科技健康可持续发展为目标的保驾护航之举。首当其中者，深入研究智能革命对当代社会的巨大冲击。有人说的好，新科技的发展短期冲击会被人夸大，而长期影响却被忽视。因此，治理AI不宜过急过严，应该坚持长期主义战略，结合敏捷治理措施，通过平衡二者形成某种敏捷长期治理战略。
2.智能体的有限理解
在“AI是否是主体”的讨论中，绝大多数人意识不到这是一个哲学问题，而不是一个科学问题。换言之，是否主体并没有什么科学标准来加以评判，而是视人类主流价值观的流变状况而定。通俗地说，大家都认为人是主体、不需要听上帝的吩咐时，人才真正成为主体；大家都认为人有自我意识、自由意志而可以摆脱上帝的操控时，人才真正有意识、有自由意志。在现代哲学尤其是笛卡尔“我思故我在”之前，人并不是主体，哲学家讨论的是上帝的主体性。迄今为止，人被视为主体也不到五百年的时间。
很多人对主体性进行某种功能性解释，然后根据这种解释断定AI有主体性，这完全是跑偏了。
当然，既然AI觉醒问题本质上是价值观的选择，哲学自然科学化、道德学自然科学化的声音够大，被绝大多数人接受，AI就可以成为主体、就可以有意识。重要的问题不在于此，而在于：这样的论断意味着人与AI的关系被重新安排，AI被人类赋予特殊的权利与义务。反过来说，这意味人对自身位置的重新理解，即主体观的新判断。
由此，第一，智能体并非主体。
什么是agent？众说纷纭。之所以如此，很重要一个原因在于：很多人文社科研究者偏离AI技术的实际，陷入愿景想象，甚至agent的语义、语词的讨论之中。我们研究的对象是AI agent，即在AI技术中的agent概念。正确的语义学讨论，主要应该集中于AI相关技术领域的梳理，比如寿步在《人工智能术语agent的精准译解及其哲学意义》一文中的讨论。
Agent这一概念出现得很早。20世纪70年代，决策支持系统（Decision-making Support System，DSS）被首次提出，随后在架构中纳入Agent与自进化设计方法。90年代，基于智能体的建模（Agent-Based Modeling，ABM）为代表的人工系统仿真模拟方法迅速传播。在多年的使用当中，大家形成共识：所谓agent成立，关键在于TA能自主调用其他程序（APP），因而TA的核心问题在于权限赋予。因为这里面存在重大的风险，因而发展迟迟不前。最近，因为AI4SS中的社会模拟器（Social Simulator）或HAI兴起，Agent又再次红火起来。
从技术上说，智能体只是得到调用其他app的能力。如果有人将这种能力称为主体性，那TA就是主体。类似的论证很容易做出，关键是agent是主体的观念要被主流社会价值观所接受。在这个例子中，我们很容易明白：主体性如何被功能性地解释为“能调用其他app”。因此，这些看似很理论化的研究，背后牵涉的是人与智能体关系的重新安排。
第二，智能体并不一定有智能。
一直以来，agent在哲学上被译为能动者。如今它作为技术名词，被译为“智能体”，导致普遍的认知偏差，即agent有智能。
梳理agent在技术上的使用，智能体指的是智能的零星组件，这些组件一起组成明斯基所谓的agent society，通过相互交互可能涌现出“智能”（intelligence）。因此，agent并不一定有智能，很多agent一块交互可能涌现智能。
3.聚焦制度变革压力
2026年“智能体（agent）”是AI领域最火的概念。与之相关的热点，主要包括HAI模拟宇宙级别的文明演变，龙虾机器人可以自己工作，同事.skill技术炼化打工人取代打工人。显然，这些炒作背后都是agent拟人论，先入为主地把agent当作人了。
众所周知，目前AI哲学社会科学研究存在明显的科幻色彩，就是科幻小说中AI的未来愿景当作已经实现的事实来研究，完全脱离AI技术发展的真实状况。典型的佐证就是“AI觉醒论”四处泛滥。
我所谓的“AI觉醒论”，主要包括：AI是主体、AI有意识、AI有意志、AI要统治人类、AI是硅基生命等观点。这些观点之所以出现，都是AI宣传术在作怪，理论底色是AI拟人论。这是从传播学角度进行的剖析。从认识论、知识论的角度，如何看待这一类的问题呢？长期思考后，我认为，这也是统一科学运动的结果——准确地说，这是哲学自然科学化尤其是道德学自然科学化的结果。
如果AI agent或Agentic AI充斥整个社会，整个社会变成智能体社会，重要的问题根本不是agent觉醒了、agent统治人类了。这都是无稽之谈，整个AI有无意识都是无稽之谈。
意识问题，一直是现代哲学自笛卡尔之后的核心问题。现在，认知科学、脑科学用几个功能参数来表征意识，然后意识问题抢过去研究，号称改变意识哲学争论不休的局面。
显然，这并不可能真正澄清意识之谜。为什么？第一，自然科学同样有很多门派，相互之间也聚讼不休。第二，意识不能用几个功能参数来取代，即使非要这么做，应该用哪几个参数谁也说不清道。
当意识说不清楚的时候，讨论AI意识不是开玩笑吗？调整一下意识参数，我就可以说AI有意识。换几个参数，你也可以说AI没有意识。现在大家搞的就是这种把戏。
这种情况在动物意识领域、泛意识研究领域，也是一样的。动物不能开口说自己有意识，那只能随人怎么说怎么了了。更何况，即使八哥开口说自己有意识，也不能作为最终判决性证据。
为什么？想想人自己：各种宿命论论证人并没有独立自主的意识、没有真正的自由意志，一切都是上天安排，都是神鬼操弄的。在宿命论之下，意识、意志、主体……这些现代哲学讨论的问题，全部都是伪问题。
那么，智能体社会最重要的问题是什么？
在现实中，AI Agent不等于具身AI、AI机器人，它主要指的是调用其他APP而非硬件设施的AI系统。如今常见的有：如上述千问助手订机票、酒店、购物，如163邮箱的Mail Agent简单给人回信告知收到信件想想再回复，如量化炒股助手在条件触发时自动买入卖出股票基金，还有听说现在很多医生用蚂蚁阿福医生助手帮助看病。
比如，我们用千问助手买机票。就买最便宜的吗？相差二百，优先考虑直飞吗？什么情况下放弃飞机买高铁呢？人的决策非常复杂，你没有办法把所有情况都跟千问助手说清楚。换言之，把所有情况都说清楚，你不如自己动手了。
agent不仅辅助你而是“代理”你做事，何其复杂和困难！委托于人，人有同理心、默会知识、常识，往往能更好代理你。委托与Agent，这些都没有，只能简单执行任务。这种委托有多大的价值呢？
进一步而言，委托行为主要是法律、制度和权利-义务问题，哲学伦理学在这里没有什么作用。当事涉“行动”，或者说不是行动而是会产生实际后果，不是简单的思想品德问题，因为它会产生损失。任务会失败，失败就应该有承担责任者。Agent要流行，用Agent的人要预计失败之后的损失自己能承受。这就是AI智能体的要害。
从经济学的角度看，委托agent办事可以视为降低交易成本。比如买机票不用请个助理了，只需要一点电让AI agent干。在极限情况下，超级AI智能代理可以取代企业中的人类代理，所有人都交易行为、购买行为也有它代劳。按照科斯交易理论，这种代替具有强大的市场优化动力。然而，仔细思考，这种优化是否最终意味着市场机制和交易环节中公司的彻底消亡？在AI时代，究竟什么是市场及其命运，值得思考。有篇论文将这种情况称之为“科斯奇点问题”。经济学家科斯提出科斯定理，假定交易成本为零时，无论产权如何分配，市场均衡结构都有效，能实现帕累托最优；但现实中交易成本不为零，因此不同产区初始界定会影响自由配置效率，因此法律制度的产权安排至关重要。
