AI 智能体 | Guaifinition Docs

智能体和多智能体系统（MAS）已经从自主问题求解实体演化到与生成式 AI 和 LLM 融合，并进一步迈向合作式 AI 框架，以提高适应性、可扩展性和协作能力。

核心要点

多智能体系统已从基于规则的自主性演化到合作式 AI，更强调协作、谈判和伦理对齐。
由 LLM 推动的智能体式 AI 带来了更灵活的决策机会，同时也产生效率和复杂性问题。
将合作式 AI 与生成模型结合，需要在多智能体环境中平衡适应性、透明度和计算可行性。

本章主席： Virginia Dignum；Michael Wooldridge

背景与历史

多智能体系统领域出现于 20 世纪 80 年代末至 90 年代初，主要受两个看似不同的领域影响 [1,2]。第一个是 AI 机器人学，它开始认真研究集成智能体架构：如何把规划、推理、学习、视觉等多个认知能力组件组装成一个完整计算智能体。第二个是当时刚刚出现的分布式 AI，它研究多个 AI 系统如何通过动态共享信息和任务，协同解决问题。

到 20 世纪 90 年代中期，这些思想催生了新的研究领域。核心愿景是构建代表用户追求目标的半自主或自主 AI 系统——智能体；这些智能体可能需要与其他智能体交互。一个关键认识是：被委托的目标不一定相互一致，因此必须赋予智能体进行社会推理的能力。

传统 AI 强调推理和问题求解等智能组成部分，而新的多智能体系统领域则强调合作、协调、论证和谈判等社会技能。为了支撑这些能力，“心智理论”模型的研究成为该领域核心。

到 20 世纪 90 年代末，多智能体系统已经拥有自己的会议和期刊，并确立为 AI 的重要子领域。大量研究集中于自主智能体通信语言、合作与协调协议、谈判协议，以及这些社会能力的理论基础。早期多智能体系统理论主要受到 AI 规划中实践推理范式的影响，但到 21 世纪初，博弈论成为主导理论基础。

博弈论源于经济学，研究自利智能体之间的互动。虽然最初用于研究人类及人类组织之间的互动，它也自然成为研究人工智能体互动的框架。随后产生了大量研究，例如如何利用拍卖分配稀缺资源、自利人工智能体的谈判理论，以及智能体如何最优组队来解决问题并分享合作收益。

有趣的是，尽管学习从一开始就是多智能体系统的重要组成部分，但在该领域最初约十年中，它并不是研究中心。

多智能体系统的第一轮繁荣大约从 1990 年代中期持续到 2010–2015 年。之后，研究界开始面对一些令人不安的问题。虽然领域产生了大量科学成果，但现实应用相对稀少。

也存在一些知名应用。由多智能体系统发展出的“安全博弈”利用博弈论思想分配有限安全资源，以保护机场等重要目标，并已在美国机场和港口部署。自动高频交易系统执行全球市场的大多数交易，也可以被视为全球规模的多智能体系统。基于智能体的建模则在 2008 年金融危机和 2020 年 COVID-19 疫情后得到显著发展，它被证明可用于模拟传染过程：前者是金融风险传播，后者是流行病和社会政策传播。

与此同时，关于智能体在其他智能体环境中运行的核心愿景仍是活跃研究领域，涉及规范、组织、实践和价值等社会概念。这些研究相当一部分发生在 AAMAS 社区之外，尤其是社会模拟研究中，并已影响公共卫生、交通和城市转型等领域的政策制定。

尽管 AI 智能体与 AI 智能体互动的多智能体系统应用尚未达到早期期望，Alexa、Siri、Cortana 等单体对话智能体已经成为日常现实。它们的历史既可追溯至 1990 年代智能体研究，也可追溯至 NLP 社区的对话系统研究。

过去三十年中，这条研究路线还产生了自动呼叫中心助手、客户服务助手、智能手机虚拟助手、智能音箱助手、家庭机器人助手等。这些系统可以与用户对话并完成订票、餐厅预订、在线购物、医疗健康协助和销售支持等任务，其基础模块包括语音识别、自然语言理解、对话管理、自然语言生成和语音合成。

随着本世纪初机器学习迅速发展，多智能体系统中的相关活动进一步增长。多智能体强化学习（MARL）逐渐成为领域最大的单一方向之一。其增长部分可能是因为 MARL 实验相对容易开展，并不总是需要昂贵硬件。截至报告撰写时，MARL 虽然已成为机器学习中的重要子领域，但仍缺乏清晰统一的愿景、方向或应用。

当前状态与趋势

2020 年以后 LLM 的兴起再次提高了人们对智能体的兴趣 [3]。LLM 可以作为工作流的一部分，自动化例行任务，其用于规划和问题求解的通用“智能体”能力受到广泛讨论。

在此背景下，“智能体式 AI”指把生成式 AI 和 LLM 整合到自主智能体框架中，利用模型的生成能力提高动态环境中的交互、创造力和实时决策能力。到 2024 年末，大量初创公司开始尝试将这类智能体商业化。

但 30 年前 AAMAS 所提出的原始目标，例如构建能够复杂协调并进行长期推理的稳健自主多智能体系统，尚未真正实现。当前这波智能体活动在多大程度上吸收了此前研究成果，也并不明确。

当前挑战是重新理解 LLM 时代的多智能体系统意味着什么。单纯把 LLM “智能体化”可能导致过度复杂、不必要的架构和高计算成本；相反，将多智能体范式用于 LLM 的开发和使用，也可能提供一种更可持续的方式来组合、增加多样性并整合不同方法。虽然分布式计算是 MAS 领域最初的驱动力之一，但在当前范式中，这一方向仍然很大程度上未被探索。

另一个趋势，是重新利用经典认知架构中的思想，为自主智能体增加常识能力。

正在出现的多智能体架构把 AI 组件组织成模块化系统，以提高透明度、适应性和伦理对齐能力。对合作式智能体的关注表明，研究正在转向优先考虑协作、谈判和共享决策的 AI。通过模块化、封装和关注点分离，这些架构能够支持自主智能体与人类之间可扩展的协作，适合需要信任、可解释性和领域专业知识的混合 AI 应用。

研究挑战

识别将生成式 AI 驱动的智能体嵌入 MAS 的挑战和收益，重点是提高协作能力而不破坏现有系统动态。
研究 LLM 驱动的智能体如何改善动态多智能体环境中的谈判和决策，同时确保伦理对齐与安全。
开发能够整合 LLM 驱动智能体，同时维持可扩展性、透明度和计算效率的多智能体架构。

社区意见

调查表明，大多数回答本主题的受访者认为它与自己的研究相关，并且对把 LLM 纳入多智能体系统的兴趣正在增加。很多参与者已经使用 AI 智能体，其中最常见的技术是 LLM，占 29.34%。

受访者认为基于 LLM 的多智能体系统具有以下潜力：

协作式问题求解：68.86%
分布式决策：54.49%
社会模拟：41.32%

主要挑战包括：

LLM 的通用知识与具体系统需求之间的不匹配：59.88%
缺乏可解释性：59.28%
安全风险：50.90%

这意味着需要更好的解释机制、对齐策略和稳健安全措施。

关于“是否有必要把 LLM 智能体化”，社区存在争论。51.5% 认为多智能体 LLM 范式是可持续 AI 的关键，而 42.33% 不同意“它只会引入不必要复杂性”这一说法。LLM 的计算成本与收益之间如何权衡仍不明确。

开放式文本回答体现了更广泛的立场。一些受访者主张混合方法，而不是完全依赖 LLM。许多人强调 AI 架构应该保持多样性，采用模块化、多技术的系统，让 LLM 参与其中但不占支配地位。治理、协调和适应性被认为是 MAS 的主要优势，而复杂性上升、缺乏理论保证和高计算成本是主要担忧。

一些回答者批评当前对 LLM 的过度关注，质疑其究竟是必要技术还是暂时趋势。另一些则强调落地、对齐和稳健通信协议等现实问题，并呼吁建立能够整合符号推理、结构化治理和可扩展架构的新框架。

总体而言，调查对 LLM 驱动的多智能体系统持谨慎乐观态度，但强调在大规模采用之前必须解决关键挑战。

参考文献

Yoav Shoham. Agent-oriented programming. Artificial Intelligence. 60(1): 51–92.
Michael Wooldridge. An Introduction to Multi-agent Systems 2e. Wiley, 2009.
Julia Wiesinger, Patrick Marlow and Vladimir Vuskovic. Agents. Google whitepaper.