基准与评测
搜索文档
高效智能体的「幕后推手」是谁?一篇综述带你从记忆×工具学习×规划看透
机器之心· 2026-01-27 14:00
文章核心观点 - 随着大模型能力提升,智能体研究的焦点正从“能否实现”转向“能否落地”,其中“高效性”与“有效性”同等重要,是决定其能否在生产环境大规模部署的关键[2] - 论文撰写了一篇面向“高效智能体”的综述,系统梳理了提升智能体效率的主要方法,核心框架围绕三个关键机制:记忆、工具学习和规划,旨在清晰呈现智能体在真实落地场景中的成本-性能权衡[2] 智能体记忆 - 高效记忆系统的核心是将“长历史”加工成“可用、可检索、可复用”的信息资产,以避免将历史信息一股脑塞进提示词导致的token暴涨和处理能力下降[6] - 记忆生命周期分为三步:构建、管理和访问[7] - **记忆构建**:通过概括、压缩与结构化将“长对话”转为“可用记忆”,分为留在推理链路的工作记忆(文本式直观但消耗上下文,隐式式类似缓存可减少重复编码)和外置为可检索系统的外部记忆(将信息压缩成小单元再按需召回,包括条目式、图式与分层式),需警惕过度压缩带来的信息损失[7] - **记忆管理**:防止“存爆炸”和“取太慢”,规则式方法快但可能误删重要内容,大模型式更聪明但成本更高,混合式则按层级或场景组合两者策略以在效果与成本间取得折中[12] - **记忆访问**:分为记忆选择与记忆整合,通过检索或训练等方式挑选记忆,再用压缩过滤或隐式注入减少token消耗与重复编码[12] - 多智能体记忆成为新趋势,通过引入“记忆”概念支撑规模化协作,主要概括为共享记忆、本地记忆和混合记忆三类[8] 工具学习 - 工具让智能体从“会说”变成“能做”,但成本最容易在工具链路中失控,提效思路围绕三条主线:工具选择、工具调用和工具融合推理[11] - **工具选择**:目标是“更快选对、少塞进prompt”,方法包括使用外部检索器、多标签分类,以及将工具映射为特殊token等,核心是在大量工具中更快、更准地选出所需工具[13] - **工具调用**:核心是“少等、少调、少走弯路”,典型路线包括边生成边调用、并行化调用,以及利用成本感知调用与测试时高效扩展来削减冗余调用;进一步可通过面向效率的后训练将“短轨迹、少调用”写入策略本身[13] - **工具融合推理**:让模型学会“该不该用、何时用、用几次”,代表性方向包括选择性调用(引导智能体只在必要时发起工具调用)以及成本约束策略优化(在保证效果的同时对冗余交互与过长轨迹施加惩罚,从而学到更省的工具使用策略)[13] 智能体规划 - 规划决定智能体在多步决策空间中的行动,效率问题主要来自单体推理“想太深、搜太贵”或多体协作“聊太多、通信太重”,因此从单智能体规划与多智能体协作规划两条线展开[15] - **单智能体规划**:目标是“少算但不掉效果”,主要思路包括自适应预算与控制的“选择性思考”、结构化搜索的剪枝与代价感知、任务分解的先规划后执行;以及通过策略优化与记忆/技能获取将高效规划“内化或复用”[21] - **多智能体协作规划**:目标是“少通信但尽可能不丢信息”,主要方向有三类:拓扑稀疏化以减少全连接带来的消息传递开销;协议与上下文优化压缩关注“传什么/怎么传”;蒸馏方法通过将多智能体协作能力蒸馏回单体,以减少运行时协调成本[21] 基准与评测 - 效率必须建立在有效性之上,高效的定义是在给定预算下取得更好效果,或在相近效果下消耗更少资源[17] - 论文梳理了以有效性为主的benchmark,并汇总了与效率相关的评测内容:一方面整理了在benchmark中显式纳入效率信号(如成本、延迟、调用次数等)的评测设置;另一方面总结了智能体方法中常用的效率指标,用于刻画“省在哪儿、省多少”[17] 挑战与展望 - **统一评测框架**:需要指标口径统一、模块开销边界清楚,才能真正让各个智能体方法可比可复现[19] - **智能体的隐式推理**:大模型侧的隐式推理研究正在升温,但面向智能体的研究仍相对稀缺,由于智能体链路更长、更复杂,如何在不降低效果的前提下将中间推理“做在隐式空间里”以降低成本,既是挑战也是机会[19] - **面向部署设计**:在多智能体场景下,需将部署成本纳入考量,核心问题是评估增加智能体带来的收益是否足以覆盖新增的开销[20] - **多模态效率**:多模态智能体发展迅速,但效率研究相对欠缺,文本智能体的提效思路可借鉴但不易直接迁移,因为多模态智能体的感知输入、行为空间与任务结构更复杂、交互成本更高,如何在该场景下系统兼顾效果与成本仍是关键问题[20]