智谱唐杰署名RSI新成果开源!Agent自我进化成本还狂降53%
量子位·2026-10-23 19:32

文章核心观点 - 清华唐杰团队在递归自我改进(RSI)领域提出无标签自进化框架HarnessPro,首次将帕累托优化引入Agent底座进化 [1] - 该框架打破以往“Agent越进化越烧钱”的魔咒,在不接触官方测试用例和标准答案的前提下,同时提升任务通过率并降低Token执行成本与运行延迟 [2][4] - 在SWE-Bench Pro基准测试中实现通过率反超,并在保持同等高性能水准下将单任务平均花费砍半,暴降53.0% [4] - 以往RSI方法只给出一个进化结果,HarnessPro可一键生成省钱版(Lite)、均衡版(Medium)、性能版(Heavy)三套方案 [5] 行业痛点与背景 - 近期许多前沿研究基于Agent执行轨迹做递归自我改进,让AI自己改自己的Harness代码,从而在后续任务中变得更聪明 [7] - 唐杰团队发现痛点:以往RSI方法往往通过“更广泛的探索”和“更繁琐的验证”换取高分,分数虽高但Token消耗量和延迟随之爆炸,实际部署中成本难以承受 [8] - 核心问题由此变为:递归自我改进能否既提升性能又降低花费 [9] 技术框架与多智能体协同机制 - HarnessPro设计为多智能体协同进化框架,每一轮进化中由四个专门Agent像流水线一样对候选Harness进行“诊断-开方-动刀-体检” [9] - 轨迹诊断师(Trajectory Analyzer):让每个候选Harness在训练集上独立跑3次,调取完整执行轨迹,既找出任务失败原因,也揪出浪费Token的操作 [9] - 真实案例显示,AI虽配好邮件服务器,但在无关配置文件上反复倾倒日志,导致单次任务狂吞251万个输入Token;三次运行输入Token分别达1,058,946、1,763,487和2,517,861 [10][11] - 进化规划师(Evolution Planner):拿到诊断报告和成本指标后出改造方案,用Diff工具对比候选池中不同Harness的代码差异以借鉴好机制,并为每个候选者同时开出成本优先、平衡模式、性能优先三张方案设计 [12] - 代码编辑器(Harness Editor):在独立工作空间直接修改Harness底层代码和配置文件,生成新的可执行Harness并自动提交到Git,方便追溯和回滚 [13] - 测试合成器(Test Synthesizer):针对无标签环境下LLM裁判“盲目乐观”问题(对失败案例召回率仅41.7%),根据任务描述直接编写10个固定可执行单元测试,将失败案例召回率从41.7%提升至83.3%,暴涨41.7个百分点 [14][15] 帕累托筛选与三档方案生成 - 生成的新Harness经测试集验证后,系统先淘汰性能低于初始底线或处于“帕累托劣势”(花钱更多、分还更低)的废案 [17] - 随后利用归一化加权平方距离准则,分别选出最符合Lite(省钱)、Medium(均衡)、Heavy(高性能)三个档位的代表,送入下一轮继续迭代进化 [17] AI自进化出的省钱机制 - 动态路由(Dynamic Routing):进化后的Harness先看任务描述,从compact、lean、standard、deep、research五档配置单中挑最匹配的,动态分配推理强度和工具 [19] - 运行时钩子(Runtime Hooks):在Terminal-Bench 2的Medium模式下,工具调用达14次时自动提醒进入“经济阶段”,26次时警告升级为“收敛阶段”,44次时直接拦截并返回“工具预算已耗尽”指令 [21] - 这些提醒被巧妙拼接在工具返回结果末尾,完美保护Prompt前缀缓存(Cache Reuse),把省钱细节抠到极致 [22] - 折叠垃圾日志:自动引入类似RTK(Rust Token Killer)的工具输出压缩机制,将连续重复报错或编译日志折叠为一句提示,并截断超长输出只留头尾关键信息 [22] 基准测试与性能成本表现 - 测试覆盖三大基准:终端操作的Terminal-Bench 2、仓库级代码修复的SWE-Bench Pro、从零重构程序的ProgramBench;底座模型采用GPT-5.5搭配Codex,以及GLM-5.2搭配Claude Code [24] - 在GPT-5.5+Codex组合下,此前SOTA无标签进化方法RHO在SWE-Bench Pro上单任务成本从1.88美元涨到2.68美元,暴涨42.6% [24] - HarnessPro-Heavy在全部三个基准上拿下最高通过率,且花费比RHO少得多;Terminal-Bench 2上平均通过率达80.8%,比RHO高4.5个百分点,单任务平均成本降33.9% [24] - HarnessPro-Medium在SWE-Bench Pro上通过率79.0%(几乎追平RHO的80.0%),平均每任务花费从2.68美元砍到1.26美元,成本狂降53.0% [26] - HarnessPro-Lite在三大基准上通过率全线超越原始基线(Vanilla),同时省下17.7%–57.4%的成本 [26] - 在GLM-5.2+Claude Code组合上同样复现碾压态势;虽未将时间延迟作为优化目标,但因砍掉大量废话和无效探索,SWE-Bench Pro上延迟也得到改善 [26] - 具体数据:GPT-5.5+Codex下Heavy模式在SWE-Bench Pro通过率80.7%、成本1.97美元、延迟333秒;GLM-5.2+Claude Code下Heavy模式在Terminal-Bench 2通过率81.4%、成本0.62美元、延迟1080秒 [27] 消融实验与协同效应 - 消融实验测试“只把动态路由或预算钩子单独塞给RHO”的效果,发现单抄一个策略虽能省钱,但通过率会明显掉点 [27] - 只有依靠HarnessPro的多智能体多轮递归进化,让各机制产生协同效应(Synergy),才能真正把“性能-成本”的帕累托前沿往前推 [28] 团队与开源信息 - 论文共同通讯作者为清华大学计算机系教授、智谱AI首席科学家唐杰,以及清华大学自动化系副教授赵虹 [29] - 两位共同一作盘卓实和冯志远均来自清华大学;盘卓实另一项研究ContextPilot(通过细粒度强化学习教Agent主动管理上下文)刚被EMNLP 2026接收 [29] - HarnessPro相关代码与进化配置已开源 [30]

智谱唐杰署名RSI新成果开源!Agent自我进化成本还狂降53% - Reportify