资讯 / Model Watch · Agent 基础设施
HarnessPro:Agent 自己进化 harness——更强且更便宜
清华/智谱等机构团队(唐杰为论文共同通讯作者)开源了 HarnessPro:一个免标注框架,让 Agent 递归改进自己的 harness——指令、工具、运行策略——并同时优化任务表现与执行成本。这个思路正落在本站的核心 beat 上:成本纪律即架构。它不是「更多探索换更强表现、费用随涨」,而是从每轮执行轨迹里同时找失败模式和预算空耗,最终交付 Pareto 选出的三个运行档位——Lite、Medium、Heavy——而不是单一 harness。我们直读核验了仓库(MIT、三大基准九套 harness 加评估脚本)与 arXiv 摘要;下列逐基准表格数字归属论文、经 AINLP 综述转达。
直读已核验:仓库 pzs19/HarnessPro(MIT,创建于 2026-09-24)交付九套 harness——Terminal-Bench 2、SWE-bench Pro、ProgramBench 各 Lite/Medium/Heavy 三档——含运行策略、hooks 与评估脚本(runtime/policy.json 里就是推理强度与工具预算的具体数值)。arXiv 摘要给出总口径:GPT-5.5×Codex 下 Heavy 档跨基准平均 通过率 +2.0 个百分点、单任务成本 −26.1%(vs RHO),且 GLM-5.2×Claude Code 下优势同样成立。优化过程中的评测用 LLM 生成的测试——不用标准答案、不用官方测试。
论文表格(归属转达):Terminal-Bench 2 Heavy 76.3%→80.8%、单任务 $1.09→$0.72;SWE-bench Pro Medium 79% @ $1.26(vs RHO 80% @ $2.68);GLM-5.2 在 TB2 Heavy 78.0%→81.4%、$1.00→$0.62;测试合成器消融 −3.4~−10pp。
未随发布:GLM-5.2 的演化配置——README 快速上手只给 gpt-5.5 命令,AINLP 综述注明 GLM-5.2 演化配置尚未放出。基准数据、任务环境与模型接口需自备。
逐条分级(11 月 2 日)
- 仓库,直读核验。
pzs19/HarnessPro:MIT 许可,创建于 2026-09-24;九套选定 harness 按基准×档位给出链接,附运行策略与 hooks、验证辅助工具及三大基准完整评估脚本。快速上手需要 Linux、Python 3.12/3.13、uv、Docker 与 Codex CLI(他们用 0.147.0)。README 还链接了在线演示页。 - 论文,摘要直读。arXiv 2610.26770《HarnessPro: Recursive Harness Self-Improvement with Pareto Optimization for Performance-Cost Trade-offs》(Zhuoshi Pan、ZhiYuan Feng 等;作者名单含唐杰)。总口径:GPT-5.5×Codex 下 Heavy 档跨三基准平均 +2.0pp 通过率、−26.1% 单任务成本(vs RHO);GLM-5.2×Claude Code 下同样成立。
- 逐基准数字(论文表格经 AINLP 转达,与摘要总口径吻合):Terminal-Bench 2 Heavy 76.3%→80.8%、$1.09→$0.72(−34%);SWE-bench Pro Medium 79% @ $1.26(成本 −53%、通过率 −1pp),Heavy 80.7% @ $1.97,对照 RHO 80% @ $2.68;Lite 72.3% @ $0.80,仍胜原始 Codex 配置的 59% @ $1.88;GLM-5.2×Claude Code 在 TB2 Heavy 78.0%→81.4%、$1.00→$0.62。
- 评测的关键做法。优化期间不用官方测试与标准答案:候选 harness 用「从任务描述与初始轨迹一次性生成、之后固定」的测试来评分。论文 20 个初步检查案例中,模型直接评判在 12 个真实失败里只认出 5 个,生成测试认出 10 个——失败召回率 41.7%→83.3%。拿掉测试合成器,通过率掉 3.4~10 个百分点。
- 钱省在执行细节里。演化后的 harness 按任务选推理强度与工具预算,用运行时 hooks 控制探索与收尾(TB2 Medium 档某配置:第 14 次工具调用时提醒合并可并行调用、第 26 次要求转向完成与验证、第 44 次后阻止继续),提醒附在工具返回之后以保留缓存友好的提示词前缀,重复日志折叠、冗长输出压缩。消融是点睛:把任一单机制移植到 RHO 上反而更差(仅动态路由 76%、仅预算 hooks 75%、统一调低推理强度 59%)——收益来自组合。
- 迭代行为。TB2 Heavy 第一轮 74.6% @ $0.91,第三轮 80.8% @ $0.72;SWE-bench Pro Medium 到第三轮才同时改善两项指标——单目标优先的轮次可能暂时恶化另一轴。
核验时间 2026 年 11 月 2 日:GitHub API 与 README 原文直读;arXiv 摘要页直读。逐基准表格数字为论文自报(经 AINLP 第三方媒体账号综述转达——二手来源,与一手摘要总口径一致);本文未做基准复现。
背景:与 Super-agent 同一条 beat——开销纪律即设计
这是本周同一条主线的第三篇:Agent 成本工程正在成为差异化变量。DeepSeek 的 Super-agent 配文(我们的全文译丛)把批处理、事件过滤与订阅直通放进系统架构;Vercel CEO 把人的工作定义为资本配置;HarnessPro 则把其中一环自动化到了 harness 层——按任务选推理强度、工具预算与停止点,并保留缓存友好的提示词前缀。中国机构的谱系在此很重要:清华与智谱(GLM 厂商)在造成本敏感的 Agent 基础设施,而 GLM-5.2 正是两组被测配置之一。
对买家而言,Medium 档数字是最实用的头条:SWE-bench Pro 上 79% @ $1.26 对照 RHO 的 80% @ $2.68——一个百分点的通过率,换一半的账单。这与我们每周对模型定价做的算术相同(DeepSeek V4.1-Flash 谷段 $0.22/1M、最低价指南里的缓存密集 Agent 设计),只不过这次作用在 harness 本身。
一个诚实的限定:论文的对照对象是 RHO 与原始 harness,限于三个特定基准,且单任务成本以西方旗舰模型定价为主。把百分比当作基准内结论,把模式——双目标联合优化、合成测试评测、Pareto 前沿选择——当作可迁移的部分。
对开发者意味着什么
如果你在覆盖的基准上跑 Codex 式 Agent,发布物直接可用:clone、uv sync、把 CODEX_CONFIG 指向你的 provider、选一个档位。这些 harness 是纯工件——指令加一份明文的运行策略 JSON(推理强度与工具预算数值公开)——即使不在基准上,也可当作三个价位下「成本调优策略长什么样」的参照。
不需要仓库也能带走的经验:自我改进的评测要用固定的合成测试而不是模型感觉(41.7%→83.3% 的失败召回差距就是全部论据);不要只按质量评判一个改动——SWE-Pro Medium 第二轮/第三轮的轨迹说明成本可能先滞后再追上;不要挑单个机制移植——每个单机制消融都让 RHO 变差,而组合系统胜出。
后续盯三个信号:GLM-5.2 演化配置入库(中国模型栈缺的另一半);表格数字的第三方复现;其他 Agent 运行时出现 harness 档位工件。
中国境外如何接入——以及一贯的免责声明
本站为国际开发者追踪中国模型 API。这项工作的 GLM 侧跑在与GLM API 指南同一模型家族上;成本算术归入对比表与最低价指南。
独立性声明:ChinaModelAPI 是独立信息站,与 HarnessPro 作者、清华、智谱或任何厂商无隶属关系。仓库与摘要事实来自直读;表格数字为论文自报、经二手综述转达;本页任何内容均不构成路由、可用性或定价承诺。
主要来源
常见问题(2026)
HarnessPro 是什么?
清华/智谱团队的 MIT 框架:Agent 递归改进自己的 harness——指令、工具、运行策略——同时优化任务表现与执行成本,用 LLM 生成的测试代替标准答案做评测。
省多少?
arXiv 摘要口径:GPT-5.5×Codex 下 Heavy 档平均 +2.0pp 通过率、−26.1% 单任务成本(vs RHO)。表格口径:TB2 Heavy $0.72 vs $1.09;SWE-Pro Medium $1.26 拿 79% 对照 RHO $2.68 拿 80%。
GLM 模型能用吗?
论文评测了 GLM-5.2×Claude Code 且优势成立(TB2 Heavy 78.0%→81.4%、$0.62)。但 GLM-5.2 的演化 harness 配置尚未随仓库发布——当前发布物是 GPT-5.5 演化产物。
Lite/Medium/Heavy 是什么?
每个基准三个 Pareto 选出的运行档位:Lite 重成本、Medium 均衡、Heavy 重表现。三大基准共九套 harness,每套都是「指令+明文策略」的纯工件。
没有标准答案怎么评测?
测试从任务描述与初始轨迹一次性生成,之后对全部候选固定复用。论文检查集里模型直接评判在 12 个真实失败中只认出 5 个,合成测试认出 10 个(失败召回 41.7%→83.3%)。
能只移植其中一个机制吗?
大概率不行。消融显示单机制嫁接到 RHO 上全部更差(仅路由 76%、仅 hooks 75%、低推理强度 59%,对照 80%);收益来自组合系统。