CLE 基准:智能体能否靠经验逐级通关

ppylox
·10/28/2026·0 阅读

一句话结论

CLE 把“智能体能不能从经验里变强”拆成可评分的五级职业任务阶梯:必须过当前级才能解锁下一级,结果前沿模型虽有提升,但最佳系统只通过 47.7% 的层级,仅 23.3% 的任务五级全通。

方法要点

论文的核心不是再做一个单题问答榜,而是测“经验迁移”。据论文摘要页,CLE 由 50 余位领域专家构建,包含 120 个人工撰写任务,每个任务组织成五级阶梯,共 600 个层级,覆盖 89 个职业角色、12 个职业领域。智能体通过一级后才会进入下一级,后续层级会用到前面积累的经验。

评测分两种设置:单次提交;失败后给诊断反馈,并允许一次修订。每个提交由评测代理按人工撰写的评分细则打分。这样做的关键设计是把“完成率”与“经验利用”分开看:单次提交测当前能力,反馈加修订测能不能把错误转成下一次改进。

伪代码可以压缩成下面这样:

for task in CLE.tasks:                 # 120 个任务
    history = []
    for level in task.levels:          # 每任务五级阶梯
        out = agent.solve(task, level, history)
        score, feedback = judge(out, task.rubric[level])
        if score < PASS:
            out = agent.revise(task, level, history, feedback)  # 仅一次修订
            score, feedback = judge(out, task.rubric[level])
        if score < PASS:
            break                      # 未过当前级,不能解锁下一级
        history.append((level, out, feedback))
    record(task, passed_levels=history)

关键点在于:反馈只在失败后出现,且只给一次修订机会;如果反馈不可操作,或者智能体不能把反馈落到下一版提交里,就会卡在当前层级。这比“同一道题多采样几次”更接近长程经验学习,但也更依赖评分细则和反馈质量。

关键数字

数据集 / 设置 指标 对比基线 结果或提升幅度
CLE,17 种 harness-模型配置 层级完成率中位数 单次提交 反馈加一次修订提升 5.3 个百分点
CLE,最佳系统 层级通过率 摘要未给同口径基线 47.7%
CLE,最佳系统 五级全通任务率 摘要未给同口径基线 23.3%
CLE 构建规模 任务与层级数 — 120 个任务、600 个层级;89 个角色、12 个领域

这组数字的含义很直接:反馈和修订确实有用,中位提升 5.3 个百分点;但“有用”不等于“会持续学习”。最佳系统也只能过 47.7% 的层级,五级全通任务只有 23.3%,说明多数任务会在某个层级断掉。作者在摘要中也明确承认,现有前沿模型从经验中持续学习仍然困难。

局限与前提

第一,CLE 测的是一次失败后的反馈加一次修订,不是多轮、跨任务的长期学习。它能暴露“会不会用反馈”,但不能完整代表真实工作里连续数天、跨项目的经验积累。

第二,评分依赖人工撰写 rubric 和评测代理。rubric 写得越细,越容易稳定复现;但也可能把“会按格式改”误当成“会迁移经验”。信息源没有给出逐案失败清单,从 23.3% 的全通率看,大多数失败发生在阶梯中断,而不是单个层级的小分差。

第三,任务由领域专家撰写,覆盖 12 个职业领域、89 个角色,但仍是基准,不是生产环境。它适合比较 harness 与模型组合的长程经验利用能力,不适合直接当作产品能力证明。若要做后训练,摘要也提到该数据集可用于后训练,但信息源没有给出训练配方和权重细节。

适用场景:做智能体记忆、经验学习、长程任务评测的团队;需要判断“换 harness 或换模型后,失败反馈是否真的被用上”的开发者。不适用场景:只关心单轮问答准确率,或没有稳定评审流程的团队。

能不能用

arXiv 页面标注了 Project page,但信息源没有展开具体仓库地址;摘要也没有说明权重是否开源。因此不能把它当成“开箱即用”的完整套件。更稳妥的判断是:论文给出了可复现的评测设计,但代码、数据与权重的开放程度需要到项目页确认。

本地复现至少需要:可调用的前沿 LLM、智能体运行框架(harness)、按 rubric 打分的评审代理,以及能跑 17 种 harness-模型配置的预算;如果要严格复现人工评分,还需要领域专家或人工抽检。对多数团队,先选少量任务跑“单次提交 vs 反馈加一次修订”的对照,比一上来铺满 600 个层级更现实。

值不值得用:如果你正在做智能体经验学习,CLE 的阶梯式设计比单题准确率更有诊断价值;如果只是做普通工具调用或单轮任务,收益有限。它的最大提醒是:反馈加修订只带来 5.3 个百分点的中位提升,离“越做越会”还有明显距离。

参考来源

相关文章

评论 (0)

暂无评论,来写第一条吧