SkillScriptBench:智能体技能包自进化评测
论文提出 SkillScriptBench,一个 350 任务的基准,用于分别评估可执行智能体技能包在文档修复、脚本修复与保持正确行为三方面的自进化能力。基于 3.5 万个 GitHub 技能库筛选 100 个包构建任务,发现同时编辑文档与脚本的方法并不能稳定优于仅改 Markdown。作者提出 …
共 7 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 SkillScriptBench,一个 350 任务的基准,用于分别评估可执行智能体技能包在文档修复、脚本修复与保持正确行为三方面的自进化能力。基于 3.5 万个 GitHub 技能库筛选 100 个包构建任务,发现同时编辑文档与脚本的方法并不能稳定优于仅改 Markdown。作者提出 …
研究首次系统分析编码智能体的行为性成本低效,基于 Claude Code 与 Mini-SWE-Agent 在 SWE-bench Verified 上的 1200 条轨迹,识别出子集化检索、重复脚本生成、测试重执行三类行为。这些行为影响 79%–98% 的任务,最高占任务成本 22.75%。开发…
论文对比了智能体技能的两种执行方式:将技能指令载入主上下文,或将技能包作为子智能体调用并开启全新上下文窗口。结果显示,当技能包具备清晰输入输出契约时,子智能体执行优于技能加载执行,因为长任务中上下文累积会削弱推理质量。代价是主智能体与子智能体之间的额外通信开销。
论文推出 SkillCT,把智能体技能评估从下游任务执行扩展到九个维度的质量刻画,涵盖静态规范、跨模型行为稳定性与人工辅助评估。基于公开技能语料建立参考基准,并提出免执行的质量预测基线,降低 token 消耗与评估时间;SkillCT 指导的优化还能提升下游任务成功率。
论文对 87 项 SkillsBench 任务开展实证研究,定义下游效用为同模型同框架下相对无技能基线的通过率差异。研究发现同一技能在 36.78% 任务上帮助部分配置却损害另一些配置,推荐流程可能成为执行负担,相关性排序会忽略更有用的候选。按所需操作支持重排序可将首选通过率提升 4.35-5.8…
论文发现智能体技能常无收益甚至损害性能并增加token成本,提出SkillDelta框架,从同一智能体有无技能配对的执行历史预测任务条件化技能增益。局部预测器无需重训智能体即可将历史增益迁移到新任务,并在显式迁移假设下将支持覆盖、表示失配与执行噪声关联到预测误差与决策后悔。在五个基准三个目标智能体…
AI Economist 是一个可安装的智能体技能,用于宏观经济 nowcasting、央行政策诊断和经济学家式解读。机器学习作为辅助校准层,技能包含 SKILL.md 和 Python 运行时,支持实时数据拉取与回测。