★ 3
ToolBottleneckBench:固定预算下测量工具智能体性能
论文提出 ToolBottleneckBench,在固定 harness 预算下测量工具智能体在受控压力下的表现。实验发现可见工具菜单是唯一对模型造成大惩罚的压力,且惩罚与完成上限截断相关;将上限提高十六倍可消除大部分惩罚。研究建议报告压力效应时须注明 harness 预算,并开源基准。
arXiv NLP16 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 ToolBottleneckBench,在固定 harness 预算下测量工具智能体在受控压力下的表现。实验发现可见工具菜单是唯一对模型造成大惩罚的压力,且惩罚与完成上限截断相关;将上限提高十六倍可消除大部分惩罚。研究建议报告压力效应时须注明 harness 预算,并开源基准。
该研究提出一种无需重新训练即可改进LLM工具智能体的方法,通过修改运行时环境(如提示、工具接口、中间件等)来实现。研究者设计了资源受限的运行时选择协议,并引入PRISM优化器,在多个基准上取得了显著性能提升。研究强调在报告平均性能提升的同时,也应关注所选运行时的可靠性。
论文提出Reward Engine,从任务与初始轨迹构建包含测试用例与评分细则的RewardPack,作为冻结奖励指导智能体修正输出并用于强化学习。在WorkBuddy Bench Office与Claw-Eval上,三次运行一致性分别从45.0%升至54.0%、78.4%升至83.7%。