#推理预算

共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

PORA:让 LLM 智能体学会何时该长推理

针对智能体推理预算有限的问题,研究者提出 PORA,在训练时从同一状态分别用短、长推理各完成一次任务,比较结果质量与开销以学习长推理的下游价值;推理时由控制器结合剩余预算压力决定长短推理。在 BFCL 记忆任务上超过最强方法 17.4–32.9 个百分点,代码与数学任务上以少 50.6% 的 to…

arXiv cs.AI12 天前

相关标签

推理预算 最新资讯与动态(1 篇) - 智讯 AI News