#token 预算

共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

研究揭示代码生成中推理轨迹溢出:模型耗尽预算仍无输出

论文研究小型开源推理模型在代码生成中的「推理轨迹溢出」现象:模型把固定 32k token 输出预算大量用于推理,最终未产出可用代码。在 7 个模型、6 种代码基准设置下,简单函数级任务溢出罕见,困难基准与特定模型家族中过半生成耗尽全部预算。多数完全溢出与重复推理循环相关,关闭推理对易溢出模型反而…

arXiv cs.AI6 小时前

这个主题的相关资产

相关标签

token 预算 最新资讯与动态(1 篇) - 智讯 AI News