★ 3
研究揭示代码生成中推理轨迹溢出:模型耗尽预算仍无输出
论文研究小型开源推理模型在代码生成中的「推理轨迹溢出」现象:模型把固定 32k token 输出预算大量用于推理,最终未产出可用代码。在 7 个模型、6 种代码基准设置下,简单函数级任务溢出罕见,困难基准与特定模型家族中过半生成耗尽全部预算。多数完全溢出与重复推理循环相关,关闭推理对易溢出模型反而…
arXiv cs.AI6 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文研究小型开源推理模型在代码生成中的「推理轨迹溢出」现象:模型把固定 32k token 输出预算大量用于推理,最终未产出可用代码。在 7 个模型、6 种代码基准设置下,简单函数级任务溢出罕见,困难基准与特定模型家族中过半生成耗尽全部预算。多数完全溢出与重复推理循环相关,关闭推理对易溢出模型反而…