★ 3
研究:推理结构在token预算下的收益阈值
该研究探究推理结构是否在令牌预算阈值下有益。在金融推理任务上,验证搜索架构在1500令牌后超越单体模型,最高达44%准确率。交叉点在1000-1500令牌之间,表明规划开销在低预算时有害,高预算时有益。
arXiv cs.AI63 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
该研究探究推理结构是否在令牌预算阈值下有益。在金融推理任务上,验证搜索架构在1500令牌后超越单体模型,最高达44%准确率。交叉点在1000-1500令牌之间,表明规划开销在低预算时有害,高预算时有益。