★ 3
LEV:循环决策模型实现按需深度推理
论文提出 LEV,一种通过循环重跑网络层而非生成 token 来加深推理的决策模型,单次前向即可给出选项概率,同一权重可在任意深度作答。2.6B 的 LEV 在 JevBench 上从深度一的 63.2% 提升至深度四的 76.2%,按需深度可节省 15% 至 24% 计算量,且 1.4B 与 3…
arXiv cs.AI17 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 LEV,一种通过循环重跑网络层而非生成 token 来加深推理的决策模型,单次前向即可给出选项概率,同一权重可在任意深度作答。2.6B 的 LEV 在 JevBench 上从深度一的 63.2% 提升至深度四的 76.2%,按需深度可节省 15% 至 24% 计算量,且 1.4B 与 3…