arXiv cs.AI·17 天前★ 3

LEV:循环决策模型实现按需深度推理

原文标题:LEV: Thinking Fast and Deep with Looped Decision Models

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

论文提出 LEV,一种通过循环重跑网络层而非生成 来加深推理的决策模型,单次前向即可给出选项概率,同一权重可在任意深度作答。2.6B 的 LEV 在 JevBench 上从深度一的 63.2% 提升至深度四的 76.2%,按需深度可节省 15% 至 24% 计算量,且 1.4B 与 3B 模型在 50ms 延迟内比稠密模型准确率高 5.4 至 8.8 个百分点。

深读 · 结论先行AI 生成展开看要点与影响 ↓

LEV用循环重跑网络层替代生成,2.6B模型在JevBench从深度一63.2%升至深度四76.2%。

  • •决策模型单次前向即输出各选项概率,不生成文本,但训练时深度固定
  • •LEV循环重跑网络层,每步读取选项并联合训练所有步骤,同一权重可在任意深度作答
  • •2.6B模型在JevBench上从深度一63.2%提升至深度四76.2%,提升主要来自难题
  • •按需深度由小型stopper按阈值设定,节省15%至24%计算量,准确率损失不到一个点
  • •锁定测试集上,1.4B与3B模型在50ms延迟内比同延迟稠密模型及级联高5.4至8.8个百分点

为什么重要:提供了一条不靠生成token来加深推理的路径,在低延迟场景下比稠密模型和级联更有优势,对端侧或实时决策应用有直接意义。

以上深读由 AI 依据标题/摘要/正文节选生成,仅供参考;事实以原文为准。

所属主题决策模型4
阅读原文 +0
AI 处理过程展开/收起
原始标题:LEV: Thinking Fast and Deep with Looped Decision Models
AI 中文标题:LEV:循环决策模型实现按需深度推理
来源:arXiv cs.AI · 发布于 17 天前
分类:大模型 · AI 重要度:★ 3(3)
标签:决策模型 / 循环网络 / 推理深度 / 模型效率 / 大模型
关键词:决策模型 / 循环网络 / 推理模型 / 模型效率 / 深度推理
AI 处理:2026/10/16 12:03:05 · 模型 deepseek-chat · 规则版本 2026-10-10.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →
LEV:循环决策模型实现按需深度推理 - 智讯 AI News