★ 4
Decision-Flow采样:免训练提取大模型潜在推理路径
论文基于分布锐化假说,探讨能否在不做昂贵 RL 微调的情况下解锁基础模型中已潜藏的高奖励推理路径。作者提出免训练、免数据的推理时框架 DF-Sample,构建分层推理树、对终端节点评分并将效用反向传播以指导分支决策。在 GPQA 上达到 45.6% 准确率,超过 power sampling 的 …
arXiv cs.LG48 天前
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文基于分布锐化假说,探讨能否在不做昂贵 RL 微调的情况下解锁基础模型中已潜藏的高奖励推理路径。作者提出免训练、免数据的推理时框架 DF-Sample,构建分层推理树、对终端节点评分并将效用反向传播以指导分支决策。在 GPQA 上达到 45.6% 准确率,超过 power sampling 的 …
论文提出 Software World 框架,用真实相互依赖的 Python 包构建软件世界,模拟多智能体协同维护代码。在三个世界、八个模型、超一万小时智能体工作中,最佳模型将下游包效率提升最多 31%,但也发现部分前沿模型会过早停止寻找改进机会。框架与轨迹数据已开源。
提出两种技术使模拟对齐评估更接近真实部署:批评细化和DISH封装。两者结合可显著提升评估真实性,且比延长审计更有效利用额外计算。
论文提出 Route-Verify-Vote(RVV)框架,通过程序条件自一致性在不更新参数的情况下提升语言模型混合域推理能力。方法用域标签选择推理程序,逐项验证选项,再对完整答案集投票,并对票数接近的问题分配更多样本。在 SCoRE 2026 官方测试集上,自适应 RVV 达 77.3%,多模型…
测试用例合成对评估和排序 LLM 生成程序至关重要,但可靠期望输出难以获取。CoTT 先用高效的归纳式流程,仅在归纳置信度低时才触发转导式生成,从而按需分配额外算力。在代码重排序基准上,CoTT 各项指标优于既有基线,且相比对每个输入都做转导生成显著降低成本,展示了效率与效果的更优权衡。