★ 4
Decision-Flow采样：免训练提取大模型潜在推理路径
论文基于分布锐化假说，探讨能否在不做昂贵 RL 微调的情况下解锁基础模型中已潜藏的高奖励推理路径。作者提出免训练、免数据的推理时框架 DF-Sample，构建分层推理树、对终端节点评分并将效用反向传播以指导分支决策。在 GPQA 上达到 45.6% 准确率，超过 power sampling 的 …
arXiv cs.LG49 天前
#采样策略
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究揭示 DRY 采样器重复循环盲区，提出 DRY-C
论文分析语言模型重复循环何时能被打破，指出 top-p 阈值超过 0.5 时会锁死位置，并发现广泛部署的 DRY 采样器存在盲区：序列断点使惩罚上限受限。在 11 个开源模型上，g=6 的锁定单元有 66% 在 DRY 下仍锁死。作者提出 DRY-C，在 720 次结构化输出生成中无一循环到长度上…
arXiv NLP13 天前
这个主题的相关资产
相关公司Meta AI1