★ 3
DPT 方法提出:用路径多样性惩罚缓解大模型并行推理模式坍缩
论文指出基于强化学习的并行思维常出现推理路径同质化,削弱多假设探索的意义。作者提出 Diverse Parallel Thinking(DPT),通过惩罚并行路径前缀相似度奖励差异化推理策略,在多个推理基准上超过已有并行思维方法并开源代码。
arXiv cs.AI11 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出基于强化学习的并行思维常出现推理路径同质化,削弱多假设探索的意义。作者提出 Diverse Parallel Thinking(DPT),通过惩罚并行路径前缀相似度奖励差异化推理策略,在多个推理基准上超过已有并行思维方法并开源代码。