★ 3
连续扩散语言模型训练对提示词加噪
arXiv 论文挑战连续扩散语言模型训练中固定干净提示词的标准做法，改为在训练时对条件提示词加噪。该方法在数独、N 皇后等组合推理任务上显著提升泛化能力，数独困难版求解率从 3.73% 升至 24.65%，并提升生成多样性，代码已开源。
arXiv cs.LG25 天前
#组合推理
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究者提出热带强化学习Tropical RL方法
论文提出热带强化学习（Tropical RL），将大模型强化学习中累加成功轨迹概率的做法改为取最大值，对应热带半环代数。状态价值由此变为最可能被验证解的对数概率，并附带可重放复用的显式路径，使来自不同 rollout 的最佳前缀与后缀能够拼接，实现真正的组合。作者提出 TROPIC 训练算法，在 …
arXiv cs.AI28 天前
★ 3
研究揭示强化学习后训练对语言模型组合推理的影响
论文提出依赖图框架形式化组合推理，划分出三个复杂度递增的组合层级，并用数据结构任务进行实证。研究发现一致的「分解到组合」不对称性：分解技能训练难以迁移到组合任务，而组合任务训练更易反向迁移。作者给出理论解释，并在长度外推、结构分布偏移及真实工具调用基准上验证该现象。
arXiv cs.AI45 天前
★ 2
语言模型树结构表达序列化瓶颈研究
研究提出往返协议，测试语言模型在思维链或自由文本中间步骤中序列化树结构组合信息时的信息损失。生成器将算术表达式转为文字题，提取器再还原表达式，以符号等价作为精确判据，对十六个模型两两组合进行评估。
Apple Machine Learning Research34 天前