★ 3
SpaRLax 提出面向 LLM 推理的稀疏强化学习松弛方法
论文针对软思维链（soft CoT）训练难题，提出 SpaRLax 稀疏松弛方法，利用软推理在时间步上的可微性传播梯度，使训练更稳定。方法采用 entmax 稀疏化自适应决定软化程度，在自信步骤截断长尾噪声、不确定时保留多个候选。在九个推理基准上平均表现最优。
arXiv cs.AI12 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文针对软思维链（soft CoT）训练难题，提出 SpaRLax 稀疏松弛方法，利用软推理在时间步上的可微性传播梯度，使训练更稳定。方法采用 entmax 稀疏化自适应决定软化程度，在自信步骤截断长尾噪声、不确定时保留多个候选。在九个推理基准上平均表现最优。