★ 3
MaD-RL：用强化学习校准大模型输出分布
该论文提出 MaD-RL 框架，通过强化学习实现「分布匹配」，让模型输出的潜在类别属性分布对齐指定目标分布，而非仅最大化期望奖励。作者指出 GRPO 等主流后训练方法会压缩输出多样性、使策略概率集中于单一模式，而熵正则与采样温度只能有限缓解。论文为 KL、Jensen-Shannon 等散度设计奖…
arXiv cs.LG34 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
该论文提出 MaD-RL 框架，通过强化学习实现「分布匹配」，让模型输出的潜在类别属性分布对齐指定目标分布，而非仅最大化期望奖励。作者指出 GRPO 等主流后训练方法会压缩输出多样性、使策略概率集中于单一模式，而熵正则与采样温度只能有限缓解。论文为 KL、Jensen-Shannon 等散度设计奖…