★ 3
研究：在线策略蒸馏传技能不传知识
研究用可控合成框架分离事实知识与组合技能，测试三个家族四个模型，发现在线策略蒸馏（OPD）能稳定迁移多步推理的组合技能，但几乎不迁移事实知识。将 reverse-KL 换成 forward-KL 可恢复事实迁移，学生 rollout 则主要提升多步推理执行。结论是 OPD 不扩展模型参数化知识，只…
arXiv NLP25 天前
#KL 散度
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
CABA：带保留锚点的持续适应行为保留认证框架
论文提出 CABA，一种与候选生成器无关的更新后门控机制，用冻结表示比较新旧策略，选择满足 KL 散度预算的最大插值系数。理论上给出表示覆盖与 Lipschitz 假设下的均匀行为散度界。在 UCI HAR 实验中遗忘率从 1.01% 降至 0.00%，但平均准确率从 93.04% 降至 88.4…
arXiv cs.LG8 小时前