★ 2
在策略与离策略蒸馏的目标差异解析
论文系统研究多教师序列蒸馏，指出前向 KL 产生加权算术混合、反向 KL 产生归一化加权几何聚合，并给出表格与函数逼近下的对数遗憾界。分析揭示了在策略蒸馏（OPD）相对 SFT 减少遗忘的优势及其脆弱性来源。反向 KL 更能保留自信专家的偏好，但对低概率正确响应的教师更敏感。
arXiv cs.LG32 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文系统研究多教师序列蒸馏，指出前向 KL 产生加权算术混合、反向 KL 产生归一化加权几何聚合，并给出表格与函数逼近下的对数遗憾界。分析揭示了在策略蒸馏（OPD）相对 SFT 减少遗忘的优势及其脆弱性来源。反向 KL 更能保留自信专家的偏好，但对低概率正确响应的教师更敏感。
论文以概率视角统一梳理大语言模型：将 LLM 描述为 token 序列上的概率测度，训练即最大似然估计，生成即随机过程的序贯模拟。文章还探讨 KL 散度不对称性与幻觉、统计合理性与真实性之间的关系，并延伸讨论基于得分函数的扩散模型。