★ 2
MIRROR 自蒸馏框架：让 LLM 个性化从模仿走向偏好内化
arXiv 论文提出 MIRROR 自蒸馏框架，将 LLM 个性化从参考文本模仿转向用户偏好内化：用参考条件自蒸馏对齐模型自身生成轨迹的下一 token 分布，并引入 MIRROR-F 插件对信息量高的参考 token 做选择性监督。在三个个性化生成基准、两种模型规模上取得领先的个性化与文本质量表…
arXiv NLP25 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
arXiv 论文提出 MIRROR 自蒸馏框架，将 LLM 个性化从参考文本模仿转向用户偏好内化：用参考条件自蒸馏对齐模型自身生成轨迹的下一 token 分布，并引入 MIRROR-F 插件对信息量高的参考 token 做选择性监督。在三个个性化生成基准、两种模型规模上取得领先的个性化与文本质量表…
论文提出 Demographic Pluralism，一个推理时框架，无需意见分布训练数据或任务特定微调，通过在人口学分组内生成多重视角来估计群体级意见分布。在 GlobalOpinionQA 与 VITAL 上，四个骨干模型相对 Modular Pluralism 将 Jensen-Shanno…