★ 3
DEEPO：双熵增强策略优化缓解多模态大模型幻觉
论文针对多模态大模型强化学习后幻觉改善不均的问题，定位到奖励到参数更新纠正链的两个薄弱点。作者提出 DEEPO，结合信号方差正则化与梯度预处理：语义熵触发的专家前缀为高不确定查询注入有依据的续写，优势符号感知的 Renyi 预处理对抗 logit 饱和。在 VideoMMMU 上取得统计显著的提升…
arXiv cs.AI38 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文针对多模态大模型强化学习后幻觉改善不均的问题，定位到奖励到参数更新纠正链的两个薄弱点。作者提出 DEEPO，结合信号方差正则化与梯度预处理：语义熵触发的专家前缀为高不确定查询注入有依据的续写，优势符号感知的 Renyi 预处理对抗 logit 饱和。在 VideoMMMU 上取得统计显著的提升…
论文指出特权在线策略蒸馏中，学生早期误读图像会累积错误推理并拖偏教师，导致师生共同陷入幻觉。作者发现教师对真实图像与视觉空值的预测差异中仍保留视觉纠正偏好，据此提出 OPD-Aha，直接从该孤立视觉偏好重建蒸馏目标，抑制与图像矛盾的续写。训练后学生学会用 wait、actually 等反思词中断错…