研究:最小编辑在线蒸馏提升多模态推理感知能力
论文针对视觉语言模型误读图表导致推理失败的问题,提出最小编辑纠错在线蒸馏:以参考图描述和已验证解答作为训练信息,教师仅对错误轨迹中不被偏好的token给出纠错损失,正确轨迹用任务奖励强化学习。方法在测试时无需图描述,在多个模型规模上达到或超过推理时提供参考描述的基线。
共 8 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文针对视觉语言模型误读图表导致推理失败的问题,提出最小编辑纠错在线蒸馏:以参考图描述和已验证解答作为训练信息,教师仅对错误轨迹中不被偏好的token给出纠错损失,正确轨迹用任务奖励强化学习。方法在测试时无需图描述,在多个模型规模上达到或超过推理时提供参考描述的基线。
论文推出 MathVis 基准,含512个数学可视化任务,要求模型生成 TikZ/SVG 图形辅助推理。GPT-6-Astra、Claude Fable 5、Gemini 3.1 Pro Preview 的 pass@1 分别为31.25%、26.56%、22.85%。研究发现模型输出偏向形式语言…
论文提出 Uni-LaDiR 框架,将不同模态的推理步骤映射到共享潜空间中的统一思维 token,并用扩散模型预测下一块思维 token。编码器与扩散推理器共享权重联合训练,使思维 token 既对任务有用又可由上下文预测,推理时无需教师观测即可生成。在 11 个视觉语言模型基准与 2 个视觉-语…
论文指出特权在线策略蒸馏中,学生早期误读图像会累积错误推理并拖偏教师,导致师生共同陷入幻觉。作者发现教师对真实图像与视觉空值的预测差异中仍保留视觉纠正偏好,据此提出 OPD-Aha,直接从该孤立视觉偏好重建蒸馏目标,抑制与图像矛盾的续写。训练后学生学会用 wait、actually 等反思词中断错…
现有评估孤立看待视觉生成质量与最终答案准确率,未检验中间视觉辅助是否几何有效、被后续推理利用或对成功有因果作用。论文提出 GeoVAD-Bench 诊断基准,含五维轨迹诊断与 No-Aux/Auto-Aux/GT-Aux 干预设置,揭示自主生成受几何感知、视觉操作、视觉状态接地与演绎推理的复合误差…
研究指出仅按视觉依赖度缩放 token 熵会低估高熵低视觉依赖的 token,提出 PEAR 方法:以视觉依赖为基础信号,仅在高熵位置叠加熵探索增益,并映射为 token 级权重重塑序列优势。在 Qwen2.5-VL-3B/7B 上取得多模态推理基准最高平均成绩。
论文提出视觉语言框架 VL-Scout,结合贝叶斯先验、策略梯度与 Dirichlet 信念模型实现在线不确定性感知的模型路由,并用 GRPO 或 RLVR 训练融合策略决定继续或作答。在 MMMU、MMMU-Pro、OKVQA、RealWorldQA 四个基准上对比 11 个基线取得稳定提升,并…
论文针对可验证奖励强化学习(RLVR)在大型视觉语言模型中的优化瓶颈,指出视觉 grounding 推理轨迹在单次更新后即被丢弃、token 优势分配过于均匀。作者提出 PIVOT 双层学习框架,引入自校准经验回放与视觉引导优势分配机制。多基准实验显示其在多模态推理能力上表现极具竞争力。