★ 2
PEAR 提出自适应优势重塑,提升多模态推理感知与探索
研究指出仅按视觉依赖度缩放 token 熵会低估高熵低视觉依赖的 token,提出 PEAR 方法:以视觉依赖为基础信号,仅在高熵位置叠加熵探索增益,并映射为 token 级权重重塑序列优势。在 Qwen2.5-VL-3B/7B 上取得多模态推理基准最高平均成绩。
arXiv cs.AI7 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究指出仅按视觉依赖度缩放 token 熵会低估高熵低视觉依赖的 token,提出 PEAR 方法:以视觉依赖为基础信号,仅在高熵位置叠加熵探索增益,并映射为 token 级权重重塑序列优势。在 Qwen2.5-VL-3B/7B 上取得多模态推理基准最高平均成绩。