★ 3
论文提出按查询选择模态的全模态大模型高效推理方法
研究观察到不同查询从额外模态中获益程度不同,提出按查询自适应选择模态的精度-成本优化方法。在 Qwen2.5-Omni 与 Qwen3-Omni 上,该方法仅用约 41% 输入 token、39% 延迟即可达到或超过全模态精度。
arXiv cs.LG7 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究观察到不同查询从额外模态中获益程度不同,提出按查询自适应选择模态的精度-成本优化方法。在 Qwen2.5-Omni 与 Qwen3-Omni 上,该方法仅用约 41% 输入 token、39% 延迟即可达到或超过全模态精度。