★ 3
用合成CoT与难度感知微调蒸馏2B视频语言模型
论文提出一种将推理能力蒸馏进紧凑视频语言模型（VLM）的高效方法，仅用约 900 个不确定性筛选样本、由 4B 教师模型生成合成思维链，在单张 A100 上不到两小时即可微调 2B 模型。该模型在 CinePile、ActivityNet-QA、MLVU 上超越最多 4 倍大的 VLM，接近其 4…
arXiv cs.LG47 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出一种将推理能力蒸馏进紧凑视频语言模型（VLM）的高效方法，仅用约 900 个不确定性筛选样本、由 4B 教师模型生成合成思维链，在单张 A100 上不到两小时即可微调 2B 模型。该模型在 CinePile、ActivityNet-QA、MLVU 上超越最多 4 倍大的 VLM，接近其 4…