★ 3
LHM：低秩分层合并实现长链推理到短输出
arXiv 论文提出免训练框架 Low-Rank Hierarchical Merging（LHM），用低秩 Hessian 近似、层二阶敏感度指标与双约束系数映射替代启发式统计，实现长链思维模型与基座模型的合并。在 1.5B 与 7B 模型的六个数学基准上，准确率提升超 4%，输出长度最多缩减 …
arXiv cs.AI14 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
arXiv 论文提出免训练框架 Low-Rank Hierarchical Merging（LHM），用低秩 Hessian 近似、层二阶敏感度指标与双约束系数映射替代启发式统计，实现长链思维模型与基座模型的合并。在 1.5B 与 7B 模型的六个数学基准上，准确率提升超 4%，输出长度最多缩减 …