★ 2
arXiv 论文：深度剪枝小模型能力损伤与修复研究
一篇 arXiv 论文系统测量了深度剪枝对 1.2-1.7B 小语言模型（Llama-3.2-1B、Qwen2.5-1.5B、SmolLM2-1.7B、OLMo-2-1B）六项能力的影响，发现函数调用与数学推理在四个模型家族中几乎完全崩塌（保留率仅 0.00-0.07），且能力失效顺序高度一致。研…
arXiv NLP10 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一篇 arXiv 论文系统测量了深度剪枝对 1.2-1.7B 小语言模型（Llama-3.2-1B、Qwen2.5-1.5B、SmolLM2-1.7B、OLMo-2-1B）六项能力的影响，发现函数调用与数学推理在四个模型家族中几乎完全崩塌（保留率仅 0.00-0.07），且能力失效顺序高度一致。研…