STAPLE：通过嵌入模块静态稀疏升级预训练模型
原文标题：STAPLE: Static Sparse Upcycling of Pretrained Checkpoints via Embedding Modules
重要度 3/5 · AI 综合评估报道影响力与新鲜度，4–5 分为高价值资讯。
论文提出 STAPLE，在 STEM 基础上将静态稀疏记忆以残差路径方式集成到预训练模型中，保留原有计算并学习互补的 token 特定信息。在 OLMo-2 1B 上，HumanEval 提升 4.27 分，GSM8K 提升 2.27 分，且提升随静态容量增加而持续，在 OLMo-2 7B 上同样有效。该方法解码速度是 MoE 升级基线的 2 倍，GPU 模型内存不到其一半，为扩展预训练模型提供样本高效路径。
深读 · 结论先行AI 生成展开看要点与影响 ↓
STAPLE以残差路径加静态稀疏记忆，OLMo-2 1B上HumanEval提升4.27分。
- •在STEM基础上保留FFN上投影，把token索引嵌入作为残差路径加入，不破坏预训练计算
- •OLMo-2 1B：HumanEval +4.27、MBPP +2.80、GSM8K +2.27、DROP +1.65
- •提升随静态容量增加而持续，在更大的OLMo-2 7B上同样有效
- •解码速度是MoE升级基线的2倍，GPU模型内存不到其一半
- •优于STEM和Engram式静态稀疏基线
为什么重要：给不想重训稀疏架构的团队一条样本高效的扩容路径：用静态稀疏记忆升级已有预训练模型，显存和速度都优于MoE升级。
以上深读由 AI 依据标题/摘要/正文节选生成，仅供参考；事实以原文为准。
AI 处理过程展开/收起
相关推荐
谷歌 Gemini 4 Carbon 全面超越 Opus 5.5，首发 Token 半价
AI 摘要谷歌发布 Gemini 4 Carbon，宣称在多项能力上全面超越 Opus 5.5，并推出首发 Token 半价优惠。该模型可连续数日修复 Bug，且具备免疫提示词注入的安全特性，加剧头部大模型竞争。
谷歌发布 Gemini 4 Carbon，主打网络安全能力跃升
AI 摘要谷歌推出前沿模型 Gemini 4 Carbon，在编程、智能体任务和网络安全方面显著提升，登顶 Artificial Analysis 智能指数，领先 Claude Opus 5.5 与 GPT-6 Astra。该模型目前仅向部分网络安全防御公司开放，定价与 Argon 相同，为每百万输入 token 2 美元、输出 10 美元。
谷歌发布 Gemini 4，API 限时半价
AI 摘要谷歌正式发布 Gemini 4，被视为重回大模型第一梯队的关键动作，同时推出 API 限时半价优惠。该发布对模型竞争格局与开发者成本结构均有直接影响。
谷歌 Meta 发布前沿模型，AI 竞赛重启
AI 摘要谷歌发布 Gemini 4 Argon，Meta 推出新前沿模型，两家公司声称可与 OpenAI 和 Anthropic 的旗舰模型匹敌。谷歌以激进定价策略切入市场，入门期价格比竞争对手低至80%。AI 前沿竞争格局重新洗牌。