★ 3
论文：短多项式程序加速 LLM 特殊函数运算
论文探索用短多项式程序加速大模型中的特殊函数单元运算，在 NVIDIA Blackwell 上替换 sigmoid、tanh、SiLU 等为三至四次 BF16 多项式。隔离路径提速 1.19–2.19 倍，训练步吞吐提升最高 8%，且训练损失差异极小。
arXiv cs.LG31 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文探索用短多项式程序加速大模型中的特殊函数单元运算，在 NVIDIA Blackwell 上替换 sigmoid、tanh、SiLU 等为三至四次 BF16 多项式。隔离路径提速 1.19–2.19 倍，训练步吞吐提升最高 8%，且训练损失差异极小。