★ 3
论文：短多项式程序加速 LLM 特殊函数运算
论文探索用短多项式程序加速大模型中的特殊函数单元运算，在 NVIDIA Blackwell 上替换 sigmoid、tanh、SiLU 等为三至四次 BF16 多项式。隔离路径提速 1.19–2.19 倍，训练步吞吐提升最高 8%，且训练损失差异极小。
arXiv cs.LG31 天前
#GPU 加速
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
GradSAT：梯度归一化加速浮点可满足性求解
论文提出 GradSAT，将基于优化的 SMT 求解与多任务学习结合，把每个 SMT 子句视为独立任务，通过动态梯度归一化（GradNorm）平衡各子句梯度，缓解梯度支配问题。系统采用 GPU 加速 PyTorch 后端加位精确局部搜索的两阶段流水线。该方法提升了连续搜索稳定性，为复杂约束求解提供…
arXiv cs.AI25 天前
★ 2
FlashSinkhorn 2：块稀疏熵最优传输
论文提出 FlashSinkhorn 2（FS2），针对低维点云上的平方欧氏代价，在单张 GPU 上求解大规模离散熵最优传输问题。方法采用粗粒度质心求解加块稀疏精修两阶段，配合 Morton 排序块与张量核融合执行。在单张 A100 上，FS2 于 2.5 小时内求解了 1.34 亿粒子宇宙学 N…
arXiv cs.AI28 天前
★ 1
FlashDiffusion 融合分块核谱分解方法
论文提出 FlashDiffusion，一种无矩阵方法，在融合 GPU 分块中计算稠密高斯核块，避免 O(N²) 内存开销。方法将特征求解器与经验 β-flow 耦合，用于选择有限样本分辨率尺度，并通过样本量与带宽的延拓从粗分辨率热启动更昂贵的谱求解。面向扩散映射与核方法的可扩展几何学习。
arXiv cs.LG32 天前