★ 3
SNACK：GPU 上真正稀疏的神经网络层
论文提出 SNACK，一种真正稀疏的 GPU 层，只存储与计算非零连接，并提供简洁的 PyTorch API 支持稀疏范式下的梯度反向传播。其配套 SNACK-COO 定制 COO 格式 SpMM CUDA 内核针对小批量、高稀疏场景优化。在 90% 稀疏度下单层训练提速 8 倍、推理提速 4 倍…
arXiv cs.LG27 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 SNACK，一种真正稀疏的 GPU 层，只存储与计算非零连接，并提供简洁的 PyTorch API 支持稀疏范式下的梯度反向传播。其配套 SNACK-COO 定制 COO 格式 SpMM CUDA 内核针对小批量、高稀疏场景优化。在 90% 稀疏度下单层训练提速 8 倍、推理提速 4 倍…