Magnitude Pruning（幅度剪枝）

Magnitude Pruning的核心思想是认为绝对值小的权重对输出贡献较小，可以安全移除。通常按全局或逐层阈值剪枝，再微调恢复精度。该方法简单有效，但非结构化剪枝产生稀疏矩阵，需要专用硬件加速。结构化剪枝则移除整个通道或滤波器，更利于通用硬件。近年来，Magnitude Pruning常与彩票假设结合研究，发现稀疏子网络可独立训练达到原网络性能。实际中，它被用于压缩BERT和ResNet等模型，减少内存和计算开销。