SparseGPT（SparseGPT 剪枝）

SparseGPT基于稀疏性假设，利用Hessian矩阵的近似，逐层进行权重剪枝和更新，以最小化输出误差。它支持非结构化剪枝，可达到50%以上的稀疏度，而性能损失很小。SparseGPT无需重新训练，仅需少量校准数据，即可在数小时内完成百亿参数模型的剪枝。该方法为LLM的高效推理提供了新途径。