技术
Structured Pruning
一种模型压缩技术,通过移除整个结构单元(如通道、层)来减少模型大小和计算量。
详细解释
结构化剪枝针对神经网络中的结构化组件(如卷积核通道、注意力头、层)进行剪枝,产生规整的稀疏模式,从而可直接在硬件上加速。与无结构剪枝相比,它更易于部署,但可能对精度影响更大。常见方法包括基于重要性评分、正则化训练和自动搜索剪枝结构。
别名与相关写法
structured pruning
相关术语
Pruning共现 2 篇
on-policy distillation共现 1 篇
Language Model共现 1 篇
Attention共现 1 篇
Reasoning共现 1 篇
MLP共现 1 篇
相关公司
相关资讯
arXiv 论文:LayerTrim 保留注意力剪枝推理模型2026/10/15
ReCal:结构化剪枝的在线蒸馏恢复校准方法2026/10/9