模型压缩

常用方法包括剪枝（移除冗余连接）、量化（降低权重精度）、知识蒸馏（用大模型指导小模型）和低秩分解。随着大模型兴起，压缩技术对于部署到移动端和边缘设备至关重要。它能在保持性能的同时显著降低存储和计算开销，但可能引入精度损失，需在压缩率与效果间权衡。