量化感知训练

直接对训练好的模型做低比特量化常导致精度骤降。量化感知训练在正向传播中插入伪量化节点，模拟权重与激活的取整和缩放误差，反向传播则用直通估计器近似梯度，让模型提前适应量化噪声。它广泛用于大模型与边缘部署，在 INT8/INT4 下兼顾效率与精度。