Post-Training Quantization（训练后量化）

训练后量化（PTQ）无需重新训练或微调，直接对预训练模型进行量化。它通过校准数据集统计激活分布，确定量化参数（如缩放因子和零点），将FP32转换为INT8等低精度格式。背景是深度学习模型庞大，难以部署在资源受限设备。技术说明包括：分为动态量化和静态量化，静态量化需要校准步骤；可能引入精度损失，但通过量化感知训练可缓解。典型工作有TensorFlow Lite的PTQ和ONNX Runtime的量化工具。