技术
Quantization（量化）
将模型参数和激活值从高精度（如 FP32）降低到低精度（如 INT8），以减小模型大小和加速推理。
详细解释
量化是模型压缩的重要技术。通过将浮点数映射到整数，减少内存占用和计算延迟。常见方法包括训练后量化（PTQ）和量化感知训练（QAT）。量化在边缘设备部署大模型时至关重要，但需平衡精度损失。
别名与相关写法
quantization
相关术语
相关公司
相关资讯
压缩三位一体：联合稀疏化、量化与低秩近似压缩LLM2026/8/26
Predicate Neuron：可微谓词神经元将一阶逻辑量化引入神经网络2026/10/30
ProQuant：MoE 模型超低比特量化保专家质量2026/10/23
arXiv 论文提出 OnQ：量化模型推理能力恢复新方法2026/10/22
研究对比 2:4 稀疏与量化：大模型推理该选哪一步2026/10/22
FidelityQ：超低位宽语言模型量化保持预测保真度2026/10/14
论文提出代数整数量化 AIQ，用于 LLM 推理压缩2026/10/12
研究提出 Harness Compilation 优化小视觉语言模型分工2026/10/9