★ 2
量化分析工具助力高效AI模型部署
论文提出 Quantization Analysis Tool,基于 ONNX 框架构建,用于简化量化工作流并支持高效模型部署。工具提供逐层敏感度分析、权重与激活分布可视化,帮助开发者选择合适精度。实验表明该工具能有效提升量化后精度,在边缘与低功耗设备部署场景中具有实用价值。
arXiv cs.LG49 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 Quantization Analysis Tool,基于 ONNX 框架构建,用于简化量化工作流并支持高效模型部署。工具提供逐层敏感度分析、权重与激活分布可视化,帮助开发者选择合适精度。实验表明该工具能有效提升量化后精度,在边缘与低功耗设备部署场景中具有实用价值。