★ 2
研究提出 HiFloat4 格式大模型量化校准方法
论文针对 HiFloat4（HiF4）块浮点 4 比特格式缺乏校准支持的问题，提出 HiGPTQ、HiAutoRound、HiFlatQuant 三种校准方法。实验显示三者均提升推理精度，将 HiF4 与 BF16 的差距缩小至 1% 以内，并在多模型多任务上超过 NVFP4。
arXiv cs.AI13 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文针对 HiFloat4（HiF4）块浮点 4 比特格式缺乏校准支持的问题，提出 HiGPTQ、HiAutoRound、HiFlatQuant 三种校准方法。实验显示三者均提升推理精度，将 HiF4 与 BF16 的差距缩小至 1% 以内，并在多模型多任务上超过 NVFP4。