★ 3
MXCode 提出 MX 原生码本量化，权重压缩至约 2 比特
论文提出 MXCode 框架，将超低比特向量量化与 MX 原生 FP4 计算结合，给出 PostScale、PreScale、PreScale+ 三种策略。在 Qwen3 235B、DeepSeek-R1 671B、GLM-5.2 753B 上验证，GB300 硬件上模型加载内存比原生 FP4 降…
arXiv cs.LG10 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 MXCode 框架，将超低比特向量量化与 MX 原生 FP4 计算结合，给出 PostScale、PreScale、PreScale+ 三种策略。在 Qwen3 235B、DeepSeek-R1 671B、GLM-5.2 753B 上验证，GB300 硬件上模型加载内存比原生 FP4 降…