#FP8

共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 4

ZGCM-1 全开源高效数学与智能体搜索模型

论文发布ZGCM-1,一个从零训练的全开源7B稠密基础模型,强调数据、系统与算法效率。模型采用交错门控滑窗与全注意力、稳定的FP8 Muon优化器,支持256K上下文,并在数学推理与智能体搜索任务上媲美Qwen3-235B-A22B、GLM-5.1等大得多的前沿模型。预训练设计在16K上下文下带来…

arXiv cs.AI48 天前
★ 3

研究实测 86 个开源 LLM 推理能耗效率差异

论文直接测量 86 个开源权重模型在七项基准与六类硬件上的推理能耗,发现能力相近的模型能耗差异巨大,多数配置远离分数-能耗帕累托前沿,能耗差距中位数达 2.6-4.8 倍,最高 27 倍。开启推理平均增加约 3.7 倍能耗,FP8 可降低约四分之一能耗,作者主张基准分数应同时报告实测能耗。

arXiv cs.AI19 天前

这个主题的相关资产

相关标签

FP8 最新资讯与动态(2 篇) - 智讯 AI News