★ 3
GateRQ：按门控精度量化 DeepSeek 条件记忆表
论文针对 DeepSeek Engram 类条件记忆层提出 GateRQ，利用门控值加权量化误差，将每行存为 1-bit 残差码阶梯，仅对门控排名高的查表读取更深层级。在 DeepSeek-V4.1-Flash 上无需重训即把 GPU 表内存压缩 7.8 倍，vLLM 吞吐较 FP8 提升 11%…
arXiv cs.LG5 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文针对 DeepSeek Engram 类条件记忆层提出 GateRQ，利用门控值加权量化误差，将每行存为 1-bit 残差码阶梯，仅对门控排名高的查表读取更深层级。在 DeepSeek-V4.1-Flash 上无需重训即把 GPU 表内存压缩 7.8 倍，vLLM 吞吐较 FP8 提升 11%…