arXiv cs.LG·2 小时前★ 3

arXiv 提出循环因果编码器解码器 Looped CED,KV 缓存降 36.8 倍

原文标题:Looping Deeper Without Growing the KV Cache: Recurrent Depth for Causal Encoder-Decoders

重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。

AI 智能摘要

论文设计循环因果编码器-解码器 Looped CED,将递归深度放在编码器以迭代精炼全局 KV,实现轮次间 KV 零增长。在 552B 参数 -V4.1-Flash 上循环 8 轮测试,单 KV 减少 36.8 倍,单节点可容纳 38 个 128K 请求,8K 提示吞吐提升 3.6 倍。该方法以 1/6 全局 KV 恢复循环 86-93% 的增益。

阅读原文 +0
AI 处理过程展开/收起
原始标题:Looping Deeper Without Growing the KV Cache: Recurrent Depth for Causal Encoder-Decoders
AI 中文标题:arXiv 提出循环因果编码器解码器 Looped CED,KV 缓存降 36.8 倍
来源:arXiv cs.LG · 发布于 2 小时前
分类:大模型 · AI 重要度:★ 3(3)
标签:KV 缓存 / 循环模型 / 推理效率 / 长上下文
关键词:KV 缓存 / 长上下文 / 推理加速 / DeepSeek / 模型架构
AI 处理:2026/11/11 15:02:19 · 模型 deepseek-chat · 规则版本 2026-10-21.1
AI 生成以上内容由 AI 自动生成:中文标题、摘要、分类与重要度;同一事件的多家报道会自动归并展示。 内容仅供参考,可能存在偏差,请以原文为准, 不构成任何投资或专业建议。
版权归原作者与原发布平台所有;若涉及侵权或信息错误,请在举报与侵权投诉页反馈,我们会及时处理。
每天 09:30,3 条 AI 圈真正重要的变化,免费订阅 →

相关推荐

The Verge AI·15 小时前★ 5

谷歌发布 Gemini 4 Carbon,预览智能体“蜂群”功能

AI 摘要谷歌向公众开放最新模型 Gemini 4 Carbon,称其为迄今最强模型,主打复杂多步编程与开放式科研等极限任务,定价约为 GPT-6 Astra 的五分之一。谷歌同时在智能体开发平台 Antigravity 上预览“swarm”功能,可将单条提示转化为协同工作的智能体团队。

#大模型
量子位·13 天前★ 5

谷歌 Gemini 4 Carbon 全面超越 Opus 5.5,首发 Token 半价

AI 摘要谷歌发布 Gemini 4 Carbon,宣称在多项能力上全面超越 Opus 5.5,并推出首发 Token 半价优惠。该模型可连续数日修复 Bug,且具备免疫提示词注入的安全特性,加剧头部大模型竞争。

#大模型
The Verge AI·13 天前★ 5

谷歌发布 Gemini 4 Carbon,主打网络安全能力跃升

AI 摘要谷歌推出前沿模型 Gemini 4 Carbon,在编程、智能体任务和网络安全方面显著提升,登顶 Artificial Analysis 智能指数,领先 Claude Opus 5.5 与 GPT-6 Astra。该模型目前仅向部分网络安全防御公司开放,定价与 Argon 相同,为每百万输入 token 2 美元、输出 10 美元。

#大模型
量子位·26 天前★ 5

谷歌发布 Gemini 4,API 限时半价

AI 摘要谷歌正式发布 Gemini 4,被视为重回大模型第一梯队的关键动作,同时推出 API 限时半价优惠。该发布对模型竞争格局与开发者成本结构均有直接影响。

#大模型
内容有误或摘要不准?告诉我们
arXiv 提出循环因果编码器解码器 Looped CED,KV 缓存降 36.8 倍 - 智讯 AI News