arXiv 提出循环因果编码器解码器 Looped CED,KV 缓存降 36.8 倍
原文标题:Looping Deeper Without Growing the KV Cache: Recurrent Depth for Causal Encoder-Decoders
重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。
论文设计循环因果编码器-解码器 Looped CED,将递归深度放在编码器以迭代精炼全局 KV,实现轮次间 KV 零增长。在 552B 参数 DeepSeek-V4.1-Flash 上循环 8 轮测试,单 token KV 减少 36.8 倍,单节点可容纳 38 个 128K 请求,8K 提示吞吐提升 3.6 倍。该方法以 1/6 全局 KV 恢复循环 Transformer 86-93% 的增益。
AI 处理过程展开/收起
相关推荐
谷歌发布 Gemini 4 Carbon,预览智能体“蜂群”功能
AI 摘要谷歌向公众开放最新模型 Gemini 4 Carbon,称其为迄今最强模型,主打复杂多步编程与开放式科研等极限任务,定价约为 GPT-6 Astra 的五分之一。谷歌同时在智能体开发平台 Antigravity 上预览“swarm”功能,可将单条提示转化为协同工作的智能体团队。
谷歌 Gemini 4 Carbon 全面超越 Opus 5.5,首发 Token 半价
AI 摘要谷歌发布 Gemini 4 Carbon,宣称在多项能力上全面超越 Opus 5.5,并推出首发 Token 半价优惠。该模型可连续数日修复 Bug,且具备免疫提示词注入的安全特性,加剧头部大模型竞争。
谷歌发布 Gemini 4 Carbon,主打网络安全能力跃升
AI 摘要谷歌推出前沿模型 Gemini 4 Carbon,在编程、智能体任务和网络安全方面显著提升,登顶 Artificial Analysis 智能指数,领先 Claude Opus 5.5 与 GPT-6 Astra。该模型目前仅向部分网络安全防御公司开放,定价与 Argon 相同,为每百万输入 token 2 美元、输出 10 美元。
谷歌发布 Gemini 4,API 限时半价
AI 摘要谷歌正式发布 Gemini 4,被视为重回大模型第一梯队的关键动作,同时推出 API 限时半价优惠。该发布对模型竞争格局与开发者成本结构均有直接影响。