MPPA：免训练将扩散大模型上下文外推至两倍窗口
原文标题：Mask-Pattern Position Augmentation: Training-Free Long-Context Extrapolation for Diffusion LLMs
重要度 3/5 · AI 综合评估报道影响力与新鲜度，4–5 分为高价值资讯。
论文针对扩散大语言模型（dLLM）提出 Mask-Pattern Position Augmentation（MPPA），利用部分解码序列的掩码模式为每个位置与去噪步添加偏移，恢复旋转位置编码插值损失的相位分辨率。在 LLaDA-8B-Instruct 上把 4096 窗口外推至 8192 token，困惑度从 19.51 降至 3.12，并保持 100% 密码检索准确率。
AI 处理过程展开/收起
相关推荐
谷歌 Gemini 4 Carbon 全面开放，价格仅为 Fable 5.2 的四分之一
AI 摘要谷歌最强模型 Gemini 4 Carbon 全面开放，据称可在一夜之间重写 OpenCode 桌面应用，且定价仅为 Fable 5.2 的四分之一。该发布在能力与价格上同时对标竞品，可能加剧前沿模型价格战。
谷歌发布 Gemini 4 Carbon，预览智能体“蜂群”功能
AI 摘要谷歌向公众开放最新模型 Gemini 4 Carbon，称其为迄今最强模型，主打复杂多步编程与开放式科研等极限任务，定价约为 GPT-6 Astra 的五分之一。谷歌同时在智能体开发平台 Antigravity 上预览“swarm”功能，可将单条提示转化为协同工作的智能体团队。
谷歌 Gemini 4 Carbon 全面超越 Opus 5.5，首发 Token 半价
AI 摘要谷歌发布 Gemini 4 Carbon，宣称在多项能力上全面超越 Opus 5.5，并推出首发 Token 半价优惠。该模型可连续数日修复 Bug，且具备免疫提示词注入的安全特性，加剧头部大模型竞争。
谷歌发布 Gemini 4 Carbon，主打网络安全能力跃升
AI 摘要谷歌推出前沿模型 Gemini 4 Carbon，在编程、智能体任务和网络安全方面显著提升，登顶 Artificial Analysis 智能指数，领先 Claude Opus 5.5 与 GPT-6 Astra。该模型目前仅向部分网络安全防御公司开放，定价与 Argon 相同，为每百万输入 token 2 美元、输出 10 美元。