论文重审「RL 泛化、SFT 记忆」:SFT 数据质量与规模是关键
原文标题:Rethinking "RL Generalizes, SFT Memorizes": The Role of SFT Data
重要度 3/5 · AI 综合评估报道影响力与新鲜度,4–5 分为高价值资讯。
arXiv 论文基于 Qwen2.5 与 Qwen3 系列模型重新审视「强化学习泛化、监督微调记忆」的论断。研究发现精心混合的 SFT 数据集显著优于大模型生成数据;当 SFT 与 RL 的正确 rollout 数量或总预算对齐时,SFT 泛化能力可与 RL 持平甚至更优。研究还指出大数据集覆盖更多尾部解法,提供可泛化的推理信号,并给出浅层 Transformer 训练动态的理论分析。
AI 处理过程展开/收起
相关推荐
谷歌 Gemini 4 Carbon 全面开放,价格仅为 Fable 5.2 的四分之一
AI 摘要谷歌最强模型 Gemini 4 Carbon 全面开放,据称可在一夜之间重写 OpenCode 桌面应用,且定价仅为 Fable 5.2 的四分之一。该发布在能力与价格上同时对标竞品,可能加剧前沿模型价格战。
谷歌发布 Gemini 4 Carbon,预览智能体“蜂群”功能
AI 摘要谷歌向公众开放最新模型 Gemini 4 Carbon,称其为迄今最强模型,主打复杂多步编程与开放式科研等极限任务,定价约为 GPT-6 Astra 的五分之一。谷歌同时在智能体开发平台 Antigravity 上预览“swarm”功能,可将单条提示转化为协同工作的智能体团队。
谷歌 Gemini 4 Carbon 全面超越 Opus 5.5,首发 Token 半价
AI 摘要谷歌发布 Gemini 4 Carbon,宣称在多项能力上全面超越 Opus 5.5,并推出首发 Token 半价优惠。该模型可连续数日修复 Bug,且具备免疫提示词注入的安全特性,加剧头部大模型竞争。
谷歌发布 Gemini 4 Carbon,主打网络安全能力跃升
AI 摘要谷歌推出前沿模型 Gemini 4 Carbon,在编程、智能体任务和网络安全方面显著提升,登顶 Artificial Analysis 智能指数,领先 Claude Opus 5.5 与 GPT-6 Astra。该模型目前仅向部分网络安全防御公司开放,定价与 Argon 相同,为每百万输入 token 2 美元、输出 10 美元。