★ 4
论文提出长周期智能体分层架构 Levels、Ticks 与级联智能
论文针对可持续数天乃至数周的智能体任务，提出长时程智能体必须先「持续运行而不遗忘」才能持续学习，且该能力位于模型外围的 harness 而非模型本身。作者归纳七大瓶颈，并给出三层架构：按时间尺度分层的层级、作为自主行动单元的时钟 tick、以及失败后才升级到更强模型的级联智能。在为期十天的实验中，…
arXiv cs.AI45 天前
#持续学习
共 57 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
AutoHebb：可零样本推理与持续学习的自修改神经网络
论文提出 AutoHebb，一类在线学习前馈网络，通过内部产生的「神经调质」全局信号门控三因子 Hebbian 局部学习规则。用元学习搜索固定权重后，网络在零样本推理与持续学习任务上优于现代学习模型。消融显示元学习、Hebbian 可塑性与自主学习控制三者缺一不可。
arXiv cs.LG6 小时前
★ 3
ImplicitHop：评测大模型跨上下文与记忆的知识整合能力
研究者提出 ImplicitHop，包含图结构与真实知识图谱两套基准，评估 LLM 在不同推理深度下的演绎推理与知识整合。结果显示准确率随组合长度增加而急剧下降，且上下文内信息显著优于预训练权重中的知识，揭示当前模型的根本局限。
arXiv cs.AI6 小时前
★ 3
CAMR：面向大模型持续学习的兼容性感知记忆回放
论文提出兼容性感知记忆回放框架 CAMR，联合控制当前样本监督与历史回放，通过兼容性检查与学习式记忆门控在三种动作间做在线决策。在 Qwen3-8B-Base 上，WikiBigEdit 任务 3K 事实后原始匹配率达 93.66%，并在 TRACE 四项任务上取得最高最终分数，同时保持或提升早期…
arXiv NLP5 天前
★ 3
伯克利提出 Nestor 嵌套稀疏架构，预训练与持续学习优于 MoE
arXiv 论文提出 Nestor，用类似 MoE 的条件计算机制泛化注意力算子，使稀疏性可与 MoE 稀疏性层级嵌套。在同等算力与稀疏度下，Nestor 的语言模型预训练效果优于传统 MoE，且在长上下文适配与新领域持续预训练中遗忘更少。代码与检查点已在 GitHub 开源。
arXiv cs.LG7 天前
★ 3
arXiv 提出 Delta N-gram：仅前向写入模型原生 N-gram 记忆
论文提出 Delta N-gram，将新证据写入预训练哈希 N-gram 表的稀疏补丁而不改动原表，写入只需前向计算，清除补丁即可恢复原模型。0.6B 原型在第二次写入后仍保留 16/16 事实，而在线梯度写入仅保留 2-4/16；在 Qwen3.8-Flash-Next 上 delta writ…
arXiv NLP10 天前
★ 3
arXiv 论文提出以记忆为中心的智能体持续学习框架 MCCL
论文指出外部记忆系统多被当作被动检索缓存，无法支撑智能体长期持续学习。作者提出 Memory-Centric Continual Learning（MCCL），以三轴分类法组织记忆，定义内外双环生命周期，并给出评估协议与记忆缩放框架。核心主张是记忆应以是否改善未来行动来评判，而非仅看检索准确率。
arXiv NLP11 天前
★ 3
SST 框架将新领域知识转译为技能模式缓解灾难性遗忘
论文提出 Skill Schema Transport（SST）后训练框架，把新领域样本抽象为可复用的技能模式，将知识更新从轨迹记忆转为程序复用。在两个 3B 指令微调基座上，流式领域平均性能提升 2.53-5.75 点，Qwen-3B MATH 流上最大遗忘从 42.41 降至 7.10 点。
arXiv cs.LG11 天前
★ 3
ESRL：用进化策略实现持续测试时学习
论文指出测试时自适应依赖单一策略自生成监督，策略漂移会导致学习信号漂移、推理退化与灾难性遗忘。作者提出进化策略强化学习（ESRL），从参数空间扰动形成策略种群，聚合各轨迹答案生成无标签组相对学习信号。在数学推理、通用知识与医疗领域，平均准确率较基座模型最高提升 31.7%，并显著减少遗忘。
arXiv cs.LG13 天前
★ 3
ReHarness：面向智能体持续学习的循环框架
论文提出 ReHarness，一种用于智能体持续学习的循环框架，在严格在线流式协议下以反向修订补充前向读写。它在每个实例后利用轨迹作为反馈修订检索到的反思，将反馈沿文本状态反向传播。在三个持续学习基准、三个语言模型骨干上持续优于强基线。
arXiv cs.LG21 天前
★ 3
北大团队发布EmbodiedCLBench：评测自进化具身智能体持续学习
arXiv论文提出EmbodiedCLBench，首个面向具身仿真的持续学习评测基准，以组合泛化为核心原则，考察智能体能否从基础任务学习并重组技能解决未见复杂任务。实验显示基础任务经验能带来稳定提升，但提升不随学习样本数增长，当前智能体难以从额外经验中提取有效信息。
arXiv cs.AI21 天前
★ 3
医学多模态AI框架：冻结模型从部署经验中持续学习
该论文提出一种模型无关框架，让部署后冻结的LLM与VLM通过技能、知识记忆和多模态知识库三种外部专家形式从实际病例中学习。在六个涵盖临床诊断、工作流与医学推理的基准上，医学任务性能最高提升34.2%，并可跨模型迁移。
arXiv cs.AI25 天前
★ 3
PaLoRA：面向持续学习的节奏化低秩适配
论文揭示 LoRA 持续学习中固定小学习率启发式的局限，提出最优幅度限制应随历史知识有效秩自适应增长。据此提出 PaLoRA，通过自适应 SVD 截断压缩历史知识、将梯度投影到先验任务零空间，并施加秩感知节奏。在 50 任务 ImageNet-A/R 上准确率提升约 4%。
arXiv cs.LG27 天前
★ 3
PAPER2LLM++：从研究论文持续自我进化的大模型
研究提出PAPER2LLM++框架，实现LLM从研究论文中持续自我进化。该框架不将论文仅视为检索知识，而是作为模型改进的证据和监督流：对每篇论文提取有证据支撑的发现，测试当前模型中报告的局限是否仍存在，必要时转化为候选学习信号。通过尝试-评估-提交流程，仅在更新改善目标行为且不显著遗忘或降低通用能…
arXiv cs.AI28 天前
★ 3
GraphMemory：解耦记忆与上下文
针对持续向共享上下文追加信息导致token成本上升、窗口受限与性能退化的问题，提出上下文优化的统一形式化，将智能体记忆更新视为对上下文的优化更新。据此设计GraphMemory轻量图记忆，累积、精炼并连接可复用策略，每次仅检索相关子图，在有界检索下记忆量恒定，构建token较基线减少约81-85%。
arXiv cs.AI28 天前
★ 3
ReLiveGym：长生命周期智能体评测环境
论文推出 ReLiveGym，一个在数周时间轴上按时间顺序回放真实新闻、市场与社交媒体流的长时任务诊断环境，考察智能体稀疏行动与动态适应能力。对八种基座模型的测试表明，何时行动是关键设计轴，且最优设计随任务与模型而异。
arXiv cs.AI31 天前
★ 3
SCLATE：持续学习智能体训练与评估的底层基座
研究者提出 SCLATE，一个用于持续学习智能体训练与评估的执行基座。它通过适配器让基准测试与未经修改的智能体将各自事件加入统一开放事件调度器，支持会话启停、定时任务与记忆巩固等跨会话场景，解决了现有框架需为每对基准与智能体定制调度循环的问题。
Apple Machine Learning Research33 天前
★ 3
新研究：无离线阶段的持续学习回放方法
论文提出一种无需专门离线阶段的持续学习方法，通过隔离规则将重放更新限制在当前输入不可见的隐藏突触上，并配合不应期轮换规则扩大可巩固集合。在类增量 split-MNIST 上达到 91.6% 准确率，无需离线阶段即可媲美甚至超越最佳离线夜间调度方案。该机制不依赖局部学习规则，反向传播网络同样受益。
arXiv cs.LG34 天前
★ 3
论文提出ORC门控：让智能体持久记忆避免跨任务族干扰
一篇 arXiv 论文研究持久化记忆智能体中的跨任务族干扰问题，提出将检索作用域与认证作用域匹配的方法。实验显示 Scoped-ORC 将隐藏轨迹效用从 0.713 提升至 0.816，有害部署从 8 次中的 6 次降为零。该工作为智能体持久记忆的可靠性控制提供了新思路。
arXiv cs.AI38 天前
★ 3
企业AI应每日进化：记忆不等于学习
文章指出当前企业部署的AI大多无法从生产经验中学习，只是积累记忆而非真正改进决策。作者援引纳德拉观点，区分可替换的通用模型与应持续积累的“公司老手”经验，主张将运营信号反馈到提示、路由和检索中。
快公司42 天前
★ 3
Designer-RSI：从用户流量演化程序性记忆的智能体平面设计
论文提出持续适应框架，冻结的前沿模型通过 230 多个工具操作专业设计软件，外部程序性记忆从经验中积累并精炼可复用设计流程。在 1,406 份真实用户简报上五轮迭代，技能库从 76 增至 139，Claude-Sonnet-4 的 GenEval2 执行成功率从 72.7% 升至 99.3%。
arXiv cs.AI42 天前
★ 3
CGM-Rec：面向意图漂移的自适应推荐持续图记忆框架
研究提出CGM-Rec框架，将知识图谱视为可写记忆，结合语义图记忆和情景教训记忆，在冻结参数下通过记忆写入适应意图漂移。实验显示CGM-Rec在多个推荐设置上优于神经和LLM基线，HR@1最高提升29.58%。
arXiv cs.AI56 天前
★ 3
MASkills：多智能体LLM系统的持续技能优化
MASkills是一个持续学习框架，通过技能条件信用分配和分层聚合优化多智能体系统。实验在多个基准上验证了其有效性，并开源了代码。
arXiv cs.AI60 天前
★ 3
研究提出HypReflect假设引导自蒸馏，实现持续个性化
该研究提出HypReflect框架，用于持续个性化，通过推断显式且不确定性感知的用户偏好假设，并随着新证据积累进行反思性修正。实验表明，HypReflect在在线个性化、多会话交互和隐式行为信号等场景中优于基线方法，并展现出对未见用户和跨领域设置的强泛化能力。
arXiv cs.AI61 天前
★ 3
紧凑可复用MoE用于持续多模态指令调优
提出CoRe-MoE框架，通过提取可复用方向基座并训练紧凑坐标专家，实现参数高效持续多模态指令调优。在多个模型上提升性能，同时大幅减少可训练参数。
arXiv cs.AI63 天前
★ 2
CABA：带保留锚点的持续适应行为保留认证框架
论文提出 CABA，一种与候选生成器无关的更新后门控机制，用冻结表示比较新旧策略，选择满足 KL 散度预算的最大插值系数。理论上给出表示覆盖与 Lipschitz 假设下的均匀行为散度界。在 UCI HAR 实验中遗忘率从 1.01% 降至 0.00%，但平均准确率从 93.04% 降至 88.4…
arXiv cs.LG6 小时前
★ 2
Sleep 框架：让大模型在持续学习中保留知识的新方法
一项名为 Sleep 的新框架被提出，旨在解决大语言模型在持续学习中的灾难性遗忘问题，帮助模型在学新知识的同时保留旧知识。该工作在 Hacker News 获得较高讨论热度。
Hacker News4 天前
★ 2
REDAR 用强化学习自适应调节类增量学习正则强度
针对类增量学习固定正则系数与持续学习目标脱节的问题，论文提出 REDAR，将正则强度选择建模为序贯决策，由轻量强化学习智能体按阶段输出蒸馏系数。在 CIFAR-100 与 Tiny-ImageNet 上减少遗忘并提升前向迁移。
arXiv cs.LG7 天前
★ 2
QCon 上海：测试 Agent 从记忆到持续学习的工程实践
QCon 上海分享测试 Agent 的工程实践，提出「失败一次、受益多次」的思路，让 Agent 通过记忆机制沉淀经验并实现持续学习。内容聚焦测试场景下智能体的可靠性与迭代效率提升。
InfoQ AI13 天前
★ 2
arXiv 提出 SAGA 用稀疏自编码器几何锚定缓解灾难性遗忘
SAGA 将每个任务边界训练的稀疏自编码器转化为对表示漂移的局部低秩约束，由回放样本决定约束位置、编码器雅可比的主右奇异方向决定惩罚方向。在三个预训练 ViT-B/16 基准上取得最高平均 Class-IL 准确率与最低遗忘，CIFAR-100、CUB-200、ImageNet-R 分别比最强常规…
arXiv cs.LG14 天前