TrawMem:将智能体记忆重构为任务导向角色自适应工作区
论文指出仅按查询相关性检索记忆无法刻画记忆在任务中的角色,提出 TrawMem,将交互历史组织为局部线程,并按任务角色分配与联合选择互补记忆构建工作区。在 LoCoMo 与 MemGallery 上 macro-F1 提升 2.23–3.14 点,同时减少约 5%–13% 上下文 token。
共 56 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出仅按查询相关性检索记忆无法刻画记忆在任务中的角色,提出 TrawMem,将交互历史组织为局部线程,并按任务角色分配与联合选择互补记忆构建工作区。在 LoCoMo 与 MemGallery 上 macro-F1 提升 2.23–3.14 点,同时减少约 5%–13% 上下文 token。
论文提出基于种群的强化学习框架 CoHARL,让共享策略与一组可执行执行框架(harness)协同进化,策略从多种框架的 rollout 中学习,提议器则依据执行轨迹修改框架代码。在 SWE-rebench 上平均解决率达 27.6%,较仅搜索框架提升 6.4 个百分点,并在 SWE-bench …
SLICE-Mem 结合显著性门控准入与谓词中心信息抽取,用小型分类器筛选值得保留的用户轮次,在线流程无需生成式 LLM 调用。在 Memora Weekly 与 LongMemEval-S 上,相比 MemOS 基线保持相近准确率的同时,LLM token 消耗分别降低 92.4% 与 99.5…
论文提出递归语义分歧(RSD),一种无需监督的轨迹级一致性指标,借鉴强化学习中的双模拟度量,用自然语言推理检测同一智能体两次独立运行的语义分歧。将 RSD 作为微调奖励信号后,tau2-bench 任务进度波动从 132% 降至 91%,toolsandbox 从 90% 降至 44%,且无需真值…
论文提出 SPLICE 框架,通过扰动同一经验的分析方式构造多个进化视图,以跨视图一致效用增益指导知识更新,并用自蒸馏结合强化学习将知识内化到模型。实验显示其在多领域平均准确率上分别超过知识进化与模型训练基线 7.1 与 4.6 个百分点,每个正确解的输出 token 最多减少 44%。
一篇 arXiv 论文提出「治理状态损坏」问题:LLM 智能体虽能正确检索记忆,但在记忆有效性状态变化后会错误使用。研究跨六家模型供应商、基于 731 个基准构建 2080 组匹配故障对,发现损坏在 96.25% 的配对中改变了实际生效的记忆投影,而强制校验可 100% 恢复。下游评测中,干净与损…
论文在推箱子、四子棋、黑白棋中测试 LLM 智能体失败反馈的效果。汇总 8 个指令微调模型(135M-1.7B)后发现,把失败走法写入记录反而提高其重复概率,且主要经由走法表面形式、仅对非法走法生效。省略走法字符串的失败描述可保留模型原有偏好;OLMo 2 1B 训练链中该反转在 DPO 阶段基本…
研究指出 LLM 智能体若把推断出的规则、摘要与技能长期存入记忆,错误会通过「抽象-执行-再抽象」循环被反复再生,形成错误复现。作者提出 Anti-Persistence 设计:只累积轨迹与结果,按需重建任务指引并在执行后丢弃。在多个基准与骨干模型上,该设计取得更高的留出成功率与最低的平均 LLM…
针对智能体推理预算有限的问题,研究者提出 PORA,在训练时从同一状态分别用短、长推理各完成一次任务,比较结果质量与开销以学习长推理的下游价值;推理时由控制器结合剩余预算压力决定长短推理。在 BFCL 记忆任务上超过最强方法 17.4–32.9 个百分点,代码与数学任务上以少 50.6% 的 to…
研究者提出 PROVISO 控制器,在智能体提出动作后、执行前,将可信观测、外部观测、候选动作与备选动作编码为带来源类型的记忆,通过角色化查询评估并选择价值最高的动作。在四项智能体安全任务上,安全性与实用性均不劣于基线,SkillsBench 与 ToolSafe 的 F1 分别提升 13.84 …
论文提出「写一次、多次检查」框架:写入模型将智能体轨迹转为与策略无关的账本,读取模型仅凭账本核查新策略。在 SHADE-Arena、τ-bench 等 900 条轨迹上,12B 读取模型效果可持平甚至超过读完整轨迹,组合策略场景 AUC 0.777 优于 31B 模型。检查 8 条策略时 toke…
论文提出区分智能体「问多少」与「问得好不好」的评估协议,用中断预算限制提问数量,用用户注意力成本惩罚难读或无价值的问题。在八个 LLM 与四个客服领域测试中,限制为 1-3 个问题可降低 36-73% 注意力成本,同时保留 86-94% 任务奖励。结合用户历史回答记忆可再降 13% 成本。
论文提出 PRIME(Precommitted Rules for Inference from Minimal Evidence),在检查前预先固定证据路径,并用独立程序记录每次检查结果,只允许规则与账本授权的结论。在 480 个公共记录任务上,普通智能体有 26.7% 任务给出无据结论,PRI…
论文提出 TRACER 检索前端,用 trie 索引历史工具调用序列并排序后续候选。在零售与电信混合环境中,它将 GPT-5.4 工具选择准确率提升 4.7 个百分点,每步输入 token 减少 80%,仅暴露 128 个工具中的 5 个。
论文提出 MemComposer,通过联合考察当前查询与检索候选,决定纳入哪些记忆、选多少条以及如何排序。训练采用基于 GRPO 的 Experience Policy Optimization(ExPO),以完整智能体交互的任务成功反馈优化组装策略。在三个 τ²-bench 域上超越最强基线,并…
研究团队构建 SciΠvot,一个基于人类纠正的248例科学判断力基准,源自六个月、26个项目、六个领域的 LLM 智能体研究记录。测试显示五个前沿模型中有四个在选定案例上低于随机水平,最高准确率63.5%,低于新手的73.4%。
论文提出 SkillNEO,用非精英进化方式优化 LLM 智能体技能,分别选择「使用版本」与「继续改进版本」,允许低分版本继续迭代。在 86 个 SkillsBench 任务上,将 GPT-5.4 Mini 平均奖励从 49.1% 提升至 66.4%,复用技能还可提升 GPT-5.5 与 GPT-…
一篇 arXiv 论文研究 LLM 智能体在技能库规模扩大后的隐式路由失效问题,发现智能体难以准确检索并加载与任务相关的技能,导致性能随规模下降。该工作揭示了当前智能体架构在技能组织与调用机制上的关键瓶颈。
论文针对 GRPO 等组相对强化学习中全失败轨迹优势归零的问题,提出结果验证的师生交接方法 VH-GPO:教师仅提供足够支持到达学生可成功的状态,随后交回控制权。在 Qwen2.5-1.5B 上把 ALFWorld 成功率从 59.38% 提升至 94.79%,WebShop 从 71.62% 提…
一篇 arXiv 论文指出,LLM 智能体能够轻易篡改自身的执行轨迹(traces),对可观测性与审计构成威胁。这意味着依赖日志追踪智能体行为的监控机制可能被绕过,给 AI 安全与合规带来新挑战。
论文提出 TreeHCA,将后见引导探索与后见信用分配结合,利用参考答案似然变化重访中间历史并采样替代续写,形成推理与工具交互树。作者推导相应的逆后见重要性修正,并用归一化树备份将终端结果传播为轮级优势。在七个问答基准、三个 Qwen 骨干上聚合精确匹配超越所有基线。
论文提出 ReHarness,一种用于智能体持续学习的循环框架,在严格在线流式协议下以反向修订补充前向读写。它在每个实例后利用轨迹作为反馈修订检索到的反思,将反馈沿文本状态反向传播。在三个持续学习基准、三个语言模型骨干上持续优于强基线。
论文提出 SynAct 主动学习框架,将专家注意力视为瓶颈,在单个决策层面分配反馈。它通过互信息对决策排序,在最高价值决策处询问专家,并将修正蒸馏为可迁移规则。在四个智能体基准、三个模型家族的 16 个设置中平均提升 11.7 个百分点。
论文提出 SWE-Journey 基准,通过弱到强合成管线构建长程编码任务,并基于真实交互数据挖掘四类用户画像构建用户模拟智能体。结果显示模型在软件架构师场景下通过超 75% 测试,但在非程序员场景下不足 25%,表明当前编码助手仍难以可靠服务非程序员。
论文区分 LLM 智能体持久记忆的两个治理决策:准入决定哪些回忆信息进入工作上下文,呈现决定已准入信息如何表达。作者实现因子编译准入 FC 与权限语义准入 PS 两种推理时设计,无需重训练。相对逐字注入,FC 与 PS 将外部基准失败率分别降低 6.7 与 8.8 个百分点,跨域泄漏最多降低 29…
研究者提出 Caddie 方法,通过强化学习训练评论员(critic)在智能体执行任务时提供自然语言分析与建议,训练时冻结基座模型,仅以任务最终成败作为奖励信号。基于 Qwen3-4B 训练的评论员在 MuSiQue 多跳问答上让 Qwen3-4B 成功率提升超 25 个百分点,并跨四种不同规模与…
论文提出 GraphOPD,首个将图结构增强引入在线策略蒸馏的方法,用于提升 LLM 智能体能力。它从环境状态变化记录中构建步骤依赖图,用随机游走平稳分布评分并与散度信号融合,在 ALFWorld、WebShop、SearchQA 上比最强基线最高提升 5.8 个百分点。
论文提出 SchemaFill 框架,通过槽位并行推测解码提升 LLM 工具调用效率。它并发生成未来槽位值作为候选,无需预知实际调用序列,再由目标模型在实际输出前缀下验证,仅提交通过验证的 token。在 Glaive 与 BFCL 上,端到端吞吐相比自回归解码最高提升 4.05 倍。
论文提出 Agent Policy-Value Audit,通过固定各有序动作变化类型的观测次数并随机重分配到合格事件,分离出「构成基准」与「选择价值」。在基于真实财报事件收益的半合成基准中,零中心配对检验在 11.6% 的无技能重复中错误归因选择能力,而转换匹配审计将误判率降至 5.3%。对 4…
论文将 Karpathy 的 AutoResearch 范式(大模型迭代修改训练脚本并保留提升指标的改动)应用于生产级推荐系统嵌入优化,历时十二周、220 余次实验。作者识别出基础设施脆弱、智能体记忆衰减、搜索方向停滞、迭代成本不对称、指标固着五类失败模式,并提出「预防-持久化-重定向」三原则脚手…