ReTTT 提出反思驱动测试时训练提升 LLM 智能体表现
研究提出 ReTTT,让 LLM 智能体在任务执行中反思交互反馈,将经验教训存入显式记忆,并通过更新回合内 LoRA 适配器学习,主干保持冻结。在 ALFWorld、ScienceWorld 与 SWE-bench Lite 上,ReTTT 在全部六种模型-基准组合中优于基于轨迹的测试时训练,任务…
共 5 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究提出 ReTTT,让 LLM 智能体在任务执行中反思交互反馈,将经验教训存入显式记忆,并通过更新回合内 LoRA 适配器学习,主干保持冻结。在 ALFWorld、ScienceWorld 与 SWE-bench Lite 上,ReTTT 在全部六种模型-基准组合中优于基于轨迹的测试时训练,任务…
论文提出 MELD,一个分层测试时训练框架,在单次科研发现流程中同时适配团队级 Coordinator 与个体级 Scientist 策略。两层在共享推导树上交替进行 GRPO 式更新,实现组织方式与研究行为的协同进化。在 22 个 MLGym 与 MLE-bench 任务中 20 个最优,协调与…
研究者提出 Titan-Llama,一种后训练方法,通过分层记忆架构为基于注意力的语言模型加装可在测试时更新参数的神经记忆模块(NMM)。在 Llama-3.2-1B-Instruct 上,QuALITY 准确率从 23.87% 提升至 40.51%,LongHealth 从 14.50% 提升至…
研究在Vision ARC模型上提出两步测试时训练协议Embed-TTT:先仅微调任务嵌入,再冻结嵌入微调主干。在ARC-AGI-1、ConceptARC等数据集上,Embed-TTT持续改善任务嵌入质量,使其更贴合底层规则,并支持对已知规则的线性探测。仅优化不到0.01%参数即可解决相当比例任务…
论文提出 NTRL-Code 框架,仅用测试阶段的无标注噪声数据即可实现代码大模型的鲁棒自我进化。方法采用保守自去噪获取更干净的语义锚点,并基于抽象语法树进行结构聚合估计代理目标,再用混合奖励优化策略。在三个基准的字符、词、段落级扰动下均取得稳定提升。