GHOST:长程智能体跨轮安全约束失效
研究揭示长程智能体在良性交互下会执行违反多轮前安全约束的动作,称为GHOST失效模式,在GPT-5.5上发生率约11.5%。理论上证明若残余违规风险下界不可求和,智能体几乎必然进入危险区。提出STAR-Guard双层防御,结合历史语义约束恢复与执行前审计,实验中未再出现GHOST事件。
共 16 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究揭示长程智能体在良性交互下会执行违反多轮前安全约束的动作,称为GHOST失效模式,在GPT-5.5上发生率约11.5%。理论上证明若残余违规风险下界不可求和,智能体几乎必然进入危险区。提出STAR-Guard双层防御,结合历史语义约束恢复与执行前审计,实验中未再出现GHOST事件。
研究在 OpenCode 框架内实现五种上下文压缩策略,用三个前沿模型在三个长程基准上评测。结果显示 1M 上下文模型性能几乎不受压缩阈值影响,且没有压缩方法优于默认自摘要;但压缩会静默丢失任务约束,ProgramBench 首次摘要即平均丢弃约三分之一反作弊规则。
针对长程工具使用任务中早期错误沿决策链累积的问题,论文提出 ReflectPO 强化学习框架。其核心为反思引导采样(利用轨迹分支差异与重复访问构造纠错提示)与树结构信用分配(按父子奖励差与恢复增益分配动作级信用)。在两个长程工具使用基准上多数领域超越现有基线,平均表现最佳。
论文提出 M-Plan 闭环多智能体框架,整合长期与短期记忆,通过全局-局部、过去-当前双重引导提升多轮任务表现,并保持即插即用设计。在 ALFWorld、Webshop、PDDL 等任务上,M-Plan 在准确率与效率上均优于多个基线方法。
论文提出 Recursia 框架,把共享可执行栈而非单个任务程序作为持续改进单元,整合工具、带执行契约的技能、交接与验证器。系统依据执行轨迹定位失败并生成缺失工具或修复,经通用性检查与回归门控后冻结复用。在 LIBERO-Pro Long 仿真中较 ASPIRE 提升 5.8 至 15.1 个百分…
论文提出 MFM,一种多模态文件系统记忆架构,将情节记忆、空间记忆、语义与程序记忆、工作记忆分层组织,并通过可检索文本记录关联底层多模态片段。在长程 Minecraft 与电脑操作任务中,MFM 配合 GPT-6-Astra 完成「从零挖钻石」,Ender Dragon 任务达成 24 个里程碑中…
研究指出长程智能体的压缩摘要混入了压缩器自身的推理,导致智能体无法区分事实与推断,83% 的失败运行可追溯到无环境依据的摘要条目。作者提出免训练的 Source-Judged Compaction,用非生成式判定模型 Jev 为每条摘要打分并剔除无来源条目。在 AppWorld 与 OfficeB…
论文提出 Plan-and-Patch 框架,用扩散语言模型生成结构化程序式计划,并通过填补局部区域修复计划而保持前后步骤不变。对比 DreamReasoner-8B 与 Qwen3-8B,扩散模型在计划修复成功率上达 53.7%,约为自回归模型 27.0% 的两倍,且计划生成延迟降低 39-46…
论文指出长程工具调用中,最终结果奖励对中间决策的信用分配较弱,而步级监督往往依赖人工或额外采样。为此提出 CITA,训练比较推理模型 CIM,从工具行为、贝叶斯工具图模拟器监督与 LLM 比较判断中学习,估计候选工具调用对任务成功的价值。在三个工具使用基准与多个基座模型上,CITA 持续提升 To…
论文提出 StateTape,将编程智能体的上下文维护从「随上下文增长」改为「随代码库变化」重写。它把仓库建模为符号级代码图,用 tape 标记每次写入影响的符号,从而把陈旧性从文本推断变为对写入的观测,并配套提出 TraceBench 基准。实验显示其在六个编程智能体、三个编辑密集基准上提升解决…
论文研究从稀疏奖励轨迹中归纳可执行走查,提出 Trace 框架,通过信用引导与依赖溯源将噪声轨迹编译为可执行走查记忆。在 J-TTL、WebShop 与 ScienceWorld 上,其平均 AUC 与 Final-3 分别较最强基线提升 30.0% 与 40.5%,且推理 token 更少。
论文指出智能体RL的端到端成功率混合了「到达状态」与「从状态求解」两种变化,提出checkpoint handoff评估协议,将增益拆分为REACH与SOLVE。跨两个基准与两条独立流水线,reacher×solver交互在全部五种条件下为正,说明RL历史对RL求解器价值更高。
论文指出LLM自动根因归因在长执行轨迹上准确率低,因关键证据稀疏且分散,本质是大规模搜索问题。作者提出持续搜索迭代框架,多轮引导评判器持续寻找未解决的诊断证据,并发布MegaRCA-Mix大规模评测集。在MegaRCA-Mix上将GPT-5.5的F1从0.349提升至0.498,且低阶模型可超越高…
论文提出 GACA,一种无评论家的估计器,其信用分配粒度随基于不确定性的关键性代理自适应变化。它按每步负对数似然混合步级与回合级优势,在 ALFWorld 与 WebShop 上于 1.5B 和 7B 规模均优于 GRPO 与 GiGPO。
该论文系统分析了语义层、编排与压缩三种上下文工程技术(CET)对数据智能体的影响,在 7 个 LLM、5 个基准的 1514 个长程任务上评估行为、准确率与成本。研究发现无 CET 的智能体分为调查者、过早作答者和早停者三类,每种 CET 只对匹配的行为组转化为准确率收益,对调查者甚至有害。
论文提出 CCPO 方法,通过上下文相似度加权观测匹配样本,并结合历史信用与未来信用为长程任务中的每一步分配信用。在 Qwen2.5-Instruct 1.5B 与 7B 上,ALFWorld 成功率最高 97.4%,WebShop 达 79.4%,较 GRPO 提升最多 21.6 与 18.5 …