★ 4
LLM长时程状态追踪能力研究
该研究通过让LLM逐步计算MD5哈希,测试其在196次依赖工具调用中携带精确中间状态的能力。gpt-oss-120b在多数运行中成功,保留推理和投票机制是关键,揭示了长时程任务失败的原因。
arXiv cs.AI61 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
该研究通过让LLM逐步计算MD5哈希,测试其在196次依赖工具调用中携带精确中间状态的能力。gpt-oss-120b在多数运行中成功,保留推理和投票机制是关键,揭示了长时程任务失败的原因。
论文提出 ARBOR 推理失败归因框架,将每条思维链轨迹表示为推理状态树,按每步创建、验证、剪枝或重访状态构建,并把失败归因于步骤与其前序状态之间的关系。该方法将过度思考、思考不足、无依据推理三种失败模式细分为不同子类型,并发现步骤前的树状态可区分失败步骤与未发生失败的「风险步骤」。代码与数据已公…
SAGE是一种评估任务导向对话代理的新方法,它将工作流规范和每轮状态差异编译为原子化、基于模式的准则,并通过符号和编码器/NLI验证器级联进行路由,这些验证器选择弃权而非猜测。SAGE-Core在零付费LLM成本下决定81-91%的准则,且性能不逊于包括GPT-4.1在内的LLM评判基线。
论文研究循环 Transformer 中跨循环步残差线性映射的几何形式,提出分块共形注入(blockwise conformal injections),将残差拆分为坐标对齐分组并在组内旋转,使每组拥有独立时间尺度且几何保持精确。实验显示该方法在状态追踪与语言建模任务上性能提升。