★ 3
研究：LLM 智能体失败归因存在「知而不言」差距
论文研究多智能体系统的自动失败归因（AFA），通过线性探针发现模型内部激活已编码足够信息判断失败步骤，却无法在输出中明确指出，形成「知而不言」差距。作者提出 grafting 干预方法，在推理时无需真值标签即可利用模型潜在知识，在多个 LLM 与基准上稳定优于直接提示。
arXiv cs.LG11 天前
#失败归因
共 6 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
ARBOR：通过推理状态追踪定位长思维链失败
论文提出 ARBOR 推理失败归因框架，将每条思维链轨迹表示为推理状态树，按每步创建、验证、剪枝或重访状态构建，并把失败归因于步骤与其前序状态之间的关系。该方法将过度思考、思考不足、无依据推理三种失败模式细分为不同子类型，并发现步骤前的树状态可区分失败步骤与未发生失败的「风险步骤」。代码与数据已公…
arXiv NLP14 天前
★ 3
ReCast：面向 LLM 智能体系统的归因导向步骤表示学习
论文针对 LLM 智能体系统失败归因问题，提出 ReCast 步骤表示学习方法，将冻结 LLM 的隐藏状态转化为归因导向的步骤表示，并构建 ReCast-2K 训练数据集。该方法在四个基准上取得最佳 Hit@1，在 Who&When 的 Algorithm 与 Handcrafted 上分别超越最…
arXiv cs.AI24 天前
★ 3
AgentAudit：AI智能体全生命周期信任评估框架
论文提出AgentAudit，一个开放可扩展的框架，覆盖规划、工具选择、工具执行、记忆与推理的完整流水线。它沿十个能力、基础、安全与行为维度评估执行轨迹，并结合行为分类与失败归因定位问题阶段。在九项任务上评测五款模型，Claude Sonnet 5与GPT-5综合信任分最高（95.1与80.6），…
arXiv cs.AI53 天前
★ 3
★ 2
EvoGen-Harness：图像生成外部框架进化
论文提出EvoGen-Harness，一个与生成器无关的多职责图像生成框架进化方法，配合Trace机制聚合随机执行证据、以失败归因作为搜索先验并协调多职责进化。在GenEval2、T2I-CompBench++和WISE上分别较最强基线提升+0.2633、+0.0720和+0.0752，归因召回率…
arXiv cs.LG31 天前