★ 4
封闭世界解析防御LLM智能体的工具幻觉
研究揭示工具增强LLM智能体的结构性盲区：它们会调用不存在的工具并传入无schema声明的参数，而现有工具选择与门控方法均预设调用指向真实工具，无法拒绝幻觉调用。作者给出工具幻觉五类分类H1-H5，提出免训练的封闭世界解析器Resolution Rung，并证明幻觉防御必须先于任何因果门控。在十款…
arXiv cs.AI45 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究揭示工具增强LLM智能体的结构性盲区：它们会调用不存在的工具并传入无schema声明的参数，而现有工具选择与门控方法均预设调用指向真实工具，无法拒绝幻觉调用。作者给出工具幻觉五类分类H1-H5，提出免训练的封闭世界解析器Resolution Rung，并证明幻觉防御必须先于任何因果门控。在十款…