★ 3
三思而后行：LLM智能体的行动前验证
论文提出在 LLM 智能体执行动作前进行低成本确定性检查，以捕获静默失败。针对 shell 命令，静态验证器在 9930 条命令上以 10% 误报率捕获 95.8% 无效命令；针对代码编辑，位置锚定格式（如行号）在单行偏移下会损坏 99.1% 文件。采用「不确定即拒绝」策略可将静默失败转为可恢复失…
arXiv cs.LG49 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出在 LLM 智能体执行动作前进行低成本确定性检查，以捕获静默失败。针对 shell 命令，静态验证器在 9930 条命令上以 10% 误报率捕获 95.8% 无效命令；针对代码编辑，位置锚定格式（如行号）在单行偏移下会损坏 99.1% 文件。采用「不确定即拒绝」策略可将静默失败转为可恢复失…