★ 2
VoS：从不确定性到行动，学习引导 LLM 智能体
论文研究如何引导 LLM 智能体——是否纠正、在哪一步纠正、用何种机制。作者构建约 8.2 万条反事实续写的逐步结果表（SOT），发现不确定性可识别失败轨迹但无法定位有效干预步骤。据此提出轨迹级监控器 VoS（Value of Steering），在 12 种设置中平均提升 7.8 分，并优于五种…
arXiv cs.AI25 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究如何引导 LLM 智能体——是否纠正、在哪一步纠正、用何种机制。作者构建约 8.2 万条反事实续写的逐步结果表（SOT），发现不确定性可识别失败轨迹但无法定位有效干预步骤。据此提出轨迹级监控器 VoS（Value of Steering），在 12 种设置中平均提升 7.8 分，并优于五种…
ObserverBench是一个新的基准测试项目，通过AI内部监控器所遗漏的危害来评估其有效性。该工具聚焦AI安全监控的盲区检测，属于AI对齐与安全研究范畴。