★ 3
研究提出双重分层协议,重估工具智能体潜在监控器
论文指出工具调用智能体潜在监控研究结果冲突多源于评测伪影,提出将注入暴露与行为承诺分离的双重分层协议。在 Qwen AgentDojo 网格上,仅用暴露样本重训的探针可提前两步预测不安全工具调用,AUROC 达 0.853。作者认为未分层 AUROC 高估了监控器所知。
arXiv NLP3 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文指出工具调用智能体潜在监控研究结果冲突多源于评测伪影,提出将注入暴露与行为承诺分离的双重分层协议。在 Qwen AgentDojo 网格上,仅用暴露样本重训的探针可提前两步预测不安全工具调用,AUROC 达 0.853。作者认为未分层 AUROC 高估了监控器所知。