★ 2
AgentPolicyForge：用可执行环境训练智能体策略护栏
论文提出 AgentPolicyForge 框架，利用可执行环境构造策略基准并迭代训练策略护栏，并构建含十类策略、698 个训练场景与 254 个留出场景的 PolicyGym。攻击者用检索策略生成请求，护栏在环境验证的平衡样本上微调。最终配置相对仅提示策略将攻击成功率降低 40%–44%，良性误…
arXiv cs.AI11 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 AgentPolicyForge 框架，利用可执行环境构造策略基准并迭代训练策略护栏，并构建含十类策略、698 个训练场景与 254 个留出场景的 PolicyGym。攻击者用检索策略生成请求，护栏在环境验证的平衡样本上微调。最终配置相对仅提示策略将攻击成功率降低 40%–44%，良性误…