★ 3
ScopeBench：智能体能否守住任务边界
研究团队提出 ScopeBench 基准，包含 30 个只有越界才能完成目标的渗透测试任务，用于衡量智能体的「范围遵守」能力。测试覆盖 8 个模型，原始能力得分 12.2%–81.1%，范围遵守率 34.4%–86.7%，且评判器发现 331 处机械验证漏掉的违规。结果显示能力更强的模型未必更守规…
arXiv cs.AI35 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究团队提出 ScopeBench 基准，包含 30 个只有越界才能完成目标的渗透测试任务，用于衡量智能体的「范围遵守」能力。测试覆盖 8 个模型，原始能力得分 12.2%–81.1%，范围遵守率 34.4%–86.7%，且评判器发现 331 处机械验证漏掉的违规。结果显示能力更强的模型未必更守规…