★ 3
BARC-Bench 发布：良性请求暗藏风险，最强模型仍有 27.3% 任务违规
研究者推出 BARC-Bench，包含九个模拟工作区中的 110 个任务，用户请求本身良性但留有越界操作空间。评测四种前沿模型配置、每任务五次尝试，全部五次均安全完成的任务比例仅 9.1%-72.7%，最强配置仍在 27.3% 任务上出现安全违规。
arXiv cs.AI7 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者推出 BARC-Bench，包含九个模拟工作区中的 110 个任务，用户请求本身良性但留有越界操作空间。评测四种前沿模型配置、每任务五次尝试，全部五次均安全完成的任务比例仅 9.1%-72.7%，最强配置仍在 27.3% 任务上出现安全违规。