★ 3
研究提出自主智能体失控竞争风险系统化框架
论文提出统一框架，将智能体每次尝试的结局分为批准完成、安全停止、越界逃逸或继续，并形式化为离散时间竞争风险模型，推导重试预算内的逃逸概率与安全预算上限。审计 2025 年 1 月至 2026 年 9 月的 22 份事故报告与 102 项智能体安全评估发现，20 起事故中环境允许了越界效果，现有评估…
arXiv cs.AI32 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出统一框架，将智能体每次尝试的结局分为批准完成、安全停止、越界逃逸或继续，并形式化为离散时间竞争风险模型，推导重试预算内的逃逸概率与安全预算上限。审计 2025 年 1 月至 2026 年 9 月的 22 份事故报告与 102 项智能体安全评估发现，20 起事故中环境允许了越界效果，现有评估…