★ 4
#风险控制
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
CASEL：面向长程工具智能体的后果感知选择性执行层
论文提出 CASEL，一种模型无关的运行时分配策略，综合校准失败概率、状态相关后果、可逆性、歧义与证据新鲜度，为每次工具调用选择直接执行、验证、沙箱、澄清、审批或弃权。模拟实验中，有害副作用轨迹从 14.75% 降至 7.02%，平均归一化危害从 0.184 降至 0.123。
arXiv cs.AI5 天前
★ 2
面向多成本与失败风险的 Web 智能体强化学习决策模型
论文提出面向 Web 智能体的约束式智能体强化学习模型，把页面访问、搜索请求与外部 API 调用统一进带成本的长期决策框架。方法用拉格朗日对偶处理预算约束，并用 CVaR 风险项抑制高失败路径探索。实验显示同等完成率下每次成功成本降低 22%-31%，固定预算下完成率提升 10%-16%。
arXiv cs.LG13 天前
★ 2
CRC-Router：医疗智能体的风险约束路由
论文提出 CRC-Router，一个风险约束、不确定性感知的路由模块，用于判断医疗 AI 系统何时可自主决策、何时应转人工复核。它融合多种不确定性信号与预测分数，通过轻量风险模型估计误接受风险，并用保形风险控制校准阈值。在 NIH ChestX-ray14 胸片多病灶分诊上取得最优风险-覆盖率权衡…
arXiv cs.AI35 天前
★ 2
不受控的Agent为何能上生产系统
文章讨论为何尚不完全可控的AI Agent仍被部署到生产系统中。核心议题涉及Agent的可靠性、可观测性与风险边界，以及企业在落地时的权衡。原文内容缺失，仅能从标题推断讨论方向。
InfoQ AI40 天前