★ 3
StepSafe：面向智能体安全的步骤级及时干预护栏
论文提出 ASPO 训练框架与 StepSafe 护栏，针对智能体系统安全的序列性，在每一步诊断动作风险并决定继续、询问或停止。方法通过前缀级阶段对齐与自适应反馈自蒸馏，结合违规分类与干预窗口数据，在五个智能体安全基准上取得开源护栏最优表现，4B 模型 Youden's J 达 53.0。
arXiv cs.AI17 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 ASPO 训练框架与 StepSafe 护栏，针对智能体系统安全的序列性，在每一步诊断动作风险并决定继续、询问或停止。方法通过前缀级阶段对齐与自适应反馈自蒸馏，结合违规分类与干预窗口数据，在五个智能体安全基准上取得开源护栏最优表现，4B 模型 Youden's J 达 53.0。