AI 事件专题★ 2

arXiv 论文提出 CODA:自改进智能体技能漂移审计协议

10-16 12:00 首发·1 家媒体·1 篇报道·持续 1 天·学术研究
当事方:TTogether AI
事件综述

该论文指出,技能-策略协同进化(skill-policy co-evolution)方法在部署后存在隐患:技能库的改写、增删频率往往高于策略模型重训频率,导致策略运行在漂移后的技能库上。作者提出面向部署的评估协议 CODA,模拟技能漂移并引入一致性率与抗损坏率两项新指标。在四种协同进化方法与五个基准(六种设置)上,最差情况成功率比交付技能库的峰值低 5-13 个百分点,抹去了 52-93% 相对无技能基线的增益。

各方报道 1 篇

arXiv cs.AI·10-16 12:00★ 2
arXiv 论文提出 CODA:自改进智能体技能漂移审计协议

该论文指出,技能-策略协同进化(skill-policy co-evolution)方法在部署后存在隐患:技能库的改写、增删频率往往高于策略模型重训频率,导致策略运行在漂移后的技能库上。作者提出面向部署的评估协议 CODA,模拟技能漂移并引入一致性率与抗损坏率两项新指标。在四种协同进化方法与五个基准(六种设置)上,最差情况成功率比交付技能库的峰值低 5-13 个百分点,抹去了 52-93% 相对无技能基线的增益。

原文

关联

Together AI 其他动态(4 篇,与该事件无直接关联)展开 ▾
arXiv 论文提出 CODA:自改进智能体技能漂移审计协议 最新进展 - 事件时间线 - 智讯 AI News