#意图对齐

共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

CLEAT:价值引导的智能体澄清协同训练框架

论文提出 CLEAT,一种价值引导的智能体澄清协同训练框架,联合训练澄清价值控制器与任务策略。作者提出残差查询价值衡量提问带来的任务效用,并通过配对 rollout 估计。基于 Qwen3-4B,CLEAT 在四个基准的十个评测设置中均取得最高平均分,UserGym Travel 与 IN3 判断…

arXiv cs.AI21 天前
★ 3

研究揭示跨会话分解攻击风险并提出防御

研究揭示缩放定律的安全后果:跨会话分解攻击中,良性子查询在独立交互中组合成危险目标。作者提出组合安全风险概念,并证明条件风险转移界限。IntentAlign-MiniLM 检索器在防御中表现优异,优于大型嵌入模型。

arXiv cs.AI63 天前

这个主题的相关资产

相关公司阿里巴巴2

相关标签

意图对齐 最新资讯与动态(2 篇) - 智讯 AI News