★ 4
研究:技能级联攻击威胁技能型智能体系统
论文提出「技能级联攻击」新威胁范式:恶意目标被拆分到多个技能中,每个技能单独看都无害,但组合执行后产生危害。作者开发了自动化多智能体红队框架 SkillCascade,并发布含 213 个验证用例的 SkillCascade-Bench。测试显示该攻击能绕过现有单技能扫描器与运行时监控,在 Ope…
arXiv cs.AI35 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出「技能级联攻击」新威胁范式:恶意目标被拆分到多个技能中,每个技能单独看都无害,但组合执行后产生危害。作者开发了自动化多智能体红队框架 SkillCascade,并发布含 213 个验证用例的 SkillCascade-Bench。测试显示该攻击能绕过现有单技能扫描器与运行时监控,在 Ope…
论文提出 EvolvingBrain,用自适应技能系统作为多模态智能体自我进化的大脑,包含分层技能自进化与状态感知自适应执行两部分。前者从轨迹中提取过程模式与问题模式,形成领域、计划、动作/陷阱三层技能架构;后者将长程交互总结为结构化摘要记忆以指导技能融合。在 VAB-Minecraft 与 Di…