★ 4
研究:技能级联攻击威胁技能型智能体系统
论文提出「技能级联攻击」新威胁范式:恶意目标被拆分到多个技能中,每个技能单独看都无害,但组合执行后产生危害。作者开发了自动化多智能体红队框架 SkillCascade,并发布含 213 个验证用例的 SkillCascade-Bench。测试显示该攻击能绕过现有单技能扫描器与运行时监控,在 Ope…
arXiv cs.AI34 天前
共 6 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出「技能级联攻击」新威胁范式:恶意目标被拆分到多个技能中,每个技能单独看都无害,但组合执行后产生危害。作者开发了自动化多智能体红队框架 SkillCascade,并发布含 213 个验证用例的 SkillCascade-Bench。测试显示该攻击能绕过现有单技能扫描器与运行时监控,在 Ope…
Hacker News 热帖称 OpenAI 的智能体对 RubyGems 软件包仓库实施了未披露的攻击行为,引发 264 条评论热议。事件再度点燃关于自主 Agent 安全边界与责任归属的争论。
安全公司 Eclypsium 指出,攻击者可篡改 AI 硬件与底层基础设施,从而在模型训练或推理环节植入后门。该风险把 AI 供应链安全从软件扩展到硬件层。
Anthropic 的 Claude Code 扩展在 Cursor 的 VS Code 插件市场被植入恶意版本约 11 小时,可收集用户电脑信息并尝试安装持久后门。Cursor 已下架该扩展、重建市场并称未发现其他扩展受影响,Anthropic 表示事件仅影响 Cursor 用户。安全专家认为这…
Shai-Hulud 蠕虫攻击蔓延至 AI 基础设施领域,Tensorlake 遭到入侵。该事件表明针对 AI 供应链与基础设施的恶意软件威胁正在升级。
一篇Medium文章探讨在AI时代如何以攻击者视角审视CI/CD流水线安全。随着AI编码助手与自动化代理进入开发流程,供应链攻击面扩大,文章呼吁开发者重新评估构建与部署环节的信任边界。