★ 3
恶意软件利用大模型按受害者价值排序
安全研究发现新型恶意软件调用大语言模型,对感染目标的价值进行评估和排序,从而优先攻击高价值受害者。这显示 LLM 正被攻击者用于自动化筛选与决策,给安全防御带来新挑战。
Hacker News1 天前
共 3 篇相关资讯,按重要度与时间排序,每 3 小时更新。
安全研究发现新型恶意软件调用大语言模型,对感染目标的价值进行评估和排序,从而优先攻击高价值受害者。这显示 LLM 正被攻击者用于自动化筛选与决策,给安全防御带来新挑战。
据 The Register 报道,一种名为 Poellm 的恶意软件通过诗歌形式攻击 AI 系统,已感染约 3000 台服务器,被视为新型 AI 安全威胁。该事件凸显大模型相关基础设施面临的提示注入与供应链风险。
安全媒体 The Register 报道了一种名为 CLOSEDQUORUM 的 Windows 恶意软件,被称为首例利用 AI 模型自主选择入侵后行动的攻击程序。该恶意软件可在攻陷系统后借助 AI 模型自主决策下一步操作,标志着网络攻击自动化与智能化进入新阶段。