技术
poisoning(投毒攻击)
投毒攻击是指攻击者通过向训练数据中注入恶意样本,使模型在推理时产生错误输出或后门行为,解决的是模型供应链安全问题。典型应用包括在图像分类中植入后门触发器和在联邦学习中破坏全局模型。
详细解释
投毒攻击分为数据投毒和模型投毒,数据投毒在训练阶段混入污染样本,模型投毒直接篡改模型参数。后门攻击是常见形式,攻击者将触发器与目标标签关联,模型在正常输入上表现正常,但遇到触发器时输出攻击者指定结果。防御方法包括数据清洗、鲁棒训练和差分隐私。该领域对自动驾驶、医疗诊断等安全敏感应用至关重要。
别名与相关写法
poisoning
相关术语
相关资讯
研究揭示多智能体交易系统跨角色对抗投毒漏洞2026/8/26
AlignPoison 揭示生成式推荐模型定向投毒漏洞2026/10/14
RAG-NAROK:面向检索感知的RAG知识库投毒攻击2026/9/23
重访《信任的信任》:自修改AI编码的投毒风险2026/9/18
M8M:查看 AI 对你的记忆并检测记忆投毒2026/9/17
生成式 AI 正在污染文学创作生态2026/10/16