技术
Adversarial Evasion(对抗逃逸)
对抗逃逸是一种针对机器学习模型的攻击方式,攻击者在测试阶段对输入样本添加微小扰动,使模型产生错误输出,而人类难以察觉。它揭示了深度学习模型的脆弱性,典型应用包括攻击图像分类器(如FGSM、PGD)和语音识别系统。
详细解释
对抗逃逸源于Szegedy等人2013年的发现:深度神经网络对输入的小扰动高度敏感。攻击者通过优化方法(如快速梯度符号法FGSM、投影梯度下降PGD)生成对抗样本,在Lp范数约束下最大化模型损失。防御方法包括对抗训练、输入预处理和梯度掩码,但鲁棒性仍是挑战。该研究对安全敏感领域如自动驾驶和生物识别至关重要。
别名与相关写法
adversarial evasion
相关术语
Distribution Shift共现 1 篇
相关资讯
LLM与传统机器学习在网络入侵检测中的三轴压力测试2026/9/15