技术

Adversarial Evasion(对抗逃逸)

对抗逃逸是一种针对机器学习模型的攻击方式,攻击者在测试阶段对输入样本添加微小扰动,使模型产生错误输出,而人类难以察觉。它揭示了深度学习模型的脆弱性,典型应用包括攻击图像分类器(如FGSM、PGD)和语音识别系统。

收录于 2026/9/15相关资讯 1 篇在词典中查看 →

详细解释

对抗逃逸源于Szegedy等人2013年的发现:深度神经网络对输入的小扰动高度敏感。攻击者通过优化方法(如快速梯度符号法FGSM、投影梯度下降PGD)生成对抗样本,在Lp范数约束下最大化模型损失。防御方法包括对抗训练、输入预处理和梯度掩码,但鲁棒性仍是挑战。该研究对安全敏感领域如自动驾驶和生物识别至关重要。

别名与相关写法
adversarial evasion

相关术语

Distribution Shift共现 1 篇

相关资讯

完整术语表见 AI 术语词典; 每日新术语与进展见 AI 早报。

Adversarial Evasion(对抗逃逸) 是什么?AI 术语解释 - 智讯 AI News