行业
AI Security（人工智能安全）
AI Security（人工智能安全）是保护AI系统免受对抗性攻击、数据泄露和模型窃取等威胁的跨学科领域，旨在确保AI的可靠性、隐私性和公平性。它涵盖对抗样本防御、模型鲁棒性增强和隐私保护技术，典型应用包括自动驾驶安全、金融风控和联邦学习，代表工作有对抗训练和差分隐私。
详细解释
AI安全关注AI系统在整个生命周期中的安全性，包括训练数据投毒、模型后门、对抗性扰动、成员推理攻击等。随着AI在关键领域的部署，安全漏洞可能导致严重后果。技术手段包括对抗训练、输入净化、模型验证、差分隐私和同态加密。此外，AI安全还涉及伦理与治理，如防止偏见放大和确保可解释性。该领域与网络安全、密码学、机器学习交叉，是构建可信AI的基础。
别名与相关写法
ai security
相关术语
Agent共现 3 篇
相关公司
相关资讯
英伟达发布AI代理安全平台2026/9/28
英国政府拨 8 亿美元 AI 安全资金2026/10/25
AI安全是工程问题：代理栈各层的防护之道2026/9/21
OpenAI与Anthropic被指夸大安全事件2026/9/20
竞品 AI 模型合写百科并互相盲评2026/10/30
Perplexity 将免费赠送其 AI 安全软件2026/10/16