模型安全

模型安全关注模型在全生命周期中的风险，包括训练数据投毒、后门植入、越狱与提示注入攻击、生成违法有害内容、隐私泄露以及模型窃取等。常见防护手段有安全对齐训练、输入输出过滤、红队测试、对抗训练与访问控制。随着模型能力增强并接入真实系统，模型安全已从研究议题上升为监管与产业合规的重点。