Safety Evaluation（安全评估）

安全评估涵盖对抗性测试、偏见检测、越狱攻击模拟等，旨在识别模型在生成内容、决策中的不安全倾向。常用方法包括红队演练（人工构造恶意提示）、自动化评估框架（如HELM、TrustGPT）和形式化验证。评估维度涉及毒性、隐私、公平性和鲁棒性。随着大模型发展，动态评估和持续监控成为趋势，但评估标准与覆盖度仍是挑战。