AI Safety Evaluation（AI 安全评估）

AI安全评估涵盖多个维度：有害内容生成、偏见与公平性、隐私泄露、对抗鲁棒性、欺骗性对齐等。方法包括自动化基准测试（如TruthfulQA、ToxiGen）、人类红队测试和形式化验证。评估流程通常包括定义风险分类、设计测试用例、执行评估和报告结果。随着大模型能力提升，评估重点转向涌现风险、权力寻求和欺骗行为。该领域对AI治理和监管至关重要，欧盟AI法案等均要求进行安全评估。