Safety Alignment（安全对齐）

安全对齐是确保AI系统行为符合人类价值观和伦理规范的技术，解决模型可能产生有害、偏见或欺骗性输出的问题。它通过微调、强化学习等方法使模型拒绝有害请求，典型应用包括OpenAI的RLHF和Anthropic的Constitutional AI。