misalignment（目标错位）

misalignment指AI系统的目标、价值观或行为与人类意图不一致，可能导致有害输出。它解决如何确保AI安全可控的问题，典型应用包括对齐研究如RLHF、Constitutional AI，代表工作有OpenAI的InstructGPT和Anthropic的Claude。