模型对齐

模型对齐研究如何使AI模型的目标与人类价值观对齐，避免产生有害或不可控行为。随着大模型能力提升，对齐问题日益重要。常用方法包括基于人类反馈的强化学习（RLHF）、监督微调和对抗训练等。对齐面临价值多元性、可扩展监督等挑战，是AI安全领域的核心议题。