Model Alignment

模型对齐旨在解决大模型可能产生偏见、虚假或有害内容的问题。常用方法包括基于人类反馈的强化学习（RLHF）、监督微调和 Constitutional AI。对齐研究涉及可扩展监督、对抗测试和伦理框架，是AI安全的核心议题。