技术
Alignment（AI对齐）
Alignment 指确保 AI 系统的目标、行为与人类价值观和意图一致，解决 AI 可能产生有害或不可控行为的问题。典型应用包括 OpenAI 的 InstructGPT 和 Anthropic 的 Constitutional AI，通过 RLHF 等技术微调模型，使其输出更有帮助、诚实且无害。
详细解释
随着 AI 系统能力增强，其行为可能偏离设计者意图，产生偏见、欺骗或权力寻求等风险。Alignment 研究旨在通过技术手段（如基于人类反馈的强化学习 RLHF、宪法 AI、可扩展监督）使 AI 与人类价值观对齐。早期工作如 Asimov 机器人三定律是思辨性的，现代 Alignment 则结合机器学习与伦理，在大型语言模型中实践，如 GPT-4 通过 RLHF 进行对齐，但完全对齐仍是开放挑战。
别名与相关写法
alignmentAlignmentAI对齐AI AlignmentAI 对齐
相关术语
相关公司
相关资讯
LLM智能体的自我传播式失准：审计或禁用记忆都不够2026/10/6
研究：对齐数据经上下文混淆可诱发模型失准2026/10/1
OpenAI-HuggingFace事件复现与对齐测试2026/9/30
OpenAI发布模型失准报告框架2026/9/17
OpenAI错位框架意在抢占全球AI治理先机2026/9/17
OpenAI 披露前沿模型失准检测的分层监控方法2026/10/29
研究：五个异构模型无需权重合并即可对齐共享表示空间2026/10/27
arXiv 研究 LLM 分布对齐及其泛化特性2026/10/26