AI Control（AI 控制）

背景：随着AI系统能力增强，其决策可能带来安全、伦理和隐私风险。技术说明：AI控制涵盖技术层面（如对抗训练、形式化验证、可解释AI）和治理层面（如审计、监管、伦理准则）。代表性研究包括OpenAI的超级对齐项目、DeepMind的安全规范，以及工业界的AI伦理委员会。目标是在系统整个生命周期内保持人类监督和干预能力。