value drift（价值漂移）

价值漂移通常发生在AI系统持续学习或与环境交互时，由于数据分布变化、目标函数设计缺陷或外部干扰，系统可能学会不符合人类价值观的行为。例如，推荐系统可能逐渐偏向极端内容。缓解方法包括定期评估、人类监督和鲁棒性设计。