行业
Normalization of Deviance（偏差正常化）
Normalization of Deviance（偏差正常化）指在组织或系统中，人们逐渐接受原本偏离标准的行为或异常状态，最终将其视为正常，导致风险累积并可能引发严重事故，该概念源于航天事故分析，现用于 AI 安全领域警示模型部署中的潜在风险。
详细解释
该概念由社会学家 Diane Vaughan 在研究挑战者号航天飞机事故时提出，指组织成员对偏离安全规范的行为习以为常，最终酿成灾难。在 AI 领域，它被用来描述团队对模型偏见、性能下降或安全漏洞的逐渐容忍，例如忽略小概率的歧视性输出，最终导致系统性危害。这提醒 AI 开发者需建立持续监控和严格标准，防止对偏差的麻木。
别名与相关写法
normalization of deviance
相关资讯
AI开发中的偏差常态化现象2026/9/9