技术
可解释 AI
让 AI 的决策过程与依据能被人类理解和信任的一系列方法与研究领域。
详细解释
深度模型常被视为黑箱，在高风险场景难以被采纳。可解释 AI 通过特征归因（如 SHAP、LIME）、注意力可视化、概念解释、反事实解释等手段揭示模型依据，并区分事前可解释模型与事后解释方法。它兼顾准确性与透明度，是 AI 治理、合规审计与安全部署的重要支撑。
别名与相关写法
可解释 ai
让 AI 的决策过程与依据能被人类理解和信任的一系列方法与研究领域。
深度模型常被视为黑箱，在高风险场景难以被采纳。可解释 AI 通过特征归因（如 SHAP、LIME）、注意力可视化、概念解释、反事实解释等手段揭示模型依据，并区分事前可解释模型与事后解释方法。它兼顾准确性与透明度，是 AI 治理、合规审计与安全部署的重要支撑。