可解释AI

随着深度学习广泛应用，模型常被视为黑箱，其内部决策难以被人类理解，在医疗、金融、司法等高风险场景中引发信任与合规问题。可解释AI通过特征归因、注意力可视化、局部近似解释、决策规则提取等方法，揭示模型依据哪些输入特征做出判断，并评估解释的忠实度与稳定性。它兼顾模型性能与透明度，是AI治理和负责任AI的重要组成。