可解释性

可解释性研究如何让AI系统的输出和内部机制对人类透明。背景是深度学习模型复杂难懂，在医疗、金融等高风险领域需要解释依据。技术说明：方法包括特征重要性分析、注意力可视化、局部近似解释等，分为内在可解释和事后解释两类。