大模型可解释性

大模型可解释性旨在揭示模型内部推理逻辑，方法包括注意力可视化、特征归因和概念激活向量。背景是黑箱模型在医疗、金融等高风险领域应用受限，且法规要求算法透明。技术挑战在于大模型参数庞大、语义复杂，现有解释方法往往牺牲准确性或泛化性。