Influence Functions（影响函数）

背景：理解模型行为需要追溯训练数据的影响，但重新训练模型计算成本高。技术说明：影响函数基于Hessian矩阵的逆，近似计算移除某个训练样本后模型参数的变化。常用随机估计和共轭梯度加速。应用包括数据清洗、领域适应和模型调试。挑战在于Hessian矩阵的近似误差和非凸优化下的有效性。