Memory Interference（记忆干扰）

背景：在持续学习中，模型顺序学习多个任务时，新任务训练会覆盖旧任务知识，称为灾难性遗忘，其机制类似认知中的记忆干扰。技术说明：记忆干扰分为前摄干扰（旧记忆影响新记忆）和倒摄干扰（新记忆影响旧记忆）。在神经网络中，干扰源于参数共享和梯度更新。缓解方法包括：经验回放（混合旧数据）、正则化（如EWC限制重要参数变化）、动态架构（为任务分配不同子网络）和元学习。这些方法在增量学习基准如Permuted MNIST上得到验证。