研究提出测试时记忆演化 TTME,科学发现任务超越测试时训练且省 82% 算力
论文提出即插即用的测试时自适应方法 TTME,通过持续更新外部记忆蒸馏经验来引导后续发现,无需更新模型权重。在相同发现框架下,TTME 在全部五个数学任务上优于测试时训练 TTT,同时减少 82.8%-84.6% 的 FLOPs 与 47.7%-58.4% 的运行时间。
共 7 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出即插即用的测试时自适应方法 TTME,通过持续更新外部记忆蒸馏经验来引导后续发现,无需更新模型权重。在相同发现框架下,TTME 在全部五个数学任务上优于测试时训练 TTT,同时减少 82.8%-84.6% 的 FLOPs 与 47.7%-58.4% 的运行时间。
论文指出测试时自适应依赖单一策略自生成监督,策略漂移会导致学习信号漂移、推理退化与灾难性遗忘。作者提出进化策略强化学习(ESRL),从参数空间扰动形成策略种群,聚合各轨迹答案生成无标签组相对学习信号。在数学推理、通用知识与医疗领域,平均准确率较基座模型最高提升 31.7%,并显著减少遗忘。
论文提出双分支校准模块 DBCM,用于时间序列预测中的测试时自适应。作者发现预测残差在通道间存在大量共享结构,因此用共享适配器承载跨通道自适应能力,再用低秩通道适配器保留少量通道特异性,并辅以通道混合与非线性门控调制。实验显示 DBCM 在多种数据集、预测步长和骨干网络上均优于现有方法。
arXiv 论文提出 MOPC 框架,一种无需源数据的在线测试时自适应方法,用于脑电运动想象解码。它通过随机掩码扰动一致性、置信度校准重加权损失和轻量记忆模块,在推理阶段实时更新参数,缓解跨被试分布漂移与灾难性遗忘。在 BCI IV IIb 与 OpenBMI 数据集上分别超过此前方法 2.22%…
论文提出 Drift-TTA,利用深度网络中间层表示的「隐藏轨迹」作为测试时自适应信号,在冻结骨干上加入零初始化低秩适配器,将受损输入的轨迹对齐到干净输入。在 CIFAR-100-C 严重度 5 下,无源在线版本比无 TTA 提升 13.3 个百分点(ViT-B/16),并将 ECE 从 18.0…
论文提出REFIT,一种针对冻结活动识别模型的输入校准方法,可在无标签、无重训练的情况下修复传感器佩戴位置变化(如换腕、反向佩戴)导致的轴向偏移。方法通过轴变换族拟合用户数据识别偏移类型并校正,实验显示其优于无标签测试时自适应方法。
论文研究多步时间序列预测中,当监控与自适应使用同一预测误差反馈时,统计保证是否仍然成立。结果显示重叠目标与误差依赖会破坏关键假设,导致误报警并进一步损害预测质量。自适应还会向自身监控器隐藏持续性变化,而冻结模型保留更清晰信号。