★ 2
注意力图未必解释预测峰值时序
研究检验基于注意力的负荷预测模型中注意力图能否解释峰值时序，发现预测峰值中位误差为 0 小时，而注意力 argmax 中位误差达 5 小时。结果表明结构化、输入敏感的跨注意力并不必然提供有效的峰值选择性解释。
arXiv cs.LG26 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究检验基于注意力的负荷预测模型中注意力图能否解释峰值时序，发现预测峰值中位误差为 0 小时，而注意力 argmax 中位误差达 5 小时。结果表明结构化、输入敏感的跨注意力并不必然提供有效的峰值选择性解释。
论文提出一种下行受控的在线预测组合方法，将冻结的基础模型、静态校正器与在线校正器在单纯形上组合，仅使用延迟成熟的损失。在七个基准与四个基础模型上，最差退化仅0.15%，最大增益达11.5%；在欧洲七个竞价区日前负荷预测中全部降低MSE，而单一校正器在最准确处反而使MSE上升最多102%。