★ 2
LOTUS 提出预测锚定预训练，时序语言模型性能提升
研究者提出「预测锚定」（forecast grounding）预训练原则，要求语言对齐的时序表示在下游任务适配前仍能预测未来演化。基于该原则实现的 LOTUS 将时序通道切分为不重叠 patch 映射进 LLM 嵌入空间，并预测下一个 patch，同时引入时序-频谱 patch 表示以兼顾变化与周…
arXiv cs.LG18 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究者提出「预测锚定」（forecast grounding）预训练原则，要求语言对齐的时序表示在下游任务适配前仍能预测未来演化。基于该原则实现的 LOTUS 将时序通道切分为不重叠 patch 映射进 LLM 嵌入空间，并预测下一个 patch，同时引入时序-频谱 patch 表示以兼顾变化与周…