★ 2
PALM：金融语言模型的时间点适配方法
金融回测中的语言模型存在前视偏差，因为模型训练语料可能包含研究期之后发布的文本。传统做法是按年预训练时间点（PIT）模型，每年一个检查点，但成本高昂。论文提出 PALM，通过在决策日期前的文本上拟合低秩适配器，无需修改预训练权重即可为新时段补充知识，效果优于继续预训练，并在十年金融新闻和多个 PI…
arXiv cs.LG35 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
金融回测中的语言模型存在前视偏差，因为模型训练语料可能包含研究期之后发布的文本。传统做法是按年预训练时间点（PIT）模型，每年一个检查点，但成本高昂。论文提出 PALM，通过在决策日期前的文本上拟合低秩适配器，无需修改预训练权重即可为新时段补充知识，效果优于继续预训练，并在十年金融新闻和多个 PI…