★ 2
arXiv 论文质疑压缩记忆评测方法：xRAG 在 TriviaQA 上的增益并非来自问题段落
一篇 arXiv 论文指出，当前对语言模型压缩记忆（compressed memory）的评测存在方法论缺陷：将记忆向量置零虽会降低模型分数，却无法证明该模型优于无记忆训练的模型。在九个系统的对比中，部分依赖记忆的模型表现反而更差。以 xRAG 在 TriviaQA 上的实验为例，使用其他问题段落…
arXiv NLP18 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一篇 arXiv 论文指出，当前对语言模型压缩记忆（compressed memory）的评测存在方法论缺陷：将记忆向量置零虽会降低模型分数，却无法证明该模型优于无记忆训练的模型。在九个系统的对比中，部分依赖记忆的模型表现反而更差。以 xRAG 在 TriviaQA 上的实验为例，使用其他问题段落…