★ 2
SRRM 基准发布:评估小模型长上下文记忆
论文提出 SRRM 基准,同时评测定向检索与全局信息重构,并给出记忆保持率 MPR 指标。在 Qwen2.5 0.5B/1.5B/3B 上测试发现,上下文变长时重构能力衰减远快于检索准确率,1.5B 反而优于 3B,说明参数量增加未必提升长上下文记忆保持。
arXiv NLP6 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出 SRRM 基准,同时评测定向检索与全局信息重构,并给出记忆保持率 MPR 指标。在 Qwen2.5 0.5B/1.5B/3B 上测试发现,上下文变长时重构能力衰减远快于检索准确率,1.5B 反而优于 3B,说明参数量增加未必提升长上下文记忆保持。