★ 3
个性化 LLM 只需 5% 对话文本即可匹配全历史效果
研究显示,在 PersonaMem-v2 基准上,通过句子级检索构建的相关性过滤上下文仅用 5% 文本即可匹配全历史准确率,将输入缩减约 20 倍。检索方法只需小型嵌入模型,而 LLM 摘要需读取全部历史,表明更好的上下文选择有望超越全历史。
arXiv NLP19 天前
共 2 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究显示,在 PersonaMem-v2 基准上,通过句子级检索构建的相关性过滤上下文仅用 5% 文本即可匹配全历史准确率,将输入缩减约 20 倍。检索方法只需小型嵌入模型,而 LLM 摘要需读取全部历史,表明更好的上下文选择有望超越全历史。
论文指出LLM作为长期个性化助手时,依赖完整交互历史效率低下且不可靠,催生了结构化记忆系统。现有对话记忆评估多聚焦检索与事实回忆,而个性化指导需跨多轮对话整合信息并推理用户偏好变化。团队提出PRAGMA基准,包含纵向对话历史、证据标注及基于演变用户情境的指导场景,实验显示当前检索系统、记忆系统和长…