综述:大模型长上下文的选择性记忆压缩
该综述将长上下文压缩重新定义为推理时的内存管理问题,区分参与计算的活跃内存与可存储检索的非活跃内存。文章把写入、卸载、召回、淘汰、遗忘等操作建模为信息生命周期中的状态转换,并提出统一成本模型。作者认为核心挑战在于决定哪些信息、何时、以何种形式参与昂贵推理。
共 8 篇相关资讯,按重要度与时间排序,每 3 小时更新。
该综述将长上下文压缩重新定义为推理时的内存管理问题,区分参与计算的活跃内存与可存储检索的非活跃内存。文章把写入、卸载、召回、淘汰、遗忘等操作建模为信息生命周期中的状态转换,并提出统一成本模型。作者认为核心挑战在于决定哪些信息、何时、以何种形式参与昂贵推理。
研究指出长程智能体的压缩摘要混入了压缩器自身的推理,导致智能体无法区分事实与推断,83% 的失败运行可追溯到无环境依据的摘要条目。作者提出免训练的 Source-Judged Compaction,用非生成式判定模型 Jev 为每条摘要打分并剔除无来源条目。在 AppWorld 与 OfficeB…
论文提出 Fortunate Recall 策略层,将个人事实按 10+1 行为本体分类并施加差异化生命周期策略,解决 LLM 记忆无界增长与检索精度下降问题。其实现 FR-Bank 在 LifecycleBench 上通过率 76.9%,领先 Mem0、A-MEM 等基线,并将幻觉率从 Mem0…
arXiv 论文提出 SpecMem,一种在部署期间持续维护的工具调用记忆机制:将已验证的调用在线写回按用户划分的有界存储,并用 LRU 淘汰,同时以副作用门控延迟不可逆调用。在三个开放权重模型的多会话多用户查询流上,SpecMem 相比冻结存储将平均接受 token 数提升 27%(各基准 +1…
开发者 Anish 发布 Mnemolith,一个面向 Claude Code、Cursor、Codex 的 MCP 记忆服务器,按 git 仓库共享项目记忆。记忆可关联依赖文件,文件内容变更时自动标记过期待复核,避免代理沿用失效事实。底层为自研 Java 引擎,含 HNSW 向量索引,全部本地运…
开发者发布开源工具 Memdebug,可记录 AI 智能体记忆内容、追踪变更并安全回滚 markdown 记忆。该工具本地运行、不介入智能体与记忆之间,支持 Open WebUI 与自托管 Mem0,目前处于 alpha 阶段。
开发者 kol3x 在 Hacker News 发布开源项目 Pawmc,一个极简系统提示、无工具与联网设计的 LLM 聊天应用。它把对话上下文按「日记」和「话题」分桶存储,每次对话只注入相关摘要,思路类似 Karpathy 的 LLM Wiki 但更轻量。项目提供托管演示与 GitHub 仓库。