AI 事件专题★ 3

Delta N-gram 记忆写入

arXiv 提出 Delta N-gram:仅前向写入模型原生 N-gram 记忆

10-23 12:00 首发·1 家媒体·1 篇报道·持续 1 天·学术研究
当事方:PPangram
事件综述

论文提出 Delta N-gram,将新证据写入预训练哈希 N-gram 表的稀疏补丁而不改动原表,写入只需前向计算,清除补丁即可恢复原模型。0.6B 原型在第二次写入后仍保留 16/16 事实,而在线梯度写入仅保留 2-4/16;在 Qwen3.8-Flash-Next 上 delta writer 的记忆更具文档特异性,抗干扰保留率 70% 对 54%。

各方报道 1 篇

arXiv NLP·10-23 12:00★ 3
arXiv 提出 Delta N-gram:仅前向写入模型原生 N-gram 记忆

论文提出 Delta N-gram,将新证据写入预训练哈希 N-gram 表的稀疏补丁而不改动原表,写入只需前向计算,清除补丁即可恢复原模型。0.6B 原型在第二次写入后仍保留 16/16 事实,而在线梯度写入仅保留 2-4/16;在 Qwen3.8-Flash-Next 上 delta writer 的记忆更具文档特异性,抗干扰保留率 70% 对 54%。

原文

关联

Pangram 其他动态(7 篇,与该事件无直接关联)展开 ▾
Delta N-gram 记忆写入 最新进展 - 事件时间线 - 智讯 AI News