★ 3
arXiv 提出 Delta N-gram：仅前向写入模型原生 N-gram 记忆
论文提出 Delta N-gram，将新证据写入预训练哈希 N-gram 表的稀疏补丁而不改动原表，写入只需前向计算，清除补丁即可恢复原模型。0.6B 原型在第二次写入后仍保留 16/16 事实，而在线梯度写入仅保留 2-4/16；在 Qwen3.8-Flash-Next 上 delta writ…
arXiv NLP10 天前
#知识编辑
共 5 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
FedAlphaEdit：零空间对齐的联邦知识编辑
论文指出将零空间约束编辑（如 AlphaEdit）与协作框架（如 CollabEdit）简单结合会结构性失效，并提出 FedAlphaEdit——首个在单一零空间原则下同时对齐本地编辑与服务器端合并规则的协作知识编辑框架。客户端仅共享投影统计量，服务器可证明地恢复集中式编辑结果，在两类架构上使编辑…
arXiv NLP24 天前
★ 3
ALOE：语义寻址低秩算子知识编辑
论文提出 ALOE，将知识编辑同时视为写入与寻址问题：从复述与同主体难负例中学习语义地址，经 rollout 精炼与门控校准对齐自回归隐状态，并把门控低秩算子嵌入单个 MLP 层，使部署模型单次前向即可完成编辑，无需外部检索器或路由器。在 CounterFact、ZSRE、KnowEdit 三个 …
arXiv cs.AI38 天前
★ 3
KLOD：通过非目标分布保持实现局部性保持的知识编辑
KLOD提出一种有界且分布保持的目标函数，用于微调知识编辑，通过停止目标放大并保持非目标分布，显著减轻局部性退化。实验显示KLOD在保持高编辑可靠性的同时，提供了可控的泛化-局部性权衡。
arXiv cs.AI63 天前
★ 2
TaxoSAE：用分类学逻辑重构稀疏自编码器
arXiv 新论文提出 TaxoSAE，将 is-a（上下位）分类关系显式编码进稀疏自编码器（SAE）的特征空间，用按分类层级堆叠的 SAE 与分类对齐损失训练。在人物关系与动物两个事实问答分类体系上，超概念读出准确率最高提升 37.9 点，概念替换成功率提升 25.5 点，且抑制某概念时只影响其…
arXiv NLP7 天前
这个主题的相关资产
相关公司Pangram1