#机器遗忘

共 18 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 3

CoLU:置信度加权的大模型分层遗忘方法

论文提出 CoLU(置信度加权分层遗忘),结合置信度加权的遗忘与保留正则,仅更新单个选定的 Transformer 层而非全模型。配套的 Brief Layer Screening(BLS)用归一化遗忘-保留分数快速筛选候选层,将运行时间降低 60.2%-79.7% 且性能几乎不变。在 TOFU …

arXiv NLP14 天前
★ 3

arXiv 提出车联网联邦学习症状驱动遗忘方法

论文针对联邦学习下故障贡献只在道路症状中延迟暴露的问题,提出 ATONE 方法,把遗忘作为聚合规则的一项,通过投影日常驾驶误差与上报症状、单次反向传播打分所有贡献。三个驾驶数据集上,其残留危害比最强基线低 43%–61%,效用距全量重训仅 0.36 分。

arXiv cs.LG14 天前
★ 3

REDaCT:大推理模型免崩溃遗忘框架

论文提出 REDaCT,一种面向大推理模型(LRM)的推理时遗忘框架,由二值泄漏检测器与嵌入优化模块组成:检测推理链中泄漏遗忘集信息的句子,并注入离线学到的纠正嵌入引导后续推理。实验显示 REDaCT 完全避免推理崩溃,在保持答案与思维链近乎完美遗忘的同时显著提升推理能力保留。

arXiv cs.LG21 天前
★ 3

用激活修补测量 LLM 遗忘深度

研究者提出通过激活修补(Activation Patching)来量化 LLM 遗忘的深度,并发布 Unlearning Depth Score 项目页面,为机器遗忘评估提供更细粒度的指标。

Hacker News – LLM21 天前
★ 3

论文用量化充分统计实现精确机器遗忘

论文提出量化充分统计量(QSS)方法,将冻结模式与可变可加内容分离,使删除内容成为精确减法而非重新优化。区分QSS-L(仅删标签)与QSS-E(删输入与标签)两种保证,删除以概率走算术快路径否则全量重建。在15个视觉、文本与表格数据集上,QSS-L在低类别数任务上删除延迟降低4至483倍。

arXiv cs.LG26 天前
★ 3

论文提出抗量化遗忘的LLM反学习框架

论文指出 LLM 量化后遗忘效果会显著减弱,并从损失景观曲率角度定位导致遗忘不鲁棒与效用下降的敏感权重。提出敏感度引导的噪声正则化与遗忘关键层优化,在 MUSE 与 TOFU 基准上实现更强的量化抗遗忘能力,同时保持模型效用。

arXiv cs.LG39 天前
★ 3

GUARD:大推理模型的自然遗忘方法

论文指出大推理模型的中间思维链可能泄露受保护事实或不安全推理,现有遗忘方法未规定遗忘后的轨迹。研究提出 GUARD,将不安全披露转化为安全退出轨迹,并通过引导令牌对齐与蒸馏写入模型参数。同时提出 NFRS 指标衡量替代质量,实验显示可显著减少不安全与隐私泄露并保留推理能力。

arXiv cs.AI42 天前
★ 3

ARIA:基于稀疏自编码器的测试时遗忘方法

论文提出 ARIA,一种测试时机器遗忘方法,不改动模型权重,而是利用稀疏自编码器(SAE)潜变量训练轻量线性检测器,在生成进入遗忘相关状态时进行可解释干预。在 TOFU、R-TOFU、WMDP 上,ARIA 在遗忘与保留的权衡上优于基于权重的基线,且对三种后遗忘对抗攻击保持稳健。研究还指出部分保留…

arXiv cs.LG47 天前
★ 3

大型音频语言模型语音问答的机器遗忘研究

研究针对大型音频语言模型(LALM)在语音问答中的隐私泄露问题,提出并评估梯度上升、任务算术与对齐微调等机器遗忘策略。实验显示这些方法可将隐私泄露率降低最多80%,同时基本保持非隐私语音问答与通用语音理解性能。

arXiv cs.LG48 天前
★ 3

影响力数据扰动能否实现机器遗忘:三种角色受控研究

论文系统评估深度扰动学习(DPL)在机器遗忘中的三种角色,发现其公开实现存在图像方向计算与标签扰动两处正确性问题。修正后DPL在CIFAR-10/ResNet-18上未通过直接删除判据,效用效果跨种子不一致,且计入方向计算时间后不如简单热启动基线。作者发布角色匹配评估协议与审计清单。

arXiv cs.AI49 天前
★ 2

arXiv 论文首次系统定义拆分联邦遗忘学习并提出 SURE 方法

论文首次系统形式化拆分联邦遗忘学习(SFU),涵盖客户端级与类别级移除、反事实重训练及分区特定更新约束,并从理论上刻画历史影响传播与遗忘可行性。作者提出 SURE 方法,结合双重重要性估计、选择性参数扰动与重要性引导恢复,在适度额外成本下接近模式匹配重训练效果。

arXiv cs.LG5 天前
★ 2

C²U:在 RAG 检索端抑制组合式敏感概念的遗忘方法

论文提出组合式概念遗忘方法 C²U,在编码器与文档索引固定的前提下,通过向原始查询加入有界扰动来抑制检索到的敏感概念。在五个数据集、四种编码器上,目标概念 Hit@5 下降 4.25 个百分点,且未增加对照查询的暴露。

arXiv NLP11 天前
★ 2

FASD:解耦多模态大模型遗忘中的知识遗忘与拒答学习

论文指出当前多模态遗忘评估只关注模型是否停止输出目标信息,掩盖了知识抑制引发虚构、拒答训练未真正抹除知识两大失效模式。作者提出遗忘感知自蒸馏(FASD),将行为通道与知识通道分离,实现「诚实的无知」,在遗忘目标知识的同时防止开放任务信息泄露并保持保留数据性能。

arXiv cs.AI19 天前
★ 2

机器遗忘的可执行发布认证

论文提出ExecCert,一个发布时认证层,弥合机器遗忘数学保证与实际部署有限精度产物之间的差距。它要么为执行候选闭合方法原生证书,要么通过重训参考发布验证(RRV)认证对当前保留集重训的保真度。在四个已发表遗忘实现上,ExecCert保持有效证书、改变发布决策并收紧保守界。

arXiv cs.LG28 天前
★ 2

面向地表预测的Mamba状态空间遗忘框架

论文提出SSU-LSF,首个专为地球科学Mamba状态空间模型设计的机器遗忘框架,用于消除非平稳混杂事件(如未记录的灌溉激增、大坝调度变化)对NDVI、地表温度和作物物候预测的隐性偏差。方法结合EKFac影响函数、谱半径加权肘部阈值定位与KL信赖域内的无Hessian投影梯度上升。在三个基准上混杂…

arXiv cs.LG28 天前
★ 2

扩散模型数据点遗忘的顺序重现问题

论文发现扩散模型数据点遗忘存在「顺序重现」失效模式:某实例在删除后一度被判定遗忘,却在后续删除操作中重新回到被记忆状态,且未重用被删数据或对抗微调。作者提出目标级评估协议追踪遗忘状态,并发现会重现的目标在删除后具有更尖锐的局部去噪损失几何。

arXiv cs.LG40 天前
★ 2

神经形态时序嵌入与混合SNN-XGBoost的工业网络物理分类

论文提出一种混合脉冲神经网络(SNN)与XGBoost架构,用于电力网络入侵检测。SNN仅训练一次作为固定特征提取器,仅重训XGBoost分类器,从而在机器遗忘攻击下保持结构韧性。在两个真实电力数据集上分别达到99.9%和95.0%准确率,且在标签翻转攻击下性能损失极小。

arXiv cs.LG53 天前

这个主题的相关资产

相关标签

机器遗忘 最新资讯与动态(18 篇) - 智讯 AI News