★ 3
GUARD：大推理模型的自然遗忘方法
论文指出大推理模型的中间思维链可能泄露受保护事实或不安全推理，现有遗忘方法未规定遗忘后的轨迹。研究提出 GUARD，将不安全披露转化为安全退出轨迹，并通过引导令牌对齐与蒸馏写入模型参数。同时提出 NFRS 指标衡量替代质量，实验显示可显著减少不安全与隐私泄露并保留推理能力。
arXiv cs.AI42 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文指出大推理模型的中间思维链可能泄露受保护事实或不安全推理，现有遗忘方法未规定遗忘后的轨迹。研究提出 GUARD，将不安全披露转化为安全退出轨迹，并通过引导令牌对齐与蒸馏写入模型参数。同时提出 NFRS 指标衡量替代质量，实验显示可显著减少不安全与隐私泄露并保留推理能力。
SABER 是一种无需训练的框架，通过构造语义扰动分支并探测结果一致性，实现大推理模型的稳定性感知早停。在多个基准上平均减少 30.2%-39.8% 的推理 token，同时保持与全长度推理相当的准确率。