★ 3
CoLU：置信度加权的大模型分层遗忘方法
论文提出 CoLU（置信度加权分层遗忘），结合置信度加权的遗忘与保留正则，仅更新单个选定的 Transformer 层而非全模型。配套的 Brief Layer Screening（BLS）用归一化遗忘-保留分数快速筛选候选层，将运行时间降低 60.2%-79.7% 且性能几乎不变。在 TOFU …
arXiv NLP14 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出 CoLU（置信度加权分层遗忘），结合置信度加权的遗忘与保留正则，仅更新单个选定的 Transformer 层而非全模型。配套的 Brief Layer Screening（BLS）用归一化遗忘-保留分数快速筛选候选层，将运行时间降低 60.2%-79.7% 且性能几乎不变。在 TOFU …