★ 3
SPECTRA：免重训恢复微调大模型的拒答安全能力
论文指出领域微调会削弱模型拒答行为，提出免训练、权重级的 SPECTRA 方法，通过激活感知的低秩更新把基座模型的拒答方向迁移到微调模型权重中，无需梯度优化或领域安全数据。实验显示拒答行为显著改善，同时保持通用连贯性与领域知识，误拒率几乎不变。
arXiv cs.AI5 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文指出领域微调会削弱模型拒答行为，提出免训练、权重级的 SPECTRA 方法，通过激活感知的低秩更新把基座模型的拒答方向迁移到微调模型权重中，无需梯度优化或领域安全数据。实验显示拒答行为显著改善，同时保持通用连贯性与领域知识，误拒率几乎不变。