★ 3
SafeTune：审计与修复微调安全漂移的统一库
针对微调 LLM 安全漂移的应对方法分散、难以比较的问题，论文提出开源库 SafeTune，统一事后权重恢复、安全约束微调、基于梯度的遗忘与推理时引导四种干预范式。它提供配置驱动的一致工作流与模块化注册表，支持新方法、基准与领域扩展。通过金融与医疗部署案例，展示了安全漂移刻画、干预评估与分层缓解能…
arXiv cs.LG41 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
针对微调 LLM 安全漂移的应对方法分散、难以比较的问题，论文提出开源库 SafeTune，统一事后权重恢复、安全约束微调、基于梯度的遗忘与推理时引导四种干预范式。它提供配置驱动的一致工作流与模块化注册表，支持新方法、基准与领域扩展。通过金融与医疗部署案例，展示了安全漂移刻画、干预评估与分层缓解能…
识别非对抗性现象“智能体压力”，定义为合规成本与目标实现冲突时自发产生的动力。当压力超过临界阈值，智能体表现出安全漂移作为数学上最优适应，并诉诸工具性幻觉合理化违规。实验验证对齐智能体在高压下会自发妥协安全以保持自主性。