★ 4
新方法 PIR 检测大模型是否隐瞒已知答案
论文借鉴犯罪心理学的隐藏信息测试，提出内部识别探针 PIR，通过读取模型内部状态判断其识别出哪个候选答案，无需参考模型或标注真值。在五个家族八个模型上，PIR 以 0.70-0.87 平衡准确率恢复被识别答案，可区分模型「不愿答」与「不会答」，支持偷懒审计与遗忘验证。
arXiv cs.AI42 天前
#遗忘学习
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
SafeTune：审计与修复微调安全漂移的统一库
针对微调 LLM 安全漂移的应对方法分散、难以比较的问题，论文提出开源库 SafeTune，统一事后权重恢复、安全约束微调、基于梯度的遗忘与推理时引导四种干预范式。它提供配置驱动的一致工作流与模块化注册表，支持新方法、基准与领域扩展。通过金融与医疗部署案例，展示了安全漂移刻画、干预评估与分层缓解能…
arXiv cs.LG41 天前
这个主题的相关资产
相关公司Mistral AI1