★ 3
研究：潜在有害性监测器在同等误报率下不优于模型自身拒答行为
一篇 arXiv 论文在 15 个指令微调大模型和 38 个基于激活的读取器上，测试了 Latent Guard 等潜在安全监测器在分布外提示（改写、说服性框架、越狱包装）下的有害性检测能力。结果显示，在指令末尾读取的激活表征虽与拒答行为基本独立，但在分布偏移下退化，TF-IDF 分类器在全部模型…
arXiv cs.AI10 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
一篇 arXiv 论文在 15 个指令微调大模型和 38 个基于激活的读取器上，测试了 Latent Guard 等潜在安全监测器在分布外提示（改写、说服性框架、越狱包装）下的有害性检测能力。结果显示，在指令末尾读取的激活表征虽与拒答行为基本独立，但在分布偏移下退化，TF-IDF 分类器在全部模型…