★ 3
从潜空间到雅可比空间：安全内容可及性的测量、规避与训练
论文提出雅可比空间（J-space）读出方法，通过模型输入-输出雅可比将隐藏状态线性映射到输出词表，用以观测行为上可及的内部内容。作者引入传输放大剖面 A_ℓ 与基座-微调配对协议，发现安全微调（如 0.5B 模型上的 DPO）会在行为安全表现最好的位置反而拉大可及性差距。部署审计显示监控感知的 …
arXiv cs.AI27 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出雅可比空间（J-space）读出方法，通过模型输入-输出雅可比将隐藏状态线性映射到输出词表，用以观测行为上可及的内部内容。作者引入传输放大剖面 A_ℓ 与基座-微调配对协议，发现安全微调（如 0.5B 模型上的 DPO）会在行为安全表现最好的位置反而拉大可及性差距。部署审计显示监控感知的 …