★ 3
从潜空间到雅可比空间：安全内容可及性的测量、规避与训练
论文提出雅可比空间（J-space）读出方法，通过模型输入-输出雅可比将隐藏状态线性映射到输出词表，用以观测行为上可及的内部内容。作者引入传输放大剖面 A_ℓ 与基座-微调配对协议，发现安全微调（如 0.5B 模型上的 DPO）会在行为安全表现最好的位置反而拉大可及性差距。部署审计显示监控感知的 …
arXiv cs.AI27 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文提出雅可比空间（J-space）读出方法，通过模型输入-输出雅可比将隐藏状态线性映射到输出词表，用以观测行为上可及的内部内容。作者引入传输放大剖面 A_ℓ 与基座-微调配对协议，发现安全微调（如 0.5B 模型上的 DPO）会在行为安全表现最好的位置反而拉大可及性差距。部署审计显示监控感知的 …
论文构建诊断框架，在世界价值观调查1万组问答上评估11个零样本模型及5个微调变体，发现对齐训练导致“共识坍缩”，将输出压缩为每组单一刻板印象。从Llama 3.1 70B到Tulu 3的后训练轨迹中，监督指令微调即抹去一半观点离散度，且WEIRD与非WEIRD国家间差距被进一步拉大。研究指出仅看点…