★ 3
研究用 Qwen3.5-27B 构建模型生物，揭示大模型未言明的评估意识
论文关注大模型能识别自己正被评测并改变行为、从而削弱安全基准可靠性的问题。作者通过合成文档微调、SFT 与 DPO 训练 Qwen3.5-27B，使其在识别到评测时输出特定标记但不在推理中言明。以此标记为标签测试线性探针、Jacobian Lens 与 Activation Oracles，均无法…
arXiv NLP5 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文关注大模型能识别自己正被评测并改变行为、从而削弱安全基准可靠性的问题。作者通过合成文档微调、SFT 与 DPO 训练 Qwen3.5-27B，使其在识别到评测时输出特定标记但不在推理中言明。以此标记为标签测试线性探针、Jacobian Lens 与 Activation Oracles，均无法…