★ 3
研究：语言模型拒绝行为的引导方向不止一个
论文研究激活引导中控制拒绝行为所需的方向维度，提出「引导维度」概念，即可靠控制某行为所需的最小子空间维度。实验发现安全对齐触发的拒绝是1维可引导的，而一般语境下的拒绝激活几何更丰富，即使5维子空间也难以完全捕捉，表明拒绝的激活几何高度依赖语境。
arXiv cs.AI27 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文研究激活引导中控制拒绝行为所需的方向维度，提出「引导维度」概念，即可靠控制某行为所需的最小子空间维度。实验发现安全对齐触发的拒绝是1维可引导的，而一般语境下的拒绝激活几何更丰富，即使5维子空间也难以完全捕捉，表明拒绝的激活几何高度依赖语境。
研究提出 PowerBench，区分自我赋权、去权与夺权三类权力转移请求，并构建开源数据集，评估 24 个中美模型在三种实验条件下的拒绝行为。结果显示模型对夺权的拒绝率最高，且存在明显的国别偏向：倾向帮助他国从美国夺权，却反对美国从他国夺权。