★ 4
AI 评审训练 AI 评审：科学判断坍缩与缓解
论文研究 AI 同行评审的递归反馈：以 Llama 3.1 8B 为起点，用 ICLR 官方评审微调后，再用官方与模型生成评审的混合数据训练后继模型。发现引入合成评审会压缩评分分布、降低语义多样性，称之为「科学判断坍缩」。作者提出开源系统 TrustReviewer，通过训练期数据筛选与测试期激活…
arXiv cs.LG42 天前
#激活引导
共 20 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究揭示激活引导改变 LLM 话语层面并给出干预方法
论文指出激活引导（activation steering）除预期行为外，还会系统性改变生成文本的正式度、证据使用与模糊性等话语维度，此前仅用困惑度等粗粒度指标衡量。作者提出叠加第二个针对受影响话语维度的向量进行干预，可恢复约 78% 的非预期变化，同时保留约 93% 的预期引导效果。
arXiv NLP7 小时前
★ 3
WAQS 框架用二次探针实现无额外开销的激活引导
论文提出 WAQS，通过二次探针建模概念，其梯度给出随激活变化的仿射引导方向，并可离线折叠进相邻线性层，从而在推理时不增加计算。作者证明二次函数是梯度干预为仿射且可精确吸收的最大光滑概念分数类。在真实性、拒答与谄媚引导任务上，二次引导达到或优于固定线性引导，同时保持模型效用。
arXiv cs.AI13 天前
★ 3
arXiv 论文：LLM 写代码使用可复用可组合抽象表征
论文发现 LLM 生成代码时，其中间层激活捕捉了跨编程语言与实现策略共享的可复用、可组合抽象表征。通过激活引导，函数、编程语言与实现策略可被独立操控并灵活组合，即使提示中不含语言与函数信息。研究还发现单语言函数微调可迁移到其他语言，并在合成环境中复现了该抽象结构的形成。
arXiv cs.LG18 天前
★ 3
Nullify：零空间激活引导实现免训练LLM遗忘
研究提出 Nullify，一种免训练、非破坏性的激活引导方法，用于大语言模型的知识遗忘。该方法在推理时使用引导向量将隐私相关激活重定向，同时满足零空间约束以保持模型效用。在 TOFU 和 MUSE 基准上，Nullify 在遗忘质量上匹配或超越现有基线，且几乎无损保留模型效用。
arXiv cs.LG24 天前
★ 3
低秩激活引导实现参数高效决策算子
论文提出一种通过行为克隆训练的System-1决策算子，将向冻结语言模型注入技能的成本降低约两个数量级。默认算子仅用33万参数即可匹配133万参数的强化学习算子，并将3685 token的推理压缩为6 token决策且不损失精度。研究揭示可训练性差距源于初始化与架构，技能可作为近似线性算子组合、插…
arXiv cs.LG26 天前
★ 3
研究：语言模型拒绝行为的引导方向不止一个
论文研究激活引导中控制拒绝行为所需的方向维度，提出「引导维度」概念，即可靠控制某行为所需的最小子空间维度。实验发现安全对齐触发的拒绝是1维可引导的，而一般语境下的拒绝激活几何更丰富，即使5维子空间也难以完全捕捉，表明拒绝的激活几何高度依赖语境。
arXiv cs.AI27 天前
★ 3
研究者提出HEST双曲熵引导激活干预方法
论文观察到LLM数学推理呈树状结构，在少数高下一token熵的分支点展开，这类结构在双曲空间中嵌入失真远低于欧氏空间。作者提出Hyperbolic Entropy Steering（HEST），用仅以模型自身下一token熵为标签的轻量探针将隐藏状态嵌入庞加莱球，在熵超阈值时沿测地线调整状态。在Q…
arXiv cs.LG28 天前
★ 3
激活条件自蒸馏方法 ACSD
论文提出激活条件自蒸馏（ACSD），通过对比在生成预算内到达正确答案的自生成轨迹与其余轨迹的激活，提取引导向量。冻结的基座模型在每个预测位置施加该向量，学生从自身前缀的下一 token 分布中学习，无需参考文本或教师参数更新。在五个模型上，ACSD 在四个数学基准上取得最高平均准确率，DeepSe…
arXiv cs.LG32 天前
★ 3
AIMES：基于因果激活引导的 LLM 多值自适应控制
论文提出 AIMES 框架，用于大语言模型的自适应多值激活引导。它构建道德基础价值的层特定双极方向，并以中间层词汇读出作为在线观察者，在每个解码步动态调整各价值干预强度，无需训练独立的价值状态估计器。实验显示多值可控性随价值组合与干预深度变化，相比固定联合引导与提示引导具有深度相关优势，且实际激活…
arXiv cs.LG35 天前
★ 3
研究：聊天模板切换大模型自我指称口吻
研究发现聊天模板如同开关，在 8 个开源指令模型上，模板存在时「我只是 AI」式免责语气增强、「我感觉」式体验语气减弱，移除模板则相反。在 3 个模型的激活空间中找到可操控该行为的方向，添加该方向可使无模板模型表现得像有模板。研究提示模型自我报告受部署方式影响，不应被字面解读。
arXiv cs.LG40 天前
★ 3
新方法 DSAS：动态缩放激活引导控制生成模型
激活引导已成为引导生成模型行为（如减轻毒性）的强大方法，但现有方法对所有输入统一施加干预，在不需要引导时会降低模型性能。论文提出动态缩放激活引导（DSAS），一种与方法无关的引导框架，将何时引导与如何引导解耦，自适应调节现有引导变换在各层和输入上的强度，仅在检测到不良行为时强力干预。
Apple Machine Learning Research45 天前
★ 3
研究提出溢出感知多值引导的多元 LLM 对齐
该研究针对激活引导中多价值同时引导产生的溢出效应，提出零成本修正方法。通过分析引导方向的几何纠缠，利用Gram矩阵解耦各方向贡献。在气候话语任务上，修正将净引导效果从+5.9%提升至+14.0%，验证了方法的有效性。该流程无需微调、奖励模型或手动提示工程。
arXiv cs.AI54 天前
★ 2
研究揭示指令数据暴露程度决定 LLM 类比修辞方向可激活性
论文从残差流中提取「类比向量」，在 Gemma-2、Llama-3.1、Qwen-2.5 等七个指令微调模型上实现可操控的解释风格，Gemma-2-9B-IT 调和均值提升 22%。核心发现是类比方向存在于所有基座模型中，但其行为可激活性随训练中指令暴露程度连续增长。这挑战了「基座 vs 指令」的…
arXiv NLP3 天前
★ 2
研究借失语症框架剖析 LLM 语言功能结构
论文借鉴临床失语症，提出分类器引导的损伤与连续激活引导两种方法，在 LLM 中系统诱发类失语症的功能崩溃。研究发现语言功能可被定位到离散结构回路与连续表征向量，但不同失语症剖面间存在显著回路重叠与向量相似，说明 LLM 依赖高度纠缠的架构。
arXiv NLP11 天前
★ 2
arXiv 论文：Genesis Steering 用训练数据改进激活引导
论文提出 genesis steering，从模型自身微调数据中的对比样本推导引导向量，并在数据不可得时借助成员推断构造代理数据集。在 Tülu-3-8B 与 Llama-3.1-8B-Instruct 上，来自 Tülu-3-8B 训练混合的安全数据引导效果强于外部数据集。
arXiv cs.LG18 天前
★ 2
CCS：激活引导的对比协方差子空间方法
论文提出 Contrastive Covariance Steering（CCS），一种免训练方法，通过对比方差目标将激活引导向量投影到低维子空间，去除与目标概念纠缠的混杂因素。在三个大模型、四个引导领域的 12 个设定中 CCS 全面超越基线，在 AxBench 与 Emotion 上相对提升 …
arXiv cs.LG19 天前
★ 2
arXiv：全双工语音模型 Moshi 情绪引导研究
研究在全开源全双工语音语言模型 Moshi 上，用均值差激活引导方法研究四种情绪的引导效果，每帧仅需少量向量加法且无需重训练。结果显示情绪可从残差流线性解码，但激活引导仅部分可行且不均衡：快乐、愤怒、惊讶共享方向，悲伤可独立引导。
arXiv NLP25 天前
★ 2
PersonaDose：校准激活引导实现分级人格控制
论文研究「人格剂量」——通过特质描述与请求的平均强度控制语言模型表达。PersonaDose在人格响应上特化共享的描述条件FLAS控制器，再针对实测特质表达校准其流时间，训练响应无需配对目标强度。在Llama-3.1-8B、Qwen3-8B、Gemma-3-4B上，其核心特质表达较对比激活加法分别…
arXiv cs.AI33 天前
★ 2
Qwen3.5-0.8B 关停响应激活引导研究
一篇 arXiv 论文提出基于梯度的「守卫式」激活引导方法，用于在 Qwen3.5-0.8B 的模拟关停场景中，将模型的「拒绝关停」（KEEP）倾向选择性转向「接受关停」（STOP）。该方法用分类器分离检测与干预，从 KEEP 与 STOP 的 logit 差梯度直接推导引导方向，并从 160 条…
arXiv cs.LG35 天前