技术
Activation Steering（激活引导）
激活引导（Activation Steering）是一种通过干预模型内部激活值来控制生成行为的技术，旨在解决大语言模型输出不可控问题。典型应用包括情感控制、去毒化和风格迁移，代表工作如对比激活添加（CAA）和转向向量。
详细解释
激活引导通过在模型前向传播过程中修改特定层的激活值，引导生成结果朝向期望方向。常见方法包括计算对比样本的激活差异得到转向向量，并在推理时添加该向量。该技术无需微调即可实现细粒度控制，广泛应用于大语言模型的安全对齐、情感调节和事实性增强。
别名与相关写法
activation steering
相关术语
相关公司
相关资讯
研究揭示激活引导改变 LLM 话语层面并给出干预方法2026/11/2
Nullify：零空间激活引导实现免训练LLM遗忘2026/10/9
低秩激活引导实现参数高效决策算子2026/10/7
研究者提出HEST双曲熵引导激活干预方法2026/10/5
AIMES：基于因果激活引导的 LLM 多值自适应控制2026/9/28
研究：聊天模板切换大模型自我指称口吻2026/9/23
新方法 DSAS：动态缩放激活引导控制生成模型2026/9/18
arXiv 论文：Genesis Steering 用训练数据改进激活引导2026/10/15