★ 3
研究揭示自动可解释性评测数据存在结构性捷径
论文发现标准流水线构建的自动可解释性评测数据可在不阅读解释的情况下被打分：在 Neuronpedia 存储的 500 个 GPT-2 small 特征上，仅凭中心 token 是否标记的规则即达 0.979 平衡准确率，高于存储的 LLM 打分器 0.838。作者建议评分应与同批次最优无解释规则并…
arXiv NLP2 天前
#稀疏自编码器
共 22 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 3
研究用机制可解释性比较 GPT-2 与 DistilGPT-2 蒸馏后电路存留
论文用线性 CKA、logit lens、注意力模式分解、稀疏自编码器特征统计与激活修补，对比 GPT-2 与六层学生模型 DistilGPT-2 在 IOI 与 Greater-Than 两个电路上的差异。结果显示 IOI 电路完全机制崩塌（准确率 35.2% vs 94.8%），而 GT 电路…
arXiv NLP4 天前
★ 3
研究在 Qwen3 与 Gemma-2 内部定位 26 项法律要素表征
论文考察大模型是否形成与 CATO 26 项法律要素对应的内部表征，在 Qwen3-1.7B、Qwen3-8B 与 Gemma-2 2B 上做线性可解码性与稀疏自编码器定位实验。结果显示全部 26 项要素均可线性解码，并给出 78 个模型专属的层-特征坐标，把法律符号抽象与模型内部表示连接起来。
arXiv NLP10 天前
★ 3
研究：零假设对照对自动科学发现验收守卫必要但不充分
论文提出四种改变物理描述的可执行操作，并用零假设接受率、正例接受率与后果一致性三项指标评估。结果显示描述性检验会接受科学上空洞的候选（如全零映射在 96% 混沌系统上通过闭合检验），而稀疏自编码器中仅 45% 被富集检验支持的特征经独立消融成立。
arXiv cs.AI12 天前
★ 3
arXiv 论文：SAE 引导小模型欺骗行为特征
论文测试通过引导稀疏自编码器（SAE）中与义务论伦理相关的特征，能否缓解小模型的对齐伪装行为。方法在 Gemma-3-27B-IT 上将合规差距降至不显著，但在 LLaMA-3-8B-Instruct 上无效，并发现一种称为「欺骗性钝化」的新行为。
arXiv cs.LG16 天前
★ 3
MOSAIC：视觉语言模型的补丁级训练样本归因
论文提出 MOSAIC（多模态正交稀疏自编码器），学习共享的稀疏图文潜空间，概念在单模态内稀疏、对应连续图像区域、与描述短语对齐且近似去相关，再用 EK-FAC 将训练样本影响分解到这些概念并定位到具体文本短语与图像区域。在 Qwen 和 Gemma 上的图像描述、胸片理解与视觉问答任务中，学到的…
arXiv cs.AI18 天前
★ 3
arXiv 论文：语言模型具备可解释叙事机制
研究在 GPT-2-Small、Gemma-2-2B 与 Llama-3.1-8B 中定位与「叙事性」相关的注意力头、MLP 神经元与稀疏自编码器特征。消融这些组件会提高高叙事性文本的下一 token 预测损失，并降低生成文本的叙事性，为叙事相关组件影响模型行为提供因果证据。
arXiv NLP20 天前
★ 3
研究：对抗训练下表征简洁性与电路规模脱钩
论文以对抗训练为受控工具，检验稀疏自编码器可分解性与集中特征归因是否真能预示更小、更易逆向的因果电路。基于同一GPT-2 Small检查点做匹配的常规与对抗持续训练后，鲁棒模型SAE可分解性更高、任务归因中激活特征更少，但电路规模呈阈值依赖：低忠实度下标准模型占优，高忠实度（90%、95%）下鲁棒…
arXiv cs.AI32 天前
★ 3
研究：机制性解析分层推理模型HRM的数独与ARC-AGI-2表现
研究对分层推理模型（HRM）在数独、迷宫与 ARC-AGI-2 任务上进行机理分析，通过因果干预、线性探针与稀疏自编码器消融揭示其推理机制。结果显示 HRM 本质上是在谜题特定解状态上做约束感知的迭代精化，并不依赖紧凑且因果重要的特征集。
arXiv cs.LG40 天前
★ 3
可解码不等于因果：SAE 分解区分探针读数与行为驱动
论文指出线性探针能解码真实性等安全概念，但探针准确率仅代表可解码性，不代表其权重特征因果驱动模型行为。作者提出基于稀疏自编码器（SAE）的特征级诊断，按探针对齐度与梯度敏感度排序并做消融。在 Gemma2-9B-Instruct 上，两种排序仅约12%重叠，共享特征对输出的翻转率远高于探针独有或随…
arXiv cs.AI45 天前
★ 3
面向社会模拟的 LLM 智能体解释与操控
论文比较了提示词操控、SAE 特征引导与探针方向引导三类方法，用于解释和操控 LLM 智能体在社会模拟中的行为。实验围绕风险偏好、利他主义、发散创造力与产品创新四类经济与创造性任务展开。结果显示 SAE 与探针方法通常优于基础提示词方法，二者可构成社会科学家解释与引导智能体的有效流水线。
arXiv cs.LG46 天前
★ 3
ARIA：基于稀疏自编码器的测试时遗忘方法
论文提出 ARIA，一种测试时机器遗忘方法，不改动模型权重，而是利用稀疏自编码器（SAE）潜变量训练轻量线性检测器，在生成进入遗忘相关状态时进行可解释干预。在 TOFU、R-TOFU、WMDP 上，ARIA 在遗忘与保留的权衡上优于基于权重的基线，且对三种后遗忘对抗攻击保持稳健。研究还指出部分保留…
arXiv cs.LG46 天前
★ 2
研究：SAE特征可预测模型错误但缺乏因果性
论文区分稀疏自编码器（SAE）特征与模型错误之间的关联与因果影响，在八个数据集上分析Gemma 3 1B/4B与Gemma Scope SAE。过滤格式与内容伪影后，选定特征干预能带来更大答案边际变化，但答案翻转罕见且方向不稳定。作者认为这些特征反映上下文相关的答案竞争，而非错误机制本身。
arXiv NLP2 天前
★ 2
多语言大模型否定表征因果分析：跨语言共享
研究在六个开源模型上对英、法、越、中四种语言做因果干预，发现否定表征可被因果控制且跨语言高度共享。单一稀疏自编码器特征即可控制多语言极性，干预还能泛化到另外四种语言。作者开源了数据与代码。
arXiv NLP6 天前
★ 2
TaxoSAE：用分类学逻辑重构稀疏自编码器
arXiv 新论文提出 TaxoSAE，将 is-a（上下位）分类关系显式编码进稀疏自编码器（SAE）的特征空间，用按分类层级堆叠的 SAE 与分类对齐损失训练。在人物关系与动物两个事实问答分类体系上，超概念读出准确率最高提升 37.9 点，概念替换成功率提升 25.5 点，且抑制某概念时只影响其…
arXiv NLP6 天前
★ 2
新框架重估稀疏自编码器：原子可解释单元
论文指出稀疏自编码器（SAE）评估长期缺乏明确目标，提出以「原子可解释单元基」作为评估范式，并整理 DAME 等代理指标与基准框架。跨架构评测数百个 SAE 后发现，部分看似单义的 SAE 实为功能多义，且对模型计算贡献最大的特征反而更不可解释、更冗余。
arXiv cs.LG9 天前
★ 2
研究：用变量角色解读大模型代码表示与稀疏自编码器
论文基于 Sajaniemi 变量角色分类法，构建覆盖五种语言、12.6 万份代码文件的语料，考察大模型能恢复哪些角色区分、稀疏自编码器如何保留这些区分。结果显示残差探针优于单个 SAE 特征，但生成干预常以牺牲正确性为代价改变角色标注，且未显示明确优势。
arXiv NLP12 天前
★ 2
研究：模型规模提升线性可恢复性而非原生几何一致性
论文区分「原生余弦几何」与「线性可恢复性」两种表示相似性，用 Legacy Survey 与 HSC 匹配嵌入在五个模型家族上验证。结果显示 Ridge 对齐强化了模型规模与跨数据集邻域对应的关系，且稀疏自编码器特征并不优于稠密嵌入对齐，说明规模提升的是线性可恢复性而非共享度量几何的收敛。
arXiv cs.LG13 天前
★ 2
arXiv 提出 SAGA 用稀疏自编码器几何锚定缓解灾难性遗忘
SAGA 将每个任务边界训练的稀疏自编码器转化为对表示漂移的局部低秩约束，由回放样本决定约束位置、编码器雅可比的主右奇异方向决定惩罚方向。在三个预训练 ViT-B/16 基准上取得最高平均 Class-IL 准确率与最低遗忘，CIFAR-100、CUB-200、ImageNet-R 分别比最强常规…
arXiv cs.LG13 天前
★ 2
arXiv 论文：稀疏自编码器数据规模收益递减
该研究训练四种稀疏自编码器（SAE）架构，在三个语言模型上测试 5M 到 500M token 的训练预算，发现功能收敛与特征可复现性对数据量的需求差异巨大。Gemma-2-2B BatchTopK 的严格匹配特征比例从 5M token 时的 2% 升至 50M 时的 29%。结果表明按目标匹配…
arXiv cs.LG16 天前
★ 2
稀疏自编码器分离语音语言与副语言信息
论文提出将 TopK 稀疏自编码器与路由专属监督、跨因子对抗结合，在冻结的 SPEAR 与 WavLM 语音编码器中分离语言信息与副语言信息（说话人、情感、韵律）。实验显示路由选择性分离在不同编码器、语料与探针间保持一致，且在 LibriSpeech 上学习到的路由结构可迁移至 MSP-Podca…
arXiv NLP23 天前
★ 2
SAE的独立性先验割裂视觉概念
论文指出稀疏自编码器（SAE）虽基于线性表示假设，却隐含「图像块间概念相互独立」的先验，这违背自然图像及其激活的空间依赖。作者提出马尔可夫场线性表示假设（MFLRH），并据此设计Spatial-SAE作为摊销MAP估计器。在合成概念恢复任务上平均胜率达96%，并提升DINOv2激活的可解释性，代价…
arXiv cs.AI26 天前