★ 3
用激活修补测量 LLM 遗忘深度
研究者提出通过激活修补（Activation Patching）来量化 LLM 遗忘的深度，并发布 Unlearning Depth Score 项目页面，为机器遗忘评估提供更细粒度的指标。
Hacker News – LLM21 天前
#激活修补
共 4 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
研究：语言模型会保留已放弃的句法分析痕迹
论文以花园路径句为对象，考察 24 个 1.24 亿至 700 亿参数的开源模型是否延续已放弃的句法分析。结果显示被放弃分析会留下「残留」，提升后续宾语附着倾向，约为真实宾语句效果的四分之三；同时存在朝已消歧结构的适应效应。激活修补实验表明两者分别读取自名词短语状态与消歧处理状态。
arXiv NLP5 天前
★ 2
arXiv 研究：代码模型因果语法电路受预算与探针影响
研究对十个开源代码模型、55 个模型-语言设置运行均值消融、激活修补、贪心电路提取等流程，考察代码模型默认输出 Python 的偏好是否由局部组件产生。发现该偏好的测量大小主要取决于探针，且是否显得局部化取决于搜索保留的组件预算。研究强调行为局部化结论高度依赖分析选择。
arXiv cs.LG17 天前
★ 2
机械可解释性揭示脑机语音解码器共享因果子空间
一项 arXiv 研究用机械可解释性方法分析脑活动到语音的解码器，通过激活修补比较发声、默念与想象三种语音条件下的内部神经元活动。结果显示跨模态增益并非由单个神经元驱动，而是来自小群神经元，且这些神经元在解码器早期层多为条件特异、在后期层出现重叠。该发现有望指导训练目标设计，用主要来自发声数据的学…
arXiv cs.LG34 天前