★ 3
WISE 与 JuntaLearner：交互感知的电路发现
针对机制可解释性中逐组件打分忽略上下文交互的问题，论文提出见证集成集合效应（WISE）因果估计量，避免组合枚举。基于此的 JuntaLearner 通过梯度方法按因果影响对组件排序，在多个任务与模型规模上取得更高电路识别分数，且成本不随候选组件数增长。
arXiv cs.LG27 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
针对机制可解释性中逐组件打分忽略上下文交互的问题，论文提出见证集成集合效应（WISE）因果估计量，避免组合枚举。基于此的 JuntaLearner 通过梯度方法按因果影响对组件排序，在多个任务与模型规模上取得更高电路识别分数，且成本不随候选组件数增长。
论文提出 CircuitTree 数据结构与贪心密度缩放组合算法，可将任意多个神经网络电路组合为单一模型。作者将 HuBERT 中 39 个音素分类电路组合成音节分类器，实现单个电路不具备的能力，开放音节转录准确率达 64.8%，共享 99.5% 电路组件。