★ 3
研究在 Pythia-1B 上打通奇异学习理论与机制可解释性
论文证明机制可解释性与奇异学习理论都是同一映射（组件参数到模型预测）的函数，其一阶导数决定 Fisher 信息、学习系数与干预效应。在 Pythia-1B 的 154 个训练检查点上，对 Dyck 括号匹配任务测量 144 个组件的局部几何，发现 Fisher 迹变化与因果效应变化相关（中位偏秩相…
arXiv cs.LG10 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
论文证明机制可解释性与奇异学习理论都是同一映射（组件参数到模型预测）的函数，其一阶导数决定 Fisher 信息、学习系数与干预效应。在 Pythia-1B 的 154 个训练检查点上，对 Dyck 括号匹配任务测量 144 个组件的局部几何，发现 Fisher 迹变化与因果效应变化相关（中位偏秩相…