★ 2
论文指出SAE归因图由边界决定,提出边际图将误差降至0.033
研究分析TopK稀疏自编码器特征归因图,发现零化一个特征常使下一层特征越过截断边界,且这些跨越主导响应能量。作者提出边际图,以同等代价加入一阶变化并重排序,中位相对误差不超过0.033,远优于原图的0.247以上。
arXiv cs.LG10 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
研究分析TopK稀疏自编码器特征归因图,发现零化一个特征常使下一层特征越过截断边界,且这些跨越主导响应能量。作者提出边际图,以同等代价加入一阶变化并重排序,中位相对误差不超过0.033,远优于原图的0.247以上。