#层级消融

共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。

★ 2

研究:目标 token 不对称可伪装成层级专化

论文指出层级消融研究常因不同语料的目标 token 分布不同(如数学解答含更多空白与数字)而产生虚假的深度专化现象。在 GSM8K 与 Wikitext 对比中,分解后仅空白 token 呈正交互,去除空白即反转合并效应,该风险可仅凭分词器提前预判。

arXiv NLP18 天前

相关标签

层级消融 最新资讯与动态(1 篇) - 智讯 AI News