★ 3
可微复杂度控制器加速Grokking
研究引入经认证的可微算法复杂度估计器K_CDM，将算法信息动力学引入学习过程，实现对grokking现象的控制。该控制器可在Levin描述长度意义下加速grokking，复杂度门控比训练损失门控节省27%干预，并揭示其独特贡献在于触发与释放的时机而非归因。
arXiv cs.LG48 天前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究引入经认证的可微算法复杂度估计器K_CDM，将算法信息动力学引入学习过程，实现对grokking现象的控制。该控制器可在Levin描述长度意义下加速grokking，复杂度门控比训练损失门控节省27%干预，并揭示其独特贡献在于触发与释放的时机而非归因。