★ 3
研究:神经网络模块化程度高于单神经元所示
论文提出单元级、正交、线性三层嵌套的模块化层级,通过选择性消融进行因果评估。研究发现视觉模型、语言模型和多任务RNN虽缺乏单元级模块化,却常在子空间层面表现出清晰的功能模块化,内容与风格、语法与语义可分离,且与脑数据对齐存在差异。
arXiv cs.AI21 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文提出单元级、正交、线性三层嵌套的模块化层级,通过选择性消融进行因果评估。研究发现视觉模型、语言模型和多任务RNN虽缺乏单元级模块化,却常在子空间层面表现出清晰的功能模块化,内容与风格、语法与语义可分离,且与脑数据对齐存在差异。