★ 2
arXiv 论文：自然语言训练塑造类脑表征几何
研究训练 25 个 GPT-2-small 模型，分别用自然语言故事、Python、C、x86-64 汇编与机器码，比较其与大脑表征的对齐程度。结果显示自然语言训练在 Pereira-243 等基准上显著优于代码训练，代码训练的对齐接近随机权重水平。仅用英语更新嵌入矩阵即可提升所有代码模型的对齐度。
arXiv NLP9 小时前
共 1 篇相关资讯，按重要度与时间排序，每 3 小时更新。
研究训练 25 个 GPT-2-small 模型，分别用自然语言故事、Python、C、x86-64 汇编与机器码，比较其与大脑表征的对齐程度。结果显示自然语言训练在 Pereira-243 等基准上显著优于代码训练，代码训练的对齐接近随机权重水平。仅用英语更新嵌入矩阵即可提升所有代码模型的对齐度。