★ 2
研究:Gemma 4、Llama 3.2 等模型语义呈局部各向异性几何
论文在 Gemma 4、Llama 3.2、Qwen 2.5、Pythia 四个架构各异的解码器模型上,用跨语言探针与细化探针刻画概念内部局部几何。四项发现跨模型复现:去除主方差方向后句对按语义相关度有序排列、语义因子围绕不变核心组织、细化产生向更紧邻域的定向位移、句级与 token 级读出呈现互…
arXiv NLP10 天前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文在 Gemma 4、Llama 3.2、Qwen 2.5、Pythia 四个架构各异的解码器模型上,用跨语言探针与细化探针刻画概念内部局部几何。四项发现跨模型复现:去除主方差方向后句对按语义相关度有序排列、语义因子围绕不变核心组织、细化产生向更紧邻域的定向位移、句级与 token 级读出呈现互…