#MRoPE

研究解耦视觉语言模型中的多模态旋转位置编码 MRoPE

论文将视觉内部空间结构与跨模态空间效应分离，研究 MRoPE 对文本 token 施加高宽坐标带来的影响。实验覆盖多种模型规模与 MRoPE 变体，发现跨模态空间效应作为空间参照收益甚微，甚至损害模型性能，而视觉内部空间编码对细粒度定位仍有效。