Representation Alignment（表示对齐）

在深度学习中，不同模型或模态提取的特征往往位于不同的表示空间，直接比较或组合效果不佳。Representation Alignment 通过对比学习、对抗训练或线性变换等方法，将表示映射到共享空间，使语义相似的样本距离更近。例如，CLIP 通过对比损失对齐图像和文本编码器，实现零样本分类。此外，在知识蒸馏中，学生模型通过模仿教师模型的中间表示来提升性能。该技术是跨模态检索、多任务学习等领域的基石。