Long-Context Inference

传统 Transformer 的注意力复杂度随序列长度平方增长，长上下文推理需借助稀疏注意力、位置编码外推、分块与缓存复用等技术降低显存与算力开销。该能力直接影响长文档问答、代码理解与多轮对话表现，但有效利用长度仍是研究难点，常出现“中间信息丢失”现象。