Early Exit（提前退出）

Early Exit 通过在网络中间层添加分类器，当样本在某一层的预测置信度超过阈值时，即可提前输出结果，避免后续层的计算。这能显著降低推理延迟和计算成本，尤其适用于资源受限或实时性要求高的场景。该技术常用于深度神经网络的加速，如自然语言处理中的 BERT 模型，可在保持较高准确率的同时提升推理效率。