Cascade Routing（级联路由）

级联路由通常包含多个不同规模的模型，按计算成本递增排列。输入首先由小模型处理，若其置信度低于阈值，则转发给更大模型。路由决策可基于置信度、熵或学习到的路由器。该技术能显著降低平均推理成本，同时保持高精度。挑战在于设计有效的路由策略和阈值，以及处理分布外样本。