inference（推理）

推理阶段，模型利用学习到的参数处理输入数据，生成输出。与训练相比，推理通常需要更低的计算资源，但对延迟和效率要求更高。推理优化技术如模型剪枝、量化和知识蒸馏被广泛使用，以在保持精度的同时提升速度。推理是AI部署的核心，广泛应用于图像识别、自然语言处理等领域。