edge inference（边缘推理）

边缘推理的兴起源于物联网和实时AI需求。传统云端推理受限于网络延迟和带宽，且数据上传存在隐私风险。技术上，通过模型压缩（剪枝、量化）、知识蒸馏和专用硬件（NPU、TPU）实现高效推理。代表工作有TensorFlow Lite、ONNX Runtime和NVIDIA Jetson平台。