On-device AI（端侧AI）

端侧AI（On-device AI）将AI推理部署在本地设备，而非依赖云端服务器。其优势包括低延迟、数据隐私保护、离线可用及节省带宽。技术挑战在于设备算力、内存和功耗有限，需模型压缩、量化、剪枝等技术优化。常用框架有TensorFlow Lite、PyTorch Mobile、Core ML等。随着NPU普及，端侧AI在智能手机、智能家居、自动驾驶等领域广泛应用，成为AI落地的重要趋势。