技术
GPU acceleration（GPU 加速）
GPU acceleration 指利用图形处理器的并行计算能力加速AI模型的训练和推理，解决CPU处理大规模矩阵运算效率低的问题。典型应用包括深度学习训练、科学计算，代表工作有CUDA、cuDNN等，使GPT等大模型训练成为可能。
详细解释
GPU拥有数千个核心，适合并行处理矩阵乘法和卷积等操作，而CPU核心少但通用性强。NVIDIA的CUDA平台允许开发者使用GPU进行通用计算，cuDNN等库进一步优化了深度学习算子。GPU加速使训练深度神经网络的时间从数月缩短到数天，推动了AI的爆发。如今，GPU集群是训练大语言模型和扩散模型的基础设施。
别名与相关写法
gpu acceleration