FP16 GEMM（半精度矩阵乘法）

GEMM（通用矩阵乘法）是深度学习的核心运算，广泛用于全连接层和卷积。FP16 指 16 位半精度浮点格式，相比 FP32 节省一半内存和带宽，并在支持 Tensor Core 的 GPU 上实现更高吞吐。但 FP16 动态范围小，易导致溢出或下溢，因此常采用混合精度训练，即用 FP16 计算、FP32 更新权重，兼顾速度与稳定性。