AI server（AI 服务器）

AI server通常搭载多颗GPU（如NVIDIA A100/H100）或专用AI芯片，通过高速互连（如NVLink）和分布式存储支持并行计算。其架构优化了浮点运算和内存带宽，以处理深度学习中的矩阵运算。典型代表包括NVIDIA DGX系列和Google TPU Pod。AI server支撑了ChatGPT等大模型的训练，并推动AI即服务（AIaaS）模式发展，成为现代AI基础设施的核心。