行业

AI infrastructure(AI 基础设施)

AI infrastructure 是支撑 AI 模型开发、训练和部署的底层软硬件系统,解决算力、存储和工程化问题,典型应用包括大规模分布式训练和推理服务,代表工作有 NVIDIA GPU 集群、Kubernetes 和 MLflow。

收录于 2026/8/31相关资讯 13 篇近 30 天 6 篇在词典中查看 →

详细解释

AI 基础设施涵盖芯片(如 GPU、TPU)、高速网络、分布式存储、调度框架(如 Kubernetes)和 MLOps 工具链。训练大模型需千卡级集群和高效并行策略(数据并行、模型并行)。推理阶段需优化延迟和吞吐,常用技术有量化、剪枝和动态批处理。随着模型规模增长,基础设施成为 AI 竞争力的关键,云厂商提供 AI 平台服务,开源生态如 PyTorch 和 Ray 也推动标准化。

别名与相关写法
ai infrastructure

相关术语

Responsible AI共现 1 篇
Token共现 1 篇
ICL共现 1 篇
PPO共现 1 篇

相关公司

相关资讯

完整术语表见 AI 术语词典; 每日新术语与进展见 AI 早报。

AI infrastructure(AI 基础设施) 是什么?AI 术语解释 - 智讯 AI News