技术

CUDA Graph(CUDA 图)

CUDA Graph是NVIDIA推出的GPU任务执行优化技术,将多个内核启动捕获为图,解决频繁启动开销大的问题。典型应用在深度学习训练中,可提升推理和训练效率,代表工作如TensorRT。

收录于 2026/9/11相关资讯 1 篇近 30 天 1 篇在词典中查看 →

详细解释

CUDA Graph通过将一系列GPU操作(如内核启动、内存拷贝)捕获为静态图,一次性提交执行,减少CPU启动开销和延迟。适用于重复性工作负载,如模型推理。技术包括图捕获、实例化和更新。与流相比,能显著提升吞吐量。

别名与相关写法
cuda graph

相关术语

相关公司

相关资讯

完整术语表见 AI 术语词典; 每日新术语与进展见 AI 早报。

CUDA Graph(CUDA 图) 是什么?AI 术语解释 - 智讯 AI News