★ 2
Maya 项目 PR:CUDA 与 ROCm 双后端混合 GPU 推理提速 48%
开发者向 Maya 推理引擎提交 PR,新增可选的 HIP 专家辅助模块,让 CUDA 与 ROCm 在同一台机器上协同工作:CUDA 负责注意力与稠密层,HIP 模块计算 GLM 专家层。在 RTX 5090 与 Radeon 8060S 混合配置下,实测吞吐最高提升约 48%。
Hacker News – LLM8 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
开发者向 Maya 推理引擎提交 PR,新增可选的 HIP 专家辅助模块,让 CUDA 与 ROCm 在同一台机器上协同工作:CUDA 负责注意力与稠密层,HIP 模块计算 GLM 专家层。在 RTX 5090 与 Radeon 8060S 混合配置下,实测吞吐最高提升约 48%。