★ 3
英伟达 Grace Blackwell 需新调度器，同机架可用 GPU 提升 27%
一篇技术文章指出，英伟达 Grace Blackwell 平台需要配套新的调度器方案，才能充分发挥其架构优势。通过改进调度策略，同一机架可多获得约 27% 的可用 GPU 算力。该讨论在 Hacker News 上引发关注，反映出大规模 GPU 集群利用率优化正成为 AI 基础设施的关键议题。
Hacker News3 天前
#GPU 调度
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
★ 2
Narwhal 开源：秒级切换 GPU 预填充与解码角色
Narwhal 是一个自适应解耦推理框架，可根据需求变化自动热切换预填充与解码角色，无需重新加载模型权重，支持从单 GPU 到多节点部署。其角色控制器基于实测引擎画像、需求与驻留工作对角色分配打分，并依据 TTFT、TPOT 与解码排队的最差 SLO 比率决策。
Hacker News – LLM23 天前
这个主题的相关资产
相关公司英伟达（Nvidia）1