★ 3
LEAP 吞吐预测服务:为混合加速器集群选硬件,省约 3% 训练成本
论文介绍 LEAP,一个在生产训练集群提交时预测各候选硬件吞吐并按单位成本排序的机器学习服务,每天路由数万次训练任务,覆盖 20 多种硬件。30 次夜间重训平均准确率 77%,优于被替换的查表法。六个月内获排序的 GPU 小时占比从 58% 升至 95%,估计节省约 3% 训练算力成本。
arXiv cs.AI14 小时前
共 1 篇相关资讯,按重要度与时间排序,每 3 小时更新。
论文介绍 LEAP,一个在生产训练集群提交时预测各候选硬件吞吐并按单位成本排序的机器学习服务,每天路由数万次训练任务,覆盖 20 多种硬件。30 次夜间重训平均准确率 77%,优于被替换的查表法。六个月内获排序的 GPU 小时占比从 58% 升至 95%,估计节省约 3% 训练算力成本。