★ 3
AI 秒级完成数据中心热感知容量规划
针对 LLM 训练与推理带来的 GPU 局部热点与热负载尖峰，论文提出 AI 驱动的热感知容量规划框架。内嵌模型学习机架功率、服务器布局、HVAC 设置等关键参数，可在毫秒级完成温度预测，相比高保真 CFD 仿真实现 10000 倍加速且保持高精度。该框架可帮助数据中心设计者与运营者即时优化工作负…
arXiv cs.LG28 天前
共 2 篇相关资讯，按重要度与时间排序，每 3 小时更新。
针对 LLM 训练与推理带来的 GPU 局部热点与热负载尖峰，论文提出 AI 驱动的热感知容量规划框架。内嵌模型学习机架功率、服务器布局、HVAC 设置等关键参数，可在毫秒级完成温度预测，相比高保真 CFD 仿真实现 10000 倍加速且保持高精度。该框架可帮助数据中心设计者与运营者即时优化工作负…
论文提出 GAUSS，一种负载感知的分析与蒙特卡洛仿真器，可预测首 token 时延（TTFT）、token 间时延（TBT）的完整分布及可持续请求率。它结合预填充与解码的分阶段延迟曲面与排队模型，通过集成蒙特卡洛采样捕捉尾延迟。可支持未部署工作负载、路由策略与硬件配置的容量规划。