★ 3
谷歌 GKE Pod 快照功能可缩短模型加载时间
谷歌在 GKE 上推出 Pod 快照能力,通过保存容器状态加速大模型加载与冷启动。该功能面向 AI 推理与训练场景,可减少模型部署时的等待时间与资源开销。
InfoQ AI22 天前
共 4 篇相关资讯,按重要度与时间排序,每 3 小时更新。
谷歌在 GKE 上推出 Pod 快照能力,通过保存容器状态加速大模型加载与冷启动。该功能面向 AI 推理与训练场景,可减少模型部署时的等待时间与资源开销。
清华大学联合无问芯穹开源具身智能云原生平台RLark,可实现5分钟完成机器人纳管、10秒启动跨集群任务。该平台为具身智能提供云端基础设施支持。
微软 AKS 工程团队开源了 TauGrid,将 tau CLI、Kueue 队列、KubeRay 编排、GPU 节点健康监控与可观测性打包为一次 Helm 安装。该项目采用 MIT 许可,可在任何 Kubernetes 1.30+ 且带 GPU 节点的集群上部署。此举降低了在 K8s 上运行 G…
文章探讨AI Agent开始调用基础设施后,Kubernetes等云原生平台是否已做好准备。随着智能体自主调度计算资源,基础设施层面临新的编排、权限与安全挑战。