荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

面向 GPU AI 工作负载的 Kubernetes 原生技术栈

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

微软 Azure Kubernetes Service 工程团队已开源 TauGrid,这是一个用于运行 GPU AI 工作负载的 Kubernetes 原生平台。该项目于 2026 年 8 月 28 日在 Azure/taugrid 以 MIT 许可证发布。它将通常需要组合的队列系统、分布式运行时、GPU 健康检查、仪表板和提交脚本整合为一次 Helm 安装。TauGrid 现在可部署到任何具有 GPU 节点、kubectl 和 Helm 3.0 或更高版本的 Kubernetes 1.30+ 集群上。

TauGrid 将平台团队通常手动集成的五个组件组合在一起:tau CLI、用于工作负载排队和准入的 Kueue、用于 Ray 集群编排的 KubeRay、节点级 GPU 健康监控,以及集群和工作负载可观测性。平台团队负责管理工作区、队列、计算配置文件、存储、身份和可观测性。研究人员在代码仓库和 CLI 中工作,无需直接配置 Kubernetes 即可提交工作负载。代码库主要使用 Go 编写。

工作负载通过 tau.yaml 文件描述。微软发布的 GPU 训练示例在单个 A100 上运行 PyTorch 作业,指定了入口点、计算资源和运行时镜像。执行 tau run 时,TauGrid 会解析平台策略,生成 Kubernetes Job 或 KubeRay RayJob,并通过 Kueue 提交。作业进入共享的 Kueue ClusterQueue,在那里根据配额和优先级被准入,并被调度到健康的 GPU 上。

微软记录了工作流中的六个阶段:提交、排队、执行、监控、恢复和证据。恢复涵盖重试、从检查点恢复以及故障诊断。证据记录捕获工作负载元数据、配置、日志、指标、检查点和执行历史。这使得每次运行都可复现,并且日后可审计。

安装是通过 Helm chart 直接从 Microsoft Container Registry 拉取版本 0.4.2 到 tau-system 命名空间。第一方镜像在 mcr.microsoft.com/aks/ai-runtime/ 下提供,包括 Tau、TauGrid Portal 和 tau core controller。CLI 在 Linux 和 macOS 上从 GitHub Releases 安装,Windows amd64 则使用 PowerShell 安装程序。安装程序会验证发布校验和,并且不会修改 PATH。

默认情况下,TauGrid 不会向微软发送任何遥测数据,除非操作员配置了目标位置,否则远程导出保持关闭。某些集成仍为 Azure 专用,尤其是通过 Azure Data Explorer 进行的可观测性。其声明目标是支持不依赖 Azure 的云上和本地 Kubernetes。为此目标做出的贡献是开放的。

此次开源发布意义重大,因为平台团队通常需要将多个工具拼接在一起才能在 Kubernetes 上运行 AI。TauGrid 的集成方法降低了运维开销,并提供了从提交到可审计证据的一致路径。通过开源整个技术栈,微软邀请更广泛的采用和社区贡献。未来的开发可能会侧重于移除 Azure 特定依赖并扩展多云支持。

阅读原文 →来源:marktechpost