带有 GKE 托管 DRANET 的自动驾驶集群:GPU 和... 笔记

带有 GKE 托管 DRANET 的自动驾驶集群:GPU 和 TPU

本文详细介绍了如何配置带有托管 DRANET 的 Google Kubernetes Engine (GKE) Autopilot 集群以支持 GPU 和 TPU。GKE Autopilot 通过管理节点、扩缩容和安全简化了 Kubernetes 管理,而托管 DRANET 则允许为 Pod 请求网络资源,包括用于 TPU 和启用 RDMA 的 GPU 的 Pod。该设置涉及创建虚拟私有云 (VPC)、部署 Autopilot 集群,然后配置自定义 ComputeClasses 和 ResourceClaimTemplates。在继续之前,请配置必要的变量,包括区域、集群名称、网络、子网、预留 URL 和 Hugging Face 令牌。首先,部署一个 Autopilot 集群,提供一个完全托管的环境。接下来,创建一个自定义 ComputeClass 以指定加速器类型(GPU 或 TPU),可选择引用预留以进行资源分配。随后,建立一个 ResourceClaimTemplate,区分启用 RDMA 的 GPU(使用 deviceClassName: mrdma.google.com)和非 RDMA TPU(使用 netdev.google.com)。最后,部署一个工作负载,引用自定义 ComputeClass 和 ResourceClaimTemplate。这一关键步骤会触发 GKE Autopilot 配置指定的节点类型并设置托管 DRANET 网络。资源声明随后充当桥梁,直接将 Pod 绑定到已配置节点上的加速器,确保工作负载具有正确的网络设置。此完整流程统一适用于 GPU 和 TPU 部署。提供了额外资源以供进一步探索。