RSS クラウド ブログ
フォロー
GKEマネージドDRANETによるオートパイロットクラスター:GPUとTPU
このブログ記事では、GPUとTPUをサポートするためにマネージドDRANETを備えたGoogle Kubernetes Engine(GKE)Autopilotクラスターの設定について詳しく説明します。GKE Autopilotは、ノード、スケーリング、セキュリティを処理することでKubernetes管理を簡素化し、マネージドDRANETは、TPUやRDMA対応GPUを含むPodのネットワークリソースを要求できるようにします。設定には、Virtual Private Cloud(VPC)の作成、Autopilotクラスターのデプロイ、カスタムComputeClassとResourceClaimTemplateの設定が含まれます。続行する前に、リージョン、クラスター名、ネットワーク、サブネットワーク、予約URL、Hugging Faceトークンなどの必須変数を設定します。まず、完全に管理された環境を提供するAutopilotクラスターがデプロイされます。次に、アクセラレータタイプ(GPUまたはTPU)を指定し、オプションでリソース割り当てのための予約を参照するカスタムComputeClassが作成されます。これに続いて、RDMA対応GPU(deviceClassName: mrdma.google.comを使用)と非RDMA TPU(netdev.google.comを使用)を区別するResourceClaimTemplateが確立されます。最後に、カスタムComputeClassとResourceClaimTemplateの両方を参照するワークロードがデプロイされます。この重要なステップにより、GKE Autopilotは指定されたノードタイプをプロビジョニングし、マネージドDRANETネットワーキングを構成します。次に、リソースクレームは、Podをプロビジョニングされたノード上のアクセラレータに直接バインドするブリッジとして機能し、ワークロードの正しいネットワーキング設定を保証します。この包括的なプロセスは、GPUとTPUのデプロイメントの両方に均一に適用されます。さらに詳しい調査のための追加リソースが提供されています。