이 블로그 게시물은 GPU 및 TPU를 지원하기 위해 관리형 DRANET을 사용하여 Google Kubernetes Engine(GKE) Autopilot 클러스터를 설정하는 과정을 자세히 설명합니다. GKE Autopilot은 노드, 확장 및 보안을 처리하여 Kubernetes 관리를 단순화하며, 관리형 DRANET은 TPU 및 RDMA 지원 GPU를 포함하여 Pod에 대한 네트워크 리소스를 요청할 수 있도록 합니다. 설정에는 Virtual Private Cloud(VPC) 생성, Autopilot 클러스터 배포, 사용자 지정 ComputeClasses 및 ResourceClaimTemplates 구성이 포함됩니다.진행하기 전에 지역, 클러스터 이름, 네트워크, 서브네트워크, 예약 URL 및 Hugging Face 토큰과 같은 필수 변수를 구성합니다. 먼저, 완전히 관리되는 환경을 제공하는 Autopilot 클러스터가 배포됩니다. 다음으로, 가속기 유형(GPU 또는 TPU)을 지정하고 리소스 할당을 위해 선택적으로 예약을 참조하는 사용자 지정 ComputeClass가 생성됩니다.이어서, RDMA 지원 GPU(deviceClassName: mrdma.google.com 사용)와 비-RDMA TPU(netdev.google.com 사용)를 구분하는 ResourceClaimTemplate가 설정됩니다. 마지막으로, 사용자 지정 ComputeClass와 ResourceClaimTemplate를 모두 참조하는 워크로드가 배포됩니다. 이 중요한 단계는 GKE Autopilot이 지정된 노드 유형을 프로비저닝하고 관리형 DRANET 네트워킹을 구성하도록 트리거합니다.그런 다음 리소스 클레임은 Pod를 프로비저닝된 노드의 가속기에 직접 바인딩하는 브리지 역할을 하여 워크로드에 대한 올바른 네트워킹 설정을 보장합니다. 이 포괄적인 프로세스는 GPU 및 TPU 배포 모두에 대해 균일하게 적용됩니다. 추가 탐색을 위한 추가 리소스가 제공됩니다.