В этой статье подробно описана настройка кластеров GKE Autopilot с управляемым DRANET для поддержки GPU и TPU. GKE Autopilot упрощает управление Kubernetes, беря на себя управление узлами, масштабированием и безопасностью, в то время как управляемый DRANET позволяет запрашивать сетевые ресурсы для подов, включая ресурсы для TPU и GPU с поддержкой RDMA. Настройка включает создание виртуальной частной сети (VPC), развертывание кластера Autopilot, а затем настройку пользовательских ComputeClasses и ResourceClaimTemplates.Перед началом работы настройте основные переменные, такие как регион, имя кластера, сеть, подсеть, URL резервирования и токен Hugging Face. Сначала развертывается кластер Autopilot, обеспечивающий полностью управляемую среду. Затем создается пользовательский ComputeClass для указания типа ускорителя (GPU или TPU), с возможностью ссылки на резервирование для выделения ресурсов.После этого устанавливается ResourceClaimTemplate, различающий GPU с поддержкой RDMA (используя deviceClassName: mrdma.google.com) и TPU без поддержки RDMA (используя netdev.google.com). Наконец, развертывается рабочая нагрузка, ссылающаяся как на пользовательский ComputeClass, так и на ResourceClaimTemplate. Этот важный шаг запускает GKE Autopilot для предоставления указанного типа узла и настройки управляемой сети DRANET.Затем запрос ресурса действует как мост, напрямую связывая поды с ускорителями на предоставленных узлах, обеспечивая правильную сетевую настройку для рабочей нагрузки. Этот комплексный процесс применяется единообразно как для развертываний GPU, так и для TPU. Предоставляются дополнительные ресурсы для дальнейшего изучения.