Google Developers Blog на русском
Подписаться
Запуск Ray на TPU, часть 1: Основы
Ray 2.55 представляет официальную, первоклассную поддержку Google Cloud TPU, позволяющую разработчикам запускать распределенные Python-нагрузки на ускорителях Google, используя привычные API задач и акторов Ray. Для удовлетворения строгих сетевых требований по поддержанию "срезов" TPU на нескольких хостах вместе через их межчиповый интерконнект (ICI), оператор KubeRay на GKE автоматически подготавливает и маркирует базовую аппаратную конфигурацию. Ray Core использует эти метки через примитив slice_placement_group() для атомарного резервирования полных срезов, позволяя разработчикам развертывать задания через KubeRay, Ray Train или Ray Serve, просто объявляя аппаратную топологию (например, "4x4"), без написания пользовательского кода размещения.