Обучайте и развертывайте модел... Заметка

Обучайте и развертывайте модели на Amazon SageMaker HyperPod, используя новый CLI и SDK HyperPod

В этом посте мы демонстрируем, как использовать новый Amazon SageMaker HyperPod CLI и SDK, чтобы упростить процесс обучения и развертывания крупных моделей ИИ с помощью практических примеров распределенного обучения с использованием Fully Sharded Data Parallel (FSDP) и развертывания моделей для вывода. Инструменты предоставляют упрощенные рабочие процессы посредством простых команд для общих задач, а также предлагают гибкие варианты разработки через SDK для более сложных требований, а также всесторонние функции наблюдения и готовые к производству возможности развертывания.
CdXz5zHNQW_GYs5ku22ne.jpeg