GPU, когда они вам нужны: пред... Заметка
RSS Блог об облаках

GPU, когда они вам нужны: представляем виртуальные машины Flex-start

Инновации в области ИИ требуют дефицитных ресурсов, таких как GPU, что привело к разработке Dynamic Workload Scheduler (DWS) и его новой функции — виртуальных машин Flex-start. Виртуальные машины Flex-start предлагают уникальную модель потребления, отдавая приоритет справедливому доступу к GPU для ресурсоемких задач. Они идеально подходят для ограниченных по времени рабочих нагрузок, таких как дообучение моделей и пакетный вывод. Ключевым преимуществом является значительное улучшение доступности ресурсов за счет возможности постановки запросов в очередь на срок до двух часов. Пользователи также получают выгоду от экономически эффективного ценообразования со скидками по сравнению со стандартными тарифами по запросу. Виртуальные машины Flex-start могут работать максимум семь дней и использовать квоту прерываемых ресурсов. Новый параметр request-valid-for-duration позволяет пользователям указывать, как долго их запрос на виртуальную машину должен ожидать наличия ресурсов. Это отличается от предыдущего подхода "fail-fast", который быстро отклонял недоступные ресурсы. Виртуальные машины Flex-start предоставляют прямой доступ к API, обеспечивая легкую интеграцию в существующие рабочие процессы и планировщики. Пользователи сохраняют контроль благодаря возможностям остановки и запуска, а настраиваемое действие при завершении сохраняет конфигурации виртуальных машин по истечении срока действия.
CdXz5zHNQW_RH7eODgorB.png