В этой статье мы рассмотрим пять возможностей, доступных в SageMaker HyperPod inference: многоуровневый сбор данных для аудита и улучшения моделей, прямое развертывание из Hugging Face Hub, локальная загрузка моделей на NVMe для более быстрого холодного старта, автоматизированный DNS Route 53 для пользовательских доменов и IAM на уровне подов через пользовательские учетные записи служб.