Инстансы Amazon EC2 G6 теперь доступны в регионе AWS GovCloud (US-East) для инференса искусственного интеллекта Amazon SageMaker. Эти инстансы используют графические процессоры NVIDIA L4 Tensor Core с 24 ГБ памяти каждый и процессоры AMD EPYC. Инстансы G6 обеспечивают значительно улучшенную производительность глубокого обучения для инференса, до двух раз превосходящую производительность инстансов G4dn. Это расширение позволяет государственным учреждениям в GovCloud развертывать конечные точки инференса для генеративного ИИ. Такие рабочие нагрузки включают языковые модели, генерацию изображений и задачи компьютерного зрения. Эти развертывания будут соответствовать строгим нормативным требованиям к соответствию и резидентности данных. Инстансы G6 обеспечивают отличное соотношение цены и производительности для производственных нужд инференса в пределах 24 ГБ памяти GPU. Теперь они доступны в AWS GovCloud (US-East) в дополнение к другим регионам. Заинтересованные пользователи могут найти подробную информацию о ценах на странице цен AWS. Эта доступность расширяет возможности ИИ для государственных организаций.