Объявляем о снижении задержки при инференции для основной модели Amazon Nova Pro в Amazon Bedrock

Модель основы Amazon Nova Pro теперь поддерживает инференцию с оптимизацией задержки в предварительном просмотре на Amazon Bedrock, что позволяет достичь более быстрых thời ответа и улучшить отзывчивость для приложений с генеративным ИИ. Инференция с оптимизацией задержки ускоряет время ответа для приложений, чувствительных к задержке, mejorariting конечный пользовательский опыт и даёт разработчикам больше гибкости для оптимизации производительности для их случаев использования. Доступ к этим возможностям не требует дополнительной настройки или тонкой настройки модели, что позволяет немедленно улучшить существующие приложения с более быстрыми временами ответа. Инференция с оптимизацией задержки для Amazon Nova Pro доступна через межрегиональную инференцию в регионах US West (Орегон), US East (Вирджиния) и US East (Огайо). Узнайте больше о моделях основы Amazon Nova на блоге новостей AWS, странице продукта Amazon Nova или руководстве пользователя Amazon Nova. Узнайте больше об инференции с оптимизацией задержки на Bedrock в документации. Вы можете начать работу с моделями основы Amazon Nova в Amazon Bedrock из консоли Amazon Bedrock.