Базы знаний Amazon Bedrock теперь поддерживают инференцию между регионами

База знаний Amazon Bedrock Knowledge Bases объявляет о поддержке межрегионального вывода, опциональной функции, которая позволяет разработчикам эффективно управлять всплесками трафика, используя вычислительные ресурсы в разных регионах AWS. Используя межрегиональный вывод, клиенты Amazon Bedrock Knowledge Base, использующие API RetrieveAndGenerate, смогут получить более высокие пределы пропускной способности и улучшенную устойчивость в периоды пикового спроса. Оформившись, разработчики больше не должны тратить время и усилия на прогнозирование колебаний спроса. Вместо этого межрегиональный вывод динамически распределяет трафик между разными регионами, обеспечивая оптимальную доступность для каждого запроса и более гладкую работу в периоды высокого использования. Чтобы использовать межрегиональный вывод, клиентам необходимо указать профиль вывода как "modelARN" в запросе API RetrieveAndGenerate. Нет дополнительного маршрутизации стоимости за использование межрегионального вывода, и вы будете платить по региону, в котором вы сделали запрос (источник региона). Ознакомьтесь со списком поддерживаемых моделей и предварительно определенных регионов здесь. Чтобы узнать больше о функции и как начать работу, обратитесь к документации Amazon Bedrock или этому блогу.