Шлюз Amazon Bedrock AgentCore теперь поддерживает API Amazon Bedrock InvokeModel и InvokeModelWithResponseStream в своем конечной точке вывода, а также маршрутизацию резервных моделей для трафика вывода. Благодаря поддержке InvokeModel вы можете направить существующую интеграцию Amazon Bedrock SDK на шлюз и получить доступ к любому поставщику моделей через одну управляемую конечную точку, без необходимости переписывать клиентский код для каждого поставщика. Благодаря резервированию моделей шлюз автоматически направляет запрос на альтернативную модель или поставщика, когда основное назначение подвергается ограничениям, исчерпало емкость или недоступно, поэтому ваши агенты остаются доступными без необходимости реализации собственной логики повторных попыток каждым клиентом.Для маршрутизации резервных вариантов вы определяете упорядоченную цепочку альтернативных назначений в правиле шлюза, а также условия, которые вызывают переключение, такие как ограничения, ошибки сервера или тайм-ауты ответа. Встроенный автоматический выключатель пропускает назначения, которые в настоящее время не работают, поэтому запросы быстрее достигают работоспособного назначения, и вы избегаете дополнительной задержки при неудачных попытках. Маршрутизация резервных вариантов происходит за кулисами, что означает, что вы отправляете один запрос и получаете один ответ, независимо от внутренних проб и ошибок для данного запроса.Эти функции доступны во всех регионах AWS, где доступен шлюз Amazon Bedrock AgentCore (за исключением регионов в Китае). Чтобы узнать больше, обратитесь к руководству пользователя шлюза Amazon Bedrock AgentCore.