Google Developers Blog на русском
Подписаться
Единый API для маршрутизации моделей ИИ
API Gateway Google Cloud теперь предлагает функцию маршрутизации моделей в режиме предварительного просмотра, позволяя разработчикам динамически направлять трафик к таким моделям, как Gemini, Claude или OpenAI OSS-GPT, без жесткого кодирования конечных точек или управления прокси-серверами с открытым исходным кодом. Разработчики могут легко настраивать эти правила маршрутизации непосредственно в своих спецификациях OpenAPI 3.x, сопоставляя виртуальные имена моделей с конкретными целевыми серверами на общем хосте. После развертывания Gateway действует как бессерверный уровень входа, который принимает стандартные запросы, совместимые с OpenAI, автоматически транскодирует полезную нагрузку в нативную схему целевой модели и маршрутизирует трафик на лету.