Google Cloud API Gateway가 이제 Public Preview에서 모델 라우팅 기능을 제공하여, 개발자들이 Gemini, Claude, 또는 OpenAI OSS-GPT와 같은 모델에 엔드포인트를 하드코딩하거나 오픈소스 프록시를 관리할 필요 없이 동적으로 트래픽을 라우팅할 수 있게 되었습니다. 개발자들은 가상 모델 이름을 공유 호스트의 특정 백엔드 타겟에 매핑함으로써 OpenAPI 3.x 사양 내에서 이러한 라우팅 규칙을 쉽게 구성할 수 있습니다. 배포되면, 게이트웨이는 서버리스 인그레스 레이어 역할을 하여 표준 OpenAI 호환 요청을 수락하고, 페이로드를 대상 모델의 네이티브 스키마로 자동 트랜스코딩하며, 트래픽을 실시간으로 라우팅합니다.