Google Cloud API Gateway は、Public Preview でモデルルーティング機能を提供するようになりました。これにより、開発者はエンドポイントをハードコーディングしたり、オープンソースプロキシを管理したりすることなく、Gemini、Claude、OpenAI OSS-GPT のようなモデルに動的にトラフィックをルーティングできます。開発者は、仮想モデル名を共有ホスト上の特定のバックエンドターゲットにマッピングすることで、これらのルーティングルールを OpenAPI 3.x 仕様内で簡単に設定できます。デプロイされると、Gateway はサーバーレスなイングレスレイヤーとして機能し、標準的な OpenAI 互換のリクエストを受け付け、ペイロードをターゲットモデルのネイティブスキーマに自動的にトランスコードし、トラフィックをオンザフライでルーティングします。