AIのエージェンティック時代は、単に応答するだけでなく、推論と行動をサポートするインフラストラクチャを要求します。Googleは、その強力な実行力とビジョンを強調し、GartnerによってAIインフラストラクチャのリーダーとして認められています。この成功は、Geminiのようなサービスのために、Google DeepMindと10年以上にわたるシリコンとソフトウェアの共同設計の上に築かれています。GoogleのカスタムTPUはこれらの中核をなし、TPU 8tはトレーニングを最適化し、TPU 8iはエージェントの推論を強化します。また、NVIDIAとも提携し、A5Xインスタンスを提供し、Google CloudサービスにGPUを統合しています。Googleはオープンソースプロジェクトに積極的に貢献し、PyTorch開発者向けにTorchTPUを提供しています。同社のAI Hypercomputerは、統合されたハードウェアとソフトウェアを通じて、ドルあたりのパフォーマンスを向上させます。主要コンポーネントには、高帯域幅ストレージシステムと、大規模なコンピューティング接続のためのVirgo Networkが含まれます。GKE Inference Gatewayは、低レイテンシとコスト削減でモデルのスケーリングを最適化します。このインフラストラクチャは、Cluster DirectorとGKEが最大130,000ノードまでのトレーニングを可能にし、流動的なスケーリングを実現します。GKE Agent Sandboxは、安全で低レイテンシのエージェント実行とコスト最適化を提供します。最後に、Cross-Cloud NetworkとCloud WANは、マルチクラウドおよびハイブリッド環境全体で一貫したパフォーマンスを保証します。