AI의 에이전트 시대는 단순히 응답이 아닌 추론과 행동을 지원하는 인프라를 요구합니다. 구글은 AI 인프라 분야의 리더로 가트너에 의해 인정받았으며, 이는 그들의 강력한 실행력과 비전을 강조합니다. 이러한 성공은 Gemini와 같은 서비스를 위해 구글 딥마인드와 10년 이상 실리콘과 소프트웨어를 공동 설계해 온 것에 기반합니다. 구글의 맞춤형 TPU는 이에 중심적인 역할을 하며, TPU 8t는 학습을 최적화하고 TPU 8i는 에이전트의 추론을 향상시킵니다. 또한 NVIDIA와 협력하여 A5X 인스턴스를 제공하고 구글 클라우드 서비스에 GPU를 통합하고 있습니다. 구글은 오픈 소스 프로젝트에 적극적으로 기여하고 PyTorch 개발자를 위해 TorchTPU를 제공합니다.구글의 AI 하이퍼컴퓨터는 통합된 하드웨어와 소프트웨어를 통해 달러당 성능을 향상시킵니다. 주요 구성 요소에는 고대역폭 스토리지 시스템과 대규모 컴퓨팅 연결을 위한 버고 네트워크가 포함됩니다. GKE 추론 게이트웨이는 낮은 지연 시간과 비용 절감을 통해 모델 확장을 최적화합니다. 이 인프라는 클러스터 디렉터와 GKE를 통해 최대 130,000개의 노드까지 학습을 가능하게 하는 유연한 확장을 지원합니다. GKE 에이전트 샌드박스는 안전하고 낮은 지연 시간의 에이전트 실행과 비용 최적화를 제공합니다. 마지막으로, 크로스 클라우드 네트워크와 클라우드 WAN은 멀티 클라우드 및 하이브리드 환경 전반에 걸쳐 일관된 성능을 보장합니다.