Эпоха ИИ, основанная на действиях, требует инфраструктуры, поддерживающей рассуждения и действия, а не только ответы. Google признан лидером в области инфраструктуры ИИ компанией Gartner, что подчеркивает их сильное исполнение и видение. Этот успех основан на более чем десятилетнем совместном проектировании кремния и программного обеспечения с Google DeepMind для таких сервисов, как Gemini. Специализированные TPU от Google являются центральным элементом этого, причем TPU 8t оптимизирует обучение, а TPU 8i улучшает вывод для агентов. Они также сотрудничают с NVIDIA, предлагая экземпляры A5X и интегрируя GPU в сервисы Google Cloud. Google активно участвует в проектах с открытым исходным кодом и предлагает TorchTPU для разработчиков PyTorch.Их AI Hypercomputer предлагает улучшенную производительность на доллар за счет интегрированного оборудования и программного обеспечения. Ключевые компоненты включают системы хранения данных с высокой пропускной способностью и сеть Virgo для подключения к массивным вычислительным ресурсам. GKE Inference Gateway оптимизирует масштабирование моделей с низкой задержкой и сниженными затратами. Эта инфраструктура обеспечивает плавное масштабирование, а Cluster Director и GKE позволяют обучать до 130 000 узлов. GKE Agent Sandbox обеспечивает безопасное выполнение агентов с низкой задержкой и оптимизацию затрат. Наконец, Cross-Cloud Network и Cloud WAN обеспечивают стабильную производительность в мультиоблачных и гибридных средах.