Google Cloud и NVIDIA расширяю... Заметка

Google Cloud и NVIDIA расширяют совместную разработку инфраструктуры для эпохи агентов.

Предприятия переходят к сложным агентным ИИ-рабочим процессам, требующим инфраструктуры, обеспечивающей как высокую производительность, так и необходимую гибкость. Эта новая эра требует возможности запускать разнообразные модели для конкретных задач и сохранять суверенитет данных и операций. Google Cloud в сотрудничестве с NVIDIA представляет усовершенствования для решения этих задач. Новые экземпляры A5X, работающие на платформе NVIDIA Vera Rubin, обеспечивают ускоренные вычисления и расширенную глобальную доступность. Virgo Network улучшает возможности масштабирования, позволяя создавать массивные кластеры GPU на разных площадках. Решения для хранения данных теперь включают Managed Lustre с NVIDIA GPUDirect Storage для прямого доступа GPU к данным. Усовершенствованное KV-кэширование на экземплярах A5X улучшает память с большим контекстом для агентных рабочих процессов. Google Kubernetes Engine (GKE) будет оркестрировать эти экземпляры A5X, упрощая распределенные операции ИИ. Поддержка открытых моделей, таких как Gemma и Mistral, расширяется в портфеле Google Cloud Sovereign Cloud. Модели NVIDIA Nemotron и симуляции Cosmos интегрируются с Gemini для настройки и генерации виртуальных миров. Возможности Sovereign AI расширяются на локальные среды через Google Distributed Cloud. Это включает GPU NVIDIA Blackwell Ultra и модели Gemini Flash для развертываний в изолированных средах. Конфиденциальные вычисления в публичном облаке улучшены с помощью экземпляров Confidential G4 и опций Confidential Bare Metal. Эти инновации направлены на защиту конфиденциальной интеллектуальной собственности и пользовательских данных с помощью аппаратного обеспечения безопасности. Совместно разработанный Google Cloud AI Hypercomputer с полнофункциональной платформой NVIDIA предлагает единую основу для масштабирования ИИ.