Google Cloud Blog на русском
Подписаться
Что нового в инфраструктуре и оркестрации ИИ в этом месяце
Google добивается всестороннего прогресса в области ИИ-инфраструктуры для поддержки эры агентов. Компания разрабатывает передовые модели ИИ, такие как Gemini, и проектирует программные фреймворки и аппаратное обеспечение. Google также интегрирует ИИ в повседневные инструменты и создает базовую инфраструктуру, включая вычислительные мощности, ускорители и программное обеспечение для оркестрации. Эта надежная инфраструктура имеет решающее значение для компаний, стремящихся ускорить инновации и улучшить пользовательский опыт. Google ежемесячно публикует обновления новостей о своей ИИ-инфраструктуре, включая обновления продуктов, технологий и инструментов. Последние обновления включают Google Cloud Managed Lustre, сетевые оптимизированные виртуальные машины C4N и масштабирование GKE Dataplane V2. Новые функции включают кооперативное разделение времени для рабочих нагрузок RL и открытый инструмент безопасности k8s-aibom. Руководства для практиков предлагают подробные инструкции по развертыванию моделей, таких как Kimi K3, и выполнению различных рабочих нагрузок ИИ на TPU. Технические схемы демонстрируют оптимизацию производительности для больших моделей на TPU Google. Gartner признал Google лидером в области ИИ-инфраструктуры. Отчеты указывают на растущий разрыв между амбициями в области ИИ и реальностью инфраструктуры, причем большинству организаций требуются модернизации. Confidential Computing теперь доступен на оптимизированных для ускорителей машинах серии G4 для безопасной обработки данных ИИ. TPU Developer Hub и TPU AI Telemetry Collector Agent предлагают новые ресурсы для разработчиков. В новых руководствах подробно описано создание высокой доступности для рабочих нагрузок ИИ-инференса на GKE и подключение ИИ-агентов к данным в Cloud Storage. Независимые тесты показывают, что GKE Inference Gateway превосходит ведущие управляемые сервисы Kubernetes. Успехи клиентов демонстрируют успешное применение ИИ-инфраструктуры Google в здравоохранении и на платформах отзывов клиентов.