Google Cloud Blog на русском
Подписаться
Обеспечение открытой инфраструктуры для автономных агентов
ИИ эволюционирует от систем человеческого масштаба к операциям агентского масштаба, превращаясь из простых записей в активные системы. Этот сдвиг требует новой основы для обработки сложных агентских рабочих процессов. Для решения этой задачи три проекта с открытым исходным кодом, Agent Substrate, gVisor и OpenRL, были переданы Фонду облачных нативных вычислений (CNCF). Agent Substrate, теперь в версии 1.0 и доступный на GKE, эффективно масштабирует изолированные среды агентов. Он отделяет сеансы агентов с сохранением состояния от активных вычислений, сохраняя неактивных агентов в хранилище для быстрого восстановления. Это значительно увеличивает плотность контейнеров за счет снижения накладных расходов на неактивные вычисления. GVisor обеспечивает необходимую изоляцию для недоверенного кода агентов, запуская легкое ядро пользовательского пространства. Это предотвращает прямое взаимодействие с ядром хоста Linux, повышая безопасность. OpenRL упрощает распространение послетренировочных и обслуживающих агентов обучения с подкреплением. Он позволяет самостоятельно размещать циклы послетренировочной обработки RL непосредственно на Kubernetes, используя обычный Python. Эти проекты в совокупности предлагают открытый стек, совместимый с любым кластером Kubernetes на различных облаках и аппаратных ускорителях. Agent Substrate позволяет запускать миллионы песочниц с 10-кратной стандартной плотностью контейнеров. GVisor гарантирует, что недоверенный код никогда не скомпрометирует ядро хост-системы. OpenRL оркестрирует эффективные рабочие процессы обучения с подкреплением, используя Kubernetes для распределенного обучения. Пожертвование CNCF направлено на содействие совместной разработке и ускорение внедрения этих важнейших компонентов инфраструктуры ИИ.