Google Cloud Blog на русском
Подписаться
Делайте больше с меньшими затратами: как GKE может снизить стоимость вашего агента на 75%
Современные облачные приложения становятся автономными цифровыми работниками, способными рассуждать и действовать. Изначально развертывание агентов на виртуальных машинах с использованием таких фреймворков, как OpenClaw, является простым подходом. Однако по мере масштабирования этих рабочих нагрузок, всплесковый характер работы ИИ-агентов приводит к неэффективному потреблению ресурсов, поскольку простаивающие агенты по-прежнему используют ЦП и память. Задача состоит в том, чтобы разместить больше агентов на фиксированных вычислительных ресурсах без ущерба для надежности или эффективности. Оркестрация, будучи интегрированной в архитектуру, значительно улучшает экономику, масштабируемость и надежность. Google Kubernetes Engine (GKE) предлагает продвинутые возможности оркестрации для максимизации вычислительной мощности. Базовый тест, запускающий агентов OpenClaw на microVM, достиг предела масштабирования в 61 агент из-за накладных расходов гостевых операционных систем. Переход на GKE Agent Sandbox, использующий легковесный gVisor для изоляции, увеличил плотность агентов на 44% до 88 агентов на том же узле. Эта оптимизация также снизила стоимость одного агента более чем на 30%. Дальнейшее повышение плотности включает использование снимков GKE Pod с функциями приостановки и возобновления для сохранения состояния простаивающих агентов, освобождая ресурсы. Это позволяет осуществлять сверхподписку вычислительных ресурсов, но требует адаптации стратегий для различных требований к задержке агентов. GKE обеспечивает одновременную поддержку чувствительных к задержке, сбалансированных и толерантных к задержке рабочих нагрузок агентов. Комбинируя GKE Agent Sandbox с приостановкой и возобновлением, плотность агентов может быть увеличена до 3,5 раз, а затраты снижены до 75% для периодически активных агентов. В конечном итоге, эффективное масштабирование агентов в эпоху агентов достижимо за счет использования возможностей платформы и интеграции оркестрации с самого начала.