Запуск агентов на Kubernetes с... Заметка
RSS Блог о Kubernetes

Запуск агентов на Kubernetes с помощью Agent Sandbox

Генеративный ИИ развивается от вызовов stateless функций к системе непрерывно работающих, координированных ИИ-агентов. Эти агенты требуют постоянного контекста, использования инструментов, выполнения кода и меж-агентного взаимодействия в течение длительных периодов времени. Kubernetes — идеальная инфраструктура для этих рабочих нагрузок, но традиционные примитивы не совсем соответствуют потребностям этих stateful, singleton агентов. Новый проект Kubernetes Agent Sandbox, разрабатываемый SIG Apps, направлен на устранение этого разрыва. Он представляет определение пользовательского ресурса (CRD) для управления средами выполнения ИИ-агентов. CRD Sandbox обеспечивает строгую изоляцию для выполнения непроверенного кода с использованием сред выполнения, таких как gVisor или Kata Containers. Он также предлагает надежное управление жизненным циклом, позволяя агентам масштабироваться до нуля в состоянии простоя и мгновенно возобновляться. Кроме того, каждому Sandbox присваивается стабильная идентификация для бесшовного меж-агентного взаимодействия. Для ускорения разработки в быстро развивающейся области ИИ доступен слой API Extensions. Расширение SandboxWarmPool устраняет холодные старты, поддерживая пул предварительно подготовленных подов Sandbox, готовых к немедленному использованию. Пользователи могут установить основные компоненты и компоненты расширений в свои кластеры Kubernetes. Проект Agent Sandbox является проектом с открытым исходным кодом и приглашает сообщество к участию в создании будущего облачных ИИ-агентов.