Fleeks решает проблему медленного развертывания AI-агентов, предоставляя инфраструктуру, которая позволяет автономное развертывание за 31 секунду. Их основное нововведение - выполнение с сохранением состояния менее чем за 200 мс, достигнутое за счет предварительно прогретого пула контейнеров из более чем 1000 изолированных контейнеров gVisor, обеспечивающего быструю итерацию для агентов. Для оркестровки Fleeks представляет Model Context Protocol (MCP) для стандартизированной, декларативной интеграции инструментов, позволяющей агентам беспрепятственно взаимодействовать с внешними системами, такими как GitHub. Жизненный цикл платформы в продакшене поддерживает полиглотное выполнение среды выполнения, позволяя агентам переключать языки для каждой задачи в рамках одного рабочего пространства. Он также генерирует мгновенные URL-адреса предварительного просмотра для валидации в реальном времени и предоставляет встраиваемые элементы для распространения агентов с живым кодом и предварительным просмотром. Fleeks реализует архитектуру постоянного состояния, гарантируя, что память агента и изученные шаблоны сохраняются при перезапуске контейнера, что имеет решающее значение для долгосрочного обучения. Для экономии затрат они используют гибернацию на основе CRIU, которая создает контрольные точки и восстанавливает состояния контейнеров примерно за 2 секунды, сохраняя память процесса и открытые дескрипторы файлов. Эта инфраструктура значительно снижает инженерные трения, позволяя использовать такие приложения, как самовосстанавливающаяся инфраструктура, где агенты со временем обучаются и ускоряют решение проблем. Fleeks значительно превосходит традиционные бессерверные (Lambda) и решения для оркестровки контейнеров (Kubernetes) по времени холодного старта и предлагает уникальные функции, такие как постоянное состояние, мгновенные URL-адреса предварительного просмотра, встраиваемые элементы и гибернация. Хотя существуют некоторые технические ограничения, такие как ограничения ввода-вывода хранилища и отсутствие гибернации GPU, Fleeks идеально подходит для AI-агентов, требующих быстрой итерации, постоянной памяти и автономного развертывания.
dev.to
The Agentic Substrate: Why the Production Lifecycle Matters for Autonomous Systems.
