RSS Блог об облаках
Подписаться
За пределами статических подсказок: создание масштабируемых, полиморфных мультиагентных систем с помощью ADK от Google
Корпоративный генеративный ИИ сталкивается с проблемами масштабируемости при переходе от простых чат-ботов к сложным автономным рабочим процессам. Традиционное статическое промптингование, при котором все схемы предварительно загружаются, приводит к раздуванию контекстного окна, высоким затратам и снижению точности из-за диффузии внимания. Такая архитектура с трудом справляется с сотнями структур данных и динамическими бизнес-правилами. Необходим новый подход для отделения рассуждений агента от требований к структурным данным. В этой статье представлена полиморфная валидация схем с учетом контекста — шаблон, использующий реестр метаданных для динамического внедрения контекста и принудительного применения схем во время выполнения.Статические архитектуры агентов приводят к раздуванию контекстного окна, задержкам и диффузии внимания, когда модели смешивают нерелевантные схемы. Поддержание синхронного кода и валидации становится затруднительным, что приводит к накоплению долга. Передача управления между несколькими агентами не имеет детерминированных проверок, что приводит к беззвучным сбоям. Предлагаемая архитектура выносит схемы во внешнее централизованное хранилище метаданных, разделяя выполнение на обнаружение контекста и динамическую валидацию. Схемы хранятся в виде дескрипторов JSON, содержащих определения полей, правила сопоставления и хуки валидации.Цикл динамического обнаружения и валидации начинается с легкого промпта обнаружения. Агент сначала выделяет намерение пользователя без жестких ограничений схемы. Как только намерение становится ясным, он загружает конкретные правила схемы из реестра метаданных в память сессии. Затем система входит в цикл оценки, запрашивая точные поля и отправляя необработанные входные данные отдельному полиморфному валидатору. Если валидация не удается, код ошибки инициирует самокоррекцию; если она проходит успешно, поле фиксируется в основном JSON-объекте.Завершение происходит только тогда, когда основной объект полностью соответствует критериям метаданных, что обеспечивает безопасные последующие вызовы API или чистую передачу управления между несколькими агентами. Этот шаблон проектирования, реализованный в Google Cloud, использует ADK для координации между несколькими агентами и Gemini Flash для быстрого и экономичного инференса. Cloud Storage выступает в качестве внешнего хранилища для дескрипторов схем, которые могут обновляться администраторами без развертывания кода. Функции Cloud Run обеспечивают разделенные, программные хуки валидации.Этот переход к архитектуре динамических схем предлагает значительные бизнес- и операционные преимущества. Он обеспечивает 100% плотность рассуждений, избегая загромождения контекста, что резко снижает затраты и галлюцинации. Адаптивность достигается за счет обновлений без простоя путем простого изменения дескрипторов схем в реестре. Детерминированное принудительное применение состояния устраняет беззвучные сбои между несколькими агентами, проверяя контекст перед обращением к корпоративным приложениям.