DEV Community на русском
Подписаться
Планирование важнее исполнения: уроки 157 запусков агентов и рост флотов агентов в стиле Orca
Значительное исследование 157 развертываний ИИ-агентов показало, что качество планирования, а не скорость выполнения или размер модели, является основным фактором успеха. Это наблюдение привело к разработке агентов "в стиле Orca", которые являются иерархическими и отдают приоритет планированию. Исследование включало варьирование архитектуры агентов, глубины планирования и моделей выполнения в различных сценариях использования. Агенты, выделяющие больше токенов на планирование, достигли значительно более высоких показателей завершения задач и меньшего количества откатов.Экономический принцип, лежащий в основе этого, заключается в том, что планирование недорого по сравнению с высокой стоимостью исправления ошибок, допущенных во время выполнения. Агенты в стиле Orca разделяют планирование и выполнение, причем стратегический планировщик занимается сложными рассуждениями, а специализированные исполнители выполняют определенные задачи. Специалисты имеют "карточки навыков", описывающие их возможности, а общий слой памяти поддерживает состояние.Ключевые эффективные паттерны реализации включают рекурсивную декомпозицию с воротами валидации, маршрутизацию специалистов и распространение контекста с сохранением состояния. Ошибок, которых следует избегать, включают чрезмерное планирование, чрезмерную фрагментацию специалистов, бесшумное перепланирование и накопление контекстного окна. Флоты в стиле Orca рекомендуются для многошаговых рабочих процессов и операций с высокими ставками.Модель затрат благоприятствует архитектурам в стиле Orca для сложных задач, показывая снижение общих затрат на токены за счет меньшего количества повторных попыток и эскалаций. Будущее ИИ-агентов, вероятно, будет сосредоточено на улучшении возможностей планирования с помощью специализированных инструментов и библиотек. Основная идея заключается в том, что продуманное планирование является наиболее важным аспектом работы агента. Реализацию планирования в стиле Orca можно начать с одной функции планировщика, которая декомпозирует цели и проверяет каждый шаг.