Новая структура ИИ Alibaba про... Заметка
RSS VentureBeat

Новая структура ИИ Alibaba пропускает загрузку каждого инструмента, сокращая использование токенов агента на 99%

Корпоративные ИИ-агенты испытывают трудности с маршрутизацией подзадач к правильным инструментам из больших библиотек навыков. SkillWeaver, новая структура, решает эту проблему, создавая граф выполнения и выбирая соответствующие навыки для каждого узла задачи. Она представляет Skill-Aware Decomposition (SAD) — цикл обратной связи, который итеративно улучшает выбор инструментов. Этот композиционный подход и механизм обратной связи отличаются от фреймворков однократной маршрутизации инструментов. SkillWeaver актуален для ИИ-агентов, оркестрирующих экосистемы для многоэтапных бизнес-операций. Эксперименты показывают, что SkillWeaver значительно повышает точность и сокращает потребление токенов более чем на 99%. Гранулярность декомпозиции задач определяется как основное препятствие для точного извлечения инструментов. Существующие фреймворки использования инструментов часто терпят неудачу со сложными, композиционными реальными запросами, требующими множества навыков. Три этапа SkillWeaver — Декомпозиция, Извлечение и Композиция — разбивают запросы, идентифицируют потенциальные инструменты и планируют выполнение. SAD улучшает декомпозицию, передавая извлеченные навыки обратно в LLM для лучшего соответствия словарного запаса и гранулярности. Этот итеративный подход, особенно с SAD, значительно повышает точность декомпозиции, особенно для сложных задач. Стратегия извлечения и маршрутизации SkillWeaver также резко сокращает использование токенов по сравнению с одновременным предоставлением всей библиотеки инструментов. Разработчики могут реализовать компоненты SAD и извлечения, используя существующие библиотеки, хотя механизмы восстановления после ошибок потребуют отдельной разработки для продакшена.