RSS Планета Python
Подписаться
Стек программирования на Python: 2. Анатомия агента
Агенты — это системы, построенные вокруг больших языковых моделей, а не просто более умные модели сами по себе. Они обладают специализированными компонентами, которые позволяют им сохраняться и действовать за пределами одного взаимодействия. Основная структура большинства агентов включает модель для рассуждений, инструкции для руководства, память для хранения информации, инструменты для расширения возможностей и цикл выполнения для непрерывной работы. Модель, или LLM, действует как движок рассуждений, обрабатывая язык и принимая решения о действиях. Инструкции определяют цель агента, его личность и желаемое поведение, фокусируя процесс принятия решений. В отличие от контекстного окна LLM, которое сбрасывается после каждого хода, память агента представляет собой внешнее, постоянное хранилище информации, доступное между сессиями. Эта память обеспечивает непрерывность работы, поддерживая контекст с течением времени. Инструменты предоставляют агентам функциональность, выходящую за рамки генерации текста, позволяя им взаимодействовать с внешним миром. Цикл выполнения оркестрирует цикл наблюдения, принятия решений, действий и оценки агента. Без любого из этих основных компонентов поведение агента значительно изменяется. Различие между кажущейся памятью LLM в рамках разговора и постоянной памятью агента имеет решающее значение для понимания функциональности агента. Система, а не сама модель, управляет информацией и подает ее в контекстное окно LLM. В конечном итоге эффективность агента зависит от синергетического взаимодействия всех его составных частей.