Planet Python на русском
Подписаться
Стек Python-кодирования: 2. Кто на самом деле выполняет работу, модель или программное обеспечение?
Разговор посвящен компонентам ИИ-агента, отличая большую языковую модель (LLM) от окружающего программного обеспечения. Когда ИИ организует фотографии, LLM не получает прямого доступа к файлам на компьютере; вместо этого она генерирует запросы. Этот запрос получает "оболочка" (harness), которая представляет собой программное обеспечение, управляющее операциями агента. Затем оболочка использует специальные "инструменты" для выполнения таких действий, как перечисление файлов или чтение метаданных.Оболочка отправляет результаты работы инструментов обратно в LLM, позволяя ей обрабатывать информацию и принимать решение о следующем шаге. LLM передает свои запросы оболочке через структурированные "вызовы инструментов", которые оболочка интерпретирует для вызова нужного инструмента. Это взаимодействие создает цикл агента, в котором модель, оболочка и инструменты постоянно обмениваются информацией.Аналогия модели как "мозга", инструментов как "мышц", а оболочки как "координатора" помогает прояснить их роли. Однако оболочка также обеспечивает соблюдение правил и ограничений, например, предотвращая непреднамеренное изменение файлов. Процесс завершается, когда модель генерирует окончательный ответ или когда оболочка останавливает операцию из-за ошибок или ограничений. Агент также должен убедиться, что задача, такая как копирование файлов в определенные папки, была выполнена точно и без изменения оригиналов.