От разработки prompt до опыта агента

Традиционный подход к работе с большими языковыми моделями, инженерия подсказок, развивается по мере того, как модели приобретают новые возможности. Сейчас модели ведут более насыщенный "внутренний монолог" посредством использования инструментов, что позволяет им рассуждать и предпринимать действия. Этот сдвиг привел к разработке агентов, которые могут автономно преследовать цели. Сложность переместилась от подсказки к рассуждениям модели, использующей такие инструменты, как терминал, для выполнения задач. Однако это вызывает опасения по поводу контроля и безопасности, требуя баланса между свободой и ограничениями. Основное влияние на выбор агентов оказывает дизайн их среды, а не написание сценариев поведения. Управление развивающимся контекстным окном долгосрочного агента имеет решающее значение, что требует контекстной инженерии. Это контрастирует с инженерией подсказок, ориентированной на предоставление руководств и доступа к информации для агентов, а не на совершенствование первоначальной подсказки. Опыт работы агента, ориентированный на обнаружение инструментов и структуру информации, становится жизненно важным. Такие инструменты, как Context Hub Эндрю Нга, облегчают самосовершенствование посредством локальных и общих петель обратной связи. Эта эволюция требует тщательного рассмотрения интерфейсов, которые мы создаем как для людей, так и для агентов ИИ.