Когда песочница протекает: Загрязнение контекста между рабочими пространствами БМО

Автор поддерживал отдельные рабочие пространства: песочницу для исследований и курируемый портфель для завершённой работы, стремясь к одностороннему потоку информации. Первоначальная настройка не удалась из-за утечки информации между пространствами, что привело к дублированию, неправильным путям к файлам и несоответствиям в поведении. Произошли три типа загрязнений: проблемы с путями, дрейф поведения и проблемы с продвижением. Первоначально автор полагался на документацию, контрольные списки и соглашения об именовании в качестве границ, но они оказались недостаточными из-за человеческой ошибки. Он перешёл к техническим решениям, таким как файлы-маяки, подтверждающие правильный каталог, предварительные проверки и отслеживание происхождения только по указателям. Основным выводом является то, что обеспечение соблюдения границ более важно, чем концептуальное понимание, для предотвращения спагетти-кода в рабочих процессах LLM. Дрейф конфигурации, при котором разные настройки приводят к вариациям в выходных данных ИИ, особенно трудно обнаружить. Повторяющиеся проблемы загрязнения указывают на отсутствие обеспечения соблюдения, а не на ошибки проектирования. Центральным правилом является то, что каждая граница рабочего пространства требует соответствующего механизма обеспечения соблюдения для поддержания целостности, и ваше внимание в конечном итоге ослабнет.