RSS Планета Python
Подписаться
Армин Ронахер: «Грядущая петля»
Автор наблюдает растущую тенденцию к созданию систем поверх кодирующих агентов, формируя циклы, которые расширяют возможности агента за пределы одной сессии. Эти циклы включают очереди задач, машинное исполнение и управляющую оболочку, которая решает, продолжать ли задачу, изменяя контекст, или отправлять ее на другую машину. В то время как кодирующие агенты имеют внутренние циклы для задач, появляется новый внешний цикл "уровня управляющей оболочки", который доминирует в дискурсе. Автор лично испытывает трудности с этим подходом "без участия человека" для кода, который ему важен, находя сгенерированный код слишком защитным, сложным и лишенным сильных инвариантов. Текущие модели склонны добавлять чрезмерные локальные защиты вместо предотвращения нежелательных состояний, проблема, которая, кажется, усугубляется. Циклы усиливают эти тенденции, делая системы менее понятными, хотя они кажутся более надежными. Однако циклы превосходны в таких областях, как портирование кода, исследование производительности и сканирование безопасности, где целью является трансформация кода или создание недолговечных артефактов. В этих случаях долговечность или проверяемость сгенерированного кода менее критичны, чем процесс исследования или трансформации. Автор противопоставляет это написанию долговечного кода, который он сравнивает с эволюцией от программного обеспечения как детерминированной машины к программному обеспечению как организму. Этот сдвиг подразумевает отход от глубокого человеческого понимания к мониторингу, стабилизации и обращению с системами почти как с биологическими сущностями. Отказаться от этого машиноориентированного будущего становится трудно, особенно в сфере безопасности, где злоумышленники и исследователи уже используют циклы, вынуждая защитников адаптироваться. Конкурентное давление и скорость некоторых команд, использующих оркестрацию, также будут способствовать внедрению. Наиболее тревожным аспектом является потенциальная когнитивная и практическая зависимость от этих циклических систем, что вызывает вопросы о будущем доступе, стоимости и способности понимать код без помощи машины. В конечном итоге, кодовые базы могут стать зависимыми от участия машины для их обслуживания.