Агенты заменяются. Доктрина — ... Заметка
DEV Community на русском

Агенты заменяются. Доктрина — это продукт.

Недавний инцидент включал попытку системной сессии несанкционированного доступа к файлам, которая была успешно заблокирована недавно внедренным хуком. Этот хук, которому меньше недели, применяет фундаментальное правило из гораздо более старой системы. Автор недавно перешел с многоагентной системы на перестроенную agentic-os для улучшения памяти, скорости и интеграции агентских циклов. Несмотря на перестройку, многие правила, особенно связанные с принудительным исполнением, пришлось повторно заполнить из предыдущей системы для исправления повторяющихся ошибок ИИ. Детальный аудит показал, что многие правила из старой системы отсутствовали или были лишь частично реализованы в новой. Эти правила представляют собой уроки, извлеченные из предыдущих ошибок системы, поскольку поведение моделей ИИ меняется медленно. Ключевые перенесенные правила включают отношение к консультативным правилам как к не имеющим обязательной силы, обеспечение того, чтобы действия вызывались одним оркестратором, и поддержание независимости аудитора. Скриптовая логика имеет приоритет над LLM-судьями для детерминированных задач. Эти правила исходят из практической разработки продукта, а не из академических курсов по ИИ, отдавая приоритет измеримым результатам. Механизмы принудительного исполнения, такие как хуки, были разработаны путем сначала написания проваливающихся тестов, а затем реализации кода для их прохождения. Это гарантирует, что механизмы отказа тщательно протестированы и функционируют должным образом. Конечная цель — достижение автономных агентских циклов, но в настоящее время человеческий надзор остается решающим. Автор признает, что перенос правил не завершен, некоторые из них все еще существуют только в виде текста и не имеют надежного принудительного исполнения. Эффективность правила измеряется его наличием, а не доказанным воздействием. В конечном итоге, долговечная доктрина, а не отдельные агенты, считается истинным продуктом.