Агентный ИИ кардинально меняет разработку программного обеспечения, позволяя выполнять автономные действия без постоянного контроля со стороны человека. В отличие от предыдущих систем автодополнения кода на базе ИИ, где человек проверял каждый шаг, агенты теперь могут выполнять сложные задачи, такие как открытие запросов на слияние или изменение конфигураций. Этот сдвиг требует новых стратегий управления, ориентированных на разрешения и действия агента, а не только на качество кода. Организации обеспокоены атрибуцией кода, отслеживаемостью намерений и масштабируемой документацией для кода, сгенерированного ИИ.Надежная система управления определяет, к чему агенты могут получить доступ и что они могут делать, гарантируя доказуемость действий. Ключевые точки контроля включают централизованный каталог одобренных агентов и потоков, составную идентификацию, связывающую действия агента с людьми, и ограничения на одобрение инструментов. Ограничения на запросы также имеют решающее значение для предотвращения угона агента. Возникают опасения по поводу конфиденциальности данных, что подчеркивает важность самостоятельного размещения ИИ и опций "принеси свою модель" для конфиденциального кода.Управление включает в себя намеренное определение того, где проверка человеком остается необходимой. Интерактивная работа обычно требует прямого одобрения человека, в то время как автоматизированные рабочие процессы требуют предварительного контроля или последующих аудиторских проверок. Метрики для оценки внедрения ИИ должны охватывать принятие, качество принятия, риски, исправление и окупаемость инвестиций. Практический контрольный список для пользователей платформы агентов GitLab Duo включает проверку использования данных, одобрение агентов, установку ограничений на инструменты и определение контрольных точек с участием человека. Непрерывная переоценка управления имеет жизненно важное значение по мере появления новых возможностей ИИ.