Первоначальная вера в корпоративный ИИ предполагала максимальную автономию агентов для повышения производительности, но это предположение теперь терпит неудачу на практике. Успешный агентный ИИ будет основан на агентах с конкретными обязанностями и четкими правилами работы, а не только на гибкости. Gartner прогнозирует, что более 40% текущих проектов агентного ИИ не доживут до 2028 года из-за растущих затрат, неясной ценности и недостаточного контроля рисков. Данные McKinsey показывают, что внедрение агентного ИИ опережает зрелость ответственного ИИ, при этом уровни управления и контроля низки. Фокус смещается с возможностей агентов на построение доверия, требуя одобрения со стороны отделов рисков, юридического и комплаенс-отделов.Полная автономия выходит из строя на практике из-за сложности интеграции и фундаментального компромисса между автономией и подотчетностью. Отслеживание решений, принятых высокоавтономными агентами, затруднено, что приводит к потенциальным нарушениям нормативных требований в критически важных областях. Интеграция автономных агентов в устаревшие рабочие процессы требует полного перестроения существующих точек принятия решений и аудиторских следов. В настоящее время осведомленность о рисках ИИ значительно превышает усилия по их снижению, при этом проблемы безопасности и рисков называются основными препятствиями для масштабирования.Ведущие предприятия реструктурируют автономию, создавая агентов с узкой сферой действия, внедряя человеческие контрольные точки на границах принятия решений, отдавая приоритет отслеживаемости решений и используя суверенитет данных для активного управления. Цель состоит в калиброванном контроле, концентрируя надзор там, где ошибки дорогостоящи, а не в максимальном контроле. Оценка стеков агентов включает оценку реконструкции решений, ограниченных обязанностей, размещения контрольных точек и потенциального воздействия в случае компрометации.Будущее конкурентное преимущество в агентном ИИ будет принадлежать организациям, которые с самого начала создают надежные системы, интегрируя ограниченную автономию, контролируемые решения, отслеживаемость и суверенитет данных. Это требует изменения в технических заданиях с приоритета автономии на встраивание управления и доверия в основную архитектуру. Гонка больше не идет о скорости внедрения, а о получении и поддержании одобрения со стороны критически важных надзорных отделов.