Быстрая эксплуатация уязвимостей, происходящая еще до появления исправлений, требует новых подходов для команд безопасности. Интеграция агентов на основе больших языковых моделей (LLM) в конвейеры разработки предлагает автоматизированное обнаружение и устранение уязвимостей. Однако развертывание привилегированных ИИ-агентов требует зрелых процессов интеграции, чтобы избежать новых архитектурных рисков. Mandiant Consulting предлагает руководство по созданию операционных механизмов контроля для управления уязвимостями с помощью ИИ. Организации должны принять такие фреймворки, как NIST AI Risk Management Framework и OWASP Top 10 для LLM. Расширение существующих детерминированных средств контроля на среду выполнения ИИ имеет решающее значение для безопасной реализации. Это включает безопасность данных перед агентом с использованием синтетических данных и моделей защиты в глубину, а также строгую изоляцию рабочих нагрузок. Красное тестирование ИИ-агентов и использование машинных идентификаторов с наименьшими привилегиями и человеческими контроллерами являются жизненно важными мерами обеспечения. Устойчивость цепочки поставок для навыков ИИ и надежный анализ токсичных потоков необходимы для предотвращения новых векторов атак. Моделирование угроз под руководством человека остается критически важным для анализа бизнес-рисков и недостатков архитектурного дизайна. ИИ-агенты могут помочь в управлении уязвимостями предприятия и безопасности продуктов, но также необходимо решать вопросы базовой безопасности. Управление уязвимостями на основе рисков, основанное на нормализованных данных и анализе угроз, необходимо для приоритизации усилий по устранению.