Обеспечение безопасности конвейера ИИ – от данных до развертывания

Документ подчеркивает важность защиты конвейера ИИ, от сбора данных до развертывания, как ключевой аспект безопасности корпоративного ИИ. Он указывает на то, что весь конвейер ИИ уязвим для таких угроз, как отравление данных и подмена моделей. Рекомендуется подход нулевого доверия, включающий непрерывный мониторинг и целостность цепочки поставок. Документ описывает ключевые этапы: сбор данных, подготовка, обучение модели, валидация, реестр и развертывание, каждый из которых сопряжен с определенными рисками. Для смягчения последствий предлагаются средства безопасности Microsoft, включая Purview, конфиденциальные среды обучения и Defender for Cloud. Такой подход соответствует системам безопасности ИИ NIST и MITRE, выступая за создание первоочередного плана безопасности. Предоставленная эталонная архитектура детализирует взаимодействие этих средств безопасности. Подробные примеры угроз и стратегий их устранения приведены для сбора/приема данных, подготовки данных, обучения моделей и валидации/тестирования.