Сообщество RSS DEV
Подписаться
Использование ИИ без утечки ваших секретов: Модель угроз для разработки с помощью ИИ
Вставка секретов в запросы к ИИ сродни публичному распространению, с потенциалом постоянного раскрытия в логах и обучающих данных. Автор подчеркивает необходимость использования ИИ с учетом модели угроз, а не просто в обычном режиме. Запросы после отправки не остаются конфиденциальными. Бесплатные уровни ИИ часто сохраняют данные для улучшения моделей, в то время как платные уровни предлагают договорные гарантии, но не абсолютную безопасность. Утечки данных могут произойти из того, что было вставлено, что автоматически прикрепляют инструменты, или что выдает модель. Поставщики ИИ рассматриваются как доверенные, но непроверяемые третьи стороны, что делает аудит внутренних процессов невозможным. Под угрозами находятся API-ключи, учетные данные базы данных и конфиденциальная информация о клиентах. Канал запросов следует рассматривать как недоверенный исходящий канал, аналогичный вызовам из производственной сети. Предоставляется список запрещенных к отправке данных, включающий действующие учетные данные, конфиденциальные файлы конфигурации и проприетарный исходный код. Маскировка секретов с помощью заполнителей является жизнеспособной альтернативой отказу от их отправки. Гигиена контекста включает структурное предотвращение утечек с помощью файлов игнорирования и предварительного сканирования запросов. Принцип сохранения секретов в зашифрованном виде у источника предотвращает раскрытие в открытом тексте. Рекомендуется сопоставлять конфиденциальность данных с уровнем ИИ, используя платные уровни для проприетарной работы и локальные модели для регулируемых данных. Даже при гарантиях отсутствия обучения рекомендуется применять подход нулевого доверия, минимизируя контекст и проверяя выходные данные ИИ. Привычки, такие как использование файлов игнорирования ИИ, сканирование на наличие секретов и маскировка учетных данных, повышают безопасность без значительных временных затрат.
