Как Model Armor может помочь защитить ваши ИИ-приложения от инъекций подсказок и взломов

Команды ИТ сталкиваются с рисками, связанными с внедрением подсказок и взломом систем в быстро развивающемся ИИ. Model Armor — это решение для обеспечения безопасности, предназначенное для защиты подсказок, ответов и взаимодействий агентов генеративного ИИ. Оно предлагает различные варианты интеграции, включая прямую интеграцию через API и встроенные интеграции. Интеграция Model Armor с Apigee обеспечивает надежный уровень безопасности для приложений ИИ. Model Armor обладает пятью основными возможностями: обнаружение внедрения подсказок и взлома систем, защита конфиденциальных данных, обнаружение вредоносных URL-адресов, фильтрация вредоносного контента и проверка документов. Оно не зависит от модели и облака, работая через REST API. Чтобы начать работу, пользователи включают API Model Armor в консоли Google Cloud, создавая шаблон и учетную запись службы. Затем они создают прокси-сервер Apigee и добавляют политики Model Armor. Вы можете настроить ведение журналов в шаблонах Model Armor для получения более подробной информации. Панель мониторинга защиты ИИ в Центре управления безопасностью позволяет просматривать результаты. Установка минимальных настроек определяет минимальные требования безопасности для шаблонов. Наконец, Model Armor может регистрировать административные действия, которые можно просмотреть в Cloud Logging.