Архитектура агентов с нулевым доверием: как на самом деле обезопасить ваших агентов

Microsoft интегрирует ИИ-агентов в свою основную платформу, примером чего являются Microsoft Foundry и Agent 365. Эта эволюция подчеркивает необходимость принципов безопасности нулевого доверия при разработке агентов, особенно в отношении идентификации, разрешений и доступа к сети. Агенты все чаще рассматриваются как часть производственной инфраструктуры и, следовательно, должны быть соответствующим образом защищены. Нулевое доверие означает, что по умолчанию нельзя доверять ничему: пользователям, моделям, инструментам или внешнему контенту. Microsoft Foundry предлагает такие инструменты, как AI Gateway и Prompt Shields, чтобы помочь реализовать модель нулевого доверия. Эти инструменты помогают создать безопасную среду, где действия проверяются, ограничиваются, регистрируются и привязываются к подтвержденной идентификации. Текст предоставляет реальные сценарии, такие как агенты возврата средств и агенты просмотра, чтобы выделить риски, такие как внедрение подсказок и финансовые злоупотребления. Microsoft предлагает решения, такие как ограниченные разрешения, управляемый каталог инструментов и применение политик, для борьбы с этими проблемами безопасности. Prompt Shields и AI Gateway защищают от атак внедрения подсказок, происходящих в пользовательской подсказке и веб-контенте. С моделью нулевого доверия платформа решает, какие инструменты выполнять и как, а не доверяет модели.