Расширение защиты от угроз на основе ИИ Defender для агентов Microsoft Foundry

ИИ выходит за рамки простых запросов и ответов, переходя к автономным ИИ-агентам, способным выполнять сложные действия. Эти агенты создают новые уязвимости в системе безопасности из-за их способности рассуждать, планировать и взаимодействовать с различными инструментами и источниками данных. Это означает, что поверхность атаки значительно расширяется за пределы первоначального запроса. Злоумышленники могут использовать память агента, доступ к инструментам и процессы планирования для причинения вреда. Microsoft запускает защиту от угроз для Azure Foundry Agent Service в Microsoft Defender для решения этих новых рисков. Эта новая функция обеспечивает безопасность на протяжении всего жизненного цикла ИИ-агента, а не только запросов и ответов. Она предлагает обнаружение критических рисков, таких как ненадлежащее использование инструментов, компрометация привилегий и манипулирование намерениями. Defender интегрирует обнаружение ИИ-агентов с более широкими сигналами угроз в различных областях. Включение защиты от угроз просто, что позволяет командам безопасности быстро выявлять и реагировать на вредоносное поведение агентов. Пользователи могут начать с бесплатной пробной версии, чтобы изучить возможности Defender по защите ИИ-агентов. Это помогает предприятиям обезопасить свои операции на основе ИИ от потенциальных реальных последствий.