VentureBeat на русском
Подписаться
ИИ-агенты, прошедшие аутентификацию, все равно могут дрейфовать, раскрывать данные или подвергаться отравлению памяти.
Распространенная ошибка при развертывании ИИ-агентов заключается в приоритете безопасности шлюза над базовыми уровнями идентификации и атрибуции. Шлюзы часто внедряются первыми, но им не хватает необходимого контекста о действиях агента и делегированных полномочиях. Это приводит к уязвимостям, как показал критический сбой в ИИ-шлюзе, позволивший выполнять команды. Настоящая безопасность агентов требует многоуровневого подхода, где идентификация и атрибуция предшествуют обеспечению безопасности шлюза.Паттерн сбоя возникает из-за внедрения средств контроля до установления вышестоящих зависимостей, таких как идентификация и контекст. Шлюз, например, может аутентифицировать токен пользователя, но не распознать конкретную ограниченную функцию агента или его недоверенное происхождение. Следовательно, действительные учетные данные и разрешенный вызов API могут привести к ненадлежащим действиям. Простое ограничение привилегий агента до уровня человеческого принципала не создает отдельной атрибуции.Модель развертывания с учетом зависимостей предполагает шестиэтапный процесс, начиная с инвентаризации агентов и ответственного владения. За этим следует отдельная идентификация агента, учетные данные, ограниченные задачами, атрибутируемая телеметрия, принудительное исполнение действий во время выполнения и, наконец, поведенческие базовые линии и пути отключения. Создание реестра агентов имеет решающее значение для идентификации и управления этими активами.Агенты должны иметь свои собственные идентификаторы, отличные от токенов разработчиков или общих учетных записей служб, и эта идентификация нуждается в контексте делегирования. Возможности должны быть сокращены до проверки поведения, используя ограниченный по времени и задачам доступ. Атрибуция должна быть установлена до автоматизации принудительного исполнения, гарантируя, что каждое вызов инструмента связан с агентом, принципалом и задачей.Наконец, шлюз может эффективно применять политики, получив доступ к зарегистрированным идентификаторам, контекстам делегирования и телеметрии. Пути обнаружения и отключения разрабатываются последними, после установления атрибутируемой активности агента. Организации могут начать с инвентаризации своих производственных агентов и тестирования возможностей атрибуции. Внедрение этого структурированного подхода обеспечивает надежную безопасность агентов без нарушения существующих систем.