Три уровня безопасности агентн... Заметка
VentureBeat на русском

Три уровня безопасности агентного ИИ: архитектура глубокой защиты для автономных агентов

Автономные системы создают новые риски, с которыми традиционные средства контроля безопасности не справляются. Оскар Вальберг из Nutanix подчеркивает, что рассмотрение этих рисков как единой проблемы приводит к неполным архитектурам. Агенты могут "галлюцинировать" и причинять вред, например, удалять базы данных или утекать данные, получив права на выполнение. Архитектура "защиты в глубину", охватывающая инфраструктуру, сети и управляющий уровень, необходима для устранения этих рисков. Каждый уровень должен справляться с различными категориями рисков, и ни один отдельный контроль или поставщик не может обеспечить всестороннюю защиту. Сегментация по принципу нулевого доверия и разделение обязанностей между уровнями создают безопасную структуру. Уровень инфраструктуры устанавливает корень доверия, проверяя идентификацию агента и целостность среды. Сетевой уровень регулирует взаимодействие ИИ-агентов, рассматривая их как новые сетевые идентификаторы с ограниченными взаимодействиями. Агентский шлюз Nutanix в сочетании с нулевым доверием управляет этими взаимодействиями и предотвращает боковое перемещение. Управляющий уровень действует как центральный мозг, управляя разрешениями агентов, доступом к инструментам и потреблением ресурсов. Этот уровень обеспечивает видимость, аудит и контроль, снижая риски, такие как злоупотребление привилегиями и утечка данных. Универсальный подход к безопасности не работает, потому что он не учитывает специфические потребности каждого уровня. Это может создавать слепые зоны и оставлять критические уязвимости открытыми. Партнерство между Intel, Cisco и Nutanix демонстрирует этот многоуровневый подход: Intel отвечает за аппаратное доверие, Cisco обеспечивает безопасность связи, а Nutanix предоставляет программную платформу и управляющий уровень. Управляющий уровень часто недооценивают, но он имеет решающее значение для управления идентификаторами агентов, разрешениями и бюджетами для безопасного масштабирования.
CdXz5zHNQW_JkMUs3930P.png