Открытый автономный агент поддержки клиентов и возвратов от Google, созданный с использованием комплекта разработчика агентов (ADK) и Gemini, демонстрирует, как разработчики могут применять принципы безопасности с нулевым доверием к ИИ-агентам, которые взаимодействуют с конфиденциальными системами и выполняют действия в реальном мире. Проект тестирует подход, который предполагает, что ИИ-агент может быть подвергнут манипуляциям или скомпрометирован, и устанавливает вокруг него меры безопасности, чтобы ограничить возможности агента. Архитектура использует средства защиты вне модели для проверки действий, …