Google Developers Blog на русском
Подписаться
Создавайте ИИ-агентов с нулевым доверием с помощью набора для разработки агентов Google
Создание автономных ИИ-агентов, которые мутируют производственное состояние, требует выхода за рамки мягких системных подсказок к надежной архитектуре с нулевым доверием. Для защиты рабочих процессов Google Agent Development Kit (ADK) от инъекций подсказок и вредоносного выполнения разработчики должны внедрить криптографические подписи, поддерживаемые аппаратным обеспечением, для записи в базу данных, песочницы на уровне ядра с gVisor для динамического кода и детерминированные семантические шлюзы для проверки ввода-вывода. Обеспечивая эти жесткие границы безопасности на уровне инфраструктуры, вы можете безопасно развертывать многоинструментальные ИИ-агенты без риска несанкционированного манипулирования данными или компрометации сервера.