Сообщество RSS DEV
Подписаться
Я поставил брандмауэр перед своими ИИ-агентами. Вот почти случившаяся катастрофа, которая заставила меня его построить.
Автор разработал Bastion Gateway, потому что ИИ-агенты могут совершать деструктивные действия на машинной скорости без надзора. Инцидент с чуть не произошедшей катастрофой, когда агент попытался удалить таблицу базы данных, выявил эту уязвимость. Существующая инфраструктура агентов не имела уровней идентификации и управления, что создавало критический пробел. Bastion Gateway устраняет этот пробел, внедряя политику безопасности "по умолчанию запрещено". Он тщательно контролирует доступ агентов через белый список разрешенных инструментов и конечных точек. Шлюз также удаляет конфиденциальную информацию, такую как секреты и персональные данные, из исходящих данных. Деструктивные действия приостанавливаются для одобрения человеком через механизм "ворот риска". Важно отметить, что Bastion Gateway генерирует подписанный, неизменяемый журнал аудита всех действий агента. Этот журнал служит проверяемым доказательством соответствия для аудиторов и заинтересованных сторон. Шлюз разработан как автономный, без исходящей телеметрии или внешних зависимостей. Его можно легко развернуть и интегрировать, просто перенаправив трафик агента на его локальный адрес. Доступна версия с самостоятельным хостингом и открытым исходным кодом, а в будущем планируется версия с хостингом.