Schneier on Security на русском
Подписаться
Использование виртуальной машины для изоляции ИИ-агента
Это не сработает:Я подозревал, что GPT 5.6-Cyber добьется успеха, но частота и способ его успеха развеяли все сомнения. Нам придется пересмотреть качество изоляции для способных ИИ-агентов и в целом программный стек, с которым они взаимодействуют.Готовая виртуальная машина не сможет сдержать современный, кибернетически способный ИИ-агент. Слишком велика поверхность атаки. Даже безобидные функции (например, запуск с дисплеем) добавляют дополнительную, уязвимую поверхность атаки.