Security Affairs на русском
Подписаться
Кража истории чатов Grok без клика: Adversa AI демонстрирует криптографическое внедрение контекста
Новая техника внедрения криптографического контекста обходит защитные механизмы ИИ с помощью зашифрованных AES-данных, раскрывая полные истории чатов Grok. Исследователь Adversa AI Рони Утевски разработал новую технику атаки под названием "Внедрение криптографического контекста", которая обходит фильтры безопасности ИИ, отправляя инструкции в виде зашифрованного текста AES и обманывая модель, заставляя ее расшифровывать их в собственном исполняющем окружении кода. […]