RSS Блог "След бит"
Подписаться
Использование масштабирования изображений против производственных ИИ-систем
В этом посте мы подробно расскажем, как злоумышленники могут использовать масштабирование изображений в Gemini CLI, Vertex AI Studio, веб- и API-интерфейсах Gemini, Google Assistant, Genspark и других производственных ИИ-системах. Мы также объясним, как смягчить эти атаки и защититься от них, и представим Anamorpher — наш инструмент с открытым исходным кодом, который позволяет исследовать и генерировать эти специально созданные изображения.
