GTIG AI Threat Tracker: Достижения в использовании инструментов ИИ субъектами угроз

Группа Google по анализу угроз (GTIG) зафиксировала переход к вредоносному ПО с поддержкой ИИ, активно развертываемому противниками. Новые семейства вредоносных программ, такие как PROMPTFLUX и PROMPTSTEAL, используют LLM во время выполнения для динамической генерации кода и обфускации. Киберпреступники используют методы социальной инженерии, чтобы обойти предохранительные механизмы ИИ в злонамеренных целях. На подпольном рынке теперь доступны многофункциональные инструменты ИИ для фишинга, разработки вредоносных программ и исследования уязвимостей. Государственные субъекты злоупотребляют Gemini для улучшения всех этапов кибератак, от разведки до кражи данных. GTIG выявила вредоносное ПО, использующее ИИ для динамического изменения поведения в процессе выполнения, что является шагом к автономному вредоносному ПО. PROMPTFLUX использует Gemini для обфускации кода и уклонения от обнаружения, хотя он все еще находится в разработке. PROMPTSTEAL, используемый APT28, запрашивает LLM для генерации команд для добычи данных. Google отключила вредоносные ресурсы, укрепила классификаторы и улучшила защиту моделей. Эти развивающиеся угрозы указывают на необходимость упреждающих мер и надежной безопасности ИИ.