Google Cloud Blog на русском
Подписаться
GTIG AI Threat Tracker: От промптинга до автономии – Эволюция враждебного ИИ
Злоумышленники быстро развивают свои методы, переходя от простого составления запросов к сложным рабочим процессам с использованием агентного ИИ и автоматизации. Эта эволюция значительно сокращает время для реагирования защитников. Во втором квартале 2026 года злоумышленники провели массовую операцию по сбору учетных данных с использованием ИИ менее чем за шесть часов после компрометации облачного ресурса. Кроме того, злоумышленники все чаще нацеливаются на ИИ-активы, включая проприетарные модели, исходный код и облачные вычислительные ресурсы, для шпионажа, вымогательства и кражи.Риски, связанные с цепочкой поставок программного обеспечения, расширяются из-за интеграции инструментов кодирования с помощью ИИ и программного обеспечения с открытым исходным кодом. Противники активно нацеливаются на разработчиков, ИИ-помощников по кодированию и сканеры безопасности ИИ для компрометации программного обеспечения с открытым исходным кодом. Интеллектуальная собственность в области проприетарного ИИ, такая как модели и код, также становится основной целью в различных секторах. Переход к агентному ИИ и автоматизации позволяет противникам автономно управлять сложными конвейерами атак и устранять операционные ошибки.ИИ служит усилителем на всех этапах жизненного цикла атаки, от разведки до обфускации вредоносного ПО и действий после эксплуатации. Злоумышленники также экспериментируют с ИИ для масштабирования кампаний по информационным операциям. Чтобы обойти затраты на доступ и обойти меры безопасности, противники приобретают незаконные учетные записи и захватывают корпоративную облачную инфраструктуру для несанкционированных вычислений с использованием ИИ. Этот обостренный ландшафт угроз требует надежных стратегий защиты, включая проактивные меры защиты моделей, специализированную аналитику угроз и целенаправленное сдерживание. Google внедряет эти многогранные меры защиты для обеспечения безопасности своих клиентов и инфраструктуры. Эти достижения подчеркивают критическую потребность в усиленных мерах безопасности в быстро развивающемся ландшафте ИИ.