Хакеры уже используют вредоносное ПО с поддержкой искусственного интеллекта, сообщает Google

Исследователи безопасности Google обнаружили первый случай использования вредоносного ПО на основе искусственного интеллекта в реальных кибератаках. Это свидетельствует о том, что злоумышленники все чаще используют генеративный ИИ для расширения своих возможностей для атак. Были идентифицированы два новых штамма вредоносного ПО, PromptFlux и PromptSteal, оба из которых используют большие языковые модели для изменения своего поведения во время атак. Эти штаммы могут динамически генерировать вредоносные скрипты, скрывать свой код для уклонения и создавать вредоносные функции по запросу. PromptFlux был обнаружен путем сканирования загрузок VirusTotal на наличие кода, взаимодействующего с Gemini, и он активно переписывает свой исходный код и маскирует свою деятельность. PromptSteal, идентифицированный Украиной, позволяет хакерам взаимодействовать с ним, используя подсказки на естественном языке, и предназначен для перемещения по системам и кражи данных. Хотя эти штаммы вредоносного ПО все еще находятся на ранней стадии разработки, они представляют собой значительный прогресс в киберпреступности. Google обеспокоена тем, что хакеры потенциально отключат предохранительные ограждения в моделях ИИ с открытым исходным кодом, используемых в таком вредоносном ПО. Подпольный рынок киберпреступности для инструментов ИИ значительно вырос, что позволяет менее квалифицированным преступникам запускать сложные атаки. Однако большинство злоумышленников по-прежнему полагаются на традиционные методы, такие как фишинг и украденные учетные данные. Это знаменует собой эволюцию киберугроз, когда ИИ принимают как защитники, так и атакующие.