Schneier on Security на русском
Подписаться
Встраивание запрещенного текста в шпионское ПО для препятствования анализу ИИ
По крайней мере один разработчик вредоносного ПО добавляет текст о ядерном и биологическом оружии в свой шпионский софт, чтобы остановить автоматический анализ с помощью ИИ.Подробности:Полезная нагрузка _index.js начинается с большого блока комментариев JavaScript, содержащего поддельные системные инструкции и контент, вызывающий срабатывание политик. Поскольку он находится внутри комментария, он не влияет на выполнение JavaScript. Среда выполнения пропускает его. Настоящее вредоносное ПО начинается после комментария с оберткой try{eval(…)} вокруг большого массива кодов символов и функции подстановки в стиле ROT.Этот заголовок, по-видимому, предназначен для анализа, опосредованного ИИ, а не для Node, Bun или Python. Он пытается вывести из строя сканеры или помощников аналитиков, которые передают начало файла языковой модели, не выделяя явно контент как недоверенные данные. В слабых конвейерах это может вызвать отказ, путаницу в запросах, загрязнение контекста или преждевременную классификацию до того, как сканер достигнет фактического вредоносного ПО...