NDSS 2025 – Защита от атак с использованием бэкдоров на графовых нейронных сетях посредством обучения расхождениям

В этой статье представлена DShield, защитная структура от атак с использованием бэкдоров на графовых нейронных сетях (GNN). GNN подвержены атакам с использованием бэкдоров, когда триггеры приводят к неверным предсказаниям. Эти атаки сложны из-за взаимосвязанной природы данных графов, что затрудняет обнаружение. DShield нацелена на смягчение этих атак, используя несоответствия в обработке отравленных и чистых данных. Структура выявляет два ключевых типа поведения атаки: семантический дрейф и чрезмерное акцентирование атрибутов. DShield использует подход самоконтролируемого обучения для построения модели без манипулированных меток. Затем она сравнивает эту модель с моделью с бэкдором, чтобы найти несоответствия в семантической важности и важности атрибутов. Это сравнение позволяет DShield эффективно отфильтровывать отравленные узлы. Нормальные модели обучаются с использованием сохраненных узлов, минимизируя влияние атаки. DShield была оценена на 21 различных атаках с использованием бэкдоров на семи наборах данных и двух целевых моделях. Она продемонстрировала эффективность, значительно снизив показатели успешности атак, сохраняя при этом хорошую производительность на нормальных данных. Например, на наборе данных Cora DShield достигла очень низкого показателя успешности атак. Исходный код DShield находится в открытом доступе на GitHub. Исследование было представлено на Network and Distributed System Security Symposium (NDSS), конференции, посвященной практической сетевой безопасности. NDSS стремится развивать и внедрять технологии безопасности в интернет-сообществе.