Новое исследование Массачусетского технологического института предполагает, что генеративный ИИ может не копировать напрямую конкретные произведения искусства. Исследователи изучили диффузионные модели, часто используемые для генерации изображений, чтобы выяснить, можно ли проследить их выходные данные до отдельных частей обучающих данных. Они обнаружили, что большие наборы обучающих данных значительно затрудняют связь сгенерированных изображений с каким-либо одним источником. Удаление конкретной части обучающих данных часто оказывало минимальное влияние на выходные данные модели, что является явлением, называемым "уменьшением атрибуции". Это означает, что ИИ может создавать изображения, напоминающие стиль художника, без доказуемой причинно-следственной связи с конкретным вкладом этого художника. Исследователи предполагают, что это происходит потому, что большие наборы данных содержат визуальную избыточность, при этом многие изображения имеют схожие черты. Они разработали метод под названием "абляция" для проверки причинно-следственных связей путем раздельного обучения компонентов модели. Это позволило им изолировать и удалить влияние конкретных данных без полного переобучения. Их эксперименты показали, что предположение об источнике, основанное только на визуальном сходстве, часто бывает неточным. Эффект "неатрибутивности" более выражен при обширных наборах данных, причем значительное влияние наблюдается при масштабах в десятки тысяч изображений. На примере искусства Энди Уорхола, удаление его шелкографий из большого набора данных не сильно изменило бы сгенерированный результат, если бы похожие стили присутствовали в другом месте. Выводы исследования могут ослабить аргументы о том, что ИИ напрямую скопировал конкретную работу художника, поскольку доказать определенный источник становится сложно. Хотя это может послужить потенциальной защитой для ИИ-компаний в суде в отношении конкретных выходных данных, это не решает вопрос законности использования материалов, защищенных авторским правом, для обучения.