Новые исследования в области обнаружения видеоконтента, сгенерированного с помощью ИИ

Исследователи из Университета Дрекселя разработали новый инструмент под названием MISLnet для обнаружения deepfakes, или видеороликов, сгенерированных с помощью ИИ. Инструмент был создан с использованием летних данных по обнаружению поддельных изображений и видеороликов. Традиционные методы обнаружения поддельных видеороликов ищут изменения, внесенные в цифровое видео или изображения, такие как добавленные или перемещенные пиксели. Однако видеоролики, сгенерированные с помощью ИИ, не содержат тех же расхождений между значениями пикселей, что и видеоролики, снятые камерой. Команда Университета Дрекселя, включая MISLnet, использует ограниченную нейронную сеть для обучения и различения между нормальными и необычными значениями на субпиксельном уровне. Этот подход позволяет инструментам обнаруживать deepfakes более эффективно, чем традиционные методы. MISLnet - это последнее развитие в продолжающейся гонке вооружений между созданием и обнаружением deepfakes.