Recherches récentes dans la détection des vidéos générées par l'IA

Les chercheurs de l'Université Drexel ont développé un nouvel outil appelé MISLnet pour détecter les deepfakes, ou les vidéos générées par l'IA. L'outil a été créé en utilisant des années de données pour détecter les images et les vidéos falsifiées. Les méthodes traditionnelles de détection des vidéos fausses examinent les modifications apportées à la vidéo ou aux images numériques, telles que des pixels ajoutés ou déplacés. Cependant, les vidéos générées par l'IA ne contiennent pas les mêmes disparités entre les valeurs de pixels que les vidéos capturées par caméra. L'équipe de Drexel, y compris MISLnet, utilise un réseau neuronal contraint pour apprendre et différencier entre les valeurs normales et anormales au niveau sub-pixel. Cette approche permet aux outils de détecter les deepfakes de manière plus efficace que les méthodes traditionnelles. MISLnet est le dernier développement dans la course aux armements en cours entre la création et la détection des deepfakes.