Ny forskning i detektion av AI-genererade videor

Forskare vid Drexel University har utvecklat ett nytt verktyg kallat MISLnet för att upptäcka deepfakes, eller AI-genererade videor. Verktyget skapades med hjälp av år av data från detektion av falska bilder och videor. Traditionella metoder för att upptäcka falska videor söker efter ändringar som gjorts i digital video eller bilder, till exempel tillagda eller flyttade pixlar. Däremot innehåller AI-genererade videor inte samma dispariteter mellan pixelvärden som kamerakapade videor. Drexel-teamets verktyg, inklusive MISLnet, använder en begränsad neural nätverk för att lära sig och skilja mellan normala och ovanliga värden på sub-pixelnivå. Denna metod tillåter verktygen att upptäcka deepfakes mer effektivt än traditionella metoder. MISLnet är den senaste utvecklingen i det pågående vapenkapplöpningen mellan att skapa och upptäcka deepfakes.