Ny forskning i opdækning af AI-genererede videoer

Forskere ved Drexel University har udviklet et nyt værktøj kaldet MISLnet til at opdage deepfakes, eller AI-genererede videoer. Værktøjet blev skabt ved hjælp af års data fra opdagele af falske billeder og videoer. Traditionelle metoder til at opdage falske videoer søger efter ændringer, der er foretaget på digitale videoer eller billeder, såsom tilføjede eller flyttede pixels. Imidlertid indeholder AI-genererede videoer ikke de samme dispariteter mellem pixelværdier som kamera-optagne videoer. Drexel-holdets værktøjer, herunder MISLnet, anvender en begrænset neuralt netværk til at lære og skelne mellem normale og usædvanlige værdier på sub-pixel-niveau. Dette tilgang forbinder værktøjerne til at opdage deepfakes mere effektivt end traditionelle metoder. MISLnet er den seneste udvikling i den pågående våbenkapløb mellem at skabe og opdage deepfakes.