Ny forskning i deteksjon av AI-genererte videoer

Forskere ved Drexel University har utviklet et nytt verktøy kalt MISLnet for å detektere deepfakes, eller AI-genererte videoer. Verktøyet ble skapt ved å bruke år med data fra deteksjon av fake-bilder og -videoer. Tradisjonelle metoder for å detektere fake-videoer søker etter endringer som er gjort på digitale videoer eller bilder, som for eksempel lagt til eller flyttet piksler. Imidlertid inneholder ikke AI-genererte videoer de samme dispariteter mellom pikselverdier som kamera-fangne videoer. Drexel-teamets verktøy, inkludert MISLnet, bruker et begrenset neuralt nettverk til å lære og skille mellom normale og uvanlige verdier på sub-piksel-nivå. Dette tilnærmingen tillater verktøyene å detektere deepfakes mer effektivt enn tradisjonelle metoder. MISLnet er den seneste utviklingen i den pågående våpenkappløpet mellom å skape og detektere deepfakes.