Nieuw onderzoek naar het detecteren van AI-genererende video's

Onderzoekers aan de Drexel University hebben een nieuw gereedschap genaamd MISLnet ontwikkeld om deepfakes, of AI-genererende video's, te detecteren. Het gereedschap werd gemaakt met behulp van jarenlange gegevens over het detecteren van nepbeelden en -video's. Traditionele methoden voor het detecteren van nepvideo's zoeken naar veranderingen in digitale video's of beelden, zoals toegevoegde of verplaatste pixels. Echter, AI-genererende video's bevatten niet dezelfde dispariteiten tussen pixelwaarden als door een camera vastgelegde video's. Het team van Drexel gebruikt een beperkte neurale netwerk om normale en ongewone waarden op sub-pixelniveau te leren onderscheiden. Deze benadering stelt de gereedschappen in staat om deepfakes effectiever te detecteren dan traditionele methoden. MISLnet is de laatste ontwikkeling in de voortdurende wapenwedloop tussen het creëren en detecteren van deepfakes.