Nuove ricerche per la rilevazione di video generati da AI

I ricercatori presso l'Università di Drexel hanno sviluppato un nuovo strumento chiamato MISLnet per rilevare le deepfake, ovvero video generati da IA. Lo strumento è stato creato utilizzando anni di dati per la rilevazione di immagini e video falsi. I metodi tradizionali per rilevare video falsi cercano di individuare modifiche apportate a video o immagini digitali, come pixel aggiunti o spostati. Tuttavia, i video generati da IA non contengono le stesse disparità tra valori di pixel dei video catturati da telecamere. Il team di Drexel, compresi gli strumenti come MISLnet, utilizza una rete neurale vincolata per imparare e differenziare tra valori normali e anormali a livello di sottopixel. Questo approccio consente agli strumenti di rilevare le deepfake in modo più efficace rispetto ai metodi tradizionali. MISLnet è l'ultimo sviluppo nella corsa armata in corso tra la creazione e la rilevazione delle deepfake.