Nova Pesquisa em Detecção de Vídeos Gerados por IA

Pesquisadores da Universidade Drexel desenvolveram uma nova ferramenta chamada MISLnet para detectar deepfakes, ou vídeos gerados por IA. A ferramenta foi criada usando anos de dados de detecção de imagens e vídeos falsos. Métodos tradicionais de detecção de vídeos falsos buscam mudanças feitas em vídeos ou imagens digitais, como pixels adicionados ou movidos. No entanto, vídeos gerados por IA não contêm as mesmas disparidades entre valores de pixels como vídeos capturados por câmera. A equipe da Drexel, incluindo MISLnet, usa uma rede neural restringida para aprender e diferenciar entre valores normais e anormais ao nível sub-pixel. Essa abordagem permite que as ferramentas detectem deepfakes mais efetivamente do que os métodos tradicionais. MISLnet é o último desenvolvimento na corrida armamentista contínua entre criar e detectar deepfakes.